FilBench:评估 LLM 在菲律宾语言中的理解和生成能力
Hugging Face 开发了 FilBench 评估套件,用于评估 LLM 在菲律宾语言(Tagalog、Filipino 和 Cebuano)中的理解和生成能力,包括文化知识、经典 NLP、阅读理解和生成等任务。
Hugging Face 开发了 FilBench 评估套件,用于评估 LLM 在菲律宾语言(Tagalog、Filipino 和 Cebuano)中的理解和生成能力,包括文化知识、经典 NLP、阅读理解和生成等任务。
TextQuests是一个基于25款经典互动小说游戏的基准测试,用于评估LLM在文本视频游戏中的表现。该测试要求代理在长时间和不断增长的历史中推理和执行多步计划,并从经验中学习。评估结果显示,LLM在长上下文推理和动态思维方面存在挑战,例如幻觉和重复动作。
Hugging Face 推出 AI Sheets,一款无需代码即可使用 AI 模型构建、丰富和转换数据集的开源工具。该工具与 Hugging Face Hub 和开源 AI 生态系统紧密集成,提供类似电子表格的用户界面,支持快速实验和迭代。
推荐理由:AI Sheets 是一款无需代码即可使用 AI 模型构建、丰富和转换数据集的开源工具,读者可以了解其功能和应用场景,判断它如何改变现有工作流。
TRL 引入了多种新的多模态对齐方法,如 MPO、GRPO 和 GSPO,以及 RLOO 和 Online DPO,扩展了 VLM 的对齐能力,并提供了训练脚本和示例笔记本。
推荐理由:TRL 引入了多种新的多模态对齐方法,如 MPO、GRPO 和 GSPO,以及 RLOO 和 Online DPO,扩展了 VLM 的对齐能力,读者可以了解这些方法如何改变现有工作流。
OpenAI 发布了 GPT OSS 开源模型家族,包括两个模型:gpt-oss-120b 和 gpt-oss-20b,适用于强大的推理、智能体任务和多样化的开发者用例。
推荐理由:OpenAI 发布了新的开源模型家族 GPT OSS,包括两个模型:gpt-oss-120b 和 gpt-oss-20b,适用于强大的推理、智能体任务和多样化的开发者用例。
NVIDIA 的 AI-Q 模型在 DeepResearch Bench 的评测中取得了优异成绩,该模型基于 Llama Nemotron,展示了开源 AI 生态在真实场景中的强大能力。
推荐理由:AI-Q 模型在 DeepResearch Bench 的评测中取得了优异成绩,展示了开源 AI 生态在真实场景中的强大能力。
Hugging Face 发布了 3LM,这是一个针对阿拉伯语 LLM 在 STEM 和代码生成领域的基准,旨在评估模型在特定技术领域的表现。
推荐理由:3LM 作为首个针对阿拉伯语 LLM 在 STEM 和代码生成领域的基准,为评估阿拉伯语模型在特定技术领域的表现提供了新的工具。
Hugging Face Hub上的Gradio与Model Context Protocol (MCP)集成,使LLM可直接连接数千个AI模型和Spaces,实现从回答文本问题到解决实际问题的转变。
Hugging Face 推出 Trackio,一款开源、免费的实验跟踪 Python 库,提供本地仪表板和与 Hugging Face Spaces 的无缝集成,便于分享和协作。Trackio 可作为 wandb 的替代品,支持与 wandb 兼容的语法,并支持可视化实验结果。
Hugging Face CLI 已正式更名为 hf,旨在提供更清晰、更一致的命令结构。新 CLI 引入预测性语法,提高易用性和可发现性。hf 命令包括身份验证、缓存管理、文件下载和上传等。此外,hf jobs 命令允许用户在 Hugging Face 基础设施上运行脚本或 Docker 镜像。
Hugging Face 博客介绍了针对 Flux.1-Dev 模型的 LoRA 推理优化方法,通过 Flash Attention 3、torch.compile 和 FP8 量化等技术,实现了约 2.3 倍的推理速度提升,并支持热插拔功能,无需重新编译即可更换 LoRA。
TimeScope 是一个开源的评测基准,用于衡量视觉-语言模型理解长视频的能力。通过在视频中插入短视频片段,评估模型在局部检索、信息综合和细粒度时间感知方面的能力。
推荐理由:TimeScope 评测基准揭示了当前视频大模型在理解长视频方面的不足,为模型训练和评估提供了新的视角。
NVIDIA发布NVIDIA NIM,用于在Hugging Face上加速部署超过10万个LLM,简化AI模型部署,加快创新和AI构建者的价值实现。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Consilium是一个多LLM协作平台,允许AI模型通过结构化辩论讨论复杂问题并达成共识。该平台可作为视觉Gradio界面和MCP服务器,与Cline等应用程序集成。
推荐理由:原文介绍了Consilium的多LLM协作平台,读者可以了解其功能和潜在应用场景。
Hugging Face 发布了 Ettin Suite,包括一系列 SoTA 配对编码器和解码器模型,通过相同的训练数据和训练方法,实现了编码器和解码器模型之间的公平比较。
推荐理由:Ettin Suite 提供了编码器和解码器模型之间的公平比较,对理解不同架构的优势具有重要意义。
Hugging Face Hub 完成从 Git LFS 到 Xet 的迁移,超过一百万用户正在使用 Xet,新用户和组织默认使用 Xet。迁移过程中,Hugging Face 保持了零摩擦体验,并计划开源 Xet 协议和整个基础设施堆栈。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 AMD 合作,针对 Llama 3.1 405B 模型在 MI300X 节点上的 FP8 推理性能进行优化,通过融合残差连接、RMS 规范和 FP8 转换等三个优化内核,实现了显著的性能提升。优化后的内核已开源,并计划集成到 VLLM 项目中。
Hugging Face发布了Gradio MCP服务器,允许用户通过MCP协议将各种工具连接到LLM,从而扩展其功能,例如图像编辑、网页浏览等。
推荐理由:原文介绍了Gradio MCP服务器如何扩展LLM的能力,读者可以了解如何利用这些工具提升LLM的功能。
Hugging Face 的基础设施团队分享了其生产基础设施的内部运作细节,重点介绍了三个关键的警报系统。这些系统包括监控 NAT 网关吞吐量、日志存档成功率和 Hub 请求日志,旨在确保平台的高性能和稳定性。通过这些警报,Hugging Face 能够及时识别并响应潜在问题,优化基础设施配置,降低成本。
Hugging Face 发布了 SmolLM3,一个具有 3B 参数的小型语言模型,支持多语言和长上下文推理。该模型在多个基准测试中表现出色,并提供了详细的工程细节和训练方法。
推荐理由:SmolLM3 是一个开源的 3B 模型,具有多语言和长上下文推理能力,读者可以了解其性能和工程细节。
NVIDIA 发布了 Llama Nemotron Nano VLM,这是一个先进的 8B 视觉语言模型,专为智能文档处理设计,可在 Hugging Face 上使用。该模型在 OCRBench v2 基准测试中表现出色,能够从复杂的文档中提取和理解信息,如发票、收据、合同等。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Gemma 3n 模型作为一款本地运行的多模态模型,现已全面开源,支持图像、文本、音频和视频输入。模型提供两种大小,分别为 5B 和 8B 参数,且在内存效率方面有所改进,只需 2B 和 4B VRAM。模型支持 140 种语言文本和 35 种语言的多模态交互。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
SGLang现在支持Hugging Face transformers作为后端,允许用户使用高性能推理运行任何兼容transformers的模型。
Hugging Face 博客介绍了使用 QLoRA 在 FLUX.1-dev 模型上进行高效微调的方法,通过在 NVIDIA RTX 4090 上进行实验,展示了如何通过 QLoRA 和 torchao 的 FP8 训练进一步优化速度。
Hugging Face 推出 Groq 作为推理提供商,支持多种文本和对话模型,包括 Meta 的 Llama 4 和 Qwen 的 QWQ-32B,提供快速 AI 推理服务,并集成到 Hugging Face Hub 和客户端 SDK 中。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
TNG在24个H100 GPU集群上自托管多个大型语言模型,处理超过50个应用,每天消耗超过1亿个token并生成超过1000万个token。文章探讨了在处理长提示词时,如何优化LLM性能,包括长提示词阻塞队列的问题和并行预填充策略的改进。通过并行预填充不同请求,可以缩短请求的等待时间,但总完成时间仅略有改善。
Hugging Face 推出 Kernel Hub,提供预优化的计算内核,可直接从 Hub 加载,简化模型性能优化过程。Kernel Hub 支持多种硬件,包括 NVIDIA 和 AMD GPU,无需本地编译,可加速特定操作,如 FlashAttention 和 GELU 激活函数。使用 Kernel Hub 可提高开发效率,并可能加快训练和推理速度。
Hugging Face Hub 推出 Featherless AI 作为推理提供商,支持多种文本和对话模型,包括 DeepSeek、Meta、Google、Qwen 等开源模型。Featherless AI 提供无服务器定价,支持大量模型,并已集成到 Hugging Face 客户端 SDK 中,方便用户使用。
NVIDIA 发布了 Isaac GR00T N1.5,这是一个用于构建机器人基础模型和数据管道的研究和开发平台,支持使用 LeRobot SO-101 机械臂进行模型微调。
Hugging Face 与 NVIDIA 合作推出训练集群服务,旨在使大型 GPU 集群更容易为全球研究机构获取,以训练各个领域的未来基础模型。服务提供 GPU 集群的可访问性,并允许根据训练运行的时间付费。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 ScreenSuite,这是一个用于评估 GUI 代理性能的全面基准测试套件。它涵盖了 13 个基准测试,用于评估 GUI 代理的感知、定位、单步动作和多步代理能力。ScreenSuite 支持多种环境,包括桌面和移动设备,并提供自定义 Docker 容器以简化部署。
推荐理由:ScreenSuite 提供了一个全面的 GUI 代理评估套件,有助于评估 VLM 在多个代理能力方面的表现,读者可以据此了解 GUI 代理的最新进展和评估方法。
nanoVLM团队在nanoVLM仓库中实现了KV Caching,提高了生成速度38%。文章详细介绍了KV Caching的原理和实现过程,适用于所有自回归语言模型的生成。
推荐理由:原文详细介绍了KV Caching在nanoVLM中的实现,读者可以学习到如何优化自回归语言模型的生成效率。
Arm 架构的实时 AI 音频生成应用,基于 Stability AI 的 Stable Audio Open 模型,可在设备上直接运行,无需云端推理,支持 PyTorch 和 TorchAudio,与 Ableton Live 无缝协作,实现快速、高效的音频生成。
H Company 发布了 Holo1,一套用于深度网络 UI 理解和精确定位的开源 Action VLMs,以及 WebClick 多模态定位基准。Holo1 模型基于 Qwen2.5-VL 架构,与 Transformers 兼容。Surfer-H,一个基于 Holo1 的网络原生代理,能够像人类一样与浏览器交互。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
某产品发布新的智能体功能,给出了开放入口和主要能力变化。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
SmolVLA是一个紧凑型(450M)、开源的视觉-语言-动作模型,适用于机器人,可在消费级硬件上运行。该模型仅在兼容许可的开源社区共享数据集上预训练,包括Lerobot标签下的数据集。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了关于 CodeAgents 和结构化生成的研究,展示了其在多个基准测试中的优势,并讨论了其应用场景。
推荐理由:原文介绍了 CodeAgents 和结构化生成的新方法,读者可以了解其对现有工作流的影响。
用户在尝试使用 Qwen/Qwen2.5-0.5B-Instruct 和 DeepSpeed Zero3 进行 Liger 损失训练时遇到了形状不匹配的问题,这表明在模型训练过程中可能存在兼容性问题。
Dell Enterprise Hub 发布新版本,提供一系列模型和应用,支持在本地使用 Dell AI 服务器和 AI PC 构建人工智能。支持部署和训练 Meta Llama 4 Maverick、DeepSeek R1 和 Google Gemma 3 等模型。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 Falcon-H1 系列模型,包括 0.5B 到 34B 参数的六个开源模型,结合 Transformer 和 State Space Model 架构,提供高效性能。
推荐理由:Falcon-H1 系列模型在效率与性能方面进行了创新,读者可以了解其架构和数据策略,以及其在不同任务上的表现。