NuminaMath 获得首届 AIMO 进步奖
NuminaMath 在 AIMO 进步奖中获胜，展示了其在数学推理方面的能力，包括使用自然语言推理和 Python REPL 计算中间结果，以及避免过拟合的技术。
推荐理由：NuminaMath 在 AIMO 进步奖中获胜，展示了其在数学推理方面的能力，读者可以了解其背后的技术和未来发展方向。
#Hugging Face
#Hugging Face
今日 2 条Hugging Face Blog精选AI 评分6565
Hugging Face BlogAI 评分4545 Hugging Face Hub 与 KerasHub 集成，扩展模型选择和功能
Hugging Face Hub 与 KerasHub 集成，支持 300K+ Transformer 模型，包括 Gemma、Llama 3 和 PaliGemma，用户可使用 KerasHub 训练和微调模型，并上传回 Hub。集成支持 TensorFlow、JAX 和 PyTorch 后端，方便模型部署和迁移。
Hugging Face BlogAI 评分4545 TRL 库支持视觉语言模型直接偏好优化 (DPO)
Hugging Face 的 TRL 库新增支持视觉语言模型直接偏好优化 (DPO)，简化了模型训练过程，并提高了预测准确性。该库使用 openbmb/RLAIF-V-Dataset 数据集，支持 Idefics2-8b 模型，并可通过内存优化技术适应不同硬件配置。
Hugging Face Blog精选AI 评分7070 Google Cloud TPUs 现已对 Hugging Face 用户开放
Google Cloud TPUs 现已集成到 Hugging Face Inference Endpoints 和 Spaces，为 AI 开发者提供更强大的计算能力。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face BlogAI 评分4040 Hugging Face 与 Polyconseil 合作，利用 RAG 解决方案优化法国环境项目
Hugging Face 与 Polyconseil 合作，利用 RAG 解决方案优化法国环境项目 EduRénov，旨在通过数据主权和性能保障，简化、支持并资助公共学校建筑的能源改造。该方案旨在提高 Banque des Territoires 对社区的支持响应速度，并确保计算服务和模型使用的自主权。
Hugging Face BlogAI 评分4040 ProtST 在 Intel Gaudi 2 上的加速部署与微调
MILA 和 Intel Labs 推出的蛋白质语言模型 ProtST 在 Hugging Face Hub 上发布，支持在 Intel Gaudi 2 加速器上高效运行和微调。与 NVIDIA A100 相比，Gaudi 2 在推理和微调任务上分别提供 1.76 倍和 2.92 倍的速度提升。
Hugging Face Blog精选AI 评分7272 Hugging Face 发布代码智能体，击败 GAIA 基准测试
Hugging Face 发布了代码智能体，并在 GAIA 基准测试中取得优异成绩。代码智能体使用 Python 代码表达动作，具有更高的效率和可读性。
推荐理由：原文展示了如何使用代码智能体在 GAIA 基准测试中取得优异成绩，读者可以了解代码智能体的优势和应用场景。
Hugging Face Blog精选AI 评分8585 Google 发布 Gemma 2 开放式 LLM
Google 发布了 Gemma 2，其最新版本的开放式大型语言模型，包括 4 个开放权重模型（2 个基础模型和 2 个微调模型）。Gemma 2 基于 Google Deepmind Gemini，具有 8K 上下文长度，并在 Google Cloud TPU 上使用 JAX 和 ML Pathways 进行训练。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6767 某产品发布智能体功能
某产品发布新的智能体功能，给出了开放入口和主要能力变化。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6262 微软发布 Florence-2：前沿视觉语言模型
微软发布 Florence-2 模型，具有小尺寸和强性能，支持多种计算机视觉和视觉语言任务。文章介绍了模型的结构、预训练细节和微调方法，并展示了模型在视觉问答任务上的实验结果。
推荐理由：介绍了 Florence-2 模型的预训练细节和微调方法，对视觉问答任务进行了实验，展示了模型在下游任务上的潜力。
Hugging Face BlogAI 评分4040 Hugging Face Expert Support Program 助力 Prezi 加速机器学习路线图
Prezi 加入 Hugging Face Expert Support Program，利用开源模型优化机器学习工作流程，通过多模态模型提升演示效果。专家团队协助 Prezi 在嵌入、重排序和目标检测等方面应用最佳实践和前沿模型，加速机器学习项目。
Hugging Face Blog精选AI 评分7070 BigCodeBench：代码生成基准的下一代 HumanEval
BigCodeBench 是一个评估大型语言模型 (LLM) 编程能力的基准，旨在解决现有基准如 HumanEval 在评估 LLM 编程能力方面的局限性，通过包含 1140 个函数级任务，挑战 LLM 在解决实际和具有挑战性的编程任务方面的能力。
推荐理由：BigCodeBench 作为评估大型语言模型编程能力的基准，为读者提供了评估 LLM 编程能力的参考框架。
Hugging Face BlogAI 评分4545 Hugging Face Accelerate 中的 DeepSpeed 与 FSDP：差异与融合
Hugging Face Accelerate 提供了 DeepSpeed 和 PyTorch FSDP 两种 ZeRO 算法实现，本文探讨了两者在精度、混合精度处理和内存消耗方面的差异。
Hugging Face Blog精选AI 评分8585 Stable Diffusion 3 发布，带来新功能和优化
Stable Diffusion 3 (SD3) 发布，支持 Hugging Face Hub 和 Diffusers。SD3 模型具有 2B 个参数，并引入了新的多模态扩散 Transformer (MMDiT) 模型和 16 通道自动编码器。此外，还提供了内存优化和性能优化，以及 Dreambooth 和 LoRA 微调脚本。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6565 Hugging Face 推出 RLOO 训练器，为在线 RLHF 训练提供高效替代方案
Hugging Face 推出 RLOO 训练器，旨在为在线 RLHF 训练提供更易于使用和高效的替代方案，通过减少 GPU 内存使用和简化训练过程，使 RLOO 能够处理更大的批量数据和更快的训练时间。
推荐理由：RLOO Trainer 在 TRL 中的引入为在线 RLHF 训练提供了一种更易于使用和高效的替代方案，通过减少 GPU 内存使用和简化训练过程，使 RLOO 能够处理更大的批量数据和更快的训练时间。
Hugging Face BlogAI 评分4242 Hugging Face Transformers 文档全面改版，面向开发者构建 AI 产品
Hugging Face 宣布对 Transformers 文档进行全面改版，旨在为开发者提供更易用的 AI 产品构建指南。新版本将更注重代码示例和解决方案，同时采用更灵活的结构，以适应不断发展的 AI 技术和应用场景。
Hugging Face BlogAI 评分4545 Hugging Face Embedding Container for Amazon SageMaker 正式发布
Hugging Face 推出适用于 Amazon SageMaker 的新嵌入式容器，支持高效部署嵌入模型，包括 Snowflake/snowflake-arctic-embed-m-v1.5 等模型，用于构建生成式 AI 应用。该容器基于 Text Embedding Inference (TEI) 技术，支持多种模型架构，并具备快速启动、动态批处理等功能。
Hugging Face Blog精选AI 评分6565 Hugging Face 发布 AI 图像生成模型评测基准和竞技场
Hugging Face 发布了 AI 图像生成模型评测基准和竞技场，旨在通过人类偏好排名比较开源和闭源模型。
推荐理由：该评测基准涵盖了开源和闭源模型，为读者提供了全面的比较视角。
Hugging Face Blog精选AI 评分6060 Hugging Face推出NPC-Playground，3D游戏交互平台
Hugging Face推出NPC-Playground，一个3D游戏交互平台，允许用户通过简单的Lua脚本与NPC交互，体验未来游戏交互方式。
推荐理由：原文展示了如何通过简单的Lua脚本与NPC交互，读者可以了解如何利用这项技术来增强游戏体验。
Hugging Face BlogAI 评分4242 Hugging Face 优化 Intel Gaudi，加速文本生成
Hugging Face 对 Intel Gaudi 进行优化，采用 Speculative Sampling 和 Assisted Generation 技术加速文本生成，在大型 Transformer 模型上实现约 2 倍速度提升，并支持在 Hugging Face Transformers 中使用。
Hugging Face BlogAI 评分4040 Hugging Face TGI Benchmarking 工具：文本生成推理性能评估
Hugging Face 推出 TGI Benchmarking 工具，用于评估文本生成推理（TGI）的性能，帮助用户了解如何优化部署以适应不同需求。该工具提供吞吐量和延迟的评估，并支持用户自定义配置，以实现更好的用户体验。
Hugging Face Blog精选AI 评分8585 Falcon 2: 11B参数预训练语言模型和VLM，在超过5000B个token和11种语言上训练
Falcon 2 Models TII发布新一代模型Falcon 2，旨在为开源社区提供一系列性能增强且支持多模态的小型模型。该模型基于超过5000B个token和11种语言进行训练，包括11B参数的语言模型和11B参数的视觉语言模型，支持英语和其他十种语言。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6060 Hugging Face 推出 AWS Inferentia2 部署功能
Hugging Face 推出 AWS Inferentia2 部署功能，支持超过 10 万个模型在 AWS Inferentia2 上部署，并提供新的 Inferentia 2 实例选项，方便用户在 Hugging Face Inference Endpoints 上部署模型。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face BlogAI 评分3737 Hugging Face Spaces Dev Mode：无缝开发者体验
Hugging Face Spaces Dev Mode 允许开发者通过 VS Code 或 SSH 直接连接到 Space，实现一键编辑代码，无需使用 git 推送本地更改。目前该功能处于测试阶段，面向 PRO 订阅者开放。
Hugging Face Blog精选AI 评分7070 Hugging Face 与 AMD 合作推出 Instinct MI300 GPU 集成
Hugging Face 与 AMD 合作，使最新的 AMD GPU 服务器 Instinct MI300 在 Hugging Face 平台上获得一级公民集成。通过使用 transformers 和 text-generation-inference 等库，用户可以在不修改代码的情况下，在 Azure ND Mi300x V5 VM 上运行模型，并获得最佳性能。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face BlogAI 评分5252 Dell Enterprise Hub发布，简化本地AI模型训练和部署
Dell Enterprise Hub是Hugging Face上的新平台，旨在简化使用Dell平台在本地训练和部署开源模型的过程。该平台提供了一系列先进的开源模型，包括Meta的Llama 3、Mistral AI的Mixtral、Google的Gemma等。用户可以通过Hugging Face账户访问Dell Enterprise Hub，并轻松筛选和部署模型。
Hugging Face Blog精选AI 评分7272 Hugging Face 与微软深化合作，推出多项新功能和协作项目
Hugging Face 与微软宣布深化合作，推出多项新功能和协作项目，包括在 Azure 模型目录中扩展 HF Collection、在 Azure 上使用新的 AMD MI300X 虚拟机、在 Hugging Face Hub 上发布更多微软模型、通过 WebGPU 实现本地推理以及推出 Hugging Face Spaces 与 VS Code 的集成。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分7070 Hugging Face推出KV Cache Quantization功能，提升长文本生成能力
Hugging Face推出KV Cache Quantization功能，通过量化KV缓存来减少LLM在长文本生成时的内存使用，同时保持较低的质量损失，支持更长的文本生成。
推荐理由：原文介绍了KV Cache Quantization技术，该技术可以减少LLM在长文本生成时的内存使用，同时保持较低的质量损失，读者可以了解其对现有工作流的影响。
Hugging Face Blog精选AI 评分7070 Hugging Face 推出 Open Arabic LLM Leaderboard（OALL）
Hugging Face 推出了 Open Arabic LLM Leaderboard（OALL），旨在评估和比较阿拉伯大型语言模型（LLM）的性能，促进阿拉伯 NLP 的发展。
推荐理由：OALL 提供了针对阿拉伯语言处理的基准，有助于促进阿拉伯 NLP 的发展，丰富了全球 NLP 领域的工具和资源。
Hugging Face Blog精选AI 评分6060 Hugging Face 与 LangChain 合作推出 langchain_huggingface 包
Hugging Face 与 LangChain 合作推出 langchain_huggingface 包，旨在将 Hugging Face 模型的能力引入 LangChain，提供更高效的模型利用方式。
推荐理由：langchain-huggingface 包的发布将 Hugging Face 模型的能力引入 LangChain，为用户提供了更高效的模型利用方式，对现有工作流可能产生积极影响。
Hugging Face Blog精选AI 评分7070 Hugging Face 发布 Transformers Agents 2.0
Hugging Face 发布了 Transformers Agents 2.0，引入了两个新的智能体，可以基于过去的观察迭代以解决复杂任务。新版本提供了更清晰的代码和模块化设计，增加了社区智能体的共享选项，并升级了性能，使其在 GAIA 领导板上的表现优于基于 GPT-4 的智能体。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face BlogAI 评分4242 Intel Gaudi 2 和 Xeon CPU 协同构建高效企业级 RAG 应用
Intel Gaudi 2 AI 加速器和 Xeon CPU 通过实际 RAG 应用案例显著提升企业性能；使用 LangChain 开发 RAG 应用，支持自定义嵌入、向量数据库和 LLM；Optimum Habana 库简化模型加载、训练和推理；TGI Gaudi 容器实现高性能文本生成。
Hugging Face BlogAI 评分5555 Hugging Face 推出针对希伯来语言模型的开放排行榜
Hugging Face 推出针对希伯来语言模型的开放排行榜，旨在评估和提升 Hebrew LLMs 的性能，包含四个关键数据集，涵盖问答、情感分析、Winograd Schema Challenge 和翻译等任务。
Hugging Face BlogAI 评分4242 Hugging Face Inference Endpoints 实现Whisper语音识别模型的多功能部署
Hugging Face Inference Endpoints 支持Whisper语音识别模型，通过自定义推理处理程序，实现自动语音识别（ASR）、说话人分割和推测解码等功能。该方案采用模块化设计，支持多种用例，并使用Pyannote模型进行说话人分割，通过推测解码提高推理速度。用户可通过API调用创建端点，并部署到Inference Endpoints上。
Hugging Face BlogAI 评分4545 Hugging Face 探索提升提示词一致性的方法
Hugging Face 的 Leaderboards and Evals 研究团队发现，LLM 的基准性能与提示词格式密切相关。他们通过实验发现，模型在相同输入信息下，输出结果对提示词格式的微小变化极为敏感。为了提高提示词的一致性，Hugging Face 与 Dottxt 合作，探索了通过结构化生成来约束模型输出，以减少提示词格式变化带来的影响。
Hugging Face Blog精选AI 评分8585 StarCoder2-15B-Instruct: 代码生成中的自对齐方法
Hugging Face 发布了 StarCoder2-15B-Instruct-v0.1 模型，该模型通过自对齐的方式训练代码生成模型，不依赖强大的教师模型，在代码生成领域取得了显著的成果。
推荐理由：StarCoder2-15B-Instruct-v0.1 模型展示了如何通过自对齐的方式训练代码生成模型，不依赖强大的教师模型，为代码生成领域的研究提供了新的思路。
Hugging Face Blog精选AI 评分6767 Hugging Face 推出 Open CoT Leaderboard
Hugging Face 推出 Open CoT Leaderboard，用于评估大型语言模型在生成有效推理链方面的能力，通过比较带有和不带有思维链提示的准确率差异来衡量模型性能。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分8080 Hugging Face 发布多用途 Transformer 智能体 Jack of All Trades (JAT)
Hugging Face 发布了多用途 Transformer 智能体 Jack of All Trades (JAT)，该智能体能够在多个任务上表现出色，包括游戏、机器人控制和简单导航环境中的命令执行。JAT 使用了改进的 Transformer 架构，并集成了多种数据集和专家策略。
推荐理由：原文介绍了 JAT 智能体及其在多个任务上的表现，读者可以了解其能力并评估其对现有工作流的影响。
Hugging Face BlogAI 评分3737 Zama 在 Hugging Face Endpoints 上运行隐私保护推理
Zama 公司的隐私保护机器学习框架 Concrete ML 现已支持在 Hugging Face Endpoints 上部署，使用全同态加密 (FHE) 技术保护用户数据隐私，预编译模型可直接部署，支持 scikit-learn、ONNX、PyTorch 和 TensorFlow 等传统机器学习框架。
Hugging Face BlogAI 评分4545 Ryght Preview：Hugging Face赋能医疗和生命科学领域的AI平台
Ryght推出面向医疗和生命科学领域的AI平台Ryght Preview，通过Hugging Face的专家支持，提供行业特定的AI协作者和定制解决方案，加速研究、分析和文档工作。