Hugging Face推出KV Cache Quantization功能，提升长文本生成能力
Hugging Face推出KV Cache Quantization功能，通过量化KV缓存来减少LLM在长文本生成时的内存使用，同时保持较低的质量损失，支持更长的文本生成。
推荐理由：原文介绍了KV Cache Quantization技术，该技术可以减少LLM在长文本生成时的内存使用，同时保持较低的质量损失，读者可以了解其对现有工作流的影响。
Hugging Face
全部主题Hugging Face 开源社区动态：热门模型与数据集、排行榜变化与开源生态的晴雨表。
最新精选
第 281–300 条 · 共 381 条Hugging Face Blog精选AI 评分7070
Hugging Face Blog精选AI 评分6060 Hugging Face 与 LangChain 合作推出 langchain_huggingface 包
Hugging Face 与 LangChain 合作推出 langchain_huggingface 包，旨在将 Hugging Face 模型的能力引入 LangChain，提供更高效的模型利用方式。
推荐理由：langchain-huggingface 包的发布将 Hugging Face 模型的能力引入 LangChain，为用户提供了更高效的模型利用方式，对现有工作流可能产生积极影响。
Hugging Face Blog精选AI 评分7070 Hugging Face 发布 Transformers Agents 2.0
Hugging Face 发布了 Transformers Agents 2.0，引入了两个新的智能体，可以基于过去的观察迭代以解决复杂任务。新版本提供了更清晰的代码和模块化设计，增加了社区智能体的共享选项，并升级了性能，使其在 GAIA 领导板上的表现优于基于 GPT-4 的智能体。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分8585 StarCoder2-15B-Instruct: 代码生成中的自对齐方法
Hugging Face 发布了 StarCoder2-15B-Instruct-v0.1 模型，该模型通过自对齐的方式训练代码生成模型，不依赖强大的教师模型，在代码生成领域取得了显著的成果。
推荐理由：StarCoder2-15B-Instruct-v0.1 模型展示了如何通过自对齐的方式训练代码生成模型，不依赖强大的教师模型，为代码生成领域的研究提供了新的思路。
Hugging Face Blog精选AI 评分6767 Hugging Face 推出 Open CoT Leaderboard
Hugging Face 推出 Open CoT Leaderboard，用于评估大型语言模型在生成有效推理链方面的能力，通过比较带有和不带有思维链提示的准确率差异来衡量模型性能。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分8080 Hugging Face 发布多用途 Transformer 智能体 Jack of All Trades (JAT)
Hugging Face 发布了多用途 Transformer 智能体 Jack of All Trades (JAT)，该智能体能够在多个任务上表现出色，包括游戏、机器人控制和简单导航环境中的命令执行。JAT 使用了改进的 Transformer 架构，并集成了多种数据集和专家策略。
推荐理由：原文介绍了 JAT 智能体及其在多个任务上的表现，读者可以了解其能力并评估其对现有工作流的影响。
Hugging Face Blog精选AI 评分7070 Hugging Face 推出 LiveCodeBench 评测基准，全面评估代码 LLMs
Hugging Face 推出 LiveCodeBench 评测基准，基于 LiveCodeBench，由加州大学伯克利分校、麻省理工学院和康奈尔大学的研究人员开发，用于衡量 LLMs 的代码生成能力。
推荐理由：LiveCodeBench 评测基准的发布为代码 LLMs 提供了更全面、无污染的评估，有助于了解不同模型的能力和泛化能力。
Hugging Face Blog精选AI 评分7272 Hugging Face 发布 Idefics2：一款强大的 8B 视觉-语言模型
Hugging Face 发布了 Idefics2，一款能够处理文本和图像输入并生成文本响应的多模态模型。Idefics2 在视觉问答基准测试中表现出色，并支持多种多模态应用。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6060 视觉语言模型详解
本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型，包括开源模型介绍、选择模型的方法、评估基准以及使用transformers库进行推理和微调的示例。
推荐理由：本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型，对了解和利用视觉语言模型有重要参考价值。
Hugging Face Blog精选AI 评分6767 Hugging Face Hub 推出 Google Cloud 部署功能，简化开源 LLM 部署流程
Hugging Face Hub 推出 Deploy on Google Cloud 功能，允许用户将数千个开源基础模型轻松部署到 Google Cloud，使用 Vertex AI 或 Google Kubernetes Engine (GKE)。该功能简化了开源生成式 AI 模型的访问和部署流程，为开发者提供了便捷的解决方案。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分8585 Google 发布 CodeGemma 代码大语言模型家族
Google 发布了 CodeGemma 代码大语言模型家族，包括三个版本：2B 基础模型、7B 基础模型和 7B 指令模型。这些模型在 Hugging Face Hub 上提供，并支持与 Google Cloud 和 Inference Endpoints 集成。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6565 Hugging Face 与 Wiz Research 合作提升 AI 安全性
Hugging Face 与 Wiz Research 合作，通过集成 Wiz 的安全工具，提升平台安全性，并开源相关安全工具，以促进 AI/ML 生态系统的安全发展。
推荐理由：Hugging Face 与 Wiz Research 合作，提升平台和 AI/ML 生态系统的安全性，读者可以关注其安全改进和开源合作对行业的影响。
Hugging Face Blog精选AI 评分6767 Hugging Face 发布 SetFit 模型优化工具
Hugging Face 发布了 SetFit 模型优化工具，通过 🤗 Optimum Intel 优化，可以加速 SetFit 模型的推理速度，最高可达 7.8 倍。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6060 Hugging Face 与 Cloudflare Workers AI 集成发布，提供无服务器 GPU 推理服务
Hugging Face 与 Cloudflare Workers AI 集成，为开发者提供无服务器 GPU 推理服务，简化了开源生成式 AI 模型的访问和部署。开发者可以无需管理 GPU 基础设施和服务器，以极低的运营成本构建强大的生成式 AI 应用。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分7070 Hugging Face 发布 Cosmopedia：大规模合成数据集用于预训练大型语言模型
Hugging Face 发布了 Cosmopedia，一个用于预训练大型语言模型的大规模合成数据集。该数据集包含超过 30 亿个 token，旨在解决传统数据集的局限性，并推动合成数据在 AI 领域的应用。
推荐理由：Cosmopedia 的发布为 LLM 预训练提供了新的数据集，有助于推动合成数据在 AI 领域的应用。
Hugging Face Blog精选AI 评分8282 GaLore：推动消费级硬件上的大型模型训练
GaLore是一种新的工具，它通过降低内存需求，使得在消费级硬件上训练大型语言模型成为可能，为研究人员和从业者提供了新的可能性。
推荐理由：GaLore通过降低内存需求，使得在消费级硬件上训练大型语言模型成为可能，为研究人员和从业者提供了新的可能性。
Hugging Face Blog精选AI 评分6767 Hugging Face 与英特尔合作推出Phi-2模型在Intel Meteor Lake笔记本电脑上运行
Hugging Face 与英特尔合作，推出Phi-2模型在Intel Meteor Lake笔记本电脑上运行，通过硬件加速、小型语言模型和量化技术，实现了在个人电脑上运行大型语言模型的可能性，提高了隐私性、降低了延迟和成本。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6565 Hugging Face 发布 ConTextual 数据集，评估多模态模型在文本丰富场景中的推理能力
Hugging Face 发布了 ConTextual 数据集，用于评估多模态模型在文本丰富场景中的推理能力。该数据集包含 506 个具有挑战性的指令，涵盖了 8 个现实世界的视觉场景。
推荐理由：ConTextual 数据集的发布为评估多模态模型在文本丰富场景中的推理能力提供了新的基准，有助于推动相关领域的研究进展。
Hugging Face Blog精选AI 评分7777 StarCoder2 和 The Stack v2 发布
BigCode 发布 StarCoder2，新一代开源代码大语言模型，基于 The Stack v2 数据集训练，提供 3B、7B 和 15B 参数的模型版本。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 Gemma 模型支持 PEFT
Hugging Face 发布 Gemma 模型支持 PEFT，允许用户在 Hugging Face 上进行参数高效微调，提高语言模型训练的效率和可访问性。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。