Hugging Face推出KV Cache Quantization功能，提升长文本生成能力
Hugging Face推出KV Cache Quantization功能，通过量化KV缓存来减少LLM在长文本生成时的内存使用，同时保持较低的质量损失，支持更长的文本生成。
推荐理由：原文介绍了KV Cache Quantization技术，该技术可以减少LLM在长文本生成时的内存使用，同时保持较低的质量损失，读者可以了解其对现有工作流的影响。
#Hugging Face
#Hugging Face
今日 0 条Hugging Face Blog精选AI 评分7070
Hugging Face Blog精选AI 评分7070 Hugging Face 推出 Open Arabic LLM Leaderboard（OALL）
Hugging Face 推出了 Open Arabic LLM Leaderboard（OALL），旨在评估和比较阿拉伯大型语言模型（LLM）的性能，促进阿拉伯 NLP 的发展。
推荐理由：OALL 提供了针对阿拉伯语言处理的基准，有助于促进阿拉伯 NLP 的发展，丰富了全球 NLP 领域的工具和资源。
Hugging Face Blog精选AI 评分6060 Hugging Face 与 LangChain 合作推出 langchain_huggingface 包
Hugging Face 与 LangChain 合作推出 langchain_huggingface 包，旨在将 Hugging Face 模型的能力引入 LangChain，提供更高效的模型利用方式。
推荐理由：langchain-huggingface 包的发布将 Hugging Face 模型的能力引入 LangChain，为用户提供了更高效的模型利用方式，对现有工作流可能产生积极影响。
Hugging Face Blog精选AI 评分7070 Hugging Face 发布 Transformers Agents 2.0
Hugging Face 发布了 Transformers Agents 2.0，引入了两个新的智能体，可以基于过去的观察迭代以解决复杂任务。新版本提供了更清晰的代码和模块化设计，增加了社区智能体的共享选项，并升级了性能，使其在 GAIA 领导板上的表现优于基于 GPT-4 的智能体。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face BlogAI 评分4242 Intel Gaudi 2 和 Xeon CPU 协同构建高效企业级 RAG 应用
Intel Gaudi 2 AI 加速器和 Xeon CPU 通过实际 RAG 应用案例显著提升企业性能；使用 LangChain 开发 RAG 应用，支持自定义嵌入、向量数据库和 LLM；Optimum Habana 库简化模型加载、训练和推理；TGI Gaudi 容器实现高性能文本生成。
Hugging Face BlogAI 评分5555 Hugging Face 推出针对希伯来语言模型的开放排行榜
Hugging Face 推出针对希伯来语言模型的开放排行榜，旨在评估和提升 Hebrew LLMs 的性能，包含四个关键数据集，涵盖问答、情感分析、Winograd Schema Challenge 和翻译等任务。
Hugging Face BlogAI 评分4242 Hugging Face Inference Endpoints 实现Whisper语音识别模型的多功能部署
Hugging Face Inference Endpoints 支持Whisper语音识别模型，通过自定义推理处理程序，实现自动语音识别（ASR）、说话人分割和推测解码等功能。该方案采用模块化设计，支持多种用例，并使用Pyannote模型进行说话人分割，通过推测解码提高推理速度。用户可通过API调用创建端点，并部署到Inference Endpoints上。
Hugging Face BlogAI 评分4545 Hugging Face 探索提升提示词一致性的方法
Hugging Face 的 Leaderboards and Evals 研究团队发现，LLM 的基准性能与提示词格式密切相关。他们通过实验发现，模型在相同输入信息下，输出结果对提示词格式的微小变化极为敏感。为了提高提示词的一致性，Hugging Face 与 Dottxt 合作，探索了通过结构化生成来约束模型输出，以减少提示词格式变化带来的影响。
Hugging Face Blog精选AI 评分8585 StarCoder2-15B-Instruct: 代码生成中的自对齐方法
Hugging Face 发布了 StarCoder2-15B-Instruct-v0.1 模型，该模型通过自对齐的方式训练代码生成模型，不依赖强大的教师模型，在代码生成领域取得了显著的成果。
推荐理由：StarCoder2-15B-Instruct-v0.1 模型展示了如何通过自对齐的方式训练代码生成模型，不依赖强大的教师模型，为代码生成领域的研究提供了新的思路。
Hugging Face Blog精选AI 评分6767 Hugging Face 推出 Open CoT Leaderboard
Hugging Face 推出 Open CoT Leaderboard，用于评估大型语言模型在生成有效推理链方面的能力，通过比较带有和不带有思维链提示的准确率差异来衡量模型性能。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分8080 Hugging Face 发布多用途 Transformer 智能体 Jack of All Trades (JAT)
Hugging Face 发布了多用途 Transformer 智能体 Jack of All Trades (JAT)，该智能体能够在多个任务上表现出色，包括游戏、机器人控制和简单导航环境中的命令执行。JAT 使用了改进的 Transformer 架构，并集成了多种数据集和专家策略。
推荐理由：原文介绍了 JAT 智能体及其在多个任务上的表现，读者可以了解其能力并评估其对现有工作流的影响。
Hugging Face BlogAI 评分3737 Zama 在 Hugging Face Endpoints 上运行隐私保护推理
Zama 公司的隐私保护机器学习框架 Concrete ML 现已支持在 Hugging Face Endpoints 上部署，使用全同态加密 (FHE) 技术保护用户数据隐私，预编译模型可直接部署，支持 scikit-learn、ONNX、PyTorch 和 TensorFlow 等传统机器学习框架。
Hugging Face BlogAI 评分4545 Ryght Preview：Hugging Face赋能医疗和生命科学领域的AI平台
Ryght推出面向医疗和生命科学领域的AI平台Ryght Preview，通过Hugging Face的专家支持，提供行业特定的AI协作者和定制解决方案，加速研究、分析和文档工作。
Hugging Face Blog精选AI 评分7070 Hugging Face 推出 LiveCodeBench 评测基准，全面评估代码 LLMs
Hugging Face 推出 LiveCodeBench 评测基准，基于 LiveCodeBench，由加州大学伯克利分校、麻省理工学院和康奈尔大学的研究人员开发，用于衡量 LLMs 的代码生成能力。
推荐理由：LiveCodeBench 评测基准的发布为代码 LLMs 提供了更全面、无污染的评估，有助于了解不同模型的能力和泛化能力。
Hugging Face Blog精选AI 评分7272 Hugging Face 发布 Idefics2：一款强大的 8B 视觉-语言模型
Hugging Face 发布了 Idefics2，一款能够处理文本和图像输入并生成文本响应的多模态模型。Idefics2 在视觉问答基准测试中表现出色，并支持多种多模态应用。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6060 视觉语言模型详解
本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型，包括开源模型介绍、选择模型的方法、评估基准以及使用transformers库进行推理和微调的示例。
推荐理由：本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型，对了解和利用视觉语言模型有重要参考价值。
Hugging Face Blog精选AI 评分6767 Hugging Face Hub 推出 Google Cloud 部署功能，简化开源 LLM 部署流程
Hugging Face Hub 推出 Deploy on Google Cloud 功能，允许用户将数千个开源基础模型轻松部署到 Google Cloud，使用 Vertex AI 或 Google Kubernetes Engine (GKE)。该功能简化了开源生成式 AI 模型的访问和部署流程，为开发者提供了便捷的解决方案。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分8585 Google 发布 CodeGemma 代码大语言模型家族
Google 发布了 CodeGemma 代码大语言模型家族，包括三个版本：2B 基础模型、7B 基础模型和 7B 指令模型。这些模型在 Hugging Face Hub 上提供，并支持与 Google Cloud 和 Inference Endpoints 集成。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face BlogAI 评分4040 DuckDB-NSQL-7B：利用 Hugging Face Dataset Viewer API 和 DuckDB 进行 Text2SQL 任务
MotherDuck 和 Numbers Station 推出 DuckDB-NSQL-7B，一款针对 DuckDB SQL 的先进 LLM，可轻松从数据中提取洞察。
Hugging Face Blog精选AI 评分6565 Hugging Face 与 Wiz Research 合作提升 AI 安全性
Hugging Face 与 Wiz Research 合作，通过集成 Wiz 的安全工具，提升平台安全性，并开源相关安全工具，以促进 AI/ML 生态系统的安全发展。
推荐理由：Hugging Face 与 Wiz Research 合作，提升平台和 AI/ML 生态系统的安全性，读者可以关注其安全改进和开源合作对行业的影响。
Hugging Face Blog精选AI 评分6767 Hugging Face 发布 SetFit 模型优化工具
Hugging Face 发布了 SetFit 模型优化工具，通过 🤗 Optimum Intel 优化，可以加速 SetFit 模型的推理速度，最高可达 7.8 倍。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6060 Hugging Face 与 Cloudflare Workers AI 集成发布，提供无服务器 GPU 推理服务
Hugging Face 与 Cloudflare Workers AI 集成，为开发者提供无服务器 GPU 推理服务，简化了开源生成式 AI 模型的访问和部署。开发者可以无需管理 GPU 基础设施和服务器，以极低的运营成本构建强大的生成式 AI 应用。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分7070 Hugging Face 发布 Cosmopedia：大规模合成数据集用于预训练大型语言模型
Hugging Face 发布了 Cosmopedia，一个用于预训练大型语言模型的大规模合成数据集。该数据集包含超过 30 亿个 token，旨在解决传统数据集的局限性，并推动合成数据在 AI 领域的应用。
推荐理由：Cosmopedia 的发布为 LLM 预训练提供了新的数据集，有助于推动合成数据在 AI 领域的应用。
Hugging Face Blog精选AI 评分8282 GaLore：推动消费级硬件上的大型模型训练
GaLore是一种新的工具，它通过降低内存需求，使得在消费级硬件上训练大型语言模型成为可能，为研究人员和从业者提供了新的可能性。
推荐理由：GaLore通过降低内存需求，使得在消费级硬件上训练大型语言模型成为可能，为研究人员和从业者提供了新的可能性。
Hugging Face Blog精选AI 评分6767 Hugging Face 与英特尔合作推出Phi-2模型在Intel Meteor Lake笔记本电脑上运行
Hugging Face 与英特尔合作，推出Phi-2模型在Intel Meteor Lake笔记本电脑上运行，通过硬件加速、小型语言模型和量化技术，实现了在个人电脑上运行大型语言模型的可能性，提高了隐私性、降低了延迟和成本。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face BlogAI 评分4545 Optimum 的 PyTorch 量化后端 Quanto 介绍
Quanto 是一个针对 Optimum 的 PyTorch 量化后端，旨在降低深度学习模型的计算和内存成本，支持多种量化方案，包括线性量化、分组量化等，适用于各种模态。Quanto 可作为 pip 包安装，提供从浮点模型到动态量化模型再到静态量化模型的流畅工作流程，并支持 PyTorch weight_only 和 Safetensors 的序列化。
Hugging Face BlogAI 评分4545 Hugging Face Train on DGX Cloud 服务发布，简化AI模型训练
Hugging Face 推出 Train on DGX Cloud 服务，支持使用 NVIDIA DGX Cloud 的加速计算基础设施进行模型训练，简化了开放生成式 AI 模型的训练和部署。
Hugging Face BlogAI 评分5252 Hugging Face 发布优化后的嵌入模型和 fastRAG 框架
Hugging Face 发布了优化后的嵌入模型和 fastRAG 框架，旨在提高信息检索和 RAG 应用的效率。
Hugging Face BlogAI 评分4545 WebSight 数据集：将网页截图转换为 HTML 代码的 AI 系统
Hugging Face 推出 WebSight-v0.2 数据集，包含 200 万个网页截图与 HTML 代码对，旨在训练 AI 模型将视觉网页设计转换为功能性 HTML 代码。基于此数据集，研究人员训练了 Sightseer 模型，能够将网页截图转换为功能性的 HTML 代码，并支持将图像嵌入生成的 HTML 中。
Hugging Face Blog精选AI 评分6565 Hugging Face 发布 ConTextual 数据集，评估多模态模型在文本丰富场景中的推理能力
Hugging Face 发布了 ConTextual 数据集，用于评估多模态模型在文本丰富场景中的推理能力。该数据集包含 506 个具有挑战性的指令，涵盖了 8 个现实世界的视觉场景。
推荐理由：ConTextual 数据集的发布为评估多模态模型在文本丰富场景中的推理能力提供了新的基准，有助于推动相关领域的研究进展。
Hugging Face Blog精选AI 评分7777 StarCoder2 和 The Stack v2 发布
BigCode 发布 StarCoder2，新一代开源代码大语言模型，基于 The Stack v2 数据集训练，提供 3B、7B 和 15B 参数的模型版本。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face BlogAI 评分4747 Hugging Face Hub 上的 AI 水印工具与技术
Hugging Face Hub 提供多种 AI 水印工具，用于标记 AI 生成内容以验证其真实性。这些工具包括在生成过程中嵌入可见或不可见水印，以及使用数据中毒和签名技术来防止非授权图像操纵。水印技术适用于不同类型的数据，如图像、音频、文本等，并面临独特的挑战。Hugging Face Hub 提供开源工具，帮助用户进行不同类型的水印操作。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 Gemma 模型支持 PEFT
Hugging Face 发布 Gemma 模型支持 PEFT，允许用户在 Hugging Face 上进行参数高效微调，提高语言模型训练的效率和可访问性。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face BlogAI 评分4545 Matryoshka Embedding 模型介绍
Matryoshka Embedding 模型通过在早期维度存储重要信息，在后期维度存储次要信息，实现高效的信息压缩。该模型使用 Sentence Transformers 框架进行训练，支持多种输出维度，可应用于推荐系统、检索、分类等多种任务。
Hugging Face Blog精选AI 评分7272 Google 发布开源大语言模型 Gemma
Google 发布了新的开源大语言模型 Gemma，包括 2B 和 7B 参数版本，支持在 Hugging Face 平台使用，并提供了多种集成和部署方式。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face BlogAI 评分5555 Hugging Face推出Open Ko-LLM评测基准
Hugging Face推出Open Ko-LLM评测基准，旨在评估韩语大语言模型的能力，为韩语LLM的发展提供了重要的评估平台。
Hugging Face Blog精选AI 评分7272 Hugging Face开源工具助力模型训练与成本降低
Hugging Face开源工具通过使用LLM创建合成数据，帮助用户训练更高效、更专业的模型，同时降低成本和碳排放。
推荐理由：原文提供了使用开源LLM创建合成数据的方法，读者可以了解如何通过这种方法提高模型效率和降低成本。
Hugging Face BlogAI 评分4545 AMD Pervasive AI Developer Contest！Hugging Face与AMD合作，提供前沿AI模型部署支持
AMD与Hugging Face合作，举办Pervasive AI开发者大赛，提供700个AMD平台，总奖金高达16万美元，鼓励开发者创建独特的AI应用。Hugging Face和AMD为AMD GPU提供原生支持，并支持ONNX模型执行、Optimum-Benchmark、DeepSpeed等工具，助力开发者快速构建AI应用。
Hugging Face Blog精选AI 评分6767 Hugging Face 推出 Messages API，实现与 OpenAI 兼容的文本生成推理和推理端点
Hugging Face 推出 Messages API，实现与 OpenAI 兼容的文本生成推理和推理端点，允许用户无缝地从 OpenAI 模型过渡到开源 LLM。API 可直接用于 OpenAI 的客户端库或第三方工具，如 LangChain 或 LlamaIndex。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SegMoE 混合专家扩散模型框架
Hugging Face 发布了 SegMoE 混合专家扩散模型框架，支持在 Hugging Face 生态系统中创建和集成 MoE 模型。
推荐理由：SegMoE 是一个用于创建混合专家扩散模型的框架，读者可以了解其如何改变现有工作流。