TRL 库支持视觉语言模型直接偏好优化 (DPO)
Hugging Face 的 TRL 库新增支持视觉语言模型直接偏好优化 (DPO)，简化了模型训练过程，并提高了预测准确性。该库使用 openbmb/RLAIF-V-Dataset 数据集，支持 Idefics2-8b 模型，并可通过内存优化技术适应不同硬件配置。
#教程/实践
#教程/实践
今日 1 条Hugging Face BlogAI 评分4545
Hugging Face BlogAI 评分4242 Hugging Face Dataset Hub 发布四项新功能，提升数据集搜索体验
Hugging Face Dataset Hub 推出四项新功能，包括按模态、大小、格式和库搜索数据集，提升数据集的可发现性和可视化，方便用户找到适合其用例的数据集。
Hugging Face BlogAI 评分4545 Hugging Face Data Is Better Together 创新项目回顾与展望
Hugging Face 与 Argilla 合作，推动开源社区共同创建有影响力的数据集。项目包括创建 10K 个提示词数据集、多语言提示评估项目（MPEP）等，旨在解决语言、领域和任务数据不平衡问题。社区积极参与，项目成果显著，鼓励更多贡献者加入。
Hugging Face BlogAI 评分4040 Hugging Face Expert Support Program 助力 Prezi 加速机器学习路线图
Prezi 加入 Hugging Face Expert Support Program，利用开源模型优化机器学习工作流程，通过多模态模型提升演示效果。专家团队协助 Prezi 在嵌入、重排序和目标检测等方面应用最佳实践和前沿模型，加速机器学习项目。
Hugging Face BlogAI 评分4545 Hugging Face Accelerate 中的 DeepSpeed 与 FSDP：差异与融合
Hugging Face Accelerate 提供了 DeepSpeed 和 PyTorch FSDP 两种 ZeRO 算法实现，本文探讨了两者在精度、混合精度处理和内存消耗方面的差异。
Hugging Face BlogAI 评分4242 Hugging Face Transformers 文档全面改版，面向开发者构建 AI 产品
Hugging Face 宣布对 Transformers 文档进行全面改版，旨在为开发者提供更易用的 AI 产品构建指南。新版本将更注重代码示例和解决方案，同时采用更灵活的结构，以适应不断发展的 AI 技术和应用场景。
Hugging Face BlogAI 评分4545 Hugging Face Embedding Container for Amazon SageMaker 正式发布
Hugging Face 推出适用于 Amazon SageMaker 的新嵌入式容器，支持高效部署嵌入模型，包括 Snowflake/snowflake-arctic-embed-m-v1.5 等模型，用于构建生成式 AI 应用。该容器基于 Text Embedding Inference (TEI) 技术，支持多种模型架构，并具备快速启动、动态批处理等功能。
Mistral AIAI 评分1515 Mistral AI 举办 Mistral Fine-tuning Hackathon
Mistral AI 于 2024 年 6 月 5 日至 30 日举办 Mistral Fine-tuning Hackathon，参与者可使用 Mistral 的微调 API 展示项目，奖品包括 €2,500 的 Mistral API 信用额度。参赛者需在 La Platforme 上注册并完成付款详情，以获取免费信用额度。提交的项目需包含代码链接、项目描述和不超过 2 分钟的视频演示。
Hugging Face BlogAI 评分4242 Hugging Face 优化 Intel Gaudi，加速文本生成
Hugging Face 对 Intel Gaudi 进行优化，采用 Speculative Sampling 和 Assisted Generation 技术加速文本生成，在大型 Transformer 模型上实现约 2 倍速度提升，并支持在 Hugging Face Transformers 中使用。
Hugging Face BlogAI 评分4040 Hugging Face TGI Benchmarking 工具：文本生成推理性能评估
Hugging Face 推出 TGI Benchmarking 工具，用于评估文本生成推理（TGI）的性能，帮助用户了解如何优化部署以适应不同需求。该工具提供吞吐量和延迟的评估，并支持用户自定义配置，以实现更好的用户体验。
Hugging Face BlogAI 评分4545 Sentence Transformers：如何微调嵌入模型以提升性能
Sentence Transformers 是一个用于使用和训练嵌入模型的 Python 库，适用于检索增强生成、语义搜索、语义文本相似度等多种应用。本文介绍了如何使用 Sentence Transformers 微调模型以提升特定任务上的性能，并提供了详细的组件说明和示例，包括数据集、损失函数、训练参数、评估器和训练器等。通过微调，模型能够根据特定任务的需求调整相似度概念，从而显著提升性能。
Hugging Face BlogAI 评分3737 Hugging Face Spaces Dev Mode：无缝开发者体验
Hugging Face Spaces Dev Mode 允许开发者通过 VS Code 或 SSH 直接连接到 Space，实现一键编辑代码，无需使用 git 推送本地更改。目前该功能处于测试阶段，面向 PRO 订阅者开放。
Hugging Face BlogAI 评分4242 Intel Gaudi 2 和 Xeon CPU 协同构建高效企业级 RAG 应用
Intel Gaudi 2 AI 加速器和 Xeon CPU 通过实际 RAG 应用案例显著提升企业性能；使用 LangChain 开发 RAG 应用，支持自定义嵌入、向量数据库和 LLM；Optimum Habana 库简化模型加载、训练和推理；TGI Gaudi 容器实现高性能文本生成。
Hugging Face BlogAI 评分4242 Hugging Face Inference Endpoints 实现Whisper语音识别模型的多功能部署
Hugging Face Inference Endpoints 支持Whisper语音识别模型，通过自定义推理处理程序，实现自动语音识别（ASR）、说话人分割和推测解码等功能。该方案采用模块化设计，支持多种用例，并使用Pyannote模型进行说话人分割，通过推测解码提高推理速度。用户可通过API调用创建端点，并部署到Inference Endpoints上。
Hugging Face BlogAI 评分4545 Hugging Face 探索提升提示词一致性的方法
Hugging Face 的 Leaderboards and Evals 研究团队发现，LLM 的基准性能与提示词格式密切相关。他们通过实验发现，模型在相同输入信息下，输出结果对提示词格式的微小变化极为敏感。为了提高提示词的一致性，Hugging Face 与 Dottxt 合作，探索了通过结构化生成来约束模型输出，以减少提示词格式变化带来的影响。
Hugging Face BlogAI 评分3737 Zama 在 Hugging Face Endpoints 上运行隐私保护推理
Zama 公司的隐私保护机器学习框架 Concrete ML 现已支持在 Hugging Face Endpoints 上部署，使用全同态加密 (FHE) 技术保护用户数据隐私，预编译模型可直接部署，支持 scikit-learn、ONNX、PyTorch 和 TensorFlow 等传统机器学习框架。
Hugging Face BlogAI 评分4040 Gradio Reload 模式：快速构建 AI 应用
Gradio 的 Reload 模式允许开发者无需重启服务器即可拉取最新代码更改，显著提升开发效率。通过使用 Gradio 的 Reload 模式，开发者可以快速构建 AI 应用，如文档分析器，实现用户上传文档并获取自然语言回答的功能。
Hugging Face Blog精选AI 评分6060 视觉语言模型详解
本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型，包括开源模型介绍、选择模型的方法、评估基准以及使用transformers库进行推理和微调的示例。
推荐理由：本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型，对了解和利用视觉语言模型有重要参考价值。
Hugging Face BlogAI 评分4040 DuckDB-NSQL-7B：利用 Hugging Face Dataset Viewer API 和 DuckDB 进行 Text2SQL 任务
MotherDuck 和 Numbers Station 推出 DuckDB-NSQL-7B，一款针对 DuckDB SQL 的先进 LLM，可轻松从数据中提取洞察。
Hugging Face BlogAI 评分4242 Hugging Face Transformers 入门指南：Phi-2 LLM 的简单应用
Hugging Face Transformers 是一个开源 Python 库，提供数千个预训练模型，简化 Transformer 模型的实现。本文以非技术背景读者为目标，通过运行 Microsoft 的 Phi-2 LLM 举例，介绍如何使用 Hugging Face Transformers 和 Hugging Face Hub。教程从零开始，无需 Python 基础，适合初学者入门。
Hugging Face Blog精选AI 评分7070 Hugging Face 发布 Cosmopedia：大规模合成数据集用于预训练大型语言模型
Hugging Face 发布了 Cosmopedia，一个用于预训练大型语言模型的大规模合成数据集。该数据集包含超过 30 亿个 token，旨在解决传统数据集的局限性，并推动合成数据在 AI 领域的应用。
推荐理由：Cosmopedia 的发布为 LLM 预训练提供了新的数据集，有助于推动合成数据在 AI 领域的应用。
Hugging Face BlogAI 评分4545 Optimum 的 PyTorch 量化后端 Quanto 介绍
Quanto 是一个针对 Optimum 的 PyTorch 量化后端，旨在降低深度学习模型的计算和内存成本，支持多种量化方案，包括线性量化、分组量化等，适用于各种模态。Quanto 可作为 pip 包安装，提供从浮点模型到动态量化模型再到静态量化模型的流畅工作流程，并支持 PyTorch weight_only 和 Safetensors 的序列化。
Hugging Face BlogAI 评分4545 Hugging Face Train on DGX Cloud 服务发布，简化AI模型训练
Hugging Face 推出 Train on DGX Cloud 服务，支持使用 NVIDIA DGX Cloud 的加速计算基础设施进行模型训练，简化了开放生成式 AI 模型的训练和部署。
Hugging Face BlogAI 评分4545 WebSight 数据集：将网页截图转换为 HTML 代码的 AI 系统
Hugging Face 推出 WebSight-v0.2 数据集，包含 200 万个网页截图与 HTML 代码对，旨在训练 AI 模型将视觉网页设计转换为功能性 HTML 代码。基于此数据集，研究人员训练了 Sightseer 模型，能够将网页截图转换为功能性的 HTML 代码，并支持将图像嵌入生成的 HTML 中。
Hugging Face BlogAI 评分4242 Llama 2 模型在 Optimum Habana 上的文本生成流水线
Hugging Face 推出 Llama 2 模型的文本生成流水线，支持 7b、13b 和 70b 版本，通过 Optimum Habana 和自定义流水线类实现，仅需几行代码即可运行；流水线提供高抽象级别，支持预处理和后处理，兼容 LangChain。
Mistral AIAI 评分4242 Mistral AI 推出 Le Chat Vibe 聊天助手
Mistral AI 推出多语言聊天助手 Le Chat Vibe，支持与 Mistral 模型交互，提供教育性和娱乐性体验；Le Chat 可使用 Mistral Large、Mistral Small 或 Mistral Next 模型，具备系统级调节机制，目前为测试版，无法访问互联网。
Hugging Face BlogAI 评分4747 Hugging Face Hub 上的 AI 水印工具与技术
Hugging Face Hub 提供多种 AI 水印工具，用于标记 AI 生成内容以验证其真实性。这些工具包括在生成过程中嵌入可见或不可见水印，以及使用数据中毒和签名技术来防止非授权图像操纵。水印技术适用于不同类型的数据，如图像、音频、文本等，并面临独特的挑战。Hugging Face Hub 提供开源工具，帮助用户进行不同类型的水印操作。
Hugging Face BlogAI 评分4545 Matryoshka Embedding 模型介绍
Matryoshka Embedding 模型通过在早期维度存储重要信息，在后期维度存储次要信息，实现高效的信息压缩。该模型使用 Sentence Transformers 框架进行训练，支持多种输出维度，可应用于推荐系统、检索、分类等多种任务。
Hugging Face BlogAI 评分4040 🤗 PEFT 新增 LoRA 模型融合方法
Hugging Face 的 🤗 PEFT 引入了新的 LoRA 模型融合方法，包括 Concatenation、Linear/Task Arithmetic 和 SVD 等，旨在优化不同 LoRA 模型融合的体验，提高模型性能。
Hugging Face BlogAI 评分4242 Hugging Face PatchTST 模型详解与应用
Hugging Face 推出 PatchTST 模型，用于时间序列预测。该模型基于 Transformer 架构，通过将时间序列分割成子序列级别的 patch，并使用全局单变量模型进行编码，实现长序列预测。PatchTST 在电力数据集上展示了良好的预测能力，并支持零样本预测和微调。
Hugging Face BlogAI 评分3535 Wav2Vec2-BERT 在低资源语音识别中的应用与优化
MetaAI 发布的 Wav2Vec2-BERT 模型，通过预训练和微调，在低资源语音识别任务中表现出色，仅需 10 分钟标注音频数据即可在 LibriSpeech 数据集上达到 5% 的词错误率。
Hugging Face BlogAI 评分2525 Gradio on Hugging Face Spaces 免费运行 ComfyUI 工作流
本教程介绍了如何将复杂的 ComfyUI 工作流转换为简单的 Gradio 应用，并在 Hugging Face Spaces 的 ZeroGPU 服务器上免费部署和运行。
Hugging Face BlogAI 评分4040 aMUSEd：高效的非扩散文本到图像生成模型
aMUSEd 是一个基于掩码图像模型（MIM）的高效文本到图像生成模型，其参数量约为 800M，速度快，支持微调。与 MUSE 类似，aMUSEd 在风格迁移方面表现出色，但图像质量不如最先进的模型。该模型以开源许可证发布，鼓励社区探索非扩散框架。
Hugging Face Blog精选AI 评分6565 Hugging Face 发布 LoRA 训练脚本指南
Hugging Face 发布了 LoRA 训练脚本指南，结合了多种优化技巧，旨在提高 LoRA 训练效果。
推荐理由：该博客提供了 LoRA 训练脚本的详细指南，包括多种优化技巧，对想要改进 LoRA 训练的读者具有参考价值。
Hugging Face BlogAI 评分4242 Llama 2 在 AWS Inferentia2 上实现高效文本生成
Hugging Face 推出 Llama 2 在 AWS Inferentia2 上的高效文本生成方案，通过 Optimum Neuron 部署，实现快速部署和模型导出，支持多种生成策略，并提供预编译模型版本。
Hugging Face BlogAI 评分4545 Hugging Face 数据集库与 Renumics Spotlight 联合推出数据可视化工具
Hugging Face 数据集库与 Renumics Spotlight 联合推出数据可视化工具，用户只需一行代码即可创建交互式可视化，识别数据中的关键聚类。Spotlight 支持利用模型结果如预测和嵌入，深入了解数据段和模型失败模式。此外，Spotlight 还允许用户自定义数据检查工作流程，并找到相关的数据样本和聚类进行检查。
Hugging Face BlogAI 评分4545 OpenAI RLHF 代码库复现：PPO实现细节解析
本文详细解析了OpenAI的RLHF代码库复现，重点关注PPO实现细节，包括奖励模型、策略训练、PyTorch Adam优化器等，旨在为研究者提供RLHF实施工程细节的参考。复现的代码库能够产生与OpenAI代码库几乎相同的风格任务学习曲线，为教育和学习目的提供简单易读的参考实现。
Hugging Face BlogAI 评分3737 Hugging Face Inference Endpoints 部署嵌入模型指南
Hugging Face Inference Endpoints 提供了一种简单、安全的方式部署机器学习模型，支持快速部署、自动扩展、成本效益和高级安全功能。Text Embeddings Inference (TEI) 是专为部署和托管开源文本嵌入模型而构建的解决方案，支持所有 MTEB 排行榜前 10 的模型，并实现了多种性能优化功能。
Hugging Face BlogAI 评分4040 Stable Diffusion XL (SDXL) 模型优化：提升推理速度与降低内存使用
Stability AI 推出的最新模型 SDXL 在生成高质量图像方面具有优势，但模型规模较大。本文介绍了如何通过使用 fp16 精度、内存高效注意力机制和 torch.compile API 来优化 SDXL，从而提高推理速度并降低内存使用。优化后的 SDXL 模型在 A100 GPU 上运行时，推理时间从 72.2 秒缩短到 10.2 秒，内存使用量从 28GB 降低到 21.7GB。
Hugging Face BlogAI 评分4545 Gradio-Lite：浏览器端无服务器Gradio运行
Gradio-Lite是一个JavaScript库，允许用户在浏览器中直接运行Gradio应用程序，无需服务器端基础设施。它利用Pyodide在浏览器环境中执行Python代码。Gradio-Lite的主要优势包括无服务器部署、低延迟交互和增强的隐私与安全性。然而，目前其最大的局限性是应用程序在浏览器中的初始加载时间较长（通常为5-15秒）。