Gradio 如何构建 MCP 服务器
Gradio 最新版本支持构建 Model Context Protocol (MCP) 服务器，使 Gradio 应用成为 LLM 的工具。通过简单的 Python 代码，Gradio 可将任何 Python 函数转换为 LLM 可用的工具，如字母计数器。Gradio 还支持资源（数据）和提示（模板），并允许创建仅存在于 MCP 服务器中的函数。
#MCP/工具调用
#MCP/工具调用
今日 0 条Hugging Face BlogAI 评分4242
Hugging Face BlogAI 评分4242 Hugging Face Diffusers 库中的 Quanto 工具提升 Transformer-based Diffusion 模型内存效率
Hugging Face 的 Diffusers 库利用 Quanto 工具，通过量化技术显著提升了 Transformer-based Diffusion 模型的内存效率，例如 PixArt-Sigma、Stable Diffusion 3 和 Aura Flow 模型，在保持几乎无质量损失的情况下，内存使用量减少了约 30%。
Hugging Face Blog精选AI 评分7070 Hugging Face 推出 LiveCodeBench 评测基准，全面评估代码 LLMs
Hugging Face 推出 LiveCodeBench 评测基准，基于 LiveCodeBench，由加州大学伯克利分校、麻省理工学院和康奈尔大学的研究人员开发，用于衡量 LLMs 的代码生成能力。
推荐理由：LiveCodeBench 评测基准的发布为代码 LLMs 提供了更全面、无污染的评估，有助于了解不同模型的能力和泛化能力。
Hugging Face BlogAI 评分4545 TRL IPO 纠正：直接偏好优化方法在 LLM 预设中的评估
Hugging Face 的 TRL 团队对 IPO 方法在 TRL 中的实现进行了纠正，并重新运行了实验，结果显示 IPO 与 DPO 相当，优于 KTO。评估了三种无强化学习的 LLM 对齐算法：DPO、IPO 和 KTO，在两个经过监督微调的 7b LLM 上进行实验，发现关键超参数需要调整以实现最佳结果。
Hugging Face BlogAI 评分4040 aMUSEd：高效的非扩散文本到图像生成模型
aMUSEd 是一个基于掩码图像模型（MIM）的高效文本到图像生成模型，其参数量约为 800M，速度快，支持微调。与 MUSE 类似，aMUSEd 在风格迁移方面表现出色，但图像质量不如最先进的模型。该模型以开源许可证发布，鼓励社区探索非扩散框架。
Hugging Face BlogAI 评分4040 Stable Diffusion XL (SDXL) 模型优化：提升推理速度与降低内存使用
Stability AI 推出的最新模型 SDXL 在生成高质量图像方面具有优势，但模型规模较大。本文介绍了如何通过使用 fp16 精度、内存高效注意力机制和 torch.compile API 来优化 SDXL，从而提高推理速度并降低内存使用。优化后的 SDXL 模型在 A100 GPU 上运行时，推理时间从 72.2 秒缩短到 10.2 秒，内存使用量从 28GB 降低到 21.7GB。
Hugging Face BlogAI 评分4242 Llama 2 70B 模型使用 PyTorch FSDP 进行微调
Hugging Face 博客介绍了如何使用 PyTorch FSDP 和相关最佳实践来微调 Llama 2 70B 模型。文章详细说明了 FSDP 的工作原理，并针对微调过程中遇到的内存和速度问题提出了解决方案，包括优化模型加载和状态字典存储方式。
Hugging Face BlogAI 评分3232 Hugging Face 指导：使用生成式 AI 工作流程创建实用 3D 资产
Hugging Face 发布了使用生成式 AI 工作流程创建实用 3D 资产的指南，通过 Shap-E 模型生成 3D 模型，并使用 Dream Textures 添加纹理，实现低保真风格的 3D 资产制作。
Hugging Face BlogAI 评分4545 MMS Adapter 模型微调助力低资源语言语音识别
Hugging Face 博客介绍了如何使用 MMS Adapter 模型进行低资源语言语音识别的微调，该模型在 10-20 分钟的微调后实现了惊人的低词错误率。MMS 模型能够识别和转录 1100 多种语言，包括濒危语言，有助于保护语言多样性。
Hugging Face BlogAI 评分4040 Graphormer 模型在图分类中的应用教程
Microsoft 的 Graphormer 模型在 Hugging Face Transformers 库中被用于图分类任务，本文介绍了如何使用该模型进行图分类，包括数据加载、预处理、模型加载和微调等步骤。Graphormer 模型通过预训练和微调，能够有效地对图数据进行分类。
Hugging Face BlogAI 评分4040 Hugging Face 与 Flower 联合实现联邦学习教程
本教程展示了如何利用 Hugging Face 和 Flower 在多个客户端上联合训练语言模型。以对 IMDB 评分数据集进行序列分类为例，微调预训练的 Transformer 模型（distilBERT），以检测电影评分是正面还是负面。
Hugging Face BlogAI 评分3535 AI for Game Development: Creating a Farming Game in 5 Days. Part 2 - ChatGPT 在游戏开发中的应用：5天内创建一个农场游戏（第二部分）
在5天内使用AI工具创建一个完整的农场游戏，本教程介绍了如何利用ChatGPT等AI工具进行游戏设计，包括作物多样性、挑战性进阶系统、动态交互环境、社交和多人游戏功能以及沉浸式故事或主题。同时，探讨了语言模型的工作原理及其在游戏开发中的应用，并讨论了ChatGPT的局限性。
Hugging Face Blog精选AI 评分8585 从人类反馈中进行强化学习：RLHF技术详解
本文详细介绍了从人类反馈中进行强化学习（RLHF）的技术，包括其原理、训练过程、应用案例以及开源工具。
推荐理由：本文详细介绍了RLHF技术及其应用，对理解语言模型的发展具有重要意义。
Hugging Face BlogAI 评分4545 Hugging Face 发布 Decision Transformers，实现离线决策强化学习
Hugging Face 推出 Decision Transformers，一种基于 Transformer 的决策模型，通过序列建模实现强化学习。该模型可离线训练，使用预训练权重，并支持自定义数据预处理。在 Gym HalfCheetah 环境中，该模型可学习专家行为，实现半猫奔跑。
Hugging Face BlogAI 评分3737 Hugging Face Transformers 与 Habana Gaudi 联合预训练 BERT-base 模型教程
Hugging Face 发布教程，介绍如何使用 Habana Gaudi 基于的 DL1 实例在 AWS 上从零开始预训练 BERT-base 模型，利用 Gaudi 的成本性能优势。教程使用 Hugging Face Transformers、Optimum Habana 和 Datasets 库，通过掩码语言建模预训练 BERT-base 模型。
OpenAI NewsAI 评分4040 CLIP 模型中的多模态神经元发现
OpenAI 发现 CLIP 模型中的神经元能够对概念进行多模态识别，无论以文字、符号还是概念形式呈现，这有助于解释 CLIP 在分类视觉概念时的准确性，并推动对模型学习关联和偏差的理解。