Hugging Face Hub 新增 CO2 排放追踪与筛选功能
Hugging Face Hub 推出基于 `emissions_threshold` 参数的模型搜索功能，用户可按训练产生的 CO2 克数范围筛选模型。同时，`transformers` 库集成 codecarbon，在训练时自动记录碳排放并生成 `emissions.csv` 文件，支持将数据写入模型卡片以提升透明度。
#Hugging Face
#Hugging Face
今日 0 条Hugging Face BlogAI 评分3333
Hugging Face BlogAI 评分2121 Hugging Face 机器学习专家 Lewis Tunstall：从《NLP with Transformers》到模型推理优化
Hugging Face 机器学习工程师 Lewis Tunstall 分享其职业历程，包括与 Leandro von Werra 合著《NLP with Transformers》并加入 HF。他重点介绍了在 transformers 库中实现 ONNX 格式导出功能，以解决大模型部署中的延迟和吞吐量挑战。该工作旨在通过开源工具链优化生产环境下的推理效率，降低 ML 工程师的部署复杂度。
Hugging Face BlogAI 评分3030 Habana Labs 与 Hugging Face 合作加速 Transformer 模型训练
Habana Labs 与 Hugging Face 宣布合作，通过集成 SynapseAI 软件套件与 Optimum 开源库，使开发者仅需少量代码即可在 Gaudi 处理器上加速 Transformer 模型训练。Habana Gaudi 解决方案的性价比比同类方案高 40%，支持从单卡到数千卡的系统扩展，并兼容 TensorFlow 和 PyTorch 框架。
Hugging Face BlogAI 评分2828 Hugging Face Transformers 为何违背 DRY 原则采用单模型文件策略
Hugging Face Transformers 库刻意违背“不要重复自己”（DRY）原则，转而采用“单模型文件策略”，将模型前向传播所需代码集中在一个文件中。这一设计旨在降低开源社区贡献门槛、提升代码可读性，并适应机器学习领域快速演进导致的架构标准难以统一的问题。
Hugging Face BlogAI 评分2828 Hugging Face 将 Decision Transformer 集成至 Transformers 库
Hugging Face 宣布将离线强化学习方法 Decision Transformer 集成到 🤗 transformers 库和 Hub。该模型基于 GPT-2 架构，将 RL 转化为序列建模问题，通过自回归生成动作以达成目标回报。目前提供 Gym 环境中 Hopper、Walker2d 和 Halfcheetah 任务的九个预训练检查点。
Hugging Face BlogAI 评分2323 Hugging Face 专家 Margaret Mitchell 谈伦理 AI 与数据偏见
Hugging Face 研究员 Margaret Mitchell 分享其在 Google 创立 Ethical AI Group 的经历，强调数据偏见对模型输出的影响。她指出 ML 团队需建立包容性文化并完善伦理评估体系，以解决如将爆炸场景误判为美景等严重偏差问题。
Hugging Face BlogAI 评分1212 Hugging Face 宣布启动 AI 研究驻留计划
Hugging Face 推出为期 9 个月的 AI 研究驻留计划，旨在帮助参与者成长为具有影响力的 AI 研究员。驻留人员将与科学团队共同开发机器学习技术并发表成果，申请截止于 2022 年 4 月 3 日。该职位为全职且支持远程工作，鼓励具备编程基础及关注社会正向影响的申请者加入。
Hugging Face BlogAI 评分3333 使用自定义数据集微调 SegFormer 语义分割模型指南
本教程演示如何利用 🤗 transformers 库微调 SegFormer 模型，以构建披萨配送机器人的视觉系统。通过加载 segments/sidewalk-semantic 数据集并应用 ColorJitter 数据增强，模型能精准识别人行道像素。SegFormer 采用无位置编码的分层 Transformer 编码器，在多个基准测试中达到 SOTA 性能。
Hugging Face BlogAI 评分2828 使用 Hugging Face Transformers 和 AWS Inferentia 加速 BERT 推理
教程演示如何利用 AWS Inferentia 芯片将 Hugging Face Transformers 模型转换为 Neuron 格式，以加速 BERT 文本分类推理。AWS Inferentia 提供比 GPU 实例低 80% 的推理成本和高达 2.3 倍的吞吐量。通过 Amazon SageMaker 部署实时推理端点，可实现大规模 Transformer 工作负载的高效运行。
Hugging Face BlogAI 评分3737 Hugging Face datasets 实现图像搜索应用
Hugging Face datasets 库新增图像特征类型，支持结合 sentence_transformers 和 faiss 构建图像搜索应用。该方案利用 ImageFolder loader 加载大英图书馆数字化书籍插图数据集，通过添加 faiss 索引实现高效相似性检索，解决了传统文本数据主导的局限。
Hugging Face BlogAI 评分5050 🤗 Transformers 引入约束束搜索以引导文本生成
Hugging Face 在 🤗 Transformers 中推出约束束搜索功能，允许用户通过 `force_words_ids` 等参数强制模型输出包含特定词汇。该特性解决了传统束搜索无法精准控制生成内容的问题，支持强制单词及析取约束等多种场景，显著提升了如神经机器翻译等任务中对输出格式和内容的可控性。
Hugging Face BlogAI 评分2626 BERT 101：State-of-the-Art NLP 模型详解
BERT 是 Google AI Language 于 2018 年开发的自然语言处理模型，通过双向编码解决 11+ 种常见任务。其训练基于 3.3B 词数据集，利用 Transformer 架构和 64 个 TPU 在 4 天内完成。DistilBERT 等轻量化版本运行速度提升 60%，同时保留超 95% 性能。
Hugging Face BlogAI 评分2828 使用 🤗 Transformers 微调 ViT 进行图像分类
Hugging Face 演示如何利用 🤗 datasets 加载 beans 数据集，并基于 google/vit-base-patch16-224-in21k 模型微调 Vision Transformer (ViT) 以执行图像分类任务。
Hugging Face BlogAI 评分2828 Hugging Face 指南：使用 Python 进行情感分析入门
Hugging Face 发布 Python 情感分析入门指南，介绍如何利用 `transformers` 库中的预训练模型快速实现文本极性分类。该 Hub 提供超过 215 个公开的情感分析模型，支持通过 5 行代码调用默认或特定模型（如 Twitter-roberta-base-sentiment）。用户还可基于自有数据微调模型以提升特定场景下的准确率。
Hugging Face BlogAI 评分3636 如何在 Hugging Face Transformers 中利用 Wav2Vec2 和 CTC 架构处理长音频语音识别
针对 Wav2Vec2 在长音频上因注意力机制复杂度导致内存溢出问题，本文提出利用 CTC 架构特性实施带步长的分块推理。通过 `chunk_length_s` 参数对重叠音频块进行推理并丢弃边缘 logits，可在有限硬件下实现高质量自动语音识别。该方法同样适用于集成语言模型的增强版模型及实时推理场景。
Hugging Face BlogAI 评分3535 Hugging Face Hub 搜索功能增强：huggingface_hub 库新增 ModelSearchArguments 与 ModelFilter
huggingface_hub 库引入 ModelSearchArguments 和 ModelFilter，简化在 Hugging Face Hub 上通过代码搜索模型和数据集的流程。ModelSearchArguments 提供人类可读的参数映射，消除手动构造查询字符串的试错成本；ModelFilter 支持处理包含多任务、多数据集及多框架兼容性的复杂组合查询。
Hugging Face BlogAI 评分3030 Hugging Face Hub 集成 Stable-Baselines3
Hugging Face Hub 正式集成 PyTorch 深度强化学习库 Stable-Baselines3，支持用户托管和加载训练好的智能体模型。开发者可通过 `huggingface_sb3` 库轻松下载社区预训练模型或上传自训模型至 Hub。未来计划扩展 RL-baselines3-zoo 集成及 Decision Transformers 实现。
Hugging Face BlogAI 评分1515 Hugging Face Infinity 在 Intel Xeon CPU 上实现毫秒级延迟案例研究
Hugging Face Infinity 在 Amazon EC2 C6i（Intel Ice Lake）实例上运行 DistilBERT 模型，相比 vanilla transformers 实现最高 800% 的延迟与吞吐量提升。该方案通过容器化部署优化推理管线，支持特征提取、排序等任务，但已于 2022 年 12 月停止作为商业推理解决方案提供。
Hugging Face BlogAI 评分4545 Hugging Face Transformers 支持结合 n-gram 语言模型提升 Wav2Vec2 语音识别效果
🤗 Transformers 库现已集成 Kensho Technologies 的 pyctcdecode，支持将 n-gram 语言模型与微调后的 Wav2Vec2 检查点结合使用。该功能旨在解决纯 CTC 解码在拼写准确性上的不足，通过引入外部语言模型显著提升语音转写质量，尤其适用于训练数据较少（如仅 10 分钟音频）的场景。
Hugging Face BlogAI 评分2323 使用 Hugging Face Transformers 和 Amazon SageMaker 部署 GPT-J 6B 进行推理
通过 `torch.save`/`torch.load` 替代默认加载方式，GPT-J 6B 模型加载时间从 83 秒降至 7.7 秒，提速约 10.5 倍。该优化使模型能在 Amazon SageMaker 的 60 秒请求限制内完成实时推理。开发者可利用 NVIDIA T4 GPU（月成本约 $500）实现可扩展的生产环境部署。
Hugging Face BlogAI 评分2626 使用 AutoNLP 和 Prodigy 构建主动学习流程
Hugging Face 的 AutoNLP 与 Explosion 的 Prodigy 可协同构建主动学习管道，实现迭代标注、重训练及部署。在 BBC News 数据集上，AutoNLP 自动微调模型达到 98.67% 分类准确率，单模型训练成本低至 $10。Prodigy 支持 NER 等任务的实时人工标注，通过脚本转换数据格式后接入 AutoNLP 进行自动化训练。
Hugging Face BlogAI 评分5555 Hugging Face 收购 Gradio
Hugging Face 正式收购开源库 Gradio，旨在进一步降低机器学习的可访问性。Gradio 自 2019 年发布以来已支持创建超过 30 万个演示应用，此次合并将结合 Hugging Face 的模型分发能力与 Gradio 的快速界面构建工具，使非技术用户也能通过浏览器轻松使用、调试和分享机器学习模型。
Hugging Face BlogAI 评分4242 Hugging Face Transformers 集成 Perceiver IO：支持多模态的全注意力模型
Hugging Face 将 Perceiver IO 加入 Transformers 库，这是首个能处理文本、图像、音频等任意模态及组合的 Transformer 架构模型。该模型通过在潜在变量上执行自注意力机制，解决了传统 Transformer 在高维数据上的计算与内存扩展性瓶颈。
Hugging Face BlogAI 评分4848 Hugging Face 从零训练 CodeParrot 🦜 指南
Hugging Face 发布教程，演示如何从零开始训练名为 CodeParrot 🦜 的 Python 代码生成模型。该模型基于 GPT-2 large 架构（1.5B 参数），使用经过清洗去重的 50GB GitHub Python 数据集进行训练。通过自定义 tokenizer 和 🤗 Accelerate 库，实现了高效的大规模代码补全能力构建。
Hugging Face BlogAI 评分2828 Hugging Face 推出首个 ML-Agents 环境 Snowball Fight
Hugging Face 发布首个基于 Unity ML-Agents 的深度强化学习环境 Snowball Fight，该游戏已托管于 Hugging Face Spaces。团队计划构建开源生态，支持用户分享自定义环境与模型，并将推出采用 MA-POCA 算法的 2vs2 协作版本及教程。
Hugging Face BlogAI 评分2828 Hugging Face Optimum 支持 Graphcore IPU 加速 Transformer 模型入门
Hugging Face 推出 Optimum 开源库，联合 Graphcore 实现 BERT 在 Intelligence Processing Unit (IPU) 上的优化与加速。开发者可通过安装 `optimum[graphcore]` 并配置 Poplar SDK，利用 PyTorch 接口在 IPU 上轻松训练、微调及部署 Transformer 模型，显著降低推理延迟。
Hugging Face BlogAI 评分5050 Hugging Face 推出 Data Measurements Tool：用于数据集分析与比较的交互式工具
Hugging Face 发布开源 Python 库及无代码界面 Data Measurements Tool，支持在线构建、测量和比较数据集。该工具基于 Dataset 和 Spaces Hubs 与 Streamlit 开发，提供描述性统计、分布统计及 Zipf 定律符合度等指标，帮助用户识别数据缺失、重复值及标签不平衡问题。
Hugging Face BlogAI 评分2727 利用 Intel 技术加速 PyTorch 分布式微调
Hugging Face 展示如何利用 Intel Xeon Scalable CPU 集群加速 PyTorch 分布式训练。通过集成 Intel AVX-512、VNNI 指令集及 oneCCL 通信库，在 BERT 模型 MRPC 数据集微调任务中实现显著提速。该方案适用于迁移学习场景，能在控制成本的同时优化短周期训练作业的性能。
Hugging Face BlogAI 评分4040 使用 🤗 Transformers 微调 XLS-R 进行低资源 ASR
Hugging Face 发布教程，演示如何使用 🤗 Transformers 微调 Wav2Vec2-XLS-R-300M 模型进行低资源自动语音识别。该模型基于 CTC 算法，在仅含约 4 小时验证数据的 Common Voice 数据集上训练，并使用词错误率（WER）评估性能。
Hugging Face BlogAI 评分2626 Hugging Face 解析 Intel Ice Lake Xeon CPU 上 BERT 类模型推理优化
Hugging Face 详解利用 Intel oneAPI、oneDNN 及 IPEX 等软件栈优化 BERT 类模型在 Ice Lake Xeon CPU 上的推理性能。相比 Cascade Lake，Ice Lake 通过硬件指令与软件协同实现 NLP 任务推理速度提升最高达 75%。
Hugging Face BlogAI 评分1919 Hugging Face 课程第二部分发布暨社区活动
Hugging Face 将于11月15日发布课程第二部分，涵盖 token 分类、语言建模等 NLP 任务及 🤗 Datasets 和 🤗 Tokenizers 工具。配套举办两天社区活动，包含专家讲座与模型微调团队项目，参与者可获证书。AWS 通过 Amazon SageMaker 提供免费算力支持。
Hugging Face BlogAI 评分2828 质疑大模型“新摩尔定律”：Megatron-Turing NLG 530B 成本与能耗过高，建议采用蒸馏与小模型
Microsoft 和 NVIDIA 推出的 Megatron-Turing NLG 530B 虽参数巨大，但训练需耗资近 $100 million 且碳足迹显著。文章主张放弃盲目追求超大模型，转而使用 DistilBERT、T0 等经知识蒸馏或更小的预训练模型，以在保持性能的同时大幅降低硬件成本与能耗。
Hugging Face BlogAI 评分3838 Hugging Face 社区周项目：基于 JAX/Flax 与 10 亿训练对优化句子嵌入模型
Hugging Face 在“使用 JAX/Flax 进行 NLP & CV 的社区周”中开发了 SOTA 句子嵌入模型，利用 7 个 TPU v3-8 和 10 亿句对数据完成训练。该研究采用对比学习（Multiple Negative Ranking Loss），通过扩大 Batch Size、引入 Hard Negatives 及跨数据集混合采样显著提升语义表示质量。
Hugging Face BlogAI 评分2626 Hugging Face 倡导机器学习即代码与 MLOps 实践
Hugging Face 主张将软件工程最佳实践应用于机器学习，推动“软件吞噬机器学习”而非替代开发者。文章指出 Transformer 已成为通用架构，并引用 Kaggle 调查称 75% 受访者使用云服务，建议企业雇佣具备 ML 知识的 DevOps 工程师以构建稳健的生产级工作流。
Hugging Face BlogAI 评分2828 使用遥感卫星图像和字幕微调 CLIP
团队利用 RSICD、UCM 和 Sydney 数据集对 OpenAI 的 CLIP 模型进行微调，以优化其在遥感卫星图像领域的表现。该模型通过对比学习建立图像与文本的联合嵌入空间，支持基于文本查询搜索大规模卫星图像集合。
Hugging Face BlogAI 评分3333 使用 Gradio 在 Hugging Face Spaces 中展示项目
Gradio 集成 Inference API，支持通过几行代码在 Hugging Face Hub 上演示模型。开发者可利用 Spaces 免费托管 Python ML 应用，并借助 Series 功能混合搭配不同模型（如翻译与生成）。该方案兼容 Transformers、spaCy 等框架及多种模态任务。
Hugging Face BlogAI 评分2828 Hugging Face Spaces 使用 Streamlit 托管模型与数据集指南
Hugging Face Spaces 支持通过 Streamlit 托管机器学习模型演示和数据集可视化。开发者可利用 `st.text_area`、`slider` 等组件构建如“Write with Transformer”的交互界面，并借助 🤗 Datasets 的 streaming 功能处理大规模数据。
Hugging Face BlogAI 评分2323 Hugging Face 夏季回顾：Hub 模型数破 1.6 万及 Spaces 新功能
Hugging Face Hub 公共模型仓库数量从 10,000 增至超 16,000，并推出 Spaces Beta、TensorBoard 集成及新评估指标功能。
Hugging Face BlogAI 评分4242 Hugging Face 发布 Optimum：面向大规模 Transformer 的开源优化工具包
Hugging Face 推出开源库 Optimum，旨在简化 Transformer 模型在特定硬件上的训练与推理性能优化。该工具包通过与 Intel 等硬件合作伙伴协作，抽象了量化、稀疏化等加速技术的复杂性，帮助工程师高效部署 BERT、ViT 等模型。
Hugging Face BlogAI 评分2626 Hugging Face 与 Graphcore 合作推出 IPU 优化的 Transformers
Hugging Face 联合 Graphcore 启动硬件合作伙伴计划，通过 Optimum 工具库提供针对 Intelligence Processing Unit (IPU) 优化的 Transformer 模型。开发者可借助 Poplar SDK 在 PyTorch/TensorFlow 框架下无缝部署 BERT 等 SOTA 模型，实现生产级加速并降低代码复杂度。