🤗 Datasets 新增音频与视觉文档及 ImageFolder 功能
Hugging Face 为 🤗 Datasets 库发布新的音频和图像数据集文档,更新 Quickstart 并引入 `to_tf_dataset` 函数以简化 TensorFlow 数据转换。新增 `ImageFolder` 构建器支持无需编写脚本即可加载图像分类、描述及目标检测数据集。团队计划未来推出 `AudioFolder` 以进一步标准化音频数据处理流程。
Hugging Face 为 🤗 Datasets 库发布新的音频和图像数据集文档,更新 Quickstart 并引入 `to_tf_dataset` 函数以简化 TensorFlow 数据转换。新增 `ImageFolder` 构建器支持无需编写脚本即可加载图像分类、描述及目标检测数据集。团队计划未来推出 `AudioFolder` 以进一步标准化音频数据处理流程。
🤗 transformers 库现已支持使用 XLA 编译 TensorFlow 进行文本生成,速度最高提升 100 倍且快于 PyTorch。该功能允许用户通过 `do_sample`、`temperature` 及 `num_beams` 等参数灵活控制生成策略,在保持模型可访问性与效率的同时显著优化推理性能。
Hugging Face 团队演示如何利用 TF Serving 在本地部署 Transformers 库中的 TensorFlow Vision Transformer (ViT) 模型,使其暴露为 REST 或 gRPC 端点。
Hugging Face 在深度强化学习课程中介绍 Advantage Actor Critic (A2C) 算法,该混合架构结合基于策略与基于价值的方法以降低 Reinforce 的高方差。文章演示了如何使用 Stable-Baselines3 在 PyBullet 机器人环境中训练双足行走和蜘蛛智能体。
Hugging Face 演示了利用动态对抗数据收集(DADC)提升 MNIST 手写数字识别模型的鲁棒性。通过 🤗 Spaces 让用户绘制数字以欺骗模型,并标记这些对抗样本用于后续训练。该方法旨在解决静态基准测试饱和与偏差问题,构建更贴合人类使用场景的可靠模型。
Hugging Face 公布 176B 参数多语言模型 BLOOM 的训练工程细节。该模型基于 GPT3 架构,使用 Megatron-DeepSpeed 框架在 384 块 NVIDIA A100 80GB GPU 上耗时 3.5 个月完成训练。项目处理了涵盖 46 种语言的 350B tokens 数据集,最终模型词汇表大小为 250,680。
文章详解如何利用 Sentence Transformers 库的 msmarco-MiniLM-L-6-v3 模型生成歌词嵌入,并通过语义搜索匹配文本提示以创建歌单。针对长文本截断问题,采用将歌曲拆分为小节(verses)分别编码的策略提升检索效果。最终结合 Gradio Blocks API 搭建多步交互演示应用,实现从输入提示到输出相关歌曲列表的完整流程。
Hugging Face 联合 BigScience 项目发布拥有 176B 参数的多语言大模型 BLOOM,支持 46 种自然语言和 13 种编程语言生成。该模型完全透明训练,提供中间检查点与优化器状态,并附带基于 Google TPU 云的推理 API 供快速测试。用户需遵守 Responsible AI License 方可在本地或云端使用,团队计划后续增加指令微调能力并扩展更多语言。
推荐理由:原文披露了 BLOOM 的参数量、多语言支持及训练透明度细节,读者可据此评估其在学术研究与开放部署中的实际可用性。
Hugging Face 发布 Twitter 情感分析教程,指导用户利用 Inference API 或 Zapier 对推文进行正负中性分类。该方案支持代码与非代码用户实时规模化处理数据,助力企业监测品牌提及并获取客户反馈洞察。
Hugging Face 在深度强化学习课程中讲解策略梯度方法,并使用 PyTorch 从零实现 Reinforce 算法。该方法直接优化策略而非估计价值函数,支持随机策略并适用于连续动作空间。文中通过 CartPole-v1、PixelCopter 和 Pong 环境测试其鲁棒性。
Hugging Face 发布指南,指导新手利用 Sentence Transformers (ST) 库完成从教程到首个自主项目的过渡。ST 能将文本转换为向量嵌入,通过内置的 Cosine Similarity 函数实现语义搜索与相似度比较。该库支持 msmarco-MiniLM-L-6-v3 等模型,GitHub 星标近 8,000,是学习聚类、知识蒸馏及构建聊天机器人等应用的高效入口。
Hugging Face 推出 Evaluation on the Hub,这是一项由 AutoTrain 驱动的新功能,允许用户在 Hub 上无需编写代码即可对任意模型在任意数据集上进行评估。该工具通过 Pull Request 自动将验证后的性能结果写入模型卡片元数据,并提供排行榜以辅助模型对比。目前支持文本分类、命名实体识别等任务,旨在解决现代 AI 评估中的繁琐与可复现性问题。
Hugging Face Accelerate 库通过集成 DeepSpeed ZeRO 特性,支持无需修改代码即可启用分布式训练。在 DeBERTa-XL (900M) 微调任务中,DeepSpeed ZeRO Stage-2 将最大 batch size 从 DDP 的 8 提升至 40,实现 5 倍数据容纳量及约 3.5 倍训练速度提升,且 F1 分数达 0.936。
Hugging Face 发布教程演示如何利用开源库 Sentence Transformers 和 Inference API 生成文本及图像 Embeddings。通过调用 `sentence-transformers/all-MiniLM-L6-v2` 模型,开发者可构建 FAQ 引擎实现语义搜索。该方案支持免费托管至 Hub,首次请求约需 20 秒加载模型,后续推理速度显著提升。
Hugging Face 提供三种将 Transformers 模型转为 ONNX 的方法,以 `distilbert-base-uncased-finetuned-sst-2-english` 为例演示。
Intel 加入 Hugging Face 硬件合作伙伴计划,双方基于开源库 Optimum Intel 协作优化 Transformers 模型的训练、微调和推理性能。该方案利用 Intel Xeon CPU 和 Habana Gaudi 加速器,在 DistilBERT 上实现了个位数毫秒级延迟,且 Habana Gaudi 相比 GPU 提供高达 40% 的性价比优势。
Hugging Face 在深度强化学习课程中讲解 Deep Q-Learning,利用神经网络替代 Q-table 以解决 Atari 环境巨大的状态空间问题。该算法通过 RL-Zoo 框架训练智能体玩 Space Invaders,采用输入预处理、经验回放和 Double DQN 等技术优化训练效率与稳定性。
Hugging Face 博客深入解析去噪扩散概率模型(DDPM)的原理,并基于 Phil Wang 的实现提供分步 PyTorch 代码教程。文章涵盖前向加噪、反向去噪过程、U-Net 架构细节及训练采样流程,最后列举了 DALL-E 2 等后续改进工作。
推荐理由:文章逐步拆解了 DDPM 的数学原理与 PyTorch 实现,提供了从噪声调度到 U-Net 构建的完整代码示例。
Graphcore 与 Hugging Face 扩展 Hugging Face Optimum 库,新增 10 款针对 IPU 优化的 Transformer 模型。
Hugging Face Hub 在 Community 标签页为模型、数据集和 Spaces 上线 Pull Requests 与 Discussions 功能。该更新允许社区成员直接参与讨论及提交代码,无需创建 fork,而是通过自定义 refs 分支简化协作流程。这是 Hub 迄今最大规模的功能升级,旨在促进机器学习领域的开源协作与伦理反馈。
TAPEX 通过让 BART 模型学习执行合成 SQL 查询,实现了无需真实标注数据的高效表格预训练。该模型在 WikiSQL、TabFact、SQA 和 WikiTableQuestions 四个基准测试中均取得 SOTA 成绩,其中 WikiSQL 准确率达 89.6%,TabFact 达 84.2%。
Hugging Face 发布深度强化学习课程第二部分,详解 Q-Learning 算法并指导从零构建智能体。该 off-policy 方法利用 TD 更新动作价值函数,通过 Epsilon Greedy 策略平衡探索与利用。学员将在 Frozen Lake v1 和自动驾驶出租车环境中训练首个 RL 智能体,为后续 Deep Q-Learning 奠定基础。
Sempre Health 借助 Hugging Face Expert Acceleration Program 构建 NLP 管道,实现入站消息自动分类与回复。该方案上线后,超过 20% 的入站消息由新系统自动处理,显著提升了业务可扩展性并优化了团队工作流。
Hugging Face 多模态学习团队于2022年5月发布伦理章程,将透明度、开放性、公平性等原则纳入机器学习生命周期。该文档旨在应对数据隐私与算法偏见风险,明确禁止生成有害内容或侵犯隐私,并承诺通过GitHub追踪更新以接受社区反馈。
Hugging Face 发布深度强化学习课程第二部分,详解基于价值的方法及 Q-Learning 算法基础。内容涵盖状态-动作值函数、Bellman 方程以及蒙特卡洛与时序差分学习的区别。该教程旨在为后续实现 Frozen-Lake 和 Taxi 环境中的智能体及 Deep Q-Learning 奠定理论基础。
Hugging Face 研究科学家 Sasha Luccioni 在播客中分享其关于机器学习模型伦理及社会影响的工作。她担任 Big Science Workshop 碳足迹工作组联合主席,致力于评估 AI 的环境成本,包括训练能耗及制造过程排放。Luccioni 强调数据策划、多语言支持及透明度对构建负责任的大语言模型至关重要。
Hugging Face 推出 Fellowship 计划,旨在支持对开源机器学习生态有卓越贡献的个人。该计划通过提供计算资源、官方认可及物资奖励赋能关键贡献者,入选者由团队或现有 Fellow 提名而非申请。首批 Fellow 包括创建西班牙语 NLP 社区及贡献超 300 个模型的开发者,学生可另行申请 Student Ambassador Program。
Hugging Face 发布 Gradio 3.0,对前端进行了彻底重构并引入了新的低级别 API Gradio Blocks。新版本采用 Svelte 技术优化了加载速度和界面设计,支持拖拽 CSV 等交互改进,并通过 Blocks 允许开发者在 Python 中直接构建具有复杂布局、多步数据流和动态组件属性的自定义 Web 应用。
Hugging Face Blog 推出《机器学习总监洞察》系列第二部分,聚焦 SaaS 行业。文章收录 Salesforce、Amplitude 等公司 ML 总监观点,探讨 NLP 路由、预测优化及数据孤岛挑战。内容涵盖将传统规则系统转为 ML 方案以降低代码复杂度,以及利用简单模型解决业务问题的经验。
Hugging Face 宣布开启首个学生大使计划,旨在推动机器学习民主化并支持校园社区建设。申请者需在 2022 年 6 月 13 日前提交申请,入选者将获得官方认证、Hugging Face 团队的工作坊支持及最新项目洞察等资源。该计划将于 6 月 30 日正式启动,持续至 12 月 31 日结束。
Hugging Face Optimum 1.2 版本新增对 Transformers pipelines 的推理支持,允许用户通过替换类名无缝切换至 ONNX Runtime 加速后端。
Hugging Face 宣布获得 1 亿美元 C 轮融资,由 Lux Capital 领投,Sequoia 和 Coatue 等机构参与。该平台目前托管了超过 10 万个预训练模型和 1 万个数据集,已有逾 1 万家企业使用其服务。这笔资金将用于加倍投入研究、开源项目以及推动 AI 的负责任民主化,同时支持正在进行的 BigScience 多语言大模型训练工作。
推荐理由:Hugging Face 宣布完成由 Lux Capital 领投的 1 亿美元 C 轮融资,资金将用于加强研究、开源产品及负责任地普及 AI。
Hugging Face Hub 正式集成 fastai,用户可通过 `push_to_hub_fastai` 函数以单行 Python 代码上传 Learner 对象。该功能基于 `huggingface_hub` 库实现,支持自动创建模型卡片及 Git 版本控制。开发者可使用 `from_pretrained_fastai` 从 Hub 加载预训练模型进行推理或迁移学习。
Hugging Face 发布免费“Deep Reinforcement Learning Class”课程第一章,系统讲解深度强化学习的理论基础。内容涵盖 RL 框架、马尔可夫决策过程及奖励假设等核心概念,并指导用户利用 Stable Baselines3 等库训练智能体上传至 Hub。
Hugging Face Accelerate 库现已支持 PyTorch FullyShardedDataParallel (FSDP),无需修改代码即可启用。在 GPT-2 XL (1.5B) 训练中,FSDP 结合 CPU Offload 使最大 batch size 达 22,相比 DDP 提升显著且避免 OOM。该功能通过分片优化器状态、梯度及参数,有效降低显存占用以训练大规模模型。
文章演示如何利用 HuggingFace AutoTrain 与 Kili 平台搭建针对 Medium 用户评论的主动学习文本分类管道。AutoTrain 自动化处理数据清洗、模型选择及超参数优化,支持多语言及多种 NLP 任务;Kili 提供协作标注工具以迭代构建高质量数据集。
Hugging Face 推出机器学习总监洞察系列,汇集多位资深总监对医疗、媒体等行业的见解。BuzzFeed 总监 Archi Mitra 指出深度学习推荐与贝叶斯技术正优化媒体个性化及测试效率。强生总监 Li Tan 强调 AI/ML 在制药领域应用广泛,但需解决训练集多样性挑战。
Hugging Face 联合 Habana Labs 推出基于 Habana Gaudi 的 Transformers 训练方案,其价格性能比最新 GPU EC2 实例高 40%。
Hugging Face 发布面向全球的教育计划,旨在通过免费课程和工具降低机器学习门槛。该计划涵盖 NLP、深度强化学习及 Gradio 交互演示等主题,并提供多语言教学套件。Hugging Face 设定了到 2023 年底教会 500 万人的目标,此前已在 16 个国家培训超 1000 名学生。
Hugging Face 发布教程,展示利用其生态工具模拟真实客服场景。文章指导将客户消息过滤定义为文本分类任务,并对比 GLUE、Amazon reviews multi 等数据集以筛选高满意度数据。该方案旨在通过自动化识别最不满意客户,提升响应效率。