Hugging Face Hub 集成 fastai,支持一行代码分享模型
Hugging Face Hub 正式集成 fastai,用户可通过 `push_to_hub_fastai` 函数以单行 Python 代码上传 Learner 对象。该功能基于 `huggingface_hub` 库实现,支持自动创建模型卡片及 Git 版本控制。开发者可使用 `from_pretrained_fastai` 从 Hub 加载预训练模型进行推理或迁移学习。
Hugging Face Hub 正式集成 fastai,用户可通过 `push_to_hub_fastai` 函数以单行 Python 代码上传 Learner 对象。该功能基于 `huggingface_hub` 库实现,支持自动创建模型卡片及 Git 版本控制。开发者可使用 `from_pretrained_fastai` 从 Hub 加载预训练模型进行推理或迁移学习。
Hugging Face Hub 推出基于 `emissions_threshold` 参数的模型搜索功能,用户可按训练产生的 CO2 克数范围筛选模型。同时,`transformers` 库集成 codecarbon,在训练时自动记录碳排放并生成 `emissions.csv` 文件,支持将数据写入模型卡片以提升透明度。
Hugging Face 宣布将离线强化学习方法 Decision Transformer 集成到 🤗 transformers 库和 Hub。该模型基于 GPT-2 架构,将 RL 转化为序列建模问题,通过自回归生成动作以达成目标回报。目前提供 Gym 环境中 Hopper、Walker2d 和 Halfcheetah 任务的九个预训练检查点。
OpenAI 在 API 中新增 embeddings 端点,支持文本和代码的嵌入生成。该功能旨在简化语义搜索、聚类、主题建模及分类等自然语言处理任务。
Hugging Face Hub 正式集成 PyTorch 深度强化学习库 Stable-Baselines3,支持用户托管和加载训练好的智能体模型。开发者可通过 `huggingface_sb3` 库轻松下载社区预训练模型或上传自训模型至 Hub。未来计划扩展 RL-baselines3-zoo 集成及 Decision Transformers 实现。
Hugging Face Infinity 在 Amazon EC2 C6i(Intel Ice Lake)实例上运行 DistilBERT 模型,相比 vanilla transformers 实现最高 800% 的延迟与吞吐量提升。该方案通过容器化部署优化推理管线,支持特征提取、排序等任务,但已于 2022 年 12 月停止作为商业推理解决方案提供。
OpenAI 推出 GPT-3 应用定制功能,支持通过单条命令完成微调。该特性旨在简化开发者对大语言模型的适配流程,降低自定义模型的技术门槛。
Hugging Face 发布首个基于 Unity ML-Agents 的深度强化学习环境 Snowball Fight,该游戏已托管于 Hugging Face Spaces。团队计划构建开源生态,支持用户分享自定义环境与模型,并将推出采用 MA-POCA 算法的 2vs2 协作版本及教程。
Hugging Face 发布开源 Python 库及无代码界面 Data Measurements Tool,支持在线构建、测量和比较数据集。该工具基于 Dataset 和 Spaces Hubs 与 Streamlit 开发,提供描述性统计、分布统计及 Zipf 定律符合度等指标,帮助用户识别数据缺失、重复值及标签不平衡问题。
OpenAI 宣布其 API 现已无需等待名单即可直接使用。官方称这一更广泛的可用性得益于安全方面的进展。
Hugging Face 推出开源库 Optimum,旨在简化 Transformer 模型在特定硬件上的训练与推理性能优化。该工具包通过与 Intel 等硬件合作伙伴协作,抽象了量化、稀疏化等加速技术的复杂性,帮助工程师高效部署 BERT、ViT 等模型。
OpenAI 发布改进版 Codex,该 AI 系统可将自然语言转换为代码。新版本即日起通过 API 以私有测试形式开放。
OpenAI 正式发布 Triton 1.0,这是一个用于编写高性能深度学习原语的语言和编译器。Triton 允许开发者使用类似 Python 的语法直接操作 GPU,无需掌握 CUDA C++ 或复杂的底层优化技巧,即可实现接近专家手写代码的性能。该工具旨在简化自定义神经网络层、注意力机制及优化器的开发流程,目前已在 GitHub 开源并支持 PyTorch 集成。
spaCy 正式接入 Hugging Face Hub,用户可通过 `spacy-huggingface-hub` 库一键上传模型并自动生成元数据。Hub 内已收录超 60 个来自 spaCy 3.1 版本的官方模型,支持通过 pip 直接安装及调用推理 API。目前集成提供 NER 组件的交互式 Widget,文本分类与 POS 标注功能即将上线。
Hugging Face 发布新的 Inference DLCs,支持通过一行代码将模型部署至 Amazon SageMaker。用户可直接调用 Model Hub 中 10,000+ 公开模型或已训练模型,利用 SageMaker Python SDK 快速构建具备自动扩缩容与监控能力的生产级推理端点。
Hugging Face Hub 正式集成 Sentence Transformers v2,支持加载超过 90 个覆盖 100 多种语言的预训练模型。Hub 新增特征提取和句子相似度两个交互组件,并提供 Inference API 端点供程序化调用。用户可通过 `save_to_hub` 快速分享模型,自动生成的模型卡片将展示架构详情及使用示例。
Hugging Face 推出 🤗 Accelerate,让 PyTorch 训练脚本在任意设备上运行。该库通过极简 API 抽象分布式训练与混合精度代码,支持多 GPU、TPU 及 fairscale、DeepSpeed 等方案。
GPT-3 通过 API 为超过 300 个应用提供搜索、对话、文本补全和其他高级 AI 功能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 通过优化 🤗 Transformers 和 Tokenizers 库,为 API 客户实现 Transformer 模型推理速度提升 100 倍。第一阶段利用 Rust 实现的 Tokenizer 缓存及注意力矩阵降维技术获得 10 倍加速;第二阶段针对特定硬件进行图优化、层融合及量化编译,再获 10 倍性能增益。
OpenAI 发布了新的 API 接口,用于访问 OpenAI 开发的 AI 模型。
OpenAI 推出 Microscope,提供八个视觉“模式生物”模型中所有重要层和神经元的可视化集合。该工具旨在简化对神经网络内部特征的分析,帮助研究社区理解这些复杂系统。
OpenAI 发布 Safety Gym,这是一套用于测量强化学习智能体在训练过程中遵守安全约束进度的环境和工具。该套件旨在帮助开发者评估 AI 智能体如何在满足安全限制的前提下进行有效训练。
OpenAI Five 将于太平洋时间4月13日上午11:30举办最后一场现场直播活动。
OpenAI 开源了一款用于机器人仿真的高性能 Python 库,该库基于 MuJoCo 引擎构建。这一工具源自 OpenAI 过去一年的机器人研究积累,旨在提升物理仿真的运行速度。
OpenAI 推出一种完全在模拟环境中训练并部署于物理机器人的系统,该系统能在观看一次任务演示后学会执行新任务。
OpenAI 发布了开源机器人模拟软件 Roboschool。该工具与 OpenAI Gym 集成,旨在为机器人仿真提供基础支持。
OpenAI 创建了世界上第一个完全在模拟环境中训练并部署到物理机器人上的垃圾检测 AI。该模型实现了从纯虚拟仿真训练到真实物理世界机器人应用的直接迁移,展示了 AI 在实体环境中的新能力。
OpenAI 发布 Universe,这是一个用于测量和训练 AI 通用智能的软件平台。该平台利用全球范围内的游戏、网站及其他应用程序作为数据源进行工作。
OpenAI 发布强化学习算法开发工具包 OpenAI Gym 的公开测试版。该工具包含从模拟机器人到 Atari 游戏的多种环境,并提供一个用于比较和复现结果的平台。