OpenAI 发布全新改进版嵌入模型
OpenAI 宣布推出新一代嵌入模型。该模型在能力上显著增强，同时具备更高的成本效益，且使用方式更加简便。
今日 2 条
OpenAI NewsAI 评分3838
Hugging Face Blog精选AI 评分6565 Habana Gaudi®2 与 Nvidia A100 80GB 性能对比：加速训练和推理
Habana Gaudi®2 发布，性能比第一代 Gaudi 和 Nvidia A100 80GB 提升约两倍，支持更大模型训练和推理。
推荐理由：原文给出了 Habana Gaudi®2 的性能提升和可用性信息，读者可以据此评估其对现有工作流的影响。
Hugging Face Blog精选AI 评分8585 从人类反馈中进行强化学习：RLHF技术详解
本文详细介绍了从人类反馈中进行强化学习（RLHF）的技术，包括其原理、训练过程、应用案例以及开源工具。
推荐理由：本文详细介绍了RLHF技术及其应用，对理解语言模型的发展具有重要意义。
Hugging Face BlogAI 评分5252 Hugging Face 发布扩散模型教程及直播活动
Hugging Face 发布了关于扩散模型的免费教程，并组织了直播活动，邀请多位专家分享扩散模型的理论和应用。
Hugging Face Blog精选AI 评分7070 Hugging Face发布Contrastive Search文本生成工具
Hugging Face发布了Contrastive Search文本生成工具，该工具基于Transformer架构，旨在提高文本生成的质量和连贯性。
推荐理由：原文介绍了Contrastive Search在文本生成中的优势，读者可以了解其如何改进现有工作流。
Hugging Face BlogAI 评分4040 Hugging Face 🤗 Transformers 指导：多语言语音识别模型 Whisper 微调教程
OpenAI 发布的 Whisper 模型，基于 680,000 小时的标注音频转录数据进行预训练，支持 96 种语言，包括许多低资源语言。本文详细介绍了使用 Hugging Face 🤗 Transformers 对 Whisper 进行微调的步骤，包括数据准备、特征提取、微调和评估。通过微调， Whisper 模型在低资源语言上表现出色，仅需 8 小时微调数据即可达到良好性能。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布评估语言模型偏见的工具 🤗 Evaluate
Hugging Face 发布了 🤗 Evaluate 工具，用于评估大型语言模型的偏见。该工具提供了多种指标和测量方法，帮助用户分析模型在有害语言、语言极性和性别刻板印象等方面的表现。
推荐理由：该工具提供了评估大型语言模型偏见的方法，有助于读者了解模型在偏见方面的表现。
Hugging Face Blog精选AI 评分6060 Hugging Face 优化 BLOOM 模型推理服务器
Hugging Face 优化了 BLOOM 模型的推理服务器，实现了 5 倍的延迟降低和 50 倍的吞吐量提升，并分享了优化过程中的挑战和经验。
推荐理由：本文详细介绍了如何优化 BLOOM 模型的推理服务器，包括多种优化策略和技术，读者可以从中学习到模型优化的方法和经验。
Hugging Face BlogAI 评分4040 Japanese Stable Diffusion：日本特定文本到图像模型发布
rinna Co., Ltd. 开发了名为 "Japanese Stable Diffusion" 的日本特定文本到图像模型，通过在日语标题图像上微调 Stable Diffusion 模型实现。该模型接受日语提示并生成反映日本文化风格的图像，可在 Hugging Face 和 GitHub 上使用。
Hugging Face Blog精选AI 评分7070 Hugging Face 推出零样本评估工具
Hugging Face 推出零样本评估工具，支持研究人员评估大型语言模型，无需编写代码，并支持开源生态和评测基准。
推荐理由：该工具使研究人员能够轻松评估大型语言模型，并支持零样本评估，有助于推动开源生态和评测基准的发展。
Hugging Face Blog精选AI 评分6262 Hugging Face 使用 PyTorch 加速运行大型模型
Hugging Face 开发了工具，利用 PyTorch 特性加载和运行大型模型，即使它们不适合大多数消费级硬件的内存。
推荐理由：原文介绍了如何使用 PyTorch 加速运行大型模型，读者可以了解如何利用这些工具优化模型运行效率。
Hugging Face Blog精选AI 评分8080 Hugging Face 推出 SetFit：无需提示的少样本学习框架
Hugging Face 推出 SetFit，一种高效的少样本学习框架，无需提示即可在少量标记数据下实现高精度，支持多语言，并提供简单易用的训练方法。
推荐理由：SetFit 是一种高效的少样本学习框架，可以在少量标记数据的情况下实现高精度，读者可以了解其工作原理和应用方法。
OpenAI News精选AI 评分8383 OpenAI 发布 Whisper 语音识别模型
OpenAI 发布名为 Whisper 的自动语音识别系统，该模型在多种语言和口音下表现出高鲁棒性。Whisper 已在 GitHub 上开源，支持多语言转录和翻译任务。
推荐理由：官方直接发布了新语音识别模型，提供了具体的准确率数据和开源代码入口。
Hugging Face Blog精选AI 评分7070 使用 DeepSpeed 和 Accelerate 极速推理 BLOOM 模型
Hugging Face 博客介绍了如何使用 DeepSpeed 和 Accelerate 极速推理 BLOOM 模型，包括不同 GPU 配置、量化方案和优化方法。
推荐理由：原文提供了多种加速 BLOOM 模型推理的方法，读者可以了解不同方案的优缺点，选择适合自己需求的方案。
Hugging Face BlogAI 评分4545 Hugging Face 发布 Decision Transformers，实现离线决策强化学习
Hugging Face 推出 Decision Transformers，一种基于 Transformer 的决策模型，通过序列建模实现强化学习。该模型可离线训练，使用预训练权重，并支持自定义数据预处理。在 Gym HalfCheetah 环境中，该模型可学习专家行为，实现半猫奔跑。
Hugging Face Blog精选AI 评分6262 OpenRAIL：迈向开放和负责任的 AI 许可框架
OpenRAIL 是一种针对 AI 模型的开放和负责任的许可框架，旨在解决当前开源许可在 AI 模型使用中的不足，并推动 AI 模型的负责任使用。
推荐理由：OpenRAIL 提出了一种新的 AI 许可框架，旨在促进 AI 模型的开放和负责任的使用，读者可以了解其具体内容和潜在影响。
Hugging Face Blog精选AI 评分6565 使用 🧨 Diffusers 的 Stable Diffusion
Stable Diffusion 是一个文本到图像的潜在扩散模型，由 CompVis、Stability AI 和 LAION 的研究人员和工程师创建。本文介绍了如何使用 🧨 Diffusers 库来使用 Stable Diffusion，解释了模型的工作原理，并深入探讨了如何使用 diffusers 定制图像生成流程。
推荐理由：原文详细介绍了如何使用 Stable Diffusion 模型，并解释了其工作原理，读者可以了解如何将其集成到自己的项目中。
Hugging Face Blog精选AI 评分7070 Hugging Face 推出 LLM.int8() 技术，降低大型语言模型对 GPU 的需求
Hugging Face 推出 LLM.int8() 技术，通过 8 位矩阵乘法降低大型语言模型对 GPU 的需求，提高模型的可访问性，对需要使用大型模型但资源有限的用户具有潜在价值。
推荐理由：Hugging Face 推出 LLM.int8() 技术，通过 8 位矩阵乘法降低大型语言模型对 GPU 的需求，提高模型的可访问性，对需要使用大型模型但资源有限的用户具有潜在价值。
Hugging Face Blog精选AI 评分8282 Hugging Face 发布全球最大开源多语言大模型 BLOOM
Hugging Face 联合 BigScience 项目发布拥有 176B 参数的多语言大模型 BLOOM，支持 46 种自然语言和 13 种编程语言生成。该模型完全透明训练，提供中间检查点与优化器状态，并附带基于 Google TPU 云的推理 API 供快速测试。用户需遵守 Responsible AI License 方可在本地或云端使用，团队计划后续增加指令微调能力并扩展更多语言。
推荐理由：原文披露了 BLOOM 的参数量、多语言支持及训练透明度细节，读者可据此评估其在学术研究与开放部署中的实际可用性。
OpenAI NewsAI 评分5050 OpenAI 发布 GPT-3 与 Codex 新能力：支持编辑与插入
OpenAI 发布新版 GPT-3 和 Codex，新增对现有文本进行编辑或插入内容的能力。此前模型仅能完成文本续写，此次更新扩展了其在文本处理任务中的功能范围。
OpenAI NewsAI 评分3838 OpenAI 构建 Lean 神经定理证明器解决部分数学奥赛题
OpenAI 构建了用于 Lean 的神经定理证明器，成功解决了包括 AMC12、AIME 及两道改编 IMO 题目在内的高中奥赛难题。该模型通过机器学习掌握了处理高难度形式化数学问题的能力。
OpenAI News精选AI 评分7979 OpenAI 发布 InstructGPT 并将其设为 API 默认模型
OpenAI 推出 InstructGPT 模型，该模型在遵循用户意图、真实性和减少毒性方面优于 GPT-3，现已作为默认语言模型部署于 API。这些模型采用人类反馈强化学习技术训练，源自 OpenAI 的对齐研究成果。
推荐理由：OpenAI 官方宣布 InstructGPT 成为 API 默认模型，标志着其通过人类反馈强化学习提升指令遵循能力并降低毒性的技术正式落地。
OpenAI NewsAI 评分1212 WebGPT：通过网页浏览提升语言模型事实准确性
OpenAI 推出 WebGPT，通过对 GPT-3 进行微调，使其能利用基于文本的网页浏览器更准确地回答开放式问题。该方案旨在通过引入外部信息检索能力，改善大语言模型在事实性问答中的表现。
Hugging Face BlogAI 评分4242 Hugging Face Transformers 集成 Perceiver IO：支持多模态的全注意力模型
Hugging Face 将 Perceiver IO 加入 Transformers 库，这是首个能处理文本、图像、音频等任意模态及组合的 Transformer 架构模型。该模型通过在潜在变量上执行自注意力机制，解决了传统 Transformer 在高维数据上的计算与内存扩展性瓶颈。
OpenAI NewsAI 评分3333 OpenAI 训练新系统解决小学数学应用题
OpenAI 训练出一套解决小学数学应用题的新系统，其准确率接近微调 GPT-3 模型的两倍。该系统在测试中得分 55%，约为 9-12 岁儿童平均得分（60%）的 90%。
Hugging Face BlogAI 评分3838 Hugging Face 社区周项目：基于 JAX/Flax 与 10 亿训练对优化句子嵌入模型
Hugging Face 在“使用 JAX/Flax 进行 NLP & CV 的社区周”中开发了 SOTA 句子嵌入模型，利用 7 个 TPU v3-8 和 10 亿句对数据完成训练。该研究采用对比学习（Multiple Negative Ranking Loss），通过扩大 Batch Size、引入 Hard Negatives 及跨数据集混合采样显著提升语义表示质量。
OpenAI NewsAI 评分2727 GPT-4.0 引入人类反馈，提升AI系统评估难度任务
OpenAI 的 GPT-4.0 引入人类反馈机制，以增强对难以评估任务的AI系统监督，旨在提升AI系统的评估准确性。
OpenAI NewsAI 评分5555 OpenAI 成功扩展 Kubernetes 至 7500 节点
OpenAI 成功扩展 Kubernetes 集群至 7500 节点，为大型模型提供可扩展基础设施，支持快速迭代研究。
OpenAI NewsAI 评分3838 OpenAI 发布 CLIP：连接文本与图像的神经网络
OpenAI 推出名为 CLIP 的神经网络，通过自然语言监督高效学习视觉概念。该模型只需提供识别类别的名称，即可应用于任意视觉分类基准，具备类似 GPT-2 和 GPT-3 的“零样本”能力。
OpenAI News精选AI 评分7070 OpenAI 发布 DALL·E：从文本创建图像的产品
OpenAI 发布了名为 DALL·E 的神经网络产品，该产品可以从文本描述中创建图像。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
OpenAI News精选AI 评分7070 OpenAI 授权 GPT-3 技术给 Microsoft
OpenAI 已同意将 GPT-3 技术授权给 Microsoft，用于其自身产品和服务。
推荐理由：OpenAI 将 GPT-3 技术授权给 Microsoft，对行业有重要影响。
Hugging Face BlogAI 评分4040 PyTorch Block Sparse Matrix 扩展发布，提升语言模型效率和精度
Hugging Face 发布了 PyTorch Block Sparse Matrix 扩展，通过稀疏矩阵计算优化神经网络，使模型更小、更快。该扩展基于 CUTLASS，性能比 PyTorch 稀疏矩阵实现快一个数量级，内存消耗减少 4 倍。未来将优化稀疏模式，提升性能。
OpenAI NewsAI 评分3232 GPT-4 学习利用人类反馈进行总结
OpenAI 的 GPT-4 模型通过人类反馈的强化学习，提升了总结能力。
OpenAI NewsAI 评分55 OpenAI 与 AIcrowd、卡内基梅隆大学和 DeepMind 共同举办 NeurIPS 2020 竞赛
OpenAI 与 AIcrowd、卡内基梅隆大学和 DeepMind 共同组织了 NeurIPS 2020 竞赛，采用 Procgen Benchmark 和 MineRL 作为竞赛基准。
OpenAI NewsAI 评分4848 OpenAI 发布 Image GPT：Transformer 模型实现图像生成与分类
OpenAI 推出 Image GPT，证明在像素序列上训练的大型 Transformer 模型可生成连贯的图像补全和样本。该研究建立了样本质量与图像分类准确率之间的相关性，显示其最佳生成模型在无监督设置下具备可与顶级卷积网络相竞争的特征提取能力。
OpenAI News精选AI 评分6262 OpenAI 发布 AI 与效率分析报告
OpenAI 发布报告显示，自 2012 年以来，训练神经网络所需的计算量每 16 个月减少一倍，算法进步带来的收益超过传统硬件效率提升。
推荐理由：原文展示了 AI 训练效率的提升，读者可以了解算法进步对 AI 任务的贡献。
OpenAI NewsAI 评分4242 OpenAI 推出音乐生成神经网络 Jukebox
OpenAI 推出音乐生成神经网络 Jukebox，该模型可生成多种风格和流派的音乐，包括基本的歌唱，并公开了模型权重和代码，同时提供工具供用户探索生成的样本。
OpenAI News精选AI 评分6363 OpenAI 发布 GPT-2 1.5B 参数版本
OpenAI 发布 GPT-2 分阶段发布的最终版本，包含 1.5B 参数的最大模型、代码及权重。尽管自八月以来已有更大语言模型发布，OpenAI 仍坚持原计划以提供完整分阶段发布流程的测试案例，供未来强大模型的开发者参考，并继续与 AI 社区探讨负责任的发布方式。
推荐理由：OpenAI 官方释出 GPT-2 系列最大参数版本及权重，旨在为社区提供检测模型输出的测试案例并推动负责任发布讨论。
OpenAI NewsAI 评分4545 OpenAI 训练神经网络用类人机器人手解决魔方
OpenAI 训练出一对神经网络，利用类人机器人手成功解决魔方。该模型完全在模拟环境中通过强化学习训练，结合了与 OpenAI Five 相同的代码及自动域随机化（ADR）技术。系统能处理训练中未见过的物理干扰情况，证明强化学习可解决需要极高灵巧性的现实世界问题。
OpenAI News精选AI 评分7878 OpenAI 发布新模型
OpenAI 官方宣布发布一款新模型。该消息由 OpenAI News 直接发出，具体模型名称、版本及详细能力参数在提供的材料片段中未明确列出。
推荐理由：OpenAI 官方发布新模型，读者可获取第一手的能力说明与技术细节。