Hugging Face 推出 Open CoT Leaderboard
Hugging Face 推出 Open CoT Leaderboard,用于评估大型语言模型在生成有效推理链方面的能力,通过比较带有和不带有思维链提示的准确率差异来衡量模型性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 Open CoT Leaderboard,用于评估大型语言模型在生成有效推理链方面的能力,通过比较带有和不带有思维链提示的准确率差异来衡量模型性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了多用途 Transformer 智能体 Jack of All Trades (JAT),该智能体能够在多个任务上表现出色,包括游戏、机器人控制和简单导航环境中的命令执行。JAT 使用了改进的 Transformer 架构,并集成了多种数据集和专家策略。
推荐理由:原文介绍了 JAT 智能体及其在多个任务上的表现,读者可以了解其能力并评估其对现有工作流的影响。
Hugging Face推出了开放医疗LLM排行榜,旨在评估和比较不同大型语言模型在医疗任务和数据集上的性能。
推荐理由:该论文提出了一个针对医疗领域大型语言模型的评估平台,有助于推动医疗AI的发展。
Meta 发布了 Llama 3 开放式 LLM,包括 8B 和 70B 两种参数规模,支持多种硬件和上下文长度,并提供了多种集成和部署方式。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了 Mixtral 8x22B 开放模型,该模型具有多语言能力、强大的数学及编码能力,并采用 Apache 2.0 开源许可证,读者可以关注其性能和开源对 AI 社区的影响。
推荐理由:Mixtral 8x22B 模型在性能和效率方面达到新标准,具有多语言能力和强大的数学及编码能力,开源发布,读者可以关注其性能和开源对 AI 社区的影响。
Hugging Face 推出 LiveCodeBench 评测基准,基于 LiveCodeBench,由加州大学伯克利分校、麻省理工学院和康奈尔大学的研究人员开发,用于衡量 LLMs 的代码生成能力。
推荐理由:LiveCodeBench 评测基准的发布为代码 LLMs 提供了更全面、无污染的评估,有助于了解不同模型的能力和泛化能力。
Hugging Face 发布了 Idefics2,一款能够处理文本和图像输入并生成文本响应的多模态模型。Idefics2 在视觉问答基准测试中表现出色,并支持多种多模态应用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型,包括开源模型介绍、选择模型的方法、评估基准以及使用transformers库进行推理和微调的示例。
推荐理由:本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型,对了解和利用视觉语言模型有重要参考价值。
Hugging Face Hub 推出 Deploy on Google Cloud 功能,允许用户将数千个开源基础模型轻松部署到 Google Cloud,使用 Vertex AI 或 Google Kubernetes Engine (GKE)。该功能简化了开源生成式 AI 模型的访问和部署流程,为开发者提供了便捷的解决方案。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Google 发布了 CodeGemma 代码大语言模型家族,包括三个版本:2B 基础模型、7B 基础模型和 7B 指令模型。这些模型在 Hugging Face Hub 上提供,并支持与 Google Cloud 和 Inference Endpoints 集成。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 SetFit 模型优化工具,通过 🤗 Optimum Intel 优化,可以加速 SetFit 模型的推理速度,最高可达 7.8 倍。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 Cloudflare Workers AI 集成,为开发者提供无服务器 GPU 推理服务,简化了开源生成式 AI 模型的访问和部署。开发者可以无需管理 GPU 基础设施和服务器,以极低的运营成本构建强大的生成式 AI 应用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Pollen Robotics发布开源库Pollen-Vision,用于机器人视觉感知,支持3D物体检测和分割,旨在帮助机器人自主抓取未知物体。
推荐理由:原文介绍了Pollen-Vision库,这是一个用于机器人视觉感知的开源工具,读者可以了解其功能和应用场景。
Hugging Face 推出嵌入量化技术,通过将浮点数嵌入转换为二进制或标量(int8)嵌入,显著降低内存和存储使用,提高检索速度,并降低成本。
推荐理由:原文介绍了嵌入量化技术及其在检索速度、内存使用、磁盘空间和成本方面的改进,读者可以了解这项技术如何改变现有工作流。
Hugging Face 与 Lighthouz AI 合作推出 Chatbot Guardrails Arena,旨在通过社区大规模盲测试评估 AI 聊天机器人隐私保护机制的有效性。该平台允许用户与受隐私保护机制限制的匿名大型语言模型进行对话,并投票选择隐私保护能力更强的模型。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 Cosmopedia,一个用于预训练大型语言模型的大规模合成数据集。该数据集包含超过 30 亿个 token,旨在解决传统数据集的局限性,并推动合成数据在 AI 领域的应用。
推荐理由:Cosmopedia 的发布为 LLM 预训练提供了新的数据集,有助于推动合成数据在 AI 领域的应用。
GaLore是一种新的工具,它通过降低内存需求,使得在消费级硬件上训练大型语言模型成为可能,为研究人员和从业者提供了新的可能性。
推荐理由:GaLore通过降低内存需求,使得在消费级硬件上训练大型语言模型成为可能,为研究人员和从业者提供了新的可能性。
Hugging Face 与英特尔合作,推出Phi-2模型在Intel Meteor Lake笔记本电脑上运行,通过硬件加速、小型语言模型和量化技术,实现了在个人电脑上运行大型语言模型的可能性,提高了隐私性、降低了延迟和成本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了优化后的嵌入模型和 fastRAG 框架,旨在提高信息检索和 RAG 应用的效率。
Hugging Face 发布了 ConTextual 数据集,用于评估多模态模型在文本丰富场景中的推理能力。该数据集包含 506 个具有挑战性的指令,涵盖了 8 个现实世界的视觉场景。
推荐理由:ConTextual 数据集的发布为评估多模态模型在文本丰富场景中的推理能力提供了新的基准,有助于推动相关领域的研究进展。
Hugging Face和Argilla推出数据共建计划,通过Argilla和Hugging Face Spaces共同构建数据集,已有350名社区贡献者参与,构建了包含10,000个提示语的评分数据集。
BigCode 发布 StarCoder2,新一代开源代码大语言模型,基于 The Stack v2 数据集训练,提供 3B、7B 和 15B 参数的模型版本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了其最新的语言模型 Mistral Large,该模型具备高级推理能力,支持多语言,并可通过 Azure 平台使用。Mistral AI 还推出了优化模型 Mistral Small,适用于低延迟工作负载。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布 Gemma 模型支持 PEFT,允许用户在 Hugging Face 上进行参数高效微调,提高语言模型训练的效率和可访问性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Google 发布了新的开源大语言模型 Gemma,包括 2B 和 7B 参数版本,支持在 Hugging Face 平台使用,并提供了多种集成和部署方式。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face推出Open Ko-LLM评测基准,旨在评估韩语大语言模型的能力,为韩语LLM的发展提供了重要的评估平台。
Hugging Face开源工具通过使用LLM创建合成数据,帮助用户训练更高效、更专业的模型,同时降低成本和碳排放。
推荐理由:原文提供了使用开源LLM创建合成数据的方法,读者可以了解如何通过这种方法提高模型效率和降低成本。
Hugging Face 推出 Messages API,实现与 OpenAI 兼容的文本生成推理和推理端点,允许用户无缝地从 OpenAI 模型过渡到开源 LLM。API 可直接用于 OpenAI 的客户端库或第三方工具,如 LangChain 或 LlamaIndex。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 SegMoE 混合专家扩散模型框架,支持在 Hugging Face 生态系统中创建和集成 MoE 模型。
推荐理由:SegMoE 是一个用于创建混合专家扩散模型的框架,读者可以了解其如何改变现有工作流。
NPHardEval 是由密歇根大学和罗格斯大学研究人员开发的一种评估大型语言模型推理能力的基准,通过计算复杂度对 LLM 进行评估,并每月更新以防止过拟合。
推荐理由:NPHardEval 通过计算复杂度评估大型语言模型的推理能力,为读者提供了评估 LLM 推理能力的全新视角。
Hugging Face 宣布 Hugging Face Text Generation Inference (TGI) 在 AWS Inferentia2 和 Amazon SageMaker 上正式可用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了宪法AI工具,旨在帮助将开源模型与宪法原则对齐,并通过实验评估了其效果。
推荐理由:原文介绍了宪法AI(CAI)的概念和实现方法,读者可以了解如何将开源模型与宪法原则对齐,并评估其效果。
Hugging Face 发布了 StarCoder 智能体功能加速,通过 8bit 和 4bit 量化以及辅助生成技术,在 Intel Xeon 处理器上实现了超过 7 倍的推理加速。
Hugging Face发布了一个名为幻觉排行榜的项目,旨在评估大型语言模型在生成内容中的事实准确性和可靠性,通过多个基准测试对各种模型进行评估,为AI/NLP领域的研究和开发提供参考。
推荐理由:该研究通过建立幻觉排行榜,为评估大型语言模型在生成内容中的事实准确性和可靠性提供了新的工具,对AI/NLP领域的研究和开发具有重要意义。
Secure Learning Lab 推出了 DecodingTrust 平台,用于评估 LLM 的可信度,包括毒性、刻板印象偏见、对抗鲁棒性等多个方面。同时,发布了新的 LLM 安全排行榜,基于 HF 排行榜模板,提供对 LLM 安全性的评估。
推荐理由:DecodingTrust 平台提供了对 LLM 安全性的全面评估,对理解 LLM 的安全性和风险具有重要意义。
Hugging Face 发布了名为 smolagents 的代理库,该库允许用户将开源 LLMs 作为 LangChain 代理使用,并展示了如何构建和使用这些代理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
HuggingFace与IBM Research合作发布了PatchTSMixer,这是一种基于MLP-Mixer架构的轻量级时间序列建模方法,在预测任务中表现优于现有模型。
推荐理由:PatchTSMixer在时间序列建模方面的性能优于现有模型,读者可以了解其应用和潜力。
Hugging Face 发布了使用 ONNX Runtime 和 Olive 优化的 SD Turbo 和 SDXL Turbo 模型,显著提高了推理速度,并支持多种编程语言。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face发布Unsloth库,一个用于加速LLM微调的工具,支持多种NVIDIA GPU和架构,可显著提高微调速度和降低内存使用。
推荐理由:原文介绍了Unsloth库,一个用于加速LLM微调的工具,读者可以了解其功能和性能提升。
Hugging Face 推出 Whisper 模型的 Speculative Decoding 技术,通过使用辅助模型来加速推理过程,将 Whisper 模型的推理速度提升了 2 倍,同时保持了相同的准确性。
推荐理由:原文提出了 Speculative Decoding 技术,可以显著提高 Whisper 模型的推理速度,读者可以了解其原理和应用。