Hugging Face 推出 LiveCodeBench 评测基准,全面评估代码 LLMs
Hugging Face 推出 LiveCodeBench 评测基准,基于 LiveCodeBench,由加州大学伯克利分校、麻省理工学院和康奈尔大学的研究人员开发,用于衡量 LLMs 的代码生成能力。
推荐理由:LiveCodeBench 评测基准的发布为代码 LLMs 提供了更全面、无污染的评估,有助于了解不同模型的能力和泛化能力。
Hugging Face 推出 LiveCodeBench 评测基准,基于 LiveCodeBench,由加州大学伯克利分校、麻省理工学院和康奈尔大学的研究人员开发,用于衡量 LLMs 的代码生成能力。
推荐理由:LiveCodeBench 评测基准的发布为代码 LLMs 提供了更全面、无污染的评估,有助于了解不同模型的能力和泛化能力。
Hugging Face 发布了 Idefics2,一款能够处理文本和图像输入并生成文本响应的多模态模型。Idefics2 在视觉问答基准测试中表现出色,并支持多种多模态应用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型,包括开源模型介绍、选择模型的方法、评估基准以及使用transformers库进行推理和微调的示例。
推荐理由:本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型,对了解和利用视觉语言模型有重要参考价值。
Hugging Face Hub 推出 Deploy on Google Cloud 功能,允许用户将数千个开源基础模型轻松部署到 Google Cloud,使用 Vertex AI 或 Google Kubernetes Engine (GKE)。该功能简化了开源生成式 AI 模型的访问和部署流程,为开发者提供了便捷的解决方案。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Google 发布了 CodeGemma 代码大语言模型家族,包括三个版本:2B 基础模型、7B 基础模型和 7B 指令模型。这些模型在 Hugging Face Hub 上提供,并支持与 Google Cloud 和 Inference Endpoints 集成。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
MotherDuck 和 Numbers Station 推出 DuckDB-NSQL-7B,一款针对 DuckDB SQL 的先进 LLM,可轻松从数据中提取洞察。
Hugging Face 发布了 SetFit 模型优化工具,通过 🤗 Optimum Intel 优化,可以加速 SetFit 模型的推理速度,最高可达 7.8 倍。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 Cloudflare Workers AI 集成,为开发者提供无服务器 GPU 推理服务,简化了开源生成式 AI 模型的访问和部署。开发者可以无需管理 GPU 基础设施和服务器,以极低的运营成本构建强大的生成式 AI 应用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 Cosmopedia,一个用于预训练大型语言模型的大规模合成数据集。该数据集包含超过 30 亿个 token,旨在解决传统数据集的局限性,并推动合成数据在 AI 领域的应用。
推荐理由:Cosmopedia 的发布为 LLM 预训练提供了新的数据集,有助于推动合成数据在 AI 领域的应用。
GaLore是一种新的工具,它通过降低内存需求,使得在消费级硬件上训练大型语言模型成为可能,为研究人员和从业者提供了新的可能性。
推荐理由:GaLore通过降低内存需求,使得在消费级硬件上训练大型语言模型成为可能,为研究人员和从业者提供了新的可能性。
Hugging Face 与英特尔合作,推出Phi-2模型在Intel Meteor Lake笔记本电脑上运行,通过硬件加速、小型语言模型和量化技术,实现了在个人电脑上运行大型语言模型的可能性,提高了隐私性、降低了延迟和成本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Quanto 是一个针对 Optimum 的 PyTorch 量化后端,旨在降低深度学习模型的计算和内存成本,支持多种量化方案,包括线性量化、分组量化等,适用于各种模态。Quanto 可作为 pip 包安装,提供从浮点模型到动态量化模型再到静态量化模型的流畅工作流程,并支持 PyTorch weight_only 和 Safetensors 的序列化。
Hugging Face 推出 Train on DGX Cloud 服务,支持使用 NVIDIA DGX Cloud 的加速计算基础设施进行模型训练,简化了开放生成式 AI 模型的训练和部署。
Hugging Face 发布了优化后的嵌入模型和 fastRAG 框架,旨在提高信息检索和 RAG 应用的效率。
Hugging Face 推出 WebSight-v0.2 数据集,包含 200 万个网页截图与 HTML 代码对,旨在训练 AI 模型将视觉网页设计转换为功能性 HTML 代码。基于此数据集,研究人员训练了 Sightseer 模型,能够将网页截图转换为功能性的 HTML 代码,并支持将图像嵌入生成的 HTML 中。
Hugging Face 发布了 ConTextual 数据集,用于评估多模态模型在文本丰富场景中的推理能力。该数据集包含 506 个具有挑战性的指令,涵盖了 8 个现实世界的视觉场景。
推荐理由:ConTextual 数据集的发布为评估多模态模型在文本丰富场景中的推理能力提供了新的基准,有助于推动相关领域的研究进展。
BigCode 发布 StarCoder2,新一代开源代码大语言模型,基于 The Stack v2 数据集训练,提供 3B、7B 和 15B 参数的模型版本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face Hub 提供多种 AI 水印工具,用于标记 AI 生成内容以验证其真实性。这些工具包括在生成过程中嵌入可见或不可见水印,以及使用数据中毒和签名技术来防止非授权图像操纵。水印技术适用于不同类型的数据,如图像、音频、文本等,并面临独特的挑战。Hugging Face Hub 提供开源工具,帮助用户进行不同类型的水印操作。
Hugging Face 发布 Gemma 模型支持 PEFT,允许用户在 Hugging Face 上进行参数高效微调,提高语言模型训练的效率和可访问性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Matryoshka Embedding 模型通过在早期维度存储重要信息,在后期维度存储次要信息,实现高效的信息压缩。该模型使用 Sentence Transformers 框架进行训练,支持多种输出维度,可应用于推荐系统、检索、分类等多种任务。
Google 发布了新的开源大语言模型 Gemma,包括 2B 和 7B 参数版本,支持在 Hugging Face 平台使用,并提供了多种集成和部署方式。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face推出Open Ko-LLM评测基准,旨在评估韩语大语言模型的能力,为韩语LLM的发展提供了重要的评估平台。
Hugging Face开源工具通过使用LLM创建合成数据,帮助用户训练更高效、更专业的模型,同时降低成本和碳排放。
推荐理由:原文提供了使用开源LLM创建合成数据的方法,读者可以了解如何通过这种方法提高模型效率和降低成本。
AMD与Hugging Face合作,举办Pervasive AI开发者大赛,提供700个AMD平台,总奖金高达16万美元,鼓励开发者创建独特的AI应用。Hugging Face和AMD为AMD GPU提供原生支持,并支持ONNX模型执行、Optimum-Benchmark、DeepSpeed等工具,助力开发者快速构建AI应用。
Hugging Face 推出 Messages API,实现与 OpenAI 兼容的文本生成推理和推理端点,允许用户无缝地从 OpenAI 模型过渡到开源 LLM。API 可直接用于 OpenAI 的客户端库或第三方工具,如 LangChain 或 LlamaIndex。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 SegMoE 混合专家扩散模型框架,支持在 Hugging Face 生态系统中创建和集成 MoE 模型。
推荐理由:SegMoE 是一个用于创建混合专家扩散模型的框架,读者可以了解其如何改变现有工作流。
NPHardEval 是由密歇根大学和罗格斯大学研究人员开发的一种评估大型语言模型推理能力的基准,通过计算复杂度对 LLM 进行评估,并每月更新以防止过拟合。
推荐理由:NPHardEval 通过计算复杂度评估大型语言模型的推理能力,为读者提供了评估 LLM 推理能力的全新视角。
Hugging Face 发布了宪法AI工具,旨在帮助将开源模型与宪法原则对齐,并通过实验评估了其效果。
推荐理由:原文介绍了宪法AI(CAI)的概念和实现方法,读者可以了解如何将开源模型与宪法原则对齐,并评估其效果。
Hugging Face 推出 PatchTST 模型,用于时间序列预测。该模型基于 Transformer 架构,通过将时间序列分割成子序列级别的 patch,并使用全局单变量模型进行编码,实现长序列预测。PatchTST 在电力数据集上展示了良好的预测能力,并支持零样本预测和微调。
Hugging Face 推出企业场景排行榜,旨在评估语言模型在真实世界企业用例中的性能,支持6个任务,包括金融、法律、创意写作等,部分数据集为闭源,以避免测试集污染。
Hugging Face 发布了 StarCoder 智能体功能加速,通过 8bit 和 4bit 量化以及辅助生成技术,在 Intel Xeon 处理器上实现了超过 7 倍的推理加速。
Hugging Face发布了一个名为幻觉排行榜的项目,旨在评估大型语言模型在生成内容中的事实准确性和可靠性,通过多个基准测试对各种模型进行评估,为AI/NLP领域的研究和开发提供参考。
推荐理由:该研究通过建立幻觉排行榜,为评估大型语言模型在生成内容中的事实准确性和可靠性提供了新的工具,对AI/NLP领域的研究和开发具有重要意义。
Hugging Face 与 Google Cloud 合作,旨在通过开放模型和开源技术,帮助公司构建自己的 AI。合作将涵盖开放科学、开源、云和硬件领域,以促进 AI 研究的普及和 AI 技术的创新。
推荐理由:Hugging Face 与 Google 的合作将推动 AI 技术的开放和普及,对行业有重要影响。
Hugging Face 发布了名为 smolagents 的代理库,该库允许用户将开源 LLMs 作为 LangChain 代理使用,并展示了如何构建和使用这些代理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
MetaAI 发布的 Wav2Vec2-BERT 模型,通过预训练和微调,在低资源语音识别任务中表现出色,仅需 10 分钟标注音频数据即可在 LibriSpeech 数据集上达到 5% 的词错误率。
Hugging Face 发布了使用 ONNX Runtime 和 Olive 优化的 SD Turbo 和 SDXL Turbo 模型,显著提高了推理速度,并支持多种编程语言。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出基于 Hugging Face Leaderboard 模板的 HHEM 欺幻觉榜,用于评估大型语言模型(LLM)生成文本的幻觉程度。该榜支持开源和商业模型,如 Llama 2、GPT-4 和 Claude,旨在推动 LLM 幻觉评估的民主化。HHEM 使用 Hugging Face Leaderboard 模板,支持动态更新,并鼓励社区提交新模型进行评估。
aMUSEd 是一个基于掩码图像模型(MIM)的高效文本到图像生成模型,其参数量约为 800M,速度快,支持微调。与 MUSE 类似,aMUSEd 在风格迁移方面表现出色,但图像质量不如最先进的模型。该模型以开源许可证发布,鼓励社区探索非扩散框架。
Hugging Face 发布了 LoRA 训练脚本指南,结合了多种优化技巧,旨在提高 LoRA 训练效果。
推荐理由:该博客提供了 LoRA 训练脚本的详细指南,包括多种优化技巧,对想要改进 LoRA 训练的读者具有参考价值。
Hugging Face 推出 Whisper 模型的 Speculative Decoding 技术,通过使用辅助模型来加速推理过程,将 Whisper 模型的推理速度提升了 2 倍,同时保持了相同的准确性。
推荐理由:原文提出了 Speculative Decoding 技术,可以显著提高 Whisper 模型的推理速度,读者可以了解其原理和应用。