Google 发布开源大语言模型 Gemma
Google 发布了新的开源大语言模型 Gemma,包括 2B 和 7B 参数版本,支持在 Hugging Face 平台使用,并提供了多种集成和部署方式。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 开源社区动态:热门模型与数据集、排行榜变化与开源生态的晴雨表。
Google 发布了新的开源大语言模型 Gemma,包括 2B 和 7B 参数版本,支持在 Hugging Face 平台使用,并提供了多种集成和部署方式。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face开源工具通过使用LLM创建合成数据,帮助用户训练更高效、更专业的模型,同时降低成本和碳排放。
推荐理由:原文提供了使用开源LLM创建合成数据的方法,读者可以了解如何通过这种方法提高模型效率和降低成本。
Hugging Face 推出 Messages API,实现与 OpenAI 兼容的文本生成推理和推理端点,允许用户无缝地从 OpenAI 模型过渡到开源 LLM。API 可直接用于 OpenAI 的客户端库或第三方工具,如 LangChain 或 LlamaIndex。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 SegMoE 混合专家扩散模型框架,支持在 Hugging Face 生态系统中创建和集成 MoE 模型。
推荐理由:SegMoE 是一个用于创建混合专家扩散模型的框架,读者可以了解其如何改变现有工作流。
NPHardEval 是由密歇根大学和罗格斯大学研究人员开发的一种评估大型语言模型推理能力的基准,通过计算复杂度对 LLM 进行评估,并每月更新以防止过拟合。
推荐理由:NPHardEval 通过计算复杂度评估大型语言模型的推理能力,为读者提供了评估 LLM 推理能力的全新视角。
Hugging Face 发布了宪法AI工具,旨在帮助将开源模型与宪法原则对齐,并通过实验评估了其效果。
推荐理由:原文介绍了宪法AI(CAI)的概念和实现方法,读者可以了解如何将开源模型与宪法原则对齐,并评估其效果。
Hugging Face发布了一个名为幻觉排行榜的项目,旨在评估大型语言模型在生成内容中的事实准确性和可靠性,通过多个基准测试对各种模型进行评估,为AI/NLP领域的研究和开发提供参考。
推荐理由:该研究通过建立幻觉排行榜,为评估大型语言模型在生成内容中的事实准确性和可靠性提供了新的工具,对AI/NLP领域的研究和开发具有重要意义。
Hugging Face 与 Google Cloud 合作,旨在通过开放模型和开源技术,帮助公司构建自己的 AI。合作将涵盖开放科学、开源、云和硬件领域,以促进 AI 研究的普及和 AI 技术的创新。
推荐理由:Hugging Face 与 Google 的合作将推动 AI 技术的开放和普及,对行业有重要影响。
Hugging Face 发布了名为 smolagents 的代理库,该库允许用户将开源 LLMs 作为 LangChain 代理使用,并展示了如何构建和使用这些代理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了使用 ONNX Runtime 和 Olive 优化的 SD Turbo 和 SDXL Turbo 模型,显著提高了推理速度,并支持多种编程语言。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 LoRA 训练脚本指南,结合了多种优化技巧,旨在提高 LoRA 训练效果。
推荐理由:该博客提供了 LoRA 训练脚本的详细指南,包括多种优化技巧,对想要改进 LoRA 训练的读者具有参考价值。
Hugging Face 推出 Whisper 模型的 Speculative Decoding 技术,通过使用辅助模型来加速推理过程,将 Whisper 模型的推理速度提升了 2 倍,同时保持了相同的准确性。
推荐理由:原文提出了 Speculative Decoding 技术,可以显著提高 Whisper 模型的推理速度,读者可以了解其原理和应用。
2023年,开源大型语言模型(LLM)发展迅速,本文回顾了这一年开源LLM的发展,包括模型架构、训练数据、模型大小、性能和可访问性等方面的变化。
推荐理由:本文回顾了2023年开源大型语言模型的发展,分析了模型架构、训练数据、模型大小、性能和可访问性等方面的变化,对读者了解开源LLM的发展趋势有重要价值。
Mistral 发布了 Mixtral 8x7b 模型,这是一个在 Hugging Face 上达到 SOTA 水平的大语言模型,具有 8 个专家模型和 32k 上下文长度,支持多种语言和编码能力。
推荐理由:Mixtral 8x7b 模型在多个基准测试中超越了 GPT-3.5,并支持 32k 上下文长度,读者可以了解其性能和潜在影响。
本文深入探讨了混合专家(MoE)模型,包括其原理、训练方法、与Transformer的结合以及在实际应用中的挑战和解决方案,对了解MoE模型有重要价值。
推荐理由:本文深入探讨了混合专家(MoE)模型,包括其原理、训练方法、与Transformer的结合以及在实际应用中的挑战和解决方案,对了解MoE模型有重要价值。
Hugging Face 推出 Optimum-NVIDIA inference library,通过简单的 API 在 NVIDIA 平台上实现 LLM 推理速度提升至 28 倍,并支持 FP8 格式和 NVIDIA TensorRT-LLM 软件。
推荐理由:Optimum-NVIDIA inference library 可以显著加速 LLM 在 NVIDIA 平台上的推理速度,读者可以了解其如何改变现有工作流。
Hugging Face 与 AMD 合作,推出针对 AMD GPU 的 AI 模型加速方案,支持所有 Transformers 模型和任务在 AMD Instinct GPU 上运行,并提供一系列优化工具和性能提升。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了新的 Latent Consistency LoRAs,可以将 Stable Diffusion 和 SDXL 的生成步骤从 25-50 步减少到 4-8 步,从而实现快速图像生成。
推荐理由:原文介绍了如何通过 Latent Consistency LoRAs 快速生成图像,读者可以了解其如何改变现有工作流。
Hugging Face 推出代码智能体功能,允许用户基于自身代码库微调代码生成模型,提高开发效率和生产力。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 提供了无需代码即可训练和部署聊天机器人的方法,使用 LLaMA 2 模型,通过 AutoTrain 和 ChatUI 工具,任何人都可以轻松构建自己的开源聊天机器人。
推荐理由:原文提供了无需代码即可训练和部署聊天机器人的方法,读者可以了解如何利用这些工具简化工作流程。