Mistral AI 发布 La Plateforme 平台
Mistral AI 发布了 La Plateforme 平台,提供三种文本生成端点和一种嵌入端点,支持使用指令生成文本和嵌入模型。平台使用 Mistral 7B Instruct、Mixtral 8x7B 和原型模型,并支持 API 查询和系统提示词设置。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了 La Plateforme 平台,提供三种文本生成端点和一种嵌入端点,支持使用指令生成文本和嵌入模型。平台使用 Mistral 7B Instruct、Mixtral 8x7B 和原型模型,并支持 API 查询和系统提示词设置。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了 Mixtral 8x7B 模型,这是一个高质量的稀疏混合专家模型(SMoE),在大多数基准测试中优于 Llama 2 70B,且推理速度更快。
推荐理由:Mixtral 8x7B 模型在多个基准测试中优于 Llama 2 70B,且推理速度更快,读者可以据此评估其对现有工作流的影响。
Mistral 发布了 Mixtral 8x7b 模型,这是一个在 Hugging Face 上达到 SOTA 水平的大语言模型,具有 8 个专家模型和 32k 上下文长度,支持多种语言和编码能力。
推荐理由:Mixtral 8x7b 模型在多个基准测试中超越了 GPT-3.5,并支持 32k 上下文长度,读者可以了解其性能和潜在影响。
本文深入探讨了混合专家(MoE)模型,包括其原理、训练方法、与Transformer的结合以及在实际应用中的挑战和解决方案,对了解MoE模型有重要价值。
推荐理由:本文深入探讨了混合专家(MoE)模型,包括其原理、训练方法、与Transformer的结合以及在实际应用中的挑战和解决方案,对了解MoE模型有重要价值。
Hugging Face 推出 Optimum-NVIDIA inference library,通过简单的 API 在 NVIDIA 平台上实现 LLM 推理速度提升至 28 倍,并支持 FP8 格式和 NVIDIA TensorRT-LLM 软件。
推荐理由:Optimum-NVIDIA inference library 可以显著加速 LLM 在 NVIDIA 平台上的推理速度,读者可以了解其如何改变现有工作流。
Hugging Face 发布了 LoRA 推理加速功能,通过动态加载 LoRA 适配器,将推理速度提高了 300%。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 AMD 合作,推出针对 AMD GPU 的 AI 模型加速方案,支持所有 Transformers 模型和任务在 AMD Instinct GPU 上运行,并提供一系列优化工具和性能提升。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了新的 Latent Consistency LoRAs,可以将 Stable Diffusion 和 SDXL 的生成步骤从 25-50 步减少到 4-8 步,从而实现快速图像生成。
推荐理由:原文介绍了如何通过 Latent Consistency LoRAs 快速生成图像,读者可以了解其如何改变现有工作流。
Hugging Face 推出 Prodigy-HF,允许用户直接在标注数据上训练和重用 Hugging Face 模型,并支持将标注数据集发布到 Hugging Face Hub,方便数据共享和协作。
推荐理由:原文介绍了 Prodigy-HF 插件,该插件允许用户直接在标注数据上训练和重用 Hugging Face 模型,并支持将标注数据集发布到 Hugging Face Hub,方便数据共享和协作。
OpenAI 推出 GPTs,用户可创建结合指令、额外知识和技能组合的 ChatGPT 自定义版本。
Hugging Face 推出代码智能体功能,允许用户基于自身代码库微调代码生成模型,提高开发效率和生产力。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face Diffusers 发布了支持使用 JAX 在 Cloud TPU v5e 上加速 Stable Diffusion XL 推理的功能,通过结合定制的 TPU 硬件和优化的软件堆栈,实现了高性能和成本效益的推理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face的TRL库发布了DDPOTrainer,用于微调Stable Diffusion模型,提高图像生成质量。
Hugging Face 提供了无需代码即可训练和部署聊天机器人的方法,使用 LLaMA 2 模型,通过 AutoTrain 和 ChatUI 工具,任何人都可以轻松构建自己的开源聊天机器人。
推荐理由:原文提供了无需代码即可训练和部署聊天机器人的方法,读者可以了解如何利用这些工具简化工作流程。
Mistral AI 发布了新的7B参数模型Mistral 7B,该模型在所有标准英语和代码基准测试中优于所有目前可用的13B参数以下的开源模型。Mistral AI致力于成为开放生成AI社区的领先支持者,并推动开放模型达到最先进的性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了 Mistral 7B 语言模型,该模型在多个基准测试中优于 Llama 2 13B 和 Llama 1 34B,并使用 Grouped-query attention 和 Sliding Window Attention 技术提高推理速度。Mistral 7B 以 Apache 2.0 许可证发布,可在任何云平台部署,并易于微调。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face对Llama 2在Amazon SageMaker上的部署进行了基准测试,分析了不同配置下的性能和成本,为用户提供了优化部署的建议。
ChatGPT 发布新功能,能够进行视觉、听觉和语言交互。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 Inference for PRO 用户功能,为用户提供访问精选模型 API 的权限,并提高免费 Inference API 的使用速率限制。
Rocket Money(一个个人财务应用)与 Hugging Face 合作,使用 Hugging Face 的模型托管服务来扩展其机器学习模型,以提高交易处理效率和用户体验。
Hugging Face 发布了目标检测排行榜,并详细解析了目标检测的评估方法和常用指标,包括 IoU、AP 和 AR,以及如何选择最佳模型。
Hugging Face博客发布了一篇关于优化LLM在生产和部署中性能的博客,介绍了降低精度、Flash Attention和改进的LLM架构等技术。
推荐理由:原文提供了优化大型语言模型(LLM)在生产和部署中的性能的方法,读者可以据此评估这些方法对现有工作流的影响。
Hugging Face 推出 Würstchen 模型,通过高度压缩的潜在空间实现快速图像生成,训练成本和推理成本大幅降低,适用于资源有限的用户。
推荐理由:Würstchen 模型在图像生成方面实现了快速和高效的性能,读者可以了解其压缩技术和训练成本,评估其对现有工作流的影响。
Geth v1.13.0 发布,引入新的数据库模型以存储以太坊状态,提高了性能并实现了适当的修剪。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 SafeCoder,一款面向企业的智能代码助手,它基于开源模型 StarCoder,提供透明度、可定制性、IT 弹性和隐私保护。SafeCoder 可以帮助用户训练模型,学习特定软件工程流程的细微差别,并支持在本地或云端运行。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 Falcon 180B 开源语言模型,具有1800亿参数,在多个自然语言任务上取得了最先进的成果,并提供了使用指南。
推荐理由:Falcon 180B 是目前最大的开源语言模型,具有1800亿参数,在多个自然语言任务上取得了最先进的成果,读者可以了解其性能和如何使用。
Fetch 公司使用 Amazon SageMaker 和 Hugging Face 优化了其机器学习流程,使扫描处理速度更快,准确性更高,并将延迟降低了 50%。
Hugging Face 博客介绍了 AudioLDM 2 的优化方法,包括代码优化和模型优化,将音频生成时间从 14 秒缩短到不到 1 秒。
Code Llama 是一系列针对代码任务的 Llama 2 开放访问版本,它被集成到 Hugging Face 生态系统中。Code Llama 可以通过在 IDE 中提供代码补全来提高软件工程师的生产力,处理编写文档字符串或创建单元测试等重复或令人烦恼的任务。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face在Transformers中集成了AutoGPTQ库,使用户能够以8、4、3或2位精度量化模型,同时保持推理速度与fp16基准相当。
推荐理由:原文介绍了AutoGPTQ库的集成,使LLM量化更加便捷,读者可以了解其如何改变现有工作流。
Hugging Face 发布了 SafeCoder,一款面向企业的代码助手解决方案,旨在提高软件开发效率。SafeCoder 以安全和隐私为核心原则,允许企业自行托管和训练自己的代码大型语言模型,无需将代码分享给第三方。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 Swift Transformers,这是一个用于在 Apple 设备上运行设备端 LLM 的工具。它包括 alpha 库和工具,旨在帮助开发者构建更快的应用程序,并支持多种模型和转换工具。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 DPO 方法,用于微调 Llama 2 模型,并介绍了在 TRL 库中如何使用该方法。
Hugging Face Blog发布了一篇关于使用全同态加密技术保护大型语言模型隐私的研究,该技术允许在加密数据上执行函数,从而在保护模型所有者知识产权的同时,维护用户数据的隐私。
推荐理由:该研究提出了使用全同态加密技术保护大型语言模型隐私的方法,对关注AI安全和隐私的读者有参考价值。
Hugging Face 发布了新的 Stable Diffusion XL 模型,并提供了 Core ML 支持,使得模型可以在 macOS 上运行。同时,还介绍了混合位调色板化技术,以减小模型大小并提高性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 的 Diffusers 库庆祝一周年,发布了多项新功能,包括支持更逼真的图像生成、视频生成、3D 模型生成、图像编辑、更快的扩散模型、伦理和安全功能、LoRA 支持和 PyTorch 2.0 优化。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Meta 发布了 Llama 2 模型,这是一个从 7B 到 70B 参数的开源大型语言模型家族,支持 Hugging Face 集成,包括预训练模型和微调模型。
推荐理由:原文介绍了 Llama 2 模型的特点和功能,读者可以了解其性能和适用场景。
Hugging Face 发布了新的开源文本生成和大型语言模型生态系统,包括 Llama 2 模型和其他开源模型,以及用于模型部署和微调的工具。
推荐理由:原文介绍了 Hugging Face 平台上开源文本生成和大型语言模型生态系统的最新发展,读者可以了解最新的模型和工具,以及它们如何改变现有工作流。
Hugging Face Blog发布了一篇关于加速视觉-语言模型BridgeTower在Habana Gaudi2上的应用的博客文章。文章介绍了BridgeTower模型在Habana Gaudi2硬件加速器上的性能提升,以及如何通过Optimum Habana软件库利用这些特性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 博客文章探讨了 Open LLM 领导板上的 MMLU 评估结果差异,分析了不同评估方法对模型性能的影响。
推荐理由:原文探讨了不同评估方法对模型性能的影响,读者可以了解如何选择合适的评估方式。