Hugging Face 发布 Gemma 模型支持 PEFT
Hugging Face 发布 Gemma 模型支持 PEFT,允许用户在 Hugging Face 上进行参数高效微调,提高语言模型训练的效率和可访问性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
AI 产品与应用的功能上新、改版与商业化动态——谁家的产品变强了、变贵了、能用了。
Hugging Face 发布 Gemma 模型支持 PEFT,允许用户在 Hugging Face 上进行参数高效微调,提高语言模型训练的效率和可访问性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Google 发布了新的开源大语言模型 Gemma,包括 2B 和 7B 参数版本,支持在 Hugging Face 平台使用,并提供了多种集成和部署方式。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face开源工具通过使用LLM创建合成数据,帮助用户训练更高效、更专业的模型,同时降低成本和碳排放。
推荐理由:原文提供了使用开源LLM创建合成数据的方法,读者可以了解如何通过这种方法提高模型效率和降低成本。
Hugging Face 推出 Messages API,实现与 OpenAI 兼容的文本生成推理和推理端点,允许用户无缝地从 OpenAI 模型过渡到开源 LLM。API 可直接用于 OpenAI 的客户端库或第三方工具,如 LangChain 或 LlamaIndex。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 SegMoE 混合专家扩散模型框架,支持在 Hugging Face 生态系统中创建和集成 MoE 模型。
推荐理由:SegMoE 是一个用于创建混合专家扩散模型的框架,读者可以了解其如何改变现有工作流。
Hugging Face 宣布 Hugging Face Text Generation Inference (TGI) 在 AWS Inferentia2 和 Amazon SageMaker 上正式可用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了宪法AI工具,旨在帮助将开源模型与宪法原则对齐,并通过实验评估了其效果。
推荐理由:原文介绍了宪法AI(CAI)的概念和实现方法,读者可以了解如何将开源模型与宪法原则对齐,并评估其效果。
Hugging Face 发布了名为 smolagents 的代理库,该库允许用户将开源 LLMs 作为 LangChain 代理使用,并展示了如何构建和使用这些代理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
HuggingFace与IBM Research合作发布了PatchTSMixer,这是一种基于MLP-Mixer架构的轻量级时间序列建模方法,在预测任务中表现优于现有模型。
推荐理由:PatchTSMixer在时间序列建模方面的性能优于现有模型,读者可以了解其应用和潜力。
Hugging Face 发布了使用 ONNX Runtime 和 Olive 优化的 SD Turbo 和 SDXL Turbo 模型,显著提高了推理速度,并支持多种编程语言。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 Whisper 模型的 Speculative Decoding 技术,通过使用辅助模型来加速推理过程,将 Whisper 模型的推理速度提升了 2 倍,同时保持了相同的准确性。
推荐理由:原文提出了 Speculative Decoding 技术,可以显著提高 Whisper 模型的推理速度,读者可以了解其原理和应用。
Mistral AI 发布了 La Plateforme 平台,提供三种文本生成端点和一种嵌入端点,支持使用指令生成文本和嵌入模型。平台使用 Mistral 7B Instruct、Mixtral 8x7B 和原型模型,并支持 API 查询和系统提示词设置。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 Optimum-NVIDIA inference library,通过简单的 API 在 NVIDIA 平台上实现 LLM 推理速度提升至 28 倍,并支持 FP8 格式和 NVIDIA TensorRT-LLM 软件。
推荐理由:Optimum-NVIDIA inference library 可以显著加速 LLM 在 NVIDIA 平台上的推理速度,读者可以了解其如何改变现有工作流。
Hugging Face 发布了 LoRA 推理加速功能,通过动态加载 LoRA 适配器,将推理速度提高了 300%。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 AMD 合作,推出针对 AMD GPU 的 AI 模型加速方案,支持所有 Transformers 模型和任务在 AMD Instinct GPU 上运行,并提供一系列优化工具和性能提升。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了新的 Latent Consistency LoRAs,可以将 Stable Diffusion 和 SDXL 的生成步骤从 25-50 步减少到 4-8 步,从而实现快速图像生成。
推荐理由:原文介绍了如何通过 Latent Consistency LoRAs 快速生成图像,读者可以了解其如何改变现有工作流。
Hugging Face 推出 Prodigy-HF,允许用户直接在标注数据上训练和重用 Hugging Face 模型,并支持将标注数据集发布到 Hugging Face Hub,方便数据共享和协作。
推荐理由:原文介绍了 Prodigy-HF 插件,该插件允许用户直接在标注数据上训练和重用 Hugging Face 模型,并支持将标注数据集发布到 Hugging Face Hub,方便数据共享和协作。
OpenAI 推出 GPTs,用户可创建结合指令、额外知识和技能组合的 ChatGPT 自定义版本。
Hugging Face 推出代码智能体功能,允许用户基于自身代码库微调代码生成模型,提高开发效率和生产力。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face Diffusers 发布了支持使用 JAX 在 Cloud TPU v5e 上加速 Stable Diffusion XL 推理的功能,通过结合定制的 TPU 硬件和优化的软件堆栈,实现了高性能和成本效益的推理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。