Hugging Face Train on DGX Cloud 服务发布,简化AI模型训练
Hugging Face 推出 Train on DGX Cloud 服务,支持使用 NVIDIA DGX Cloud 的加速计算基础设施进行模型训练,简化了开放生成式 AI 模型的训练和部署。
Hugging Face 推出 Train on DGX Cloud 服务,支持使用 NVIDIA DGX Cloud 的加速计算基础设施进行模型训练,简化了开放生成式 AI 模型的训练和部署。
Hugging Face 发布了优化后的嵌入模型和 fastRAG 框架,旨在提高信息检索和 RAG 应用的效率。
Paradigm 使用 OpenAI 的 API 来改善患者获取临床试验的机会。
Lifespan 采用 GPT-4 模型显著提升了健康素养及患者治疗结果。该应用旨在通过人工智能技术改善医疗场景下的信息理解能力与患者整体福祉。
Hugging Face 推出 Llama 2 模型的文本生成流水线,支持 7b、13b 和 70b 版本,通过 Optimum Habana 和自定义流水线类实现,仅需几行代码即可运行;流水线提供高抽象级别,支持预处理和后处理,兼容 LangChain。
BigCode 发布 StarCoder2,新一代开源代码大语言模型,基于 The Stack v2 数据集训练,提供 3B、7B 和 15B 参数的模型版本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了其最新的语言模型 Mistral Large,该模型具备高级推理能力,支持多语言,并可通过 Azure 平台使用。Mistral AI 还推出了优化模型 Mistral Small,适用于低延迟工作负载。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 推出多语言聊天助手 Le Chat Vibe,支持与 Mistral 模型交互,提供教育性和娱乐性体验;Le Chat 可使用 Mistral Large、Mistral Small 或 Mistral Next 模型,具备系统级调节机制,目前为测试版,无法访问互联网。
Hugging Face Hub 提供多种 AI 水印工具,用于标记 AI 生成内容以验证其真实性。这些工具包括在生成过程中嵌入可见或不可见水印,以及使用数据中毒和签名技术来防止非授权图像操纵。水印技术适用于不同类型的数据,如图像、音频、文本等,并面临独特的挑战。Hugging Face Hub 提供开源工具,帮助用户进行不同类型的水印操作。
Hugging Face 发布 Gemma 模型支持 PEFT,允许用户在 Hugging Face 上进行参数高效微调,提高语言模型训练的效率和可访问性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Google 发布了新的开源大语言模型 Gemma,包括 2B 和 7B 参数版本,支持在 Hugging Face 平台使用,并提供了多种集成和部署方式。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face开源工具通过使用LLM创建合成数据,帮助用户训练更高效、更专业的模型,同时降低成本和碳排放。
推荐理由:原文提供了使用开源LLM创建合成数据的方法,读者可以了解如何通过这种方法提高模型效率和降低成本。
AMD与Hugging Face合作,举办Pervasive AI开发者大赛,提供700个AMD平台,总奖金高达16万美元,鼓励开发者创建独特的AI应用。Hugging Face和AMD为AMD GPU提供原生支持,并支持ONNX模型执行、Optimum-Benchmark、DeepSpeed等工具,助力开发者快速构建AI应用。
OpenAI 宣布正在测试 ChatGPT 的记忆功能,使其能够记住用户讨论过的内容以优化后续对话体验。官方强调用户拥有对 ChatGPT 记忆功能的控制权。
Hugging Face 推出 Messages API,实现与 OpenAI 兼容的文本生成推理和推理端点,允许用户无缝地从 OpenAI 模型过渡到开源 LLM。API 可直接用于 OpenAI 的客户端库或第三方工具,如 LangChain 或 LlamaIndex。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 SegMoE 混合专家扩散模型框架,支持在 Hugging Face 生态系统中创建和集成 MoE 模型。
推荐理由:SegMoE 是一个用于创建混合专家扩散模型的框架,读者可以了解其如何改变现有工作流。
Hugging Face 宣布 Hugging Face Text Generation Inference (TGI) 在 AWS Inferentia2 和 Amazon SageMaker 上正式可用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了宪法AI工具,旨在帮助将开源模型与宪法原则对齐,并通过实验评估了其效果。
推荐理由:原文介绍了宪法AI(CAI)的概念和实现方法,读者可以了解如何将开源模型与宪法原则对齐,并评估其效果。
Hugging Face 发布了 StarCoder 智能体功能加速,通过 8bit 和 4bit 量化以及辅助生成技术,在 Intel Xeon 处理器上实现了超过 7 倍的推理加速。
Hugging Face 发布了名为 smolagents 的代理库,该库允许用户将开源 LLMs 作为 LangChain 代理使用,并展示了如何构建和使用这些代理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
HuggingFace与IBM Research合作发布了PatchTSMixer,这是一种基于MLP-Mixer架构的轻量级时间序列建模方法,在预测任务中表现优于现有模型。
推荐理由:PatchTSMixer在时间序列建模方面的性能优于现有模型,读者可以了解其应用和潜力。
Hugging Face 发布了使用 ONNX Runtime 和 Olive 优化的 SD Turbo 和 SDXL Turbo 模型,显著提高了推理速度,并支持多种编程语言。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
本教程介绍了如何将复杂的 ComfyUI 工作流转换为简单的 Gradio 应用,并在 Hugging Face Spaces 的 ZeroGPU 服务器上免费部署和运行。
OpenAI 正式推出面向各规模团队的 ChatGPT Team 计划。该方案提供安全且协作的工作空间,旨在帮助用户在工作中更充分地利用 ChatGPT。
WHOOP 采用 GPT-4 模型,为用户提供个性化的健身和健康指导服务。该方案通过大语言模型技术优化了健康建议的针对性与体验。
Hugging Face 推出 Whisper 模型的 Speculative Decoding 技术,通过使用辅助模型来加速推理过程,将 Whisper 模型的推理速度提升了 2 倍,同时保持了相同的准确性。
推荐理由:原文提出了 Speculative Decoding 技术,可以显著提高 Whisper 模型的推理速度,读者可以了解其原理和应用。
Summer Health 与 OpenAI 合作,重新构想儿科医生问诊流程以提升就诊记录准确性。该方案旨在通过 AI 技术优化医疗文书工作,改善儿科诊疗体验。
Mistral AI 发布了 La Plateforme 平台,提供三种文本生成端点和一种嵌入端点,支持使用指令生成文本和嵌入模型。平台使用 Mistral 7B Instruct、Mixtral 8x7B 和原型模型,并支持 API 查询和系统提示词设置。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 Optimum-NVIDIA inference library,通过简单的 API 在 NVIDIA 平台上实现 LLM 推理速度提升至 28 倍,并支持 FP8 格式和 NVIDIA TensorRT-LLM 软件。
推荐理由:Optimum-NVIDIA inference library 可以显著加速 LLM 在 NVIDIA 平台上的推理速度,读者可以了解其如何改变现有工作流。
Hugging Face 发布了 LoRA 推理加速功能,通过动态加载 LoRA 适配器,将推理速度提高了 300%。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 AMD 合作,推出针对 AMD GPU 的 AI 模型加速方案,支持所有 Transformers 模型和任务在 AMD Instinct GPU 上运行,并提供一系列优化工具和性能提升。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了新的 Latent Consistency LoRAs,可以将 Stable Diffusion 和 SDXL 的生成步骤从 25-50 步减少到 4-8 步,从而实现快速图像生成。
推荐理由:原文介绍了如何通过 Latent Consistency LoRAs 快速生成图像,读者可以了解其如何改变现有工作流。
Hugging Face 推出 Prodigy-HF,允许用户直接在标注数据上训练和重用 Hugging Face 模型,并支持将标注数据集发布到 Hugging Face Hub,方便数据共享和协作。
推荐理由:原文介绍了 Prodigy-HF 插件,该插件允许用户直接在标注数据上训练和重用 Hugging Face 模型,并支持将标注数据集发布到 Hugging Face Hub,方便数据共享和协作。
Hugging Face 推出 Llama 2 在 AWS Inferentia2 上的高效文本生成方案,通过 Optimum Neuron 部署,实现快速部署和模型导出,支持多种生成策略,并提供预编译模型版本。
OpenAI 推出 GPTs,用户可创建结合指令、额外知识和技能组合的 ChatGPT 自定义版本。
Hugging Face Hub 推出存储区域功能,允许用户选择模型和数据的存储位置,以符合监管和法律要求,并提升数据主权和性能。目前支持美国和欧盟区域,预计未来还将支持亚太地区。该功能通过提高上传和下载速度来显著提升性能,例如,在欧洲存储数据比在美国存储快4-5倍。
Hugging Face 推出代码智能体功能,允许用户基于自身代码库微调代码生成模型,提高开发效率和生产力。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 数据集库与 Renumics Spotlight 联合推出数据可视化工具,用户只需一行代码即可创建交互式可视化,识别数据中的关键聚类。Spotlight 支持利用模型结果如预测和嵌入,深入了解数据段和模型失败模式。此外,Spotlight 还允许用户自定义数据检查工作流程,并找到相关的数据样本和聚类进行检查。
Hugging Face Inference Endpoints 提供了一种简单、安全的方式部署机器学习模型,支持快速部署、自动扩展、成本效益和高级安全功能。Text Embeddings Inference (TEI) 是专为部署和托管开源文本嵌入模型而构建的解决方案,支持所有 MTEB 排行榜前 10 的模型,并实现了多种性能优化功能。
OpenAI 宣布 DALL·E 3 现已在 ChatGPT Plus 和 Enterprise 中可用。官方表示已开发安全缓解技术栈以支持更广泛的发布,并分享了关于内容溯源研究的最新进展。