Sora 艺术家使用初印象
OpenAI 自上月向全球推出 Sora 以来,一直与艺术家合作以探索该模型如何辅助其创作流程。
OpenAI 自上月向全球推出 Sora 以来,一直与艺术家合作以探索该模型如何辅助其创作流程。
Pollen Robotics发布开源库Pollen-Vision,用于机器人视觉感知,支持3D物体检测和分割,旨在帮助机器人自主抓取未知物体。
推荐理由:原文介绍了Pollen-Vision库,这是一个用于机器人视觉感知的开源工具,读者可以了解其功能和应用场景。
Hugging Face 推出嵌入量化技术,通过将浮点数嵌入转换为二进制或标量(int8)嵌入,显著降低内存和存储使用,提高检索速度,并降低成本。
推荐理由:原文介绍了嵌入量化技术及其在检索速度、内存使用、磁盘空间和成本方面的改进,读者可以了解这项技术如何改变现有工作流。
Hugging Face 与 Lighthouz AI 合作推出 Chatbot Guardrails Arena,旨在通过社区大规模盲测试评估 AI 聊天机器人隐私保护机制的有效性。该平台允许用户与受隐私保护机制限制的匿名大型语言模型进行对话,并投票选择隐私保护能力更强的模型。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与英特尔合作,推出Phi-2模型在Intel Meteor Lake笔记本电脑上运行,通过硬件加速、小型语言模型和量化技术,实现了在个人电脑上运行大型语言模型的可能性,提高了隐私性、降低了延迟和成本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Superhuman 宣布与 OpenAI 合作,开启 AI 驱动的全新电子邮件时代。该举措旨在通过引入人工智能技术,彻底重构用户的邮件处理体验。
Holiday Extras 在团队中全面部署 ChatGPT Enterprise,使每周生产力提升 500 小时。
Quanto 是一个针对 Optimum 的 PyTorch 量化后端,旨在降低深度学习模型的计算和内存成本,支持多种量化方案,包括线性量化、分组量化等,适用于各种模态。Quanto 可作为 pip 包安装,提供从浮点模型到动态量化模型再到静态量化模型的流畅工作流程,并支持 PyTorch weight_only 和 Safetensors 的序列化。
Hugging Face 推出 Train on DGX Cloud 服务,支持使用 NVIDIA DGX Cloud 的加速计算基础设施进行模型训练,简化了开放生成式 AI 模型的训练和部署。
Hugging Face 发布了优化后的嵌入模型和 fastRAG 框架,旨在提高信息检索和 RAG 应用的效率。
Paradigm 使用 OpenAI 的 API 来改善患者获取临床试验的机会。
Lifespan 采用 GPT-4 模型显著提升了健康素养及患者治疗结果。该应用旨在通过人工智能技术改善医疗场景下的信息理解能力与患者整体福祉。
Hugging Face 推出 Llama 2 模型的文本生成流水线,支持 7b、13b 和 70b 版本,通过 Optimum Habana 和自定义流水线类实现,仅需几行代码即可运行;流水线提供高抽象级别,支持预处理和后处理,兼容 LangChain。
BigCode 发布 StarCoder2,新一代开源代码大语言模型,基于 The Stack v2 数据集训练,提供 3B、7B 和 15B 参数的模型版本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了其最新的语言模型 Mistral Large,该模型具备高级推理能力,支持多语言,并可通过 Azure 平台使用。Mistral AI 还推出了优化模型 Mistral Small,适用于低延迟工作负载。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 推出多语言聊天助手 Le Chat Vibe,支持与 Mistral 模型交互,提供教育性和娱乐性体验;Le Chat 可使用 Mistral Large、Mistral Small 或 Mistral Next 模型,具备系统级调节机制,目前为测试版,无法访问互联网。
Hugging Face Hub 提供多种 AI 水印工具,用于标记 AI 生成内容以验证其真实性。这些工具包括在生成过程中嵌入可见或不可见水印,以及使用数据中毒和签名技术来防止非授权图像操纵。水印技术适用于不同类型的数据,如图像、音频、文本等,并面临独特的挑战。Hugging Face Hub 提供开源工具,帮助用户进行不同类型的水印操作。
Hugging Face 发布 Gemma 模型支持 PEFT,允许用户在 Hugging Face 上进行参数高效微调,提高语言模型训练的效率和可访问性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Google 发布了新的开源大语言模型 Gemma,包括 2B 和 7B 参数版本,支持在 Hugging Face 平台使用,并提供了多种集成和部署方式。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face开源工具通过使用LLM创建合成数据,帮助用户训练更高效、更专业的模型,同时降低成本和碳排放。
推荐理由:原文提供了使用开源LLM创建合成数据的方法,读者可以了解如何通过这种方法提高模型效率和降低成本。
AMD与Hugging Face合作,举办Pervasive AI开发者大赛,提供700个AMD平台,总奖金高达16万美元,鼓励开发者创建独特的AI应用。Hugging Face和AMD为AMD GPU提供原生支持,并支持ONNX模型执行、Optimum-Benchmark、DeepSpeed等工具,助力开发者快速构建AI应用。
OpenAI 宣布正在测试 ChatGPT 的记忆功能,使其能够记住用户讨论过的内容以优化后续对话体验。官方强调用户拥有对 ChatGPT 记忆功能的控制权。
Hugging Face 推出 Messages API,实现与 OpenAI 兼容的文本生成推理和推理端点,允许用户无缝地从 OpenAI 模型过渡到开源 LLM。API 可直接用于 OpenAI 的客户端库或第三方工具,如 LangChain 或 LlamaIndex。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 SegMoE 混合专家扩散模型框架,支持在 Hugging Face 生态系统中创建和集成 MoE 模型。
推荐理由:SegMoE 是一个用于创建混合专家扩散模型的框架,读者可以了解其如何改变现有工作流。
Hugging Face 宣布 Hugging Face Text Generation Inference (TGI) 在 AWS Inferentia2 和 Amazon SageMaker 上正式可用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了宪法AI工具,旨在帮助将开源模型与宪法原则对齐,并通过实验评估了其效果。
推荐理由:原文介绍了宪法AI(CAI)的概念和实现方法,读者可以了解如何将开源模型与宪法原则对齐,并评估其效果。
Hugging Face 发布了 StarCoder 智能体功能加速,通过 8bit 和 4bit 量化以及辅助生成技术,在 Intel Xeon 处理器上实现了超过 7 倍的推理加速。
Hugging Face 发布了名为 smolagents 的代理库,该库允许用户将开源 LLMs 作为 LangChain 代理使用,并展示了如何构建和使用这些代理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
HuggingFace与IBM Research合作发布了PatchTSMixer,这是一种基于MLP-Mixer架构的轻量级时间序列建模方法,在预测任务中表现优于现有模型。
推荐理由:PatchTSMixer在时间序列建模方面的性能优于现有模型,读者可以了解其应用和潜力。
Hugging Face 发布了使用 ONNX Runtime 和 Olive 优化的 SD Turbo 和 SDXL Turbo 模型,显著提高了推理速度,并支持多种编程语言。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
本教程介绍了如何将复杂的 ComfyUI 工作流转换为简单的 Gradio 应用,并在 Hugging Face Spaces 的 ZeroGPU 服务器上免费部署和运行。
OpenAI 正式推出面向各规模团队的 ChatGPT Team 计划。该方案提供安全且协作的工作空间,旨在帮助用户在工作中更充分地利用 ChatGPT。
WHOOP 采用 GPT-4 模型,为用户提供个性化的健身和健康指导服务。该方案通过大语言模型技术优化了健康建议的针对性与体验。
Hugging Face 推出 Whisper 模型的 Speculative Decoding 技术,通过使用辅助模型来加速推理过程,将 Whisper 模型的推理速度提升了 2 倍,同时保持了相同的准确性。
推荐理由:原文提出了 Speculative Decoding 技术,可以显著提高 Whisper 模型的推理速度,读者可以了解其原理和应用。
Summer Health 与 OpenAI 合作,重新构想儿科医生问诊流程以提升就诊记录准确性。该方案旨在通过 AI 技术优化医疗文书工作,改善儿科诊疗体验。
Mistral AI 发布了 La Plateforme 平台,提供三种文本生成端点和一种嵌入端点,支持使用指令生成文本和嵌入模型。平台使用 Mistral 7B Instruct、Mixtral 8x7B 和原型模型,并支持 API 查询和系统提示词设置。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 Optimum-NVIDIA inference library,通过简单的 API 在 NVIDIA 平台上实现 LLM 推理速度提升至 28 倍,并支持 FP8 格式和 NVIDIA TensorRT-LLM 软件。
推荐理由:Optimum-NVIDIA inference library 可以显著加速 LLM 在 NVIDIA 平台上的推理速度,读者可以了解其如何改变现有工作流。
Hugging Face 发布了 LoRA 推理加速功能,通过动态加载 LoRA 适配器,将推理速度提高了 300%。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 AMD 合作,推出针对 AMD GPU 的 AI 模型加速方案,支持所有 Transformers 模型和任务在 AMD Instinct GPU 上运行,并提供一系列优化工具和性能提升。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了新的 Latent Consistency LoRAs,可以将 Stable Diffusion 和 SDXL 的生成步骤从 25-50 步减少到 4-8 步,从而实现快速图像生成。
推荐理由:原文介绍了如何通过 Latent Consistency LoRAs 快速生成图像,读者可以了解其如何改变现有工作流。