Hugging Face 推出 DPO 方法用于微调 Llama 2 模型
Hugging Face 推出 DPO 方法,用于微调 Llama 2 模型,并介绍了在 TRL 库中如何使用该方法。
Hugging Face 推出 DPO 方法,用于微调 Llama 2 模型,并介绍了在 TRL 库中如何使用该方法。
Hugging Face 博客介绍了如何使用 Inference Endpoints 快速部署 MusicGen 音乐生成模型,通过自定义处理程序和依赖项,只需几步即可实现模型的部署和调用。
Hugging Face Hub 上有约 50K 个公共数据集,其中约 87% 未指定语言信息。Hugging Face 使用机器学习模型检测未标记语言的数据集,并通过 librarian-bots 添加元数据,以提高数据集的可搜索性。该模型使用 Meta 的 fastText 模型进行语言识别,可检测 217 种语言。
Hugging Face 发布了新的 Stable Diffusion XL 模型,并提供了 Core ML 支持,使得模型可以在 macOS 上运行。同时,还介绍了混合位调色板化技术,以减小模型大小并提高性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 Agents.js,这是一个新的 JavaScript 库,允许在浏览器或服务器中使用 JavaScript 为 LLMs 提供工具访问权限。
OpenAI 通过官方新闻渠道发布了新的产品更新。具体功能细节需参考原文完整描述。
推荐理由:官方渠道直接发布的产品动态,读者可据此确认功能上线状态及后续体验入口。
Hugging Face 的 Diffusers 库庆祝一周年,发布了多项新功能,包括支持更逼真的图像生成、视频生成、3D 模型生成、图像编辑、更快的扩散模型、伦理和安全功能、LoRA 支持和 PyTorch 2.0 优化。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face推出的AI WebTV实验演示展示了Zeroscope和MusicGen等开源文本到视频模型的最新进展,通过NodeJS和TypeScript实现,使用Zeroscope V2模型生成视频,并配合MusicGen生成音乐,通过FFmpeg进行视频流广播。
Hugging Face 发布了新的开源文本生成和大型语言模型生态系统,包括 Llama 2 模型和其他开源模型,以及用于模型部署和微调的工具。
推荐理由:原文介绍了 Hugging Face 平台上开源文本生成和大型语言模型生态系统的最新发展,读者可以了解最新的模型和工具,以及它们如何改变现有工作流。
Viable 使用 GPT-4 以革命性的规模和前所未有的准确性分析定性数据。
Hugging Face 推出 Inference Endpoints,简化开源 LLM 模型部署,支持 Falcon、LLaMA 等模型,提供自动扩缩、成本优化和高级安全功能。用户可通过简单操作部署模型,并使用 JavaScript 和 Python 进行流式响应测试。
Hugging Face 推出使用大型语言模型(LLM)构建网页应用生成器的教程,通过流式传输和渲染内容实现 AI 网页内容生成。教程介绍了在 Node.js 环境中使用 LLM 的方法,包括本地运行模型、使用云 API 和配置推理端点等。
Hugging Face Blog发布了一篇关于加速视觉-语言模型BridgeTower在Habana Gaudi2上的应用的博客文章。文章介绍了BridgeTower模型在Habana Gaudi2硬件加速器上的性能提升,以及如何通过Optimum Habana软件库利用这些特性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face Spaces 现已集成 Panel 模板,支持用户在 Python 中构建强大的工具、仪表盘和复杂应用。Panel 是一个开源库,提供广泛的绘图库支持,并允许将 Jupyter 笔记本中的组件无缝集成到仪表盘中。此外,Panel 还支持构建复杂的多页面应用、高级交互功能、可视化大型数据集和实时数据流。
Hugging Face推出Livebook笔记本在Hugging Face Spaces中的应用部署,用户可通过Livebook构建基于Whisper模型的聊天应用,并自动将音频消息转换为文本。该应用展示了Livebook和Elixir机器学习生态系统的集成,包括与Hugging Face模型的集成、多玩家机器学习应用和并发机器学习模型服务等功能。
Hugging Face 发布了优化后的 Stable Diffusion 模型,支持 6 位调色板量化,可在 iPhone、iPad 和 Mac 上运行,提高了模型速度并减少了内存使用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
OpenAI 宣布 GPT-4 API 更新,新增可操控模型、函数调用功能,支持更长上下文,并降低价格。
Hugging Face 与 AMD 合作,旨在为 CPU 和 GPU 平台提供最先进的 transformer 模型性能。该合作将支持多种模型架构和框架,包括自然语言处理、计算机视觉和语音模型,并预计将提高成本效益。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face Hub 提供超过 19 万个机器学习模型、3.3 万个数据集和 10 万个应用和演示,涵盖预训练语言模型、图像和音频分类模型、目标检测模型以及各种生成模型。该平台支持 GLAM 领域的用户分享和访问机器学习模型和数据集,并提供了模型和数据的搜索、使用和分享功能。
Hugging Face Hub新增使用DuckDB分析数据集的功能,支持用户对存储在Hub上的数据集进行SQL查询,提高数据分析效率。该功能将所有公共数据集自动转换为Parquet文件,方便用户通过简单的HTTP调用访问。
Hugging Face Unity API 教程指导用户在Unity游戏中实现先进的语音识别功能,可用于命令输入、NPC对话、提升可访问性等,教程包含设置场景、编写脚本、录音编码等步骤。
Hugging Face Hub 现已集成 BERTopic,一个基于语言的模型,支持多种任务,包括对话、语音识别、调优、摘要、问答、情感分析、临床医学、翻译。
Hugging Face 推出专为 Amazon SageMaker 定制的 LLM 推理容器,支持部署开源 LLM 如 BLOOM,并优化了 Pythia Open Assistant Model 的部署,提供高性能文本生成和推理功能。
Hugging Face 博客介绍了如何使用 NNCF 和 🤗 Optimum 优化 Stable Diffusion 模型,以提升其在 Intel CPU 上的性能,包括 5.1 倍的推理加速和 4 倍的模型尺寸缩减。
Hugging Face 与微软合作,将 Hugging Face Hub 上的开源模型引入 Azure Machine Learning,简化了大型语言模型在 Azure 上的部署过程,并提供了安全可扩展的环境进行实时推理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 bitsandbytes 库,支持 4 位量化,并推出了 QLoRA 技术,用于在 4 位量化模型上进行微调。这项技术使得在单个 48GB GPU 上微调 65B 参数模型成为可能,同时保持了 16 位微调任务的全性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 IBM 合作推出 watsonx.ai,下一代企业 AI 工作室,旨在帮助 AI 构建者训练、验证、调整和部署传统机器学习和新的生成式 AI 能力。该平台基于 RedHat OpenShift,支持云和本地部署,并集成了 Hugging Face 的开源库。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
OpenAI推出ChatGPT iOS应用,同步对话记录,支持语音输入,并带来最新模型改进。
Hugging Face 推出辅助生成,一种新的低延迟文本生成方法,通过使用较小的辅助模型来加速文本生成过程,实现高达 10 倍的延迟降低。
推荐理由:原文介绍了低延迟文本生成的新方法,读者可以了解其如何优化现有工作流。
BigCode 的 StarCoder 模型发布,一个基于 80 多种编程语言、GitHub 问题和 Jupyter 笔记本训练的 1600 亿参数模型。该模型可用于创建个性化的编码助手,并支持多查询注意力机制和快速的大批量推理。
推荐理由:原文展示了如何将 StarCoder 模型微调为聊天机器人,读者可以了解其如何改变现有工作流。
StarCoder 是一款基于 GitHub 数据训练的代码大语言模型,具有超过 15B 参数和 1 万亿个 token 的上下文长度。它在多个编程基准测试中优于现有的开源代码 LLM,并与 OpenAI 的 Codex 模型相媲美。StarCoder 可以用于自动完成代码、根据指令修改代码以及用自然语言解释代码片段。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face Unity API 允许开发者将 Hugging Face AI 模型集成到 Unity 项目中,支持多种任务如文本生成、分类、问答等。通过简单的步骤安装 API,并使用 API Wizard 配置模型和 API 密钥。API 支持异步调用,并提供回调处理响应或错误。
Databricks 推出与 Hugging Face 的合作,通过 Apache Spark™ dataframe 直接创建 Hugging Face Dataset,简化模型训练和调优流程。新功能将 Spark 的数据处理效率和 Hugging Face 的数据集优化相结合,将 16GB 数据集的处理时间从 22 分钟缩短至 12 分钟,速度提升超过 40%。
ChatGPT 用户可关闭聊天历史,自主选择用于模型训练的对话数据,提升数据管理灵活性。
Hugging Face 推出面向中文用户的博客,提供包括 Transformer、扩散模型和强化学习等资源的翻译,旨在促进中西方 AI 社区合作。博客强调中国 AI 社区的成就,如 HuggingGPT、ChatGLM 等,并计划加强与中国合作伙伴的合作,共同推动 AI 发展。
Hugging Face Space 现可托管 Unity 游戏,支持构建、托管和分享演示。教程详细介绍了如何使用 Static HTML 模板创建空间,通过 Git 克隆空间,在 Unity 项目中设置 WebGL 构建目标,并最终在 Hugging Face Space 中托管游戏。
Hugging Face 与 AWS 合作,推出 AWS Inferentia2 加速器,用于优化 Hugging Face Transformers 的性能。该加速器提供了前所未有的吞吐量、延迟、性能功耗比和可扩展性。通过 AWS Neuron SDK 的原生集成,开发者只需一行代码即可将模型编译为 Inferentia2。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Snorkel AI 与 Hugging Face 合作,推出 Snorkel Flow 开发平台,帮助企业适应和优化基础模型。平台支持用户从 Hugging Face 的 150,000 个开源模型中选择,并通过程序化标注和微调提高模型质量。此合作使企业能够更灵活地利用开源模型,加速数据驱动的 AI 应用开发。
Hugging Face 发布了 StackLLaMA 模型,通过 RLHF 方法训练 LLaMA 模型以回答 Stack Exchange 上的问题,并提供了整个训练流程。
Hugging Face 发布了 Habana Gaudi2 加速器上的 BLOOMZ 大语言模型快速推理功能,使用 🤗 Optimum Habana 库可以轻松部署百亿参数的大型语言模型,如 BLOOM,并实现比市场上任何 GPU 更快的推理速度。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。