Hugging Face Hub 推出存储区域功能,提升数据主权和性能
Hugging Face Hub 推出存储区域功能,允许用户选择模型和数据的存储位置,以符合监管和法律要求,并提升数据主权和性能。目前支持美国和欧盟区域,预计未来还将支持亚太地区。该功能通过提高上传和下载速度来显著提升性能,例如,在欧洲存储数据比在美国存储快4-5倍。
Hugging Face Hub 推出存储区域功能,允许用户选择模型和数据的存储位置,以符合监管和法律要求,并提升数据主权和性能。目前支持美国和欧盟区域,预计未来还将支持亚太地区。该功能通过提高上传和下载速度来显著提升性能,例如,在欧洲存储数据比在美国存储快4-5倍。
Hugging Face 数据集库与 Renumics Spotlight 联合推出数据可视化工具,用户只需一行代码即可创建交互式可视化,识别数据中的关键聚类。Spotlight 支持利用模型结果如预测和嵌入,深入了解数据段和模型失败模式。此外,Spotlight 还允许用户自定义数据检查工作流程,并找到相关的数据样本和聚类进行检查。
Hugging Face Inference Endpoints 提供了一种简单、安全的方式部署机器学习模型,支持快速部署、自动扩展、成本效益和高级安全功能。Text Embeddings Inference (TEI) 是专为部署和托管开源文本嵌入模型而构建的解决方案,支持所有 MTEB 排行榜前 10 的模型,并实现了多种性能优化功能。
OpenAI 宣布 DALL·E 3 现已在 ChatGPT Plus 和 Enterprise 中可用。官方表示已开发安全缓解技术栈以支持更广泛的发布,并分享了关于内容溯源研究的最新进展。
Gradio-Lite是一个JavaScript库,允许用户在浏览器中直接运行Gradio应用程序,无需服务器端基础设施。它利用Pyodide在浏览器环境中执行Python代码。Gradio-Lite的主要优势包括无服务器部署、低延迟交互和增强的隐私与安全性。然而,目前其最大的局限性是应用程序在浏览器中的初始加载时间较长(通常为5-15秒)。
Ironclad 使用 GPT-4 模型来简化合同审查流程。该应用旨在通过人工智能技术提升法律文档处理的效率与便捷性。
Retool 使用 GPT-4 为企业提供快速、安全地构建 AI 驱动应用程序的方式。该方案旨在简化企业级 AI 应用的开发流程,确保在提升效率的同时保障数据安全性。
Typeform 借助 GPT-3.5 和 GPT-4,将传统在线表单升级为动态且具备对话式交互的数据收集体验。这一转变旨在通过大语言模型增强用户与表单的互动性,实现更流畅的信息采集流程。
Hugging Face 社区超过 130,000 个 ONNX 支持模型可利用 ONNX Runtime 加速,包括多个流行的 LLM 和云模型,如 BERT、GPT2 等,平均推理延迟可降低 74.30%,提升性能。
Hugging Face 推出 chat_template 属性,用于保存模型训练时使用的聊天格式,解决不同模型训练格式不一致导致的性能下降问题。该功能通过 Jinja 模板将聊天消息转换为正确格式的字符串,提高模型性能。
Hugging Face Diffusers 发布了支持使用 JAX 在 Cloud TPU v5e 上加速 Stable Diffusion XL 推理的功能,通过结合定制的 TPU 硬件和优化的软件堆栈,实现了高性能和成本效益的推理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 Inference for PROs,使更大模型对更广泛用户群体可访问。AI 漫画工厂作为 Hugging Face 平台的应用示例,支持 Llama-2 和 SDXL 模型,用户可利用 Inference API 部署到个人空间,无需高技术技能,但需了解 API、环境变量和 LLM & Stable Diffusion。
Hugging Face 提供了无需代码即可训练和部署聊天机器人的方法,使用 LLaMA 2 模型,通过 AutoTrain 和 ChatUI 工具,任何人都可以轻松构建自己的开源聊天机器人。
推荐理由:原文提供了无需代码即可训练和部署聊天机器人的方法,读者可以了解如何利用这些工具简化工作流程。
Hugging Face 推出 Inference for PRO 用户功能,为用户提供访问精选模型 API 的权限,并提高免费 Inference API 的使用速率限制。
Rocket Money(一个个人财务应用)与 Hugging Face 合作,使用 Hugging Face 的模型托管服务来扩展其机器学习模型,以提高交易处理效率和用户体验。
Hugging Face 发布了 SafeCoder,一款面向企业的智能代码助手,它基于开源模型 StarCoder,提供透明度、可定制性、IT 弹性和隐私保护。SafeCoder 可以帮助用户训练模型,学习特定软件工程流程的细微差别,并支持在本地或云端运行。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Fetch 公司使用 Amazon SageMaker 和 Hugging Face 优化了其机器学习流程,使扫描处理速度更快,准确性更高,并将延迟降低了 50%。
OpenAI 推出 ChatGPT Enterprise,提供企业级安全和隐私保护,并具备最强大的 ChatGPT 版本。
Hugging Face 从 2023 年 10 月 1 日起不再接受密码作为 Git 操作的认证方式,建议用户使用更安全的个人访问令牌或 SSH 密钥进行认证。用户需在截止日期前更新认证方法,否则将无法进行 Git 操作。
OpenAI 与 Scale 合作,允许客户利用 Scale 的 AI 专业知识来定制 OpenAI 最先进的模型。
Hugging Face在Transformers中集成了AutoGPTQ库,使用户能够以8、4、3或2位精度量化模型,同时保持推理速度与fp16基准相当。
推荐理由:原文介绍了AutoGPTQ库的集成,使LLM量化更加便捷,读者可以了解其如何改变现有工作流。
OpenAI 宣布正式向开发者提供 GPT-3.5 和 GPT-4 模型的微调(Fine-tuning)服务。该功能允许用户利用自有数据对模型进行定制化训练,以提升特定任务的性能表现。
推荐理由:官方公告确认了微调功能的正式开放,开发者可据此评估将定制模型集成到现有应用中的可行性。
Hugging Face 发布了 SafeCoder,一款面向企业的代码助手解决方案,旨在提高软件开发效率。SafeCoder 以安全和隐私为核心原则,允许企业自行托管和训练自己的代码大型语言模型,无需将代码分享给第三方。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
OpenAI 利用 GPT-4 辅助制定内容政策及执行审核决策。该应用实现了更一致的标签分类,加速了政策优化的反馈循环,并减少了人工审核员的介入需求。
Hugging Face Hub 现已登陆 AWS Marketplace,用户可通过 AWS Marketplace 订阅 Hugging Face Hub,并使用 AWS 账户直接支付 Hugging Face 使用费用。
Hugging Face的BentoML平台支持机器学习模型部署,本文以DeepFloyd IF为例,展示了如何使用BentoML框架进行模型部署,包括定义模型、创建服务、构建Bento和部署Bento等步骤。DeepFloyd IF是一个开源的文本到图像模型,具有高真实感和复杂的语言理解能力。
Hugging Face 的 🤗 Transformers 提供了优化 BARK 语音合成模型的工具,通过三种优化技术,显著提升推理速度和内存使用效率。BARK 模型自 v4.31.0 版本起加入 🤗 Transformers 库,支持生成多种音频输出,包括语音、音乐、背景噪音和简单音效。优化过程依赖于 🤗 Transformers、Optimum 和 Accelerate 库。
Hugging Face 发布了 Swift Transformers,这是一个用于在 Apple 设备上运行设备端 LLM 的工具。它包括 alpha 库和工具,旨在帮助开发者构建更快的应用程序,并支持多种模型和转换工具。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 博客介绍了如何使用 Inference Endpoints 快速部署 MusicGen 音乐生成模型,通过自定义处理程序和依赖项,只需几步即可实现模型的部署和调用。
Hugging Face Hub 上有约 50K 个公共数据集,其中约 87% 未指定语言信息。Hugging Face 使用机器学习模型检测未标记语言的数据集,并通过 librarian-bots 添加元数据,以提高数据集的可搜索性。该模型使用 Meta 的 fastText 模型进行语言识别,可检测 217 种语言。
Hugging Face 发布了新的 Stable Diffusion XL 模型,并提供了 Core ML 支持,使得模型可以在 macOS 上运行。同时,还介绍了混合位调色板化技术,以减小模型大小并提高性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 Agents.js,这是一个新的 JavaScript 库,允许在浏览器或服务器中使用 JavaScript 为 LLMs 提供工具访问权限。
Hugging Face于7月7日至11日举办了首届开源AI游戏马拉松,共有88款游戏提交,其中Snip It获得冠军。活动鼓励开发者使用开源AI工具,如Stable Diffusion和GPT-4,展示了开源AI在游戏开发中的潜力。
OpenAI 通过官方新闻渠道发布了新的产品更新。具体功能细节需参考原文完整描述。
推荐理由:官方渠道直接发布的产品动态,读者可据此确认功能上线状态及后续体验入口。
Hugging Face 的 Diffusers 库庆祝一周年,发布了多项新功能,包括支持更逼真的图像生成、视频生成、3D 模型生成、图像编辑、更快的扩散模型、伦理和安全功能、LoRA 支持和 PyTorch 2.0 优化。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face推出的AI WebTV实验演示展示了Zeroscope和MusicGen等开源文本到视频模型的最新进展,通过NodeJS和TypeScript实现,使用Zeroscope V2模型生成视频,并配合MusicGen生成音乐,通过FFmpeg进行视频流广播。
Viable 使用 GPT-4 以革命性的规模和前所未有的准确性分析定性数据。
Hugging Face 博客介绍了如何使用 Transformers.js 库创建实时机器学习网页游戏 Doodle Dash。该游戏基于 Google 的 Quick, Draw!
Hugging Face 推出 Inference Endpoints,简化开源 LLM 模型部署,支持 Falcon、LLaMA 等模型,提供自动扩缩、成本优化和高级安全功能。用户可通过简单操作部署模型,并使用 JavaScript 和 Python 进行流式响应测试。
Hugging Face 推出使用大型语言模型(LLM)构建网页应用生成器的教程,通过流式传输和渲染内容实现 AI 网页内容生成。教程介绍了在 Node.js 环境中使用 LLM 的方法,包括本地运行模型、使用云 API 和配置推理端点等。