Hugging Face发布TRL和PEFT集成,实现大规模语言模型微调
Hugging Face发布TRL和PEFT集成,允许用户在24GB消费级GPU上微调20B参数的大型语言模型,提高了RLHF微调的易用性。
推荐理由:原文介绍了如何使用TRL和PEFT库在24GB消费级GPU上微调20B参数的大型语言模型,读者可以了解如何利用这些工具进行大规模语言模型的微调。
Hugging Face发布TRL和PEFT集成,允许用户在24GB消费级GPU上微调20B参数的大型语言模型,提高了RLHF微调的易用性。
推荐理由:原文介绍了如何使用TRL和PEFT库在24GB消费级GPU上微调20B参数的大型语言模型,读者可以了解如何利用这些工具进行大规模语言模型的微调。
Kakao Brain 和 Hugging Face 发布了新的开源图像-文本数据集 COYO 和基于该数据集训练的两个视觉语言模型 ViT 和 ALIGN。这是首个公开的免费和开源的 ALIGN 模型,也是首个与训练数据集一起发布的 ViT 和 ALIGN 模型。Kakao Brain 的 ViT 和 ALIGN 模型在性能上与 Google 的版本相当,并且演示了如何使用这些模型。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
ControlNet 是一种框架,允许用户通过不同的空间上下文(如深度图、分割图、涂鸦、关键点等)来定制生成过程。该框架支持多种条件模型,并已集成到 Diffusers 中,允许用户通过控制网络来控制图像生成过程。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Witty Works利用Hugging Face的专家加速计划,通过迁移学习预训练的spaCy模型,构建了写作助手,用于检测和过滤潜在偏见词汇。Hugging Face专家建议使用Sentence Transformers架构和SetFit库进行微调,以减少标注数据量并提高效率。最终,Witty Works在Azure上部署了模型,实现了低延迟。
Hugging Face 发布了 Swift Diffusers,一个基于最先进的扩散模型的 Mac 本地应用程序。它利用了社区贡献给 Hugging Face Hub 的 SoTA 文本到图像模型,并转换为 Core ML 以实现闪电般的性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Fetch公司利用Hugging Face和AWS平台,开发了自己的AI工具,用于处理用户上传的收据,实现数据分析和存储。通过这种方式,Fetch将开发时间缩短了30%,并提高了数据处理速度,同时降低了成本。
Hugging Face 与 Amazon Web Services (AWS) 合作,旨在通过使下一代机器学习模型更易于访问,以加速其可用性,并帮助开发者以最低的成本实现最高性能。Hugging Face 将利用 AWS 作为首选云服务提供商,使开发者能够访问 AWS 的先进工具,以训练、微调和部署模型。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Salesforce 研究推出的 BLIP-2 可用于图像字幕、提示图像字幕、视觉问答和基于聊天的提示,它是一种零样本视觉语言模型,可用于多种图像到文本任务,具有高效和有效的方法,适用于多种图像理解场景,特别是示例稀缺的情况下。
推荐理由:BLIP-2 是一种零样本视觉语言模型,可用于多种图像到文本任务,具有高效和有效的方法,适用于多种图像理解场景,特别是示例稀缺的情况下。该模型通过在预训练模型之间添加一个 Transformer 来弥合视觉和自然语言模态之间的差距。新的预训练范式使该模型能够跟上各个模态的进步。
Hugging Face推出Inference Endpoints服务,旨在简化Transformer模型的部署。该服务支持在AWS、Azure和GCP等云平台上部署模型,并支持多种实例类型,包括GPU。
Hugging Face发布了PEFT库,提供参数高效的微调技术,用于在下游任务和数据集上微调大型语言模型,同时节省计算和存储资源。
推荐理由:原文介绍了PEFT方法在微调大型语言模型时的效率和效果,读者可以了解其如何应用于不同任务和数据集,以及如何使用PEFT库进行模型微调。
Hugging Face 发布了 SpeechT5 模型,这是一个支持语音合成、识别等多种功能的模型,它基于 🤗 Transformers 开源库,并提供了多种预训练模型和演示。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
OpenAI 宣布推出 ChatGPT Plus 订阅服务,为付费用户提供优先访问权限和更快的响应速度。该服务旨在通过商业化模式支持模型持续改进与基础设施扩容。
OpenAI 推出一个经过训练以区分 AI 生成文本与人类撰写文本的分类器。
Hugging Face 发布了计算机视觉功能更新,包括支持 8 个核心视觉任务、3000 多个模型和 100 多个数据集,以及与其他第三方库的集成。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face推出LoRA技术,用于高效Stable Diffusion模型微调。LoRA技术通过冻结预训练模型权重并注入可训练层,大大减少了可训练参数数量和GPU内存需求,从而提高了模型微调的效率和效果。
推荐理由:原文介绍了LoRA技术及其在Stable Diffusion模型微调中的应用,读者可以了解如何利用LoRA提高模型微调的效率和效果。
Hugging Face 的 Optimum 库通过集成 ONNX Runtime 进行训练,为许多流行的 Hugging Face 模型提供了开源解决方案,以提高训练时间 35% 或更多。Optimum 集成了机器学习加速器如 ONNX Runtime 和专用硬件,如 Intel 的 Habana Gaudi,以在训练和推理中实现显著加速。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
PaddlePaddle,自2016年起由百度开源的深度学习平台,已拥有超过535万开发者和20万家企业用户。PaddlePaddle提供多种开源库,如PaddleOCR、PaddleDetection、PaddleNLP等,并计划逐步将其库与Hugging Face Hub集成,预计将提供全系列预训练模型。
OpenAI 使用 GPT-3 模型快速分析客户反馈,以生成细致的业务洞察。该应用展示了大语言模型在处理非结构化用户数据时的效率与深度理解能力。
OpenAI 通过微调 GPT-3 模型来支持并扩展“代劳式”(done-for-you)视频创作服务。该方案旨在利用大语言模型的生成能力,实现视频内容的规模化自动生产。
OpenAI 使用 GPT-3 创建下一代由 AI 驱动的角色。
Habana Gaudi®2 发布,性能比第一代 Gaudi 和 Nvidia A100 80GB 提升约两倍,支持更大模型训练和推理。
推荐理由:原文给出了 Habana Gaudi®2 的性能提升和可用性信息,读者可以据此评估其对现有工作流的影响。
Hugging Face 推出 Bumblebee 库,实现 Hugging Face Transformers 在 Elixir 中的纯 Elixir 实现,助力 Elixir 社区 AI 发展。
Hugging Face Blog 发布了 Stable Diffusion Core ML 版本,兼容 Apple Silicon,提供了转换脚本和推理代码,并支持 CPU、GPU 和 Apple 的 Neural Engine。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 提供免费推理小部件和 API,支持模型快速测试和部署;Inference Endpoints 可在 AWS 或 Azure 上部署模型,支持自动扩展和多种安全级别;Spaces 可在简单 UI 框架上部署模型,支持硬件升级。
Hugging Face 博客介绍了文档 AI 的多种用例和开源模型,包括 OCR、文档图像分类、文档布局分析、文档解析、表格检测和文档问答等,并提供了构建自定义解决方案的指导。
推荐理由:原文详细介绍了文档 AI 的多种用例和开源模型,读者可以了解如何构建自定义解决方案,并评估其对现有工作流的影响。
Hugging Face 博客介绍了一种使用 Concrete-ML 库在完全同态加密(FHE)环境下进行机器学习模型训练的方法,通过结合 transformers 和 XGBoost 实现对加密数据的情感分析,并提供了详细的教程和示例。
Hugging Face发布了Contrastive Search文本生成工具,该工具基于Transformer架构,旨在提高文本生成的质量和连贯性。
推荐理由:原文介绍了Contrastive Search在文本生成中的优势,读者可以了解其如何改进现有工作流。
Hugging Face 正式取消 Inference API 服务的付费层级,推出 Inference Endpoints 提供快速、企业级推理服务。Spaces 引入硬件升级,支持用户选择硬件运行 ML 演示。付费服务使用需添加信用卡,账单设置集中管理个人 PRO 订阅、支付方式及过去三个月的使用情况。
OpenAI 宣布 DALL·E API 即日起进入公测阶段。开发者现在可以开始使用 DALL·E API 构建应用程序。
Hugging Face 和 Intel 合作推出 Optimum Intel 和 OpenVINO,支持在多种 Intel 处理器上使用 OpenVINO Runtime 进行推理,并可通过 OpenVINO Neural Network Compression Framework 对模型进行量化,减少模型大小和预测延迟。
Hugging Face 推出 Inference Endpoints,简化机器学习模型部署流程,支持从 Hugging Face hub 一键部署至云基础设施,提供简单、安全、可扩展的模型部署服务。用户可选择公共、受保护或私有访问权限,并通过 API 调用或界面测试模型。
Hugging Face Diffusers 从 0.5.1 版本开始支持 Flax,可在 Google TPUs 上实现超快推理,如 Colab、Kaggle 或 Google Cloud Platform。本文介绍了如何使用 JAX/Flax 运行推理,并提供了相关 Colab 笔记本链接。
Hugging Face 优化了 BLOOM 模型的推理服务器,实现了 5 倍的延迟降低和 50 倍的吞吐量提升,并分享了优化过程中的挑战和经验。
推荐理由:本文详细介绍了如何优化 BLOOM 模型的推理服务器,包括多种优化策略和技术,读者可以从中学习到模型优化的方法和经验。
Hugging Face 推出 DOI 标识符功能,允许用户直接从 Hub 生成模型或数据集的 DOI,方便学术社区引用和分享。DOI 与对象元数据绑定,提供永久链接,确保信息持久可用。通过与 DataCite 合作,用户可轻松申请 DOI,并更新模型或数据集的新版本。
OpenAI 宣布 DALL·E 现已取消等待名单,新用户可直接开始创建图像。官方指出,部署过程中积累的经验以及安全系统的改进使得更广泛的可用性成为可能。
推荐理由:官方宣布取消排队机制并开放新用户直接使用,结合安全系统改进说明了扩大可用性的背景。
Hugging Face 推出 AutoTrain 图像分类功能,允许用户无需编码即可训练模型,支持多种图像分类任务,如识别蝴蝶种类、植物疾病等。
Hugging Face 开发了工具,利用 PyTorch 特性加载和运行大型模型,即使它们不适合大多数消费级硬件的内存。
推荐理由:原文介绍了如何使用 PyTorch 加速运行大型模型,读者可以了解如何利用这些工具优化模型运行效率。
Hugging Face 推出 SetFit,一种高效的少样本学习框架,无需提示即可在少量标记数据下实现高精度,支持多语言,并提供简单易用的训练方法。
推荐理由:SetFit 是一种高效的少样本学习框架,可以在少量标记数据的情况下实现高精度,读者可以了解其工作原理和应用方法。
Hugging Face 博客介绍了如何使用 DeepSpeed 和 Accelerate 极速推理 BLOOM 模型,包括不同 GPU 配置、量化方案和优化方法。
推荐理由:原文提供了多种加速 BLOOM 模型推理的方法,读者可以了解不同方案的优缺点,选择适合自己需求的方案。
Hugging Face 发布 Diffusers 2.0,新增图像到图像生成、文本逆转换、修复、Mac OS 支持、ONNX 导出器、新文档和社区功能,包括视频生成、模型可解释性、日语 Stable Diffusion、交叉注意力控制、可重用种子等。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。