Hugging Face 发布 Falcon 180B 开源语言模型
Hugging Face 发布了 Falcon 180B 开源语言模型,具有1800亿参数,在多个自然语言任务上取得了最先进的成果,并提供了使用指南。
推荐理由:Falcon 180B 是目前最大的开源语言模型,具有1800亿参数,在多个自然语言任务上取得了最先进的成果,读者可以了解其性能和如何使用。
Hugging Face 发布了 Falcon 180B 开源语言模型,具有1800亿参数,在多个自然语言任务上取得了最先进的成果,并提供了使用指南。
推荐理由:Falcon 180B 是目前最大的开源语言模型,具有1800亿参数,在多个自然语言任务上取得了最先进的成果,读者可以了解其性能和如何使用。
Fetch 公司使用 Amazon SageMaker 和 Hugging Face 优化了其机器学习流程,使扫描处理速度更快,准确性更高,并将延迟降低了 50%。
Hugging Face 博客介绍了 AudioLDM 2 的优化方法,包括代码优化和模型优化,将音频生成时间从 14 秒缩短到不到 1 秒。
Code Llama 是一系列针对代码任务的 Llama 2 开放访问版本,它被集成到 Hugging Face 生态系统中。Code Llama 可以通过在 IDE 中提供代码补全来提高软件工程师的生产力,处理编写文档字符串或创建单元测试等重复或令人烦恼的任务。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face在Transformers中集成了AutoGPTQ库,使用户能够以8、4、3或2位精度量化模型,同时保持推理速度与fp16基准相当。
推荐理由:原文介绍了AutoGPTQ库的集成,使LLM量化更加便捷,读者可以了解其如何改变现有工作流。
Hugging Face 发布了 SafeCoder,一款面向企业的代码助手解决方案,旨在提高软件开发效率。SafeCoder 以安全和隐私为核心原则,允许企业自行托管和训练自己的代码大型语言模型,无需将代码分享给第三方。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了开源多模态视觉语言模型 IDEFICS,该模型基于 Flamingo,能够接受图像和文本输入并生成文本输出,性能与闭源模型相当,并提供了开源的数据集和模型。
推荐理由:IDEFICS 是一个开源的多模态视觉语言模型,其性能与闭源模型相当,为多模态 AI 系统的研究提供了新的可能性。
Hugging Face Hub 现已登陆 AWS Marketplace,用户可通过 AWS Marketplace 订阅 Hugging Face Hub,并使用 AWS 账户直接支付 Hugging Face 使用费用。
Hugging Face 的 🤗 Transformers 提供了优化 BARK 语音合成模型的工具,通过三种优化技术,显著提升推理速度和内存使用效率。BARK 模型自 v4.31.0 版本起加入 🤗 Transformers 库,支持生成多种音频输出,包括语音、音乐、背景噪音和简单音效。优化过程依赖于 🤗 Transformers、Optimum 和 Accelerate 库。
Hugging Face 发布了 Swift Transformers,这是一个用于在 Apple 设备上运行设备端 LLM 的工具。它包括 alpha 库和工具,旨在帮助开发者构建更快的应用程序,并支持多种模型和转换工具。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 DPO 方法,用于微调 Llama 2 模型,并介绍了在 TRL 库中如何使用该方法。
Hugging Face Hub 上有约 50K 个公共数据集,其中约 87% 未指定语言信息。Hugging Face 使用机器学习模型检测未标记语言的数据集,并通过 librarian-bots 添加元数据,以提高数据集的可搜索性。该模型使用 Meta 的 fastText 模型进行语言识别,可检测 217 种语言。
Segmind开源了其压缩模型SD-Small和SD-Tiny的知识蒸馏代码和权重,这些模型在知识蒸馏技术训练下,参数量分别比基础模型减少了35%和55%,同时保持了与基础模型相当的图像保真度。开源代码和预训练检查点可在Hugging Face上获取,蒸馏模型在推理速度上比原始模型快100%。
Hugging Face 发布了新的 Stable Diffusion XL 模型,并提供了 Core ML 支持,使得模型可以在 macOS 上运行。同时,还介绍了混合位调色板化技术,以减小模型大小并提高性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 Agents.js,这是一个新的 JavaScript 库,允许在浏览器或服务器中使用 JavaScript 为 LLMs 提供工具访问权限。
Hugging Face 的 Diffusers 库庆祝一周年,发布了多项新功能,包括支持更逼真的图像生成、视频生成、3D 模型生成、图像编辑、更快的扩散模型、伦理和安全功能、LoRA 支持和 PyTorch 2.0 优化。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Meta 发布了 Llama 2 模型,这是一个从 7B 到 70B 参数的开源大型语言模型家族,支持 Hugging Face 集成,包括预训练模型和微调模型。
推荐理由:原文介绍了 Llama 2 模型的特点和功能,读者可以了解其性能和适用场景。
Hugging Face 发布了新的开源文本生成和大型语言模型生态系统,包括 Llama 2 模型和其他开源模型,以及用于模型部署和微调的工具。
推荐理由:原文介绍了 Hugging Face 平台上开源文本生成和大型语言模型生态系统的最新发展,读者可以了解最新的模型和工具,以及它们如何改变现有工作流。
Hugging Face 博客介绍了如何使用 Transformers.js 库创建实时机器学习网页游戏 Doodle Dash。该游戏基于 Google 的 Quick, Draw!
Writer创始人Waseem Alshikh分享了公司从Hugging Face用户到贡献开源模型的历程,强调了Hugging Face Expert Acceleration Program对Writer的价值,并探讨了在CPU和GPU上大规模部署LLM的效率问题。
Hugging Face 博客文章探讨了 Open LLM 领导板上的 MMLU 评估结果差异,分析了不同评估方法对模型性能的影响。
推荐理由:原文探讨了不同评估方法对模型性能的影响,读者可以了解如何选择合适的评估方式。
Hugging Face 博客介绍了如何使用 MMS Adapter 模型进行低资源语言语音识别的微调,该模型在 10-20 分钟的微调后实现了惊人的低词错误率。MMS 模型能够识别和转录 1100 多种语言,包括濒危语言,有助于保护语言多样性。
Hugging Face推出Livebook笔记本在Hugging Face Spaces中的应用部署,用户可通过Livebook构建基于Whisper模型的聊天应用,并自动将音频消息转换为文本。该应用展示了Livebook和Elixir机器学习生态系统的集成,包括与Hugging Face模型的集成、多玩家机器学习应用和并发机器学习模型服务等功能。
Hugging Face 发布了优化后的 Stable Diffusion 模型,支持 6 位调色板量化,可在 iPhone、iPad 和 Mac 上运行,提高了模型速度并减少了内存使用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 AMD 合作,旨在为 CPU 和 GPU 平台提供最先进的 transformer 模型性能。该合作将支持多种模型架构和框架,包括自然语言处理、计算机视觉和语音模型,并预计将提高成本效益。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face Hub 提供超过 19 万个机器学习模型、3.3 万个数据集和 10 万个应用和演示,涵盖预训练语言模型、图像和音频分类模型、目标检测模型以及各种生成模型。该平台支持 GLAM 领域的用户分享和访问机器学习模型和数据集,并提供了模型和数据的搜索、使用和分享功能。
Hugging Face Hub 现已提供 fastText 库的官方镜像,包括 157 种语言的词向量以及语言识别模型,方便用户下载和使用。fastText 库支持文本分类和特征提取小部件,并可通过 Hugging Face API 进行调用。
Falcon 模型由阿布扎比的科技创新研究所创建,是 Hugging Face 生态系统中的新大型语言模型。Falcon-40B 是第一个具有与许多当前闭源模型相媲美能力的“真正开放”模型。
推荐理由:原文介绍了 Falcon 模型的特点和功能,以及如何在 Hugging Face 生态系统中使用它们,读者可以了解 Falcon 模型的最新进展和应用潜力。
Hugging Face Hub 现已集成 BERTopic,一个基于语言的模型,支持多种任务,包括对话、语音识别、调优、摘要、问答、情感分析、临床医学、翻译。
Hugging Face 推出专为 Amazon SageMaker 定制的 LLM 推理容器,支持部署开源 LLM 如 BLOOM,并优化了 Pythia Open Assistant Model 的部署,提供高性能文本生成和推理功能。
Hugging Face 博客介绍了如何使用 NNCF 和 🤗 Optimum 优化 Stable Diffusion 模型,以提升其在 Intel CPU 上的性能,包括 5.1 倍的推理加速和 4 倍的模型尺寸缩减。
Hugging Face 与微软合作,将 Hugging Face Hub 上的开源模型引入 Azure Machine Learning,简化了大型语言模型在 Azure 上的部署过程,并提供了安全可扩展的环境进行实时推理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 bitsandbytes 库,支持 4 位量化,并推出了 QLoRA 技术,用于在 4 位量化模型上进行微调。这项技术使得在单个 48GB GPU 上微调 65B 参数模型成为可能,同时保持了 16 位微调任务的全性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 探索了使用 InstructPix2Pix 指令微调 Stable Diffusion,使其能够根据用户指令对输入图像进行编辑。通过创建指令提示数据集,研究人员成功地将 FLAN V2 的指令微调理念应用于图像翻译和图像处理任务,如卡通化、去雨和去噪。实验结果表明,这种方法能够有效地提高模型对特定图像编辑指令的执行能力。
Hugging Face 与 EleutherAI 和 Stability AI 合作,对 Safetensors 库进行了安全审计,确认其安全性,并计划将其作为默认格式。Safetensors 是一个用于保存和加载张量的库,具有安全、懒加载和快速加载等特性。
推荐理由:Hugging Face 对 safetensors 库进行了安全审计,确认其安全性,并计划将其作为默认格式。读者可以了解其安全特性和应用场景。
Hugging Face 与 IBM 合作推出 watsonx.ai,下一代企业 AI 工作室,旨在帮助 AI 构建者训练、验证、调整和部署传统机器学习和新的生成式 AI 能力。该平台基于 RedHat OpenShift,支持云和本地部署,并集成了 Hugging Face 的开源库。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Q8-Chat模型通过SmoothQuant技术实现8位量化,在保持模型质量的同时,将模型大小缩小约2倍,显著降低推理延迟,在Xeon CPU平台上实现高效运行。
Hugging Face 博客介绍了 BigCode 的大规模文档级近似去重技术,旨在解决数据重复问题,提高模型训练效率和数据质量。该技术通过 MinHash LSH 等方法,在 OpenWebText2、Pile-CC 等大型数据集上实现了显著的去重效果,同时验证了其在代码模型上的有效性。
Vicuna 13B,一款由UC Berkeley等机构开发的13亿参数开源聊天机器人,在GPT-4的参考下达到90%以上质量。本文介绍了如何在单张AMD GPU上使用ROCm运行Vicuna 13B模型,包括系统要求、ROCm安装、Docker容器设置、模型量化和推理等步骤。
Hugging Face 推出 RWKV 模型,结合了 RNN 和 Transformer 的优势,具有长上下文处理能力和高效的训练速度。该模型已集成到 Hugging Face transformers 库中,并支持多种应用场景。
推荐理由:原文介绍了 RWKV 模型的特点和优势,读者可以了解其在自然语言处理领域的应用潜力。