Hugging Face开源SD-Small和SD-Tiny压缩模型知识蒸馏代码和权重
Segmind开源了其压缩模型SD-Small和SD-Tiny的知识蒸馏代码和权重,这些模型在知识蒸馏技术训练下,参数量分别比基础模型减少了35%和55%,同时保持了与基础模型相当的图像保真度。开源代码和预训练检查点可在Hugging Face上获取,蒸馏模型在推理速度上比原始模型快100%。
Segmind开源了其压缩模型SD-Small和SD-Tiny的知识蒸馏代码和权重,这些模型在知识蒸馏技术训练下,参数量分别比基础模型减少了35%和55%,同时保持了与基础模型相当的图像保真度。开源代码和预训练检查点可在Hugging Face上获取,蒸馏模型在推理速度上比原始模型快100%。
Meta 发布了 Llama 2 模型,这是一个从 7B 到 70B 参数的开源大型语言模型家族,支持 Hugging Face 集成,包括预训练模型和微调模型。
推荐理由:原文介绍了 Llama 2 模型的特点和功能,读者可以了解其性能和适用场景。
Hugging Face 发布了新的开源文本生成和大型语言模型生态系统,包括 Llama 2 模型和其他开源模型,以及用于模型部署和微调的工具。
推荐理由:原文介绍了 Hugging Face 平台上开源文本生成和大型语言模型生态系统的最新发展,读者可以了解最新的模型和工具,以及它们如何改变现有工作流。
Hugging Face 推出在 Intel Sapphire Rapids CPU 上进行 Stable Diffusion 模型微调的方法,利用 Intel Advanced Matrix Extensions (AMX) 加速深度学习工作负载,实现高效图像生成。
Hugging Face Blog发布了一篇关于加速视觉-语言模型BridgeTower在Habana Gaudi2上的应用的博客文章。文章介绍了BridgeTower模型在Habana Gaudi2硬件加速器上的性能提升,以及如何通过Optimum Habana软件库利用这些特性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 博客文章探讨了 Open LLM 领导板上的 MMLU 评估结果差异,分析了不同评估方法对模型性能的影响。
推荐理由:原文探讨了不同评估方法对模型性能的影响,读者可以了解如何选择合适的评估方式。
Hugging Face 博客介绍了如何使用 MMS Adapter 模型进行低资源语言语音识别的微调,该模型在 10-20 分钟的微调后实现了惊人的低词错误率。MMS 模型能够识别和转录 1100 多种语言,包括濒危语言,有助于保护语言多样性。
Hugging Face 博客发布了一篇论文,探讨了大型语言模型在数据标注方面的能力,并介绍了 Open LLM Leaderboard 评估套件的扩展。
推荐理由:该研究探讨了大型语言模型在数据标注方面的能力,为读者提供了对模型性能的评估方法。
Hugging Face Hub 现已提供 fastText 库的官方镜像,包括 157 种语言的词向量以及语言识别模型,方便用户下载和使用。fastText 库支持文本分类和特征提取小部件,并可通过 Hugging Face API 进行调用。
Falcon 模型由阿布扎比的科技创新研究所创建,是 Hugging Face 生态系统中的新大型语言模型。Falcon-40B 是第一个具有与许多当前闭源模型相媲美能力的“真正开放”模型。
推荐理由:原文介绍了 Falcon 模型的特点和功能,以及如何在 Hugging Face 生态系统中使用它们,读者可以了解 Falcon 模型的最新进展和应用潜力。
OpenAI 发布了一项新研究,提出使用过程监督(Process Supervision)来改进大型语言模型的数学推理能力。该方法通过对模型生成的中间步骤进行奖励建模,而非仅关注最终答案,从而显著提升了模型在复杂推理任务上的准确性和可解释性。
Hugging Face 博客介绍了如何使用 NNCF 和 🤗 Optimum 优化 Stable Diffusion 模型,以提升其在 Intel CPU 上的性能,包括 5.1 倍的推理加速和 4 倍的模型尺寸缩减。
Hugging Face 发布了 bitsandbytes 库,支持 4 位量化,并推出了 QLoRA 技术,用于在 4 位量化模型上进行微调。这项技术使得在单个 48GB GPU 上微调 65B 参数模型成为可能,同时保持了 16 位微调任务的全性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 探索了使用 InstructPix2Pix 指令微调 Stable Diffusion,使其能够根据用户指令对输入图像进行编辑。通过创建指令提示数据集,研究人员成功地将 FLAN V2 的指令微调理念应用于图像翻译和图像处理任务,如卡通化、去雨和去噪。实验结果表明,这种方法能够有效地提高模型对特定图像编辑指令的执行能力。
Q8-Chat模型通过SmoothQuant技术实现8位量化,在保持模型质量的同时,将模型大小缩小约2倍,显著降低推理延迟,在Xeon CPU平台上实现高效运行。
Hugging Face 博客介绍了 BigCode 的大规模文档级近似去重技术,旨在解决数据重复问题,提高模型训练效率和数据质量。该技术通过 MinHash LSH 等方法,在 OpenWebText2、Pile-CC 等大型数据集上实现了显著的去重效果,同时验证了其在代码模型上的有效性。
Vicuna 13B,一款由UC Berkeley等机构开发的13亿参数开源聊天机器人,在GPT-4的参考下达到90%以上质量。本文介绍了如何在单张AMD GPU上使用ROCm运行Vicuna 13B模型,包括系统要求、ROCm安装、Docker容器设置、模型量化和推理等步骤。
Hugging Face 推出 RWKV 模型,结合了 RNN 和 Transformer 的优势,具有长上下文处理能力和高效的训练速度。该模型已集成到 Hugging Face transformers 库中,并支持多种应用场景。
推荐理由:原文介绍了 RWKV 模型的特点和优势,读者可以了解其在自然语言处理领域的应用潜力。
Hugging Face 推出辅助生成,一种新的低延迟文本生成方法,通过使用较小的辅助模型来加速文本生成过程,实现高达 10 倍的延迟降低。
推荐理由:原文介绍了低延迟文本生成的新方法,读者可以了解其如何优化现有工作流。
本文深入探讨了文本到视频模型的研究进展,包括挑战、方法和最新成果,如Phenaki、Make-A-Video、NUWA、VideoGPT、CogVideo、Video Diffusion Models (VDM)、MagicVideo、Tune-a-Video、Video LDM、Text2Video-Zero、Runway Gen1和Gen2、NUWA-XL等。
推荐理由:本文深入探讨了文本到视频模型的研究进展,包括挑战、方法和最新成果,对了解该领域的发展具有重要意义。
StarCoder 是一款基于 GitHub 数据训练的代码大语言模型,具有超过 15B 参数和 1 万亿个 token 的上下文长度。它在多个编程基准测试中优于现有的开源代码 LLM,并与 OpenAI 的 Codex 模型相媲美。StarCoder 可以用于自动完成代码、根据指令修改代码以及用自然语言解释代码片段。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 博客介绍了如何使用开源模型 IF 在免费 Google Colab 上运行,并展示了其在图像生成方面的能力,包括图像变体和图像修复。
推荐理由:介绍了如何使用开源模型 IF 在免费 Google Colab 上运行,并展示了其在图像生成方面的能力。
Microsoft 的 Graphormer 模型在 Hugging Face Transformers 库中被用于图分类任务,本文介绍了如何使用该模型进行图分类,包括数据加载、预处理、模型加载和微调等步骤。Graphormer 模型通过预训练和微调,能够有效地对图数据进行分类。
Substra是一个开源的联邦学习框架,旨在解决数据隐私和安全问题,通过联邦学习技术允许使用多个数据提供者的数据进行模型训练,而不必共享原始数据,从而保护数据隐私并加速机器学习研究。
推荐理由:原文介绍了Substra作为开源联邦学习框架的作用,以及其在医疗研究中的应用,读者可以了解联邦学习如何保护数据隐私并加速机器学习研究。
Hugging Face 发布了 StackLLaMA 模型,通过 RLHF 方法训练 LLaMA 模型以回答 Stack Exchange 上的问题,并提供了整个训练流程。
Hugging Face 博客详细介绍了如何使用 ControlNet 和 diffusers 训练模型,包括规划条件、构建数据集和模型训练等步骤。以 Uncanny Faces 模型为例,展示了如何使用 FaceSynthetics 数据集进行训练,并讨论了模型训练过程中的挑战和解决方案。
ChatGPT 实现了对插件的初始支持,插件是专为语言模型设计的工具,旨在帮助 ChatGPT 访问最新信息、运行计算或使用第三方服务。
推荐理由:原文给出了插件功能和支持第三方服务,读者可以据此判断它会怎样改变现有工作流。
OpenAI 正式发布 GPT-4,这是其最新一代大语言模型。GPT-4 支持文本和图像等多模态输入,并在各类学术和专业考试中展现出接近人类水平的性能。
推荐理由:官方确认 GPT-4 具备多模态输入能力,并强调其在专业考试中的表现接近人类水平。
冰岛利用GPT-4模型保护其语言,旨在未来世代传承。
GPT-4发布,能够生成、编辑和迭代与用户在创意和写作任务上的合作,例如创作歌曲、编写剧本或学习用户的写作风格。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face发布TRL和PEFT集成,允许用户在24GB消费级GPU上微调20B参数的大型语言模型,提高了RLHF微调的易用性。
推荐理由:原文介绍了如何使用TRL和PEFT库在24GB消费级GPU上微调20B参数的大型语言模型,读者可以了解如何利用这些工具进行大规模语言模型的微调。
Kakao Brain 和 Hugging Face 发布了新的开源图像-文本数据集 COYO 和基于该数据集训练的两个视觉语言模型 ViT 和 ALIGN。这是首个公开的免费和开源的 ALIGN 模型,也是首个与训练数据集一起发布的 ViT 和 ALIGN 模型。Kakao Brain 的 ViT 和 ALIGN 模型在性能上与 Google 的版本相当,并且演示了如何使用这些模型。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 Diffusers 库的伦理框架,旨在指导维护者关于社区贡献的技术决策,强调透明度、一致性、简洁性和可访问性,并提供一系列安全特性和机制,如社区标签、偏见探索和评估、安全 Stable Diffusion 等。
本文探讨了大型语言模型(LLM)的安全性和潜在风险,提出了红队测试作为评估模型安全性的方法,并讨论了相关的研究和开源数据集。
推荐理由:文章探讨了大型语言模型的安全性和潜在风险,并提出了红队测试作为评估模型安全性的方法。
Salesforce 研究推出的 BLIP-2 可用于图像字幕、提示图像字幕、视觉问答和基于聊天的提示,它是一种零样本视觉语言模型,可用于多种图像到文本任务,具有高效和有效的方法,适用于多种图像理解场景,特别是示例稀缺的情况下。
推荐理由:BLIP-2 是一种零样本视觉语言模型,可用于多种图像到文本任务,具有高效和有效的方法,适用于多种图像理解场景,特别是示例稀缺的情况下。该模型通过在预训练模型之间添加一个 Transformer 来弥合视觉和自然语言模态之间的差距。新的预训练范式使该模型能够跟上各个模态的进步。
Hugging Face发布了PEFT库,提供参数高效的微调技术,用于在下游任务和数据集上微调大型语言模型,同时节省计算和存储资源。
推荐理由:原文介绍了PEFT方法在微调大型语言模型时的效率和效果,读者可以了解其如何应用于不同任务和数据集,以及如何使用PEFT库进行模型微调。
Hugging Face 发布了 SpeechT5 模型,这是一个支持语音合成、识别等多种功能的模型,它基于 🤗 Transformers 开源库,并提供了多种预训练模型和演示。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face推出LoRA技术,用于高效Stable Diffusion模型微调。LoRA技术通过冻结预训练模型权重并注入可训练层,大大减少了可训练参数数量和GPU内存需求,从而提高了模型微调的效率和效果。
推荐理由:原文介绍了LoRA技术及其在Stable Diffusion模型微调中的应用,读者可以了解如何利用LoRA提高模型微调的效率和效果。
本文详细介绍了对话智能体的技术,包括RLHF、IFT、CoT等,并分析了这些技术在对话智能体中的应用和效果。
推荐理由:文章详细介绍了对话智能体的技术,包括RLHF、IFT、CoT等,对了解对话智能体的发展具有重要意义。
CLIPSeg,一款零样本图像分割模型,使用🤗 transformers,可创建粗略分割掩码,适用于机器人感知、图像修复等多种任务。该模型基于CLIP模型,通过Transformer解码器实现零样本分割,支持视觉提示功能,但输出分辨率较低。若需更精确的分割,可使用Segments.ai等工具进行微调。