Hugging Face PatchTST 模型详解与应用
Hugging Face 推出 PatchTST 模型，用于时间序列预测。该模型基于 Transformer 架构，通过将时间序列分割成子序列级别的 patch，并使用全局单变量模型进行编码，实现长序列预测。PatchTST 在电力数据集上展示了良好的预测能力，并支持零样本预测和微调。
#模型发布
#模型发布
今日 2 条Hugging Face BlogAI 评分4242
Hugging Face BlogAI 评分3737 Hugging Face 发布企业场景排行榜：评估语言模型在真实世界企业用例中的性能
Hugging Face 推出企业场景排行榜，旨在评估语言模型在真实世界企业用例中的性能，支持6个任务，包括金融、法律、创意写作等，部分数据集为闭源，以避免测试集污染。
Hugging Face BlogAI 评分3535 Wav2Vec2-BERT 在低资源语音识别中的应用与优化
MetaAI 发布的 Wav2Vec2-BERT 模型，通过预训练和微调，在低资源语音识别任务中表现出色，仅需 10 分钟标注音频数据即可在 LibriSpeech 数据集上达到 5% 的词错误率。
Hugging Face BlogAI 评分4545 TRL IPO 纠正：直接偏好优化方法在 LLM 预设中的评估
Hugging Face 的 TRL 团队对 IPO 方法在 TRL 中的实现进行了纠正，并重新运行了实验，结果显示 IPO 与 DPO 相当，优于 KTO。评估了三种无强化学习的 LLM 对齐算法：DPO、IPO 和 KTO，在两个经过监督微调的 7b LLM 上进行实验，发现关键超参数需要调整以实现最佳结果。
Hugging Face BlogAI 评分3535 Hugging Face 推出 HHEM 欺幻觉榜：基于 HF 模板打造的开源评估工具
Hugging Face 推出基于 Hugging Face Leaderboard 模板的 HHEM 欺幻觉榜，用于评估大型语言模型（LLM）生成文本的幻觉程度。该榜支持开源和商业模型，如 Llama 2、GPT-4 和 Claude，旨在推动 LLM 幻觉评估的民主化。HHEM 使用 Hugging Face Leaderboard 模板，支持动态更新，并鼓励社区提交新模型进行评估。
Hugging Face BlogAI 评分4040 aMUSEd：高效的非扩散文本到图像生成模型
aMUSEd 是一个基于掩码图像模型（MIM）的高效文本到图像生成模型，其参数量约为 800M，速度快，支持微调。与 MUSE 类似，aMUSEd 在风格迁移方面表现出色，但图像质量不如最先进的模型。该模型以开源许可证发布，鼓励社区探索非扩散框架。
Mistral AI精选AI 评分8585 Mistral AI 发布 Mixtral 8x7B 模型
Mistral AI 发布了 Mixtral 8x7B 模型，这是一个高质量的稀疏混合专家模型（SMoE），在大多数基准测试中优于 Llama 2 70B，且推理速度更快。
推荐理由：Mixtral 8x7B 模型在多个基准测试中优于 Llama 2 70B，且推理速度更快，读者可以据此评估其对现有工作流的影响。
Hugging Face Blog精选AI 评分8585 Mistral 发布 Mixtral 8x7b 模型，在 Hugging Face 上达到 SOTA 水平
Mistral 发布了 Mixtral 8x7b 模型，这是一个在 Hugging Face 上达到 SOTA 水平的大语言模型，具有 8 个专家模型和 32k 上下文长度，支持多种语言和编码能力。
推荐理由：Mixtral 8x7b 模型在多个基准测试中超越了 GPT-3.5，并支持 32k 上下文长度，读者可以了解其性能和潜在影响。
Hugging Face Blog精选AI 评分8282 混合专家（MoE）模型详解
本文深入探讨了混合专家（MoE）模型，包括其原理、训练方法、与Transformer的结合以及在实际应用中的挑战和解决方案，对了解MoE模型有重要价值。
推荐理由：本文深入探讨了混合专家（MoE）模型，包括其原理、训练方法、与Transformer的结合以及在实际应用中的挑战和解决方案，对了解MoE模型有重要价值。
Hugging Face BlogAI 评分5050 SetFitABSA：基于SetFit的少样本方面情感分析技术
SetFitABSA是一种高效的少样本方面情感分析技术，由Intel Labs和Hugging Face共同推出。该技术通过三个步骤进行训练，包括提取方面候选词、方面/非方面分类以及情感极性分类。与基于LLM的方法相比，SetFitABSA无需提示词，训练速度快，且仅需少量标记样本。在少样本场景中，SetFitABSA甚至优于Llama2和T5等生成模型。
Hugging Face BlogAI 评分4545 Open LLM Leaderboard: DROP 深度分析
Open LLM Leaderboard 添加了 DROP 模型评测，但发现多数模型 f1 分数低于 10。分析发现，模型在处理浮点数答案时存在中断问题，且高质量模型生成长答案时 f1 分数反而更低。通过使用换行符作为生成结束标记，新分数与平均性能相关性更好。
Hugging Face BlogAI 评分3535 Hugging Face Blog：Roberta、Llama 2 和 Mistral 在灾难推文分析中的性能比较：LoRA 深度解析
Hugging Face Blog 对比了 RoBERTa、Mistral-7b 和 Llama-2-7b 三种大型语言模型在灾难推文分析任务中的性能，使用 LoRA 技术进行微调，发现 Mistral 和 Llama 2 在参数规模为 70 亿的模型中表现优异。
OpenAI News精选AI 评分8080 OpenAI 发布 GPT-4 Turbo 及多项 API 功能更新
OpenAI 宣布推出 GPT-4 Turbo，该模型支持视觉输入，知识截止日期更新至 2023 年 12 月，并拥有 128K 上下文窗口。同时发布的还有 DALL·E 3 和新的 Assistants API，旨在简化智能体开发流程。
推荐理由：官方公告明确了 GPT-4 Turbo 的多项核心能力升级，包括视觉输入、知识截止日更新及上下文窗口扩展，为开发者评估技术选型提供直接依据。
Hugging Face BlogAI 评分4545 OpenAI RLHF 代码库复现：PPO实现细节解析
本文详细解析了OpenAI的RLHF代码库复现，重点关注PPO实现细节，包括奖励模型、策略训练、PyTorch Adam优化器等，旨在为研究者提供RLHF实施工程细节的参考。复现的代码库能够产生与OpenAI代码库几乎相同的风格任务学习曲线，为教育和学习目的提供简单易读的参考实现。
Hugging Face BlogAI 评分4040 Stable Diffusion XL (SDXL) 模型优化：提升推理速度与降低内存使用
Stability AI 推出的最新模型 SDXL 在生成高质量图像方面具有优势，但模型规模较大。本文介绍了如何通过使用 fp16 精度、内存高效注意力机制和 torch.compile API 来优化 SDXL，从而提高推理速度并降低内存使用。优化后的 SDXL 模型在 A100 GPU 上运行时，推理时间从 72.2 秒缩短到 10.2 秒，内存使用量从 28GB 降低到 21.7GB。
Hugging Face BlogAI 评分4242 Hugging Face 模型加速：130,000+ 模型支持 ONNX Runtime
Hugging Face 社区超过 130,000 个 ONNX 支持模型可利用 ONNX Runtime 加速，包括多个流行的 LLM 和云模型，如 BERT、GPT2 等，平均推理延迟可降低 74.30%，提升性能。
Hugging Face BlogAI 评分4545 3D高斯分层技术：实时渲染的真实场景解析
Hugging Face Blog介绍了3D高斯分层技术，该技术通过将场景中的点云转换为高斯函数，实现实时渲染真实场景。该技术使用结构从运动（SfM）方法估计点云，并通过高斯分层进行渲染。此外，该技术还具有快速、可微分的优点，但需要较高的VRAM和磁盘空间。目前，该技术尚未与现有渲染管线兼容，但未来有望在更多渲染环境中得到应用。
Hugging Face BlogAI 评分4242 Llama 2 70B 模型使用 PyTorch FSDP 进行微调
Hugging Face 博客介绍了如何使用 PyTorch FSDP 和相关最佳实践来微调 Llama 2 70B 模型。文章详细说明了 FSDP 的工作原理，并针对微调过程中遇到的内存和速度问题提出了解决方案，包括优化模型加载和状态字典存储方式。
Hugging Face BlogAI 评分4242 Hugging Face Transformer 量化方案概述
Hugging Face Transformer 支持多种量化方案，包括 bitsandbytes 和 auto-gptq，旨在优化大型模型在小型设备上的推理和微调。bitsandbytes 量化方案易于使用，支持跨模态互操作性，而 auto-gptq 量化方案在文本生成方面速度更快，支持高达 2 位的量化精度。
Hugging Face BlogAI 评分4040 T2I-Adapter-SDXL：高效可控生成模型助力SDXL
T2I-Adapter-SDXL模型通过冻结预训练的文本到图像模型，提供额外指导，实现丰富的控制和编辑效果。相比ControlNet，T2I-Adapter-SDXL模型参数更小，运行速度更快。Diffusers团队已支持T2I-Adapter-SDXL在SDXL中的应用，并提供了训练脚本和示例。
Hugging Face Blog精选AI 评分8585 Hugging Face 发布 Falcon 180B 开源语言模型
Hugging Face 发布了 Falcon 180B 开源语言模型，具有1800亿参数，在多个自然语言任务上取得了最先进的成果，并提供了使用指南。
推荐理由：Falcon 180B 是目前最大的开源语言模型，具有1800亿参数，在多个自然语言任务上取得了最先进的成果，读者可以了解其性能和如何使用。
Hugging Face BlogAI 评分4040 Hugging Face Transformers 优化 BARK 语音合成模型
Hugging Face 的 🤗 Transformers 提供了优化 BARK 语音合成模型的工具，通过三种优化技术，显著提升推理速度和内存使用效率。BARK 模型自 v4.31.0 版本起加入 🤗 Transformers 库，支持生成多种音频输出，包括语音、音乐、背景噪音和简单音效。优化过程依赖于 🤗 Transformers、Optimum 和 Accelerate 库。
Hugging Face BlogAI 评分4545 Hugging Face开源SD-Small和SD-Tiny压缩模型知识蒸馏代码和权重
Segmind开源了其压缩模型SD-Small和SD-Tiny的知识蒸馏代码和权重，这些模型在知识蒸馏技术训练下，参数量分别比基础模型减少了35%和55%，同时保持了与基础模型相当的图像保真度。开源代码和预训练检查点可在Hugging Face上获取，蒸馏模型在推理速度上比原始模型快100%。
Hugging Face Blog精选AI 评分8585 Meta 发布 Llama 2 模型，支持 Hugging Face 集成
Meta 发布了 Llama 2 模型，这是一个从 7B 到 70B 参数的开源大型语言模型家族，支持 Hugging Face 集成，包括预训练模型和微调模型。
推荐理由：原文介绍了 Llama 2 模型的特点和功能，读者可以了解其性能和适用场景。
Hugging Face BlogAI 评分4545 Hugging Face Fine-tuning Stable Diffusion 模型在 Intel Sapphire Rapids CPU 上的调优
Hugging Face 推出在 Intel Sapphire Rapids CPU 上进行 Stable Diffusion 模型微调的方法，利用 Intel Advanced Matrix Extensions (AMX) 加速深度学习工作负载，实现高效图像生成。
Hugging Face BlogAI 评分4545 MMS Adapter 模型微调助力低资源语言语音识别
Hugging Face 博客介绍了如何使用 MMS Adapter 模型进行低资源语言语音识别的微调，该模型在 10-20 分钟的微调后实现了惊人的低词错误率。MMS 模型能够识别和转录 1100 多种语言，包括濒危语言，有助于保护语言多样性。
Hugging Face BlogAI 评分4242 Autoformer 模型在时间序列预测中的有效性分析
Hugging Face Blog 发布了关于 Autoformer 模型在时间序列预测中的有效性分析，指出该模型在三个数据集上的表现优于 DLinear 模型，并介绍了其分解层和自相关机制。
Hugging Face BlogAI 评分4545 Hugging Face Hub 携手 Meta AI 推出 fastText 库
Hugging Face Hub 现已提供 fastText 库的官方镜像，包括 157 种语言的词向量以及语言识别模型，方便用户下载和使用。fastText 库支持文本分类和特征提取小部件，并可通过 Hugging Face API 进行调用。
Hugging Face Blog精选AI 评分8585 Falcon 模型发布：Hugging Face 生态系统中新的大型语言模型
Falcon 模型由阿布扎比的科技创新研究所创建，是 Hugging Face 生态系统中的新大型语言模型。Falcon-40B 是第一个具有与许多当前闭源模型相媲美能力的“真正开放”模型。
推荐理由：原文介绍了 Falcon 模型的特点和功能，以及如何在 Hugging Face 生态系统中使用它们，读者可以了解 Falcon 模型的最新进展和应用潜力。
Hugging Face BlogAI 评分4242 InstructPix2Pix：通过指令微调 Stable Diffusion 进行图像处理
Hugging Face 探索了使用 InstructPix2Pix 指令微调 Stable Diffusion，使其能够根据用户指令对输入图像进行编辑。通过创建指令提示数据集，研究人员成功地将 FLAN V2 的指令微调理念应用于图像翻译和图像处理任务，如卡通化、去雨和去噪。实验结果表明，这种方法能够有效地提高模型对特定图像编辑指令的执行能力。
Hugging Face BlogAI 评分4545 Q8-Chat：基于Xeon的高效生成式AI体验
Q8-Chat模型通过SmoothQuant技术实现8位量化，在保持模型质量的同时，将模型大小缩小约2倍，显著降低推理延迟，在Xeon CPU平台上实现高效运行。
Hugging Face BlogAI 评分4545 BigCode 大规模文档级近似去重技术揭秘
Hugging Face 博客介绍了 BigCode 的大规模文档级近似去重技术，旨在解决数据重复问题，提高模型训练效率和数据质量。该技术通过 MinHash LSH 等方法，在 OpenWebText2、Pile-CC 等大型数据集上实现了显著的去重效果，同时验证了其在代码模型上的有效性。
Hugging Face BlogAI 评分4545 Vicuna 13B 模型在单张 AMD GPU 上运行指南
Vicuna 13B，一款由UC Berkeley等机构开发的13亿参数开源聊天机器人，在GPT-4的参考下达到90%以上质量。本文介绍了如何在单张AMD GPU上使用ROCm运行Vicuna 13B模型，包括系统要求、ROCm安装、Docker容器设置、模型量化和推理等步骤。
Hugging Face Blog精选AI 评分6060 Hugging Face 推出 RWKV 模型：结合 RNN 和 Transformer 优势的新架构
Hugging Face 推出 RWKV 模型，结合了 RNN 和 Transformer 的优势，具有长上下文处理能力和高效的训练速度。该模型已集成到 Hugging Face transformers 库中，并支持多种应用场景。
推荐理由：原文介绍了 RWKV 模型的特点和优势，读者可以了解其在自然语言处理领域的应用潜力。
Hugging Face BlogAI 评分4040 Graphormer 模型在图分类中的应用教程
Microsoft 的 Graphormer 模型在 Hugging Face Transformers 库中被用于图分类任务，本文介绍了如何使用该模型进行图分类，包括数据加载、预处理、模型加载和微调等步骤。Graphormer 模型通过预训练和微调，能够有效地对图数据进行分类。
Hugging Face BlogAI 评分4545 ControlNet 与 diffusers 的训练方法详解
Hugging Face 博客详细介绍了如何使用 ControlNet 和 diffusers 训练模型，包括规划条件、构建数据集和模型训练等步骤。以 Uncanny Faces 模型为例，展示了如何使用 FaceSynthetics 数据集进行训练，并讨论了模型训练过程中的挑战和解决方案。
OpenAI NewsAI 评分4545 Stripe 利用 GPT-4 优化用户体验和打击欺诈
Stripe 引入 GPT-4 模型，提升用户体验并加强欺诈防御能力。
OpenAI News精选AI 评分9393 OpenAI 发布 GPT-4 大语言模型
OpenAI 正式发布 GPT-4，这是其最新一代大语言模型。GPT-4 支持文本和图像等多模态输入，并在各类学术和专业考试中展现出接近人类水平的性能。
推荐理由：官方确认 GPT-4 具备多模态输入能力，并强调其在专业考试中的表现接近人类水平。
Hugging Face BlogAI 评分4242 Informer 模型在 Hugging Face Transformers 中实现多变量概率时间序列预测
Hugging Face 在其 Transformers 库中实现了 Informer 模型，用于多变量概率时间序列预测。该模型基于 Transformer 架构，采用 ProbSparse 注意力和 Distilling 操作，有效降低计算复杂度和内存占用，适用于长序列时间序列预测。
Hugging Face BlogAI 评分4545 Hugging Face 发布 Diffusers 库伦理指南
Hugging Face 发布了 Diffusers 库的伦理框架，旨在指导维护者关于社区贡献的技术决策，强调透明度、一致性、简洁性和可访问性，并提供一系列安全特性和机制，如社区标签、偏见探索和评估、安全 Stable Diffusion 等。