CinePile 2.0:利用对抗性精炼提升数据集质量
Hugging Face 发布了 CinePile 2.0,这是一个经过显著改进的长视频问答数据集。新数据集的改进依赖于一种新的对抗性数据集精炼方法,该方法可增强现有数据集并直接应用于未来数据集创建流程。CinePile 2.0 包含约 300,000 个训练样本和 5,000 个测试样本,其问题多样性和难度均优于现有数据集。
Hugging Face 发布了 CinePile 2.0,这是一个经过显著改进的长视频问答数据集。新数据集的改进依赖于一种新的对抗性数据集精炼方法,该方法可增强现有数据集并直接应用于未来数据集创建流程。CinePile 2.0 包含约 300,000 个训练样本和 5,000 个测试样本,其问题多样性和难度均优于现有数据集。
Hugging Face 发布了 Stable Diffusion 3.5 大模型,提供了两个检查点:一个大型(8B)模型和一个时间步长蒸馏模型,支持少量推理。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了语音到语音转换功能,支持多种语言,并提供了在 Hugging Face Inference Endpoints 上部署的指南。
Hugging Face 发布了 Outlines-core 0.1.0,这是一个 Rust 版本的 outlines 核心算法,提供了更快的速度、更好的可移植性和更高的安全性,并支持多种语言集成。
Hugging Face 与 Protect AI 合作,推出新的模型安全工具 Guardian,旨在增强机器学习社区的模型安全性。Guardian 可以自动扫描模型,防止潜在的恶意利用,如任意代码执行。所有公共模型存储库都将自动进行扫描。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Llama 3.2 已于两周前在 Hugging Face / Transformers 上线,可直接在 Keras 中使用,支持多种后端,包括 JAX、PyTorch 和 TensorFlow。Keras 提供了丰富的预训练模型,包括 Llama3、Gemma、StableDiffusion 等,并内置了 tokenizer,方便用户进行模型训练和推理。
Hugging Face 的 Transformers 团队迅速响应了关于梯度累积问题的报告,通过更新代码和发布修复,确保了在梯度累积过程中损失计算的准确性。此外,团队还开放了 API,允许用户直接传递自定义损失函数,以增强模型的灵活性和适应性。
Gradio 5 发布了安全审计报告,修复了多个安全问题,包括本地运行、部署在 Hugging Face Spaces、共享链接和供应链漏洞等方面的安全问题。
Hugging Face 推出动态推测解码方法,该方法可以加速文本生成,最高可达 2.7 倍,并从 Transformers🤗 release 4.45.0 开始作为辅助生成的默认操作模式。
Hugging Face 团队正在优化 Hub 的存储架构,提高数据存储和更新的效率。通过实验发现,使用字节级内容定义块(CDC)去重算法,Parquet 文件去重效果良好,但Parquet格式带来的挑战需要进一步优化。团队正在探索使用相对偏移量、支持内容定义块等方案,以提高 Parquet 文件的去重能力。
Hugging Face 推出了针对金融领域的 Open FinLLM 排行榜,旨在评估金融语言模型在信息提取、情感分析、信用风险评估和股票走势预测等任务上的表现。该排行榜提供了一套专门针对金融行业的评估框架,涵盖多个任务类别,并使用真实世界数据集进行评估。
推荐理由:原文提供了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 Llama 3.2 多模态模型,包括视觉模型和文本模型,支持在设备上运行,并提供了多种集成和部署选项。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face Daily Papers 页面自推出以来,已收录超过 3,700 篇论文,拥有超过 12k 订阅者。该页面提供作者论文认领、论文提交、与作者互动、相关资源链接、点赞推荐、相似论文推荐、多语言评论和翻译、订阅等功能,旨在帮助开发者、研究人员及时了解 AI 领域最新研究进展。
Hugging Face 发布了 FineVideo 数据集,包含 43k 个视频,用于训练模型理解视频内容、训练扩散模型生成视频以及训练计算机视觉模型。
推荐理由:FineVideo 数据集的发布为开源视频 AI 的发展提供了重要资源,读者可以关注其如何影响现有工作流。
Hugging Face发布BitNet架构,通过极端量化将LLM参数精度降低至1.58位,显著降低计算和内存需求。
推荐理由:原文介绍了BitNet架构及其在LLM中的应用,读者可以了解其性能和适用性。
Hugging Face 推出 Datasets SQL 控制台,允许用户直接在 Hugging Face Hub 上运行 SQL 查询,支持 DuckDB WASM 引擎和 Parquet 文件格式,并提供多种 SQL Snippets 用例。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
HuggingChat 推出社区工具功能,允许用户将 HuggingFace 上的任何 Space 转换为模型可用的工具,支持图像理解、视频生成和文本语音模型等功能。用户可创建自定义工具或使用社区工具增强助手,目前该功能处于实验阶段。
Hugging Face 发布了 Accelerate 1.0.0,这是一个旨在简化大规模训练和大型模型问题的多方面库。它支持多种硬件加速器,并提供了易于使用的命令行界面。
推荐理由:原文详细介绍了 Accelerate 1.0.0 的功能和未来发展方向,读者可以了解其如何简化大规模训练和大型模型的问题,并预测 PyTorch 生态系统的未来趋势。
Hugging Face 与 TruffleHog 合作,将 TruffleHog 的秘密扫描功能集成到平台中,以增强安全性。TruffleHog 是一款开源工具,可检测和验证代码中的秘密泄露。Hugging Face 已将 TruffleHog 集成到其自动扫描流程中,并创建了一个原生 Hugging Face 扫描器,以帮助用户主动扫描账户数据中的泄露秘密。
🤗 LeRobotDataset提出了一种轻量级、易于分享和可视化的数据集格式,通过视频编码技术将视觉模态数据集大小平均减少14%,同时保持良好的训练能力。该格式支持快速加载和播放视频帧,并兼容多种媒体播放器和浏览器。
Hugging Face Hub 拥有超过 850K 个公共模型,每月新增约 50k 个。本文介绍了五个常被忽视的工具:ZeroGPU、多进程 Docker、Gradio API、Webhooks 和 Nomic Atlas,它们可以帮助用户更轻松地构建各种 AI 解决方案。这些工具中的 ZeroGPU 提供免费 GPU 访问,适用于需要偶尔进行推理的场景。
Hugging Face 推出新的功能,使 packed instruction tuning examples 与 Flash Attention 2 兼容,提供高达 2 倍的训练吞吐量提升,同时保持收敛质量。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Meta 发布了 Llama 3.1 405B,支持多语言、工具使用等能力,并提供了在 Google Cloud Vertex AI 上部署的教程。
ggml是一个专注于Transformer推理的轻量级机器学习库,由C和C++编写,开源且由日益增长的社区积极开发。它具有最小化、易于编译、轻量级、良好的兼容性等特点,支持量化张量,内存效率极高。ggml适用于开发者入门,但需要深入了解底层编程。本文介绍了ggml的基本概念和基本用法,为后续学习和开发打下基础。
Technology Innovation Institute 发布了 Falcon Mamba 模型,这是一个基于 Mamba 架构的无注意力 7B 模型,可在 Hugging Face 系统中使用,具有处理长序列的能力。
推荐理由:原文介绍了 Falcon Mamba 模型的设计、性能和如何在 Hugging Face 系统中使用,读者可以了解其在处理长序列方面的优势。
Hugging Face 推出统一工具使用 API,支持多个流行模型家族,简化了工具调用过程,并提供了完整的文档和示例。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 官方宣布收购 Seattle 基地的公司 XetHub,XetHub 的技术将帮助 Hugging Face 的数据集和模型存储更高效,并可能推动 AI 数据和模型协作的发展。
推荐理由:Hugging Face 收购 XetHub,将推动 AI 数据和模型协作的发展,并可能影响企业内部 AI 项目的协作方式。
Hugging Face 与 Albumentations AI 合作推出 TextImage 数据增强技术,旨在提高文档图像模型训练效果。该技术通过同时增强图像和文本,确保文本和图像在训练过程中的互动,从而提升模型对文档图像的识别准确率。TextImage 可用于在图像上插入文本,生成合成数据,并支持多种文本增强方法,如随机删除、替换和插入停用词等。
Hugging Face 的 Diffusers 库利用 Quanto 工具,通过量化技术显著提升了 Transformer-based Diffusion 模型的内存效率,例如 PixArt-Sigma、Stable Diffusion 3 和 Aura Flow 模型,在保持几乎无质量损失的情况下,内存使用量减少了约 30%。
Hugging Face宣布推出Hugging Face NVIDIA NIM API (serverless),为企业用户提供了一种无需服务器即可使用NVIDIA加速计算平台进行推理的新服务。
Hugging Face在Docmatix数据集上进行了基于LLM的零样本VQA评估,发现微调模型在DocVQA上的表现良好,但在基准测试中得分较低。研究提出了LAVE(LLM-Assisted VQA Evaluation)评估指标,以更好地评估模型在未见但语义相似的Dataset上的泛化能力。实验结果表明,LAVE在评估模型性能方面优于传统的CIDER、BLEU和ANLS指标。
Hugging Face 发布了 Llama 3.1 模型,包括 8B、70B 和 405B 参数的模型,支持多语言和长上下文,并引入了 Llama Guard 3 和 Prompt Guard,同时提供了多种集成和优化工具。
推荐理由:Llama 3.1 的发布引入了多个新功能和模型,包括 8B、70B 和 405B 参数的模型,以及 Llama Guard 3 和 Prompt Guard,读者可以了解这些新功能和模型如何影响现有工作流。
某产品发布新的智能体功能,支持在 Apple Silicon 硬件上运行 Mistral 7B 模型,并介绍了 Core ML 的新特性和优化方法。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了与 NVIDIA 合作开发的 12B 模型 Mistral NeMo,提供高达 128k 的大上下文窗口,并在推理、世界知识和编码准确性方面处于其尺寸类别的最前沿。Mistral NeMo 使用了新的 tokenizer Tekken,在压缩源代码和多种语言文本方面比之前的 Mistral 模型更高效。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 Docmatix,一个用于文档视觉问答(DocVQA)的大规模数据集,包含 240 万张图像和 950 万个问答对。使用该数据集对 Florence-2 模型进行微调,在 DocVQA 任务上性能提升了 20%。
推荐理由:该数据集的发布有助于提升 DocVQA 模型的性能,对开源社区具有重要意义。
Hugging Face 推出 Multi-LoRA 服务,允许用户通过一次部署来服务多达 30 个模型,有效降低管理和部署成本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了 Mathstral 模型,专注于解决复杂数学问题,在 MATH 和 MMLU 基准测试中取得了优异的成绩,并支持开源和微调。
Hugging Face 发布了 SmolLM 模型,这是一系列具有 135M、360M 和 1.7B 参数的最先进的小语言模型。这些模型在精心策划的高质量训练语料库上训练,并在多个基准测试中表现出色。
推荐理由:SmolLM 模型展示了小语言模型在高质量数据集上的高效训练,实现了性能和规模的强平衡,为读者提供了关于小语言模型性能的参考。
Hugging Face 博客介绍了如何利用 distilabel 和微调特定领域嵌入模型来创建一个既准确又吸引人的对话模型,用于理解和与用户交流技术文档。文章详细阐述了创建 Argilla 2.0 聊天机器人的过程,包括从技术文档生成合成数据集、创建向量数据库、部署聊天机器人到 Hugging Face Space,并存储交互以持续评估和改进。
NuminaMath 在 AIMO 进步奖中获胜,展示了其在数学推理方面的能力,包括使用自然语言推理和 Python REPL 计算中间结果,以及避免过拟合的技术。
推荐理由:NuminaMath 在 AIMO 进步奖中获胜,展示了其在数学推理方面的能力,读者可以了解其背后的技术和未来发展方向。