CinePile 2.0:利用对抗性精炼提升数据集质量
Hugging Face 发布了 CinePile 2.0,这是一个经过显著改进的长视频问答数据集。新数据集的改进依赖于一种新的对抗性数据集精炼方法,该方法可增强现有数据集并直接应用于未来数据集创建流程。CinePile 2.0 包含约 300,000 个训练样本和 5,000 个测试样本,其问题多样性和难度均优于现有数据集。
Hugging Face 发布了 CinePile 2.0,这是一个经过显著改进的长视频问答数据集。新数据集的改进依赖于一种新的对抗性数据集精炼方法,该方法可增强现有数据集并直接应用于未来数据集创建流程。CinePile 2.0 包含约 300,000 个训练样本和 5,000 个测试样本,其问题多样性和难度均优于现有数据集。
Llama 3.2 已于两周前在 Hugging Face / Transformers 上线,可直接在 Keras 中使用,支持多种后端,包括 JAX、PyTorch 和 TensorFlow。Keras 提供了丰富的预训练模型,包括 Llama3、Gemma、StableDiffusion 等,并内置了 tokenizer,方便用户进行模型训练和推理。
Hugging Face 的 Transformers 团队迅速响应了关于梯度累积问题的报告,通过更新代码和发布修复,确保了在梯度累积过程中损失计算的准确性。此外,团队还开放了 API,允许用户直接传递自定义损失函数,以增强模型的灵活性和适应性。
Hugging Face 平台与 Dask 联合,通过分布式计算和并行处理,有效提升 AI 数据处理规模,支持 TB 级别数据集的加载、预处理和模型推理,实现多 GPU 并行推理,提高数据处理效率。
InstantTexture库可以将顶点着色网格转换为UV贴图纹理网格,支持快速转换和详细步骤,适用于3D模型生成和应用程序。
Hugging Face Daily Papers 页面自推出以来,已收录超过 3,700 篇论文,拥有超过 12k 订阅者。该页面提供作者论文认领、论文提交、与作者互动、相关资源链接、点赞推荐、相似论文推荐、多语言评论和翻译、订阅等功能,旨在帮助开发者、研究人员及时了解 AI 领域最新研究进展。
Hugging Face 与 Intel 合作推出 Optimum-Intel 项目,优化 Transformers 模型在 Intel 硬件上的推理性能。通过 OpenVINO™ GenAI API,简化了将大型语言模型 (LLMs) 集成到 C++ 或 Python 应用中的过程。
HuggingChat 推出社区工具功能,允许用户将 HuggingFace 上的任何 Space 转换为模型可用的工具,支持图像理解、视频生成和文本语音模型等功能。用户可创建自定义工具或使用社区工具增强助手,目前该功能处于实验阶段。
Cognition CEO Scott Wu 解析 OpenAI o1 在编码中做出更类人化的决策。该模型改变了传统代码生成逻辑,通过模拟人类思考过程优化编程任务处理。
OpenAI 发布报告,总结数百次AI成功部署案例,强调模型与业务需求匹配、数据质量及模型可解释性为关键成功因素。
🤗 LeRobotDataset提出了一种轻量级、易于分享和可视化的数据集格式,通过视频编码技术将视觉模态数据集大小平均减少14%,同时保持良好的训练能力。该格式支持快速加载和播放视频帧,并兼容多种媒体播放器和浏览器。
OpenAI 举办 GPT-4o 微调研讨会,探讨模型微调技巧和应用;GPT-4o 模型参数规模达 175B,速度提升 3.5 倍;研讨会开源,提供 API 接口。
Hugging Face Hub 拥有超过 850K 个公共模型,每月新增约 50k 个。本文介绍了五个常被忽视的工具:ZeroGPU、多进程 Docker、Gradio API、Webhooks 和 Nomic Atlas,它们可以帮助用户更轻松地构建各种 AI 解决方案。这些工具中的 ZeroGPU 提供免费 GPU 访问,适用于需要偶尔进行推理的场景。
ggml是一个专注于Transformer推理的轻量级机器学习库,由C和C++编写,开源且由日益增长的社区积极开发。它具有最小化、易于编译、轻量级、良好的兼容性等特点,支持量化张量,内存效率极高。ggml适用于开发者入门,但需要深入了解底层编程。本文介绍了ggml的基本概念和基本用法,为后续学习和开发打下基础。
OpenAI推出的ChatGPT Enterprise版本,通过实际案例展示员工如何利用该工具高效分析数据并挖掘洞察。
Hugging Face 与 Albumentations AI 合作推出 TextImage 数据增强技术,旨在提高文档图像模型训练效果。该技术通过同时增强图像和文本,确保文本和图像在训练过程中的互动,从而提升模型对文档图像的识别准确率。TextImage 可用于在图像上插入文本,生成合成数据,并支持多种文本增强方法,如随机删除、替换和插入停用词等。
Hugging Face 的 Diffusers 库利用 Quanto 工具,通过量化技术显著提升了 Transformer-based Diffusion 模型的内存效率,例如 PixArt-Sigma、Stable Diffusion 3 和 Aura Flow 模型,在保持几乎无质量损失的情况下,内存使用量减少了约 30%。
Hugging Face在Docmatix数据集上进行了基于LLM的零样本VQA评估,发现微调模型在DocVQA上的表现良好,但在基准测试中得分较低。研究提出了LAVE(LLM-Assisted VQA Evaluation)评估指标,以更好地评估模型在未见但语义相似的Dataset上的泛化能力。实验结果表明,LAVE在评估模型性能方面优于传统的CIDER、BLEU和ANLS指标。
Hugging Face 博客介绍了如何利用 distilabel 和微调特定领域嵌入模型来创建一个既准确又吸引人的对话模型,用于理解和与用户交流技术文档。文章详细阐述了创建 Argilla 2.0 聊天机器人的过程,包括从技术文档生成合成数据集、创建向量数据库、部署聊天机器人到 Hugging Face Space,并存储交互以持续评估和改进。
Hugging Face Hub 与 KerasHub 集成,支持 300K+ Transformer 模型,包括 Gemma、Llama 3 和 PaliGemma,用户可使用 KerasHub 训练和微调模型,并上传回 Hub。集成支持 TensorFlow、JAX 和 PyTorch 后端,方便模型部署和迁移。
Hugging Face 的 TRL 库新增支持视觉语言模型直接偏好优化 (DPO),简化了模型训练过程,并提高了预测准确性。该库使用 openbmb/RLAIF-V-Dataset 数据集,支持 Idefics2-8b 模型,并可通过内存优化技术适应不同硬件配置。
Hugging Face Dataset Hub 推出四项新功能,包括按模态、大小、格式和库搜索数据集,提升数据集的可发现性和可视化,方便用户找到适合其用例的数据集。
Hugging Face 与 Argilla 合作,推动开源社区共同创建有影响力的数据集。项目包括创建 10K 个提示词数据集、多语言提示评估项目(MPEP)等,旨在解决语言、领域和任务数据不平衡问题。社区积极参与,项目成果显著,鼓励更多贡献者加入。
Prezi 加入 Hugging Face Expert Support Program,利用开源模型优化机器学习工作流程,通过多模态模型提升演示效果。专家团队协助 Prezi 在嵌入、重排序和目标检测等方面应用最佳实践和前沿模型,加速机器学习项目。
Hugging Face Accelerate 提供了 DeepSpeed 和 PyTorch FSDP 两种 ZeRO 算法实现,本文探讨了两者在精度、混合精度处理和内存消耗方面的差异。
Hugging Face 宣布对 Transformers 文档进行全面改版,旨在为开发者提供更易用的 AI 产品构建指南。新版本将更注重代码示例和解决方案,同时采用更灵活的结构,以适应不断发展的 AI 技术和应用场景。
Hugging Face 推出适用于 Amazon SageMaker 的新嵌入式容器,支持高效部署嵌入模型,包括 Snowflake/snowflake-arctic-embed-m-v1.5 等模型,用于构建生成式 AI 应用。该容器基于 Text Embedding Inference (TEI) 技术,支持多种模型架构,并具备快速启动、动态批处理等功能。
Mistral AI 于 2024 年 6 月 5 日至 30 日举办 Mistral Fine-tuning Hackathon,参与者可使用 Mistral 的微调 API 展示项目,奖品包括 €2,500 的 Mistral API 信用额度。参赛者需在 La Platforme 上注册并完成付款详情,以获取免费信用额度。提交的项目需包含代码链接、项目描述和不超过 2 分钟的视频演示。
Hugging Face 对 Intel Gaudi 进行优化,采用 Speculative Sampling 和 Assisted Generation 技术加速文本生成,在大型 Transformer 模型上实现约 2 倍速度提升,并支持在 Hugging Face Transformers 中使用。
Hugging Face 推出 TGI Benchmarking 工具,用于评估文本生成推理(TGI)的性能,帮助用户了解如何优化部署以适应不同需求。该工具提供吞吐量和延迟的评估,并支持用户自定义配置,以实现更好的用户体验。
Sentence Transformers 是一个用于使用和训练嵌入模型的 Python 库,适用于检索增强生成、语义搜索、语义文本相似度等多种应用。本文介绍了如何使用 Sentence Transformers 微调模型以提升特定任务上的性能,并提供了详细的组件说明和示例,包括数据集、损失函数、训练参数、评估器和训练器等。通过微调,模型能够根据特定任务的需求调整相似度概念,从而显著提升性能。
Hugging Face Spaces Dev Mode 允许开发者通过 VS Code 或 SSH 直接连接到 Space,实现一键编辑代码,无需使用 git 推送本地更改。目前该功能处于测试阶段,面向 PRO 订阅者开放。
Intel Gaudi 2 AI 加速器和 Xeon CPU 通过实际 RAG 应用案例显著提升企业性能;使用 LangChain 开发 RAG 应用,支持自定义嵌入、向量数据库和 LLM;Optimum Habana 库简化模型加载、训练和推理;TGI Gaudi 容器实现高性能文本生成。
Hugging Face Inference Endpoints 支持Whisper语音识别模型,通过自定义推理处理程序,实现自动语音识别(ASR)、说话人分割和推测解码等功能。该方案采用模块化设计,支持多种用例,并使用Pyannote模型进行说话人分割,通过推测解码提高推理速度。用户可通过API调用创建端点,并部署到Inference Endpoints上。
Hugging Face 的 Leaderboards and Evals 研究团队发现,LLM 的基准性能与提示词格式密切相关。他们通过实验发现,模型在相同输入信息下,输出结果对提示词格式的微小变化极为敏感。为了提高提示词的一致性,Hugging Face 与 Dottxt 合作,探索了通过结构化生成来约束模型输出,以减少提示词格式变化带来的影响。
Ethereum Protocol Fellowship(EPF)第四期圆满结束,35名参与者获得津贴,与27位核心开发者导师合作,贡献了35个项目。EPF第五期即将开放申请,鼓励有意向的核心开发者关注。
Zama 公司的隐私保护机器学习框架 Concrete ML 现已支持在 Hugging Face Endpoints 上部署,使用全同态加密 (FHE) 技术保护用户数据隐私,预编译模型可直接部署,支持 scikit-learn、ONNX、PyTorch 和 TensorFlow 等传统机器学习框架。
Gradio 的 Reload 模式允许开发者无需重启服务器即可拉取最新代码更改,显著提升开发效率。通过使用 Gradio 的 Reload 模式,开发者可以快速构建 AI 应用,如文档分析器,实现用户上传文档并获取自然语言回答的功能。
本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型,包括开源模型介绍、选择模型的方法、评估基准以及使用transformers库进行推理和微调的示例。
推荐理由:本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型,对了解和利用视觉语言模型有重要参考价值。
MotherDuck 和 Numbers Station 推出 DuckDB-NSQL-7B,一款针对 DuckDB SQL 的先进 LLM,可轻松从数据中提取洞察。