Hugging Face 收购 XetHub,推动 AI 数据和模型协作发展
Hugging Face 官方宣布收购 Seattle 基地的公司 XetHub,XetHub 的技术将帮助 Hugging Face 的数据集和模型存储更高效,并可能推动 AI 数据和模型协作的发展。
推荐理由:Hugging Face 收购 XetHub,将推动 AI 数据和模型协作的发展,并可能影响企业内部 AI 项目的协作方式。
Hugging Face 官方宣布收购 Seattle 基地的公司 XetHub,XetHub 的技术将帮助 Hugging Face 的数据集和模型存储更高效,并可能推动 AI 数据和模型协作的发展。
推荐理由:Hugging Face 收购 XetHub,将推动 AI 数据和模型协作的发展,并可能影响企业内部 AI 项目的协作方式。
Hugging Face 与 Albumentations AI 合作推出 TextImage 数据增强技术,旨在提高文档图像模型训练效果。该技术通过同时增强图像和文本,确保文本和图像在训练过程中的互动,从而提升模型对文档图像的识别准确率。TextImage 可用于在图像上插入文本,生成合成数据,并支持多种文本增强方法,如随机删除、替换和插入停用词等。
Hugging Face 的 Diffusers 库利用 Quanto 工具,通过量化技术显著提升了 Transformer-based Diffusion 模型的内存效率,例如 PixArt-Sigma、Stable Diffusion 3 和 Aura Flow 模型,在保持几乎无质量损失的情况下,内存使用量减少了约 30%。
Hugging Face宣布推出Hugging Face NVIDIA NIM API (serverless),为企业用户提供了一种无需服务器即可使用NVIDIA加速计算平台进行推理的新服务。
Hugging Face在Docmatix数据集上进行了基于LLM的零样本VQA评估,发现微调模型在DocVQA上的表现良好,但在基准测试中得分较低。研究提出了LAVE(LLM-Assisted VQA Evaluation)评估指标,以更好地评估模型在未见但语义相似的Dataset上的泛化能力。实验结果表明,LAVE在评估模型性能方面优于传统的CIDER、BLEU和ANLS指标。
Hugging Face 发布了 Llama 3.1 模型,包括 8B、70B 和 405B 参数的模型,支持多语言和长上下文,并引入了 Llama Guard 3 和 Prompt Guard,同时提供了多种集成和优化工具。
推荐理由:Llama 3.1 的发布引入了多个新功能和模型,包括 8B、70B 和 405B 参数的模型,以及 Llama Guard 3 和 Prompt Guard,读者可以了解这些新功能和模型如何影响现有工作流。
某产品发布新的智能体功能,支持在 Apple Silicon 硬件上运行 Mistral 7B 模型,并介绍了 Core ML 的新特性和优化方法。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了与 NVIDIA 合作开发的 12B 模型 Mistral NeMo,提供高达 128k 的大上下文窗口,并在推理、世界知识和编码准确性方面处于其尺寸类别的最前沿。Mistral NeMo 使用了新的 tokenizer Tekken,在压缩源代码和多种语言文本方面比之前的 Mistral 模型更高效。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 Docmatix,一个用于文档视觉问答(DocVQA)的大规模数据集,包含 240 万张图像和 950 万个问答对。使用该数据集对 Florence-2 模型进行微调,在 DocVQA 任务上性能提升了 20%。
推荐理由:该数据集的发布有助于提升 DocVQA 模型的性能,对开源社区具有重要意义。
Hugging Face 推出 Multi-LoRA 服务,允许用户通过一次部署来服务多达 30 个模型,有效降低管理和部署成本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了 Mathstral 模型,专注于解决复杂数学问题,在 MATH 和 MMLU 基准测试中取得了优异的成绩,并支持开源和微调。
Hugging Face 发布了 SmolLM 模型,这是一系列具有 135M、360M 和 1.7B 参数的最先进的小语言模型。这些模型在精心策划的高质量训练语料库上训练,并在多个基准测试中表现出色。
推荐理由:SmolLM 模型展示了小语言模型在高质量数据集上的高效训练,实现了性能和规模的强平衡,为读者提供了关于小语言模型性能的参考。
Hugging Face 博客介绍了如何利用 distilabel 和微调特定领域嵌入模型来创建一个既准确又吸引人的对话模型,用于理解和与用户交流技术文档。文章详细阐述了创建 Argilla 2.0 聊天机器人的过程,包括从技术文档生成合成数据集、创建向量数据库、部署聊天机器人到 Hugging Face Space,并存储交互以持续评估和改进。
NuminaMath 在 AIMO 进步奖中获胜,展示了其在数学推理方面的能力,包括使用自然语言推理和 Python REPL 计算中间结果,以及避免过拟合的技术。
推荐理由:NuminaMath 在 AIMO 进步奖中获胜,展示了其在数学推理方面的能力,读者可以了解其背后的技术和未来发展方向。
Hugging Face Hub 与 KerasHub 集成,支持 300K+ Transformer 模型,包括 Gemma、Llama 3 和 PaliGemma,用户可使用 KerasHub 训练和微调模型,并上传回 Hub。集成支持 TensorFlow、JAX 和 PyTorch 后端,方便模型部署和迁移。
Hugging Face 的 TRL 库新增支持视觉语言模型直接偏好优化 (DPO),简化了模型训练过程,并提高了预测准确性。该库使用 openbmb/RLAIF-V-Dataset 数据集,支持 Idefics2-8b 模型,并可通过内存优化技术适应不同硬件配置。
Google Cloud TPUs 现已集成到 Hugging Face Inference Endpoints 和 Spaces,为 AI 开发者提供更强大的计算能力。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 Polyconseil 合作,利用 RAG 解决方案优化法国环境项目 EduRénov,旨在通过数据主权和性能保障,简化、支持并资助公共学校建筑的能源改造。该方案旨在提高 Banque des Territoires 对社区的支持响应速度,并确保计算服务和模型使用的自主权。
MILA 和 Intel Labs 推出的蛋白质语言模型 ProtST 在 Hugging Face Hub 上发布,支持在 Intel Gaudi 2 加速器上高效运行和微调。与 NVIDIA A100 相比,Gaudi 2 在推理和微调任务上分别提供 1.76 倍和 2.92 倍的速度提升。
Hugging Face 发布了代码智能体,并在 GAIA 基准测试中取得优异成绩。代码智能体使用 Python 代码表达动作,具有更高的效率和可读性。
推荐理由:原文展示了如何使用代码智能体在 GAIA 基准测试中取得优异成绩,读者可以了解代码智能体的优势和应用场景。
Google 发布了 Gemma 2,其最新版本的开放式大型语言模型,包括 4 个开放权重模型(2 个基础模型和 2 个微调模型)。Gemma 2 基于 Google Deepmind Gemini,具有 8K 上下文长度,并在 Google Cloud TPU 上使用 JAX 和 ML Pathways 进行训练。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
某产品发布新的智能体功能,给出了开放入口和主要能力变化。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
微软发布 Florence-2 模型,具有小尺寸和强性能,支持多种计算机视觉和视觉语言任务。文章介绍了模型的结构、预训练细节和微调方法,并展示了模型在视觉问答任务上的实验结果。
推荐理由:介绍了 Florence-2 模型的预训练细节和微调方法,对视觉问答任务进行了实验,展示了模型在下游任务上的潜力。
Prezi 加入 Hugging Face Expert Support Program,利用开源模型优化机器学习工作流程,通过多模态模型提升演示效果。专家团队协助 Prezi 在嵌入、重排序和目标检测等方面应用最佳实践和前沿模型,加速机器学习项目。
BigCodeBench 是一个评估大型语言模型 (LLM) 编程能力的基准,旨在解决现有基准如 HumanEval 在评估 LLM 编程能力方面的局限性,通过包含 1140 个函数级任务,挑战 LLM 在解决实际和具有挑战性的编程任务方面的能力。
推荐理由:BigCodeBench 作为评估大型语言模型编程能力的基准,为读者提供了评估 LLM 编程能力的参考框架。
Hugging Face Accelerate 提供了 DeepSpeed 和 PyTorch FSDP 两种 ZeRO 算法实现,本文探讨了两者在精度、混合精度处理和内存消耗方面的差异。
Stable Diffusion 3 (SD3) 发布,支持 Hugging Face Hub 和 Diffusers。SD3 模型具有 2B 个参数,并引入了新的多模态扩散 Transformer (MMDiT) 模型和 16 通道自动编码器。此外,还提供了内存优化和性能优化,以及 Dreambooth 和 LoRA 微调脚本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 RLOO 训练器,旨在为在线 RLHF 训练提供更易于使用和高效的替代方案,通过减少 GPU 内存使用和简化训练过程,使 RLOO 能够处理更大的批量数据和更快的训练时间。
推荐理由:RLOO Trainer 在 TRL 中的引入为在线 RLHF 训练提供了一种更易于使用和高效的替代方案,通过减少 GPU 内存使用和简化训练过程,使 RLOO 能够处理更大的批量数据和更快的训练时间。
Hugging Face 宣布对 Transformers 文档进行全面改版,旨在为开发者提供更易用的 AI 产品构建指南。新版本将更注重代码示例和解决方案,同时采用更灵活的结构,以适应不断发展的 AI 技术和应用场景。
Hugging Face 推出适用于 Amazon SageMaker 的新嵌入式容器,支持高效部署嵌入模型,包括 Snowflake/snowflake-arctic-embed-m-v1.5 等模型,用于构建生成式 AI 应用。该容器基于 Text Embedding Inference (TEI) 技术,支持多种模型架构,并具备快速启动、动态批处理等功能。
Hugging Face 发布了 AI 图像生成模型评测基准和竞技场,旨在通过人类偏好排名比较开源和闭源模型。
推荐理由:该评测基准涵盖了开源和闭源模型,为读者提供了全面的比较视角。
Hugging Face推出NPC-Playground,一个3D游戏交互平台,允许用户通过简单的Lua脚本与NPC交互,体验未来游戏交互方式。
推荐理由:原文展示了如何通过简单的Lua脚本与NPC交互,读者可以了解如何利用这项技术来增强游戏体验。
Hugging Face 对 Intel Gaudi 进行优化,采用 Speculative Sampling 和 Assisted Generation 技术加速文本生成,在大型 Transformer 模型上实现约 2 倍速度提升,并支持在 Hugging Face Transformers 中使用。
Hugging Face 推出 TGI Benchmarking 工具,用于评估文本生成推理(TGI)的性能,帮助用户了解如何优化部署以适应不同需求。该工具提供吞吐量和延迟的评估,并支持用户自定义配置,以实现更好的用户体验。
Falcon 2 Models TII发布新一代模型Falcon 2,旨在为开源社区提供一系列性能增强且支持多模态的小型模型。该模型基于超过5000B个token和11种语言进行训练,包括11B参数的语言模型和11B参数的视觉语言模型,支持英语和其他十种语言。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 AWS Inferentia2 部署功能,支持超过 10 万个模型在 AWS Inferentia2 上部署,并提供新的 Inferentia 2 实例选项,方便用户在 Hugging Face Inference Endpoints 上部署模型。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face Spaces Dev Mode 允许开发者通过 VS Code 或 SSH 直接连接到 Space,实现一键编辑代码,无需使用 git 推送本地更改。目前该功能处于测试阶段,面向 PRO 订阅者开放。
Hugging Face 与 AMD 合作,使最新的 AMD GPU 服务器 Instinct MI300 在 Hugging Face 平台上获得一级公民集成。通过使用 transformers 和 text-generation-inference 等库,用户可以在不修改代码的情况下,在 Azure ND Mi300x V5 VM 上运行模型,并获得最佳性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Dell Enterprise Hub是Hugging Face上的新平台,旨在简化使用Dell平台在本地训练和部署开源模型的过程。该平台提供了一系列先进的开源模型,包括Meta的Llama 3、Mistral AI的Mixtral、Google的Gemma等。用户可以通过Hugging Face账户访问Dell Enterprise Hub,并轻松筛选和部署模型。
Hugging Face 与微软宣布深化合作,推出多项新功能和协作项目,包括在 Azure 模型目录中扩展 HF Collection、在 Azure 上使用新的 AMD MI300X 虚拟机、在 Hugging Face Hub 上发布更多微软模型、通过 WebGPU 实现本地推理以及推出 Hugging Face Spaces 与 VS Code 的集成。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。