Mistral AI 发布模型定制和智能体功能
Mistral AI 发布了模型定制功能,允许开发者对 Mistral Large 2 和 Codestral 等模型进行定制。同时,公司还推出了智能体功能,用于创建自定义行为和工作流程。此外,公司发布了 mistralai 1.0 SDK 的稳定版本,提高了其可用性和一致性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了模型定制功能,允许开发者对 Mistral Large 2 和 Codestral 等模型进行定制。同时,公司还推出了智能体功能,用于创建自定义行为和工作流程。此外,公司发布了 mistralai 1.0 SDK 的稳定版本,提高了其可用性和一致性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Google 发布了 Gemma 2 2B, ShieldGemma 和 Gemma Scope。Gemma 2 2B 是一个 2.6B 参数的版本,适用于设备端使用。ShieldGemma 是一系列安全分类器,用于开发者过滤应用程序的输入和输出。Gemma Scope 是一个针对 Gemma 2 2B 和 9B 的全面、开源的稀疏自动编码器套件。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了 Mistral Large 2 智能体功能,支持多种语言和编码语言,适用于单节点推理,并提供了新的研究许可和商业许可选项。Mistral Large 2 在性能/成本方面取得了新的突破,并增强了推理和代码生成能力。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 Llama 3.1 模型,包括 8B、70B 和 405B 参数的模型,支持多语言和长上下文,并引入了 Llama Guard 3 和 Prompt Guard,同时提供了多种集成和优化工具。
推荐理由:Llama 3.1 的发布引入了多个新功能和模型,包括 8B、70B 和 405B 参数的模型,以及 Llama Guard 3 和 Prompt Guard,读者可以了解这些新功能和模型如何影响现有工作流。
某产品发布新的智能体功能,支持在 Apple Silicon 硬件上运行 Mistral 7B 模型,并介绍了 Core ML 的新特性和优化方法。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了与 NVIDIA 合作开发的 12B 模型 Mistral NeMo,提供高达 128k 的大上下文窗口,并在推理、世界知识和编码准确性方面处于其尺寸类别的最前沿。Mistral NeMo 使用了新的 tokenizer Tekken,在压缩源代码和多种语言文本方面比之前的 Mistral 模型更高效。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 Docmatix,一个用于文档视觉问答(DocVQA)的大规模数据集,包含 240 万张图像和 950 万个问答对。使用该数据集对 Florence-2 模型进行微调,在 DocVQA 任务上性能提升了 20%。
推荐理由:该数据集的发布有助于提升 DocVQA 模型的性能,对开源社区具有重要意义。
Hugging Face 推出 Multi-LoRA 服务,允许用户通过一次部署来服务多达 30 个模型,有效降低管理和部署成本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了 Codestral Mamba 模型,这是一个新的架构研究工具,具有线性时间推理能力和处理无限长序列的理论能力。模型可用于代码生产力场景,并支持本地部署。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了 Mathstral 模型,专注于解决复杂数学问题,在 MATH 和 MMLU 基准测试中取得了优异的成绩,并支持开源和微调。
Hugging Face 发布了 SmolLM 模型,这是一系列具有 135M、360M 和 1.7B 参数的最先进的小语言模型。这些模型在精心策划的高质量训练语料库上训练,并在多个基准测试中表现出色。
推荐理由:SmolLM 模型展示了小语言模型在高质量数据集上的高效训练,实现了性能和规模的强平衡,为读者提供了关于小语言模型性能的参考。
NuminaMath 在 AIMO 进步奖中获胜,展示了其在数学推理方面的能力,包括使用自然语言推理和 Python REPL 计算中间结果,以及避免过拟合的技术。
推荐理由:NuminaMath 在 AIMO 进步奖中获胜,展示了其在数学推理方面的能力,读者可以了解其背后的技术和未来发展方向。
Google Cloud TPUs 现已集成到 Hugging Face Inference Endpoints 和 Spaces,为 AI 开发者提供更强大的计算能力。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了代码智能体,并在 GAIA 基准测试中取得优异成绩。代码智能体使用 Python 代码表达动作,具有更高的效率和可读性。
推荐理由:原文展示了如何使用代码智能体在 GAIA 基准测试中取得优异成绩,读者可以了解代码智能体的优势和应用场景。
Google 发布了 Gemma 2,其最新版本的开放式大型语言模型,包括 4 个开放权重模型(2 个基础模型和 2 个微调模型)。Gemma 2 基于 Google Deepmind Gemini,具有 8K 上下文长度,并在 Google Cloud TPU 上使用 JAX 和 ML Pathways 进行训练。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
某产品发布新的智能体功能,给出了开放入口和主要能力变化。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
微软发布 Florence-2 模型,具有小尺寸和强性能,支持多种计算机视觉和视觉语言任务。文章介绍了模型的结构、预训练细节和微调方法,并展示了模型在视觉问答任务上的实验结果。
推荐理由:介绍了 Florence-2 模型的预训练细节和微调方法,对视觉问答任务进行了实验,展示了模型在下游任务上的潜力。
OpenAI 推出 ChatGPT Enterprise,Paf 公司工程师日常使用定制 GPT 加速开发任务,同时 grit:lab 编码学院使用 ChatGPT Enterprise 培养下一代软件开发者,70% 的 Paf 员工在财务、人力资源、市场营销和客户支持等业务团队中积极使用 ChatGPT Enterprise。
BigCodeBench 是一个评估大型语言模型 (LLM) 编程能力的基准,旨在解决现有基准如 HumanEval 在评估 LLM 编程能力方面的局限性,通过包含 1140 个函数级任务,挑战 LLM 在解决实际和具有挑战性的编程任务方面的能力。
推荐理由:BigCodeBench 作为评估大型语言模型编程能力的基准,为读者提供了评估 LLM 编程能力的参考框架。
OpenAI 与 Color Health 合作推出癌症护理智能体 Cancer Copilot,利用 GPT-4o 进行推理,识别缺失的检测项目并创建定制的工作计划,帮助医疗提供者做出基于证据的癌症筛查和治疗决策。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Stable Diffusion 3 (SD3) 发布,支持 Hugging Face Hub 和 Diffusers。SD3 模型具有 2B 个参数,并引入了新的多模态扩散 Transformer (MMDiT) 模型和 16 通道自动编码器。此外,还提供了内存优化和性能优化,以及 Dreambooth 和 LoRA 微调脚本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 RLOO 训练器,旨在为在线 RLHF 训练提供更易于使用和高效的替代方案,通过减少 GPU 内存使用和简化训练过程,使 RLOO 能够处理更大的批量数据和更快的训练时间。
推荐理由:RLOO Trainer 在 TRL 中的引入为在线 RLHF 训练提供了一种更易于使用和高效的替代方案,通过减少 GPU 内存使用和简化训练过程,使 RLOO 能够处理更大的批量数据和更快的训练时间。
OpenAI 与苹果宣布合作,将 ChatGPT 集成到苹果体验中。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 AI 图像生成模型评测基准和竞技场,旨在通过人类偏好排名比较开源和闭源模型。
推荐理由:该评测基准涵盖了开源和闭源模型,为读者提供了全面的比较视角。
Mistral AI 推出模型定制功能,允许用户在 la Plateforme 上轻松高效地调整 Mistral AI 模型以满足特定需求,降低大规模定制生成式 AI 模型的成本和专业知识要求。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face推出NPC-Playground,一个3D游戏交互平台,允许用户通过简单的Lua脚本与NPC交互,体验未来游戏交互方式。
推荐理由:原文展示了如何通过简单的Lua脚本与NPC交互,读者可以了解如何利用这项技术来增强游戏体验。
MavenAGI 推出基于 GPT-4 的 AI 客服智能体,旨在提升服务效率。Tripadvisor、Clickup 和 Rho 等公司已采用该方案以节省时间并优化客户体验。
Mistral AI 发布了 Codestral 代码生成模型,这是一个专门为代码生成任务设计的开源大语言模型。Codestral 支持超过 80 种编程语言,包括 Python、Java、C、C++、JavaScript 和 Bash 等,能够帮助开发者节省时间和精力,提高编码效率。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Falcon 2 Models TII发布新一代模型Falcon 2,旨在为开源社区提供一系列性能增强且支持多模态的小型模型。该模型基于超过5000B个token和11种语言进行训练,包括11B参数的语言模型和11B参数的视觉语言模型,支持英语和其他十种语言。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 CyberSecEval 2 评测框架,用于评估大型语言模型(LLM)的网络安全风险,包括代码解释器滥用、攻击性网络安全能力和提示注入攻击等。该框架旨在帮助开发者提高 LLM 的网络安全安全性。
推荐理由:CyberSecEval 2 评测框架为评估大型语言模型(LLM)的网络安全风险提供了全面的基准,揭示了行业改进和持续挑战。
Hugging Face 推出 AWS Inferentia2 部署功能,支持超过 10 万个模型在 AWS Inferentia2 上部署,并提供新的 Inferentia 2 实例选项,方便用户在 Hugging Face Inference Endpoints 上部署模型。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 AMD 合作,使最新的 AMD GPU 服务器 Instinct MI300 在 Hugging Face 平台上获得一级公民集成。通过使用 transformers 和 text-generation-inference 等库,用户可以在不修改代码的情况下,在 Azure ND Mi300x V5 VM 上运行模型,并获得最佳性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Dell Enterprise Hub是Hugging Face上的新平台,旨在简化使用Dell平台在本地训练和部署开源模型的过程。该平台提供了一系列先进的开源模型,包括Meta的Llama 3、Mistral AI的Mixtral、Google的Gemma等。用户可以通过Hugging Face账户访问Dell Enterprise Hub,并轻松筛选和部署模型。
Hugging Face 与微软宣布深化合作,推出多项新功能和协作项目,包括在 Azure 模型目录中扩展 HF Collection、在 Azure 上使用新的 AMD MI300X 虚拟机、在 Hugging Face Hub 上发布更多微软模型、通过 WebGPU 实现本地推理以及推出 Hugging Face Spaces 与 VS Code 的集成。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face推出KV Cache Quantization功能,通过量化KV缓存来减少LLM在长文本生成时的内存使用,同时保持较低的质量损失,支持更长的文本生成。
推荐理由:原文介绍了KV Cache Quantization技术,该技术可以减少LLM在长文本生成时的内存使用,同时保持较低的质量损失,读者可以了解其对现有工作流的影响。
Google 发布了新的视觉语言模型 PaliGemma,包括预训练、混合和微调模型,支持多种分辨率和精度,可在 Hugging Face Hub 模型仓库中找到。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 LangChain 合作推出 langchain_huggingface 包,旨在将 Hugging Face 模型的能力引入 LangChain,提供更高效的模型利用方式。
推荐理由:langchain-huggingface 包的发布将 Hugging Face 模型的能力引入 LangChain,为用户提供了更高效的模型利用方式,对现有工作流可能产生积极影响。
Hugging Face 发布了 Transformers Agents 2.0,引入了两个新的智能体,可以基于过去的观察迭代以解决复杂任务。新版本提供了更清晰的代码和模块化设计,增加了社区智能体的共享选项,并升级了性能,使其在 GAIA 领导板上的表现优于基于 GPT-4 的智能体。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face发布了一个LLM性能排行榜,旨在帮助AI工程师在AI应用中选择合适的LLM和API提供商,考虑了质量、价格和速度等多个指标。
推荐理由:该排行榜提供了关于不同LLM的全面指标,帮助AI工程师做出决策,具有参考价值。
Hugging Face 发布了 StarCoder2-15B-Instruct-v0.1 模型,该模型通过自对齐的方式训练代码生成模型,不依赖强大的教师模型,在代码生成领域取得了显著的成果。
推荐理由:StarCoder2-15B-Instruct-v0.1 模型展示了如何通过自对齐的方式训练代码生成模型,不依赖强大的教师模型,为代码生成领域的研究提供了新的思路。