Google Research 评估 LLM 在高温超导研究中的表现
Google Research 联合康奈尔大学测试六款大语言模型回答高温超导专家级问题的能力。结果显示,基于受控来源的 NotebookLM 和自定义 RAG 系统表现最佳,优于拥有全网络访问权限的 GPT-4o、Claude 3.5 等模型。该研究旨在探索构建可信科学工具以加速科研发现。
Google Research 联合康奈尔大学测试六款大语言模型回答高温超导专家级问题的能力。结果显示,基于受控来源的 NotebookLM 和自定义 RAG 系统表现最佳,优于拥有全网络访问权限的 GPT-4o、Claude 3.5 等模型。该研究旨在探索构建可信科学工具以加速科研发现。
Mistral AI 发布其首个专门针对代码的嵌入模型 Codestral Embed,旨在优化真实世界代码数据的检索性能。该模型在多项基准测试中表现优于 Voyage Code 3、Cohere Embed v4.0 和 OpenAI 的大型嵌入模型,支持不同维度和精度输出以平衡检索质量与存储成本。
推荐理由:Mistral 推出首个代码专用嵌入模型,在 SWE-Bench 等基准上超越竞品,为代码检索和智能体提供高效方案。
Mistral AI 提出利用 LLM as a Judge 结合 RAG Triad 框架评估检索增强生成系统,重点考察上下文相关性、事实依据及回答相关性。其 API 推出的结构化输出功能允许开发者定义 Pydantic 模式,强制模型以机器可读格式返回评分与推理步骤,从而构建更可靠的自动化评估流程。
Mistral AI 推出 Mistral OCR,这是一款用于文档理解的 API,能高精度提取文本、表格、公式和图像。该模型在多项基准测试中超越 Google Document AI、Azure OCR 等竞品,支持数千种语言和脚本,并引入 Doc-as-prompt 功能以生成 JSON 等结构化输出。
推荐理由:Mistral OCR 在复杂文档理解基准测试中表现优于主流竞品,支持多语言与结构化输出,适合构建多模态 RAG 系统。
文章详解如何利用 Sentence Transformers 库的 msmarco-MiniLM-L-6-v3 模型生成歌词嵌入,并通过语义搜索匹配文本提示以创建歌单。针对长文本截断问题,采用将歌曲拆分为小节(verses)分别编码的策略提升检索效果。最终结合 Gradio Blocks API 搭建多步交互演示应用,实现从输入提示到输出相关歌曲列表的完整流程。
Hugging Face 发布教程演示如何利用开源库 Sentence Transformers 和 Inference API 生成文本及图像 Embeddings。通过调用 `sentence-transformers/all-MiniLM-L6-v2` 模型,开发者可构建 FAQ 引擎实现语义搜索。该方案支持免费托管至 Hub,首次请求约需 20 秒加载模型,后续推理速度显著提升。
Hugging Face Transformers 库中的 RAG 模型通过集成 Ray 框架,将文档检索速度提升 2 倍并优化分布式微调扩展性。该方案利用 Ray 的有状态 Actor 抽象替代 torch.distributed,解决了单点同步瓶颈及 PyTorch 依赖限制。在 4 GPU 环境下,Ray 实现可将单次检索耗时从 3.438 秒降至 1.66 秒。