OpenAI 探索语音引擎技术及安全研究
OpenAI 深入研究其文本到语音模型背后的技术,并持续进行安全研究,以提升模型性能和安全性。
OpenAI 深入研究其文本到语音模型背后的技术,并持续进行安全研究,以提升模型性能和安全性。
OpenAI 利用新技术对稀疏自编码器进行扩展,自动从 GPT-4 中识别出 1600 万种计算模式。
Hugging Face 发布了 AI 图像生成模型评测基准和竞技场,旨在通过人类偏好排名比较开源和闭源模型。
推荐理由:该评测基准涵盖了开源和闭源模型,为读者提供了全面的比较视角。
Mistral AI 推出模型定制功能,允许用户在 la Plateforme 上轻松高效地调整 Mistral AI 模型以满足特定需求,降低大规模定制生成式 AI 模型的成本和专业知识要求。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 对 Intel Gaudi 进行优化,采用 Speculative Sampling 和 Assisted Generation 技术加速文本生成,在大型 Transformer 模型上实现约 2 倍速度提升,并支持在 Hugging Face Transformers 中使用。
Mistral AI 发布了 Codestral 代码生成模型,这是一个专门为代码生成任务设计的开源大语言模型。Codestral 支持超过 80 种编程语言,包括 Python、Java、C、C++、JavaScript 和 Bash 等,能够帮助开发者节省时间和精力,提高编码效率。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 TGI Benchmarking 工具,用于评估文本生成推理(TGI)的性能,帮助用户了解如何优化部署以适应不同需求。该工具提供吞吐量和延迟的评估,并支持用户自定义配置,以实现更好的用户体验。
Sentence Transformers 是一个用于使用和训练嵌入模型的 Python 库,适用于检索增强生成、语义搜索、语义文本相似度等多种应用。本文介绍了如何使用 Sentence Transformers 微调模型以提升特定任务上的性能,并提供了详细的组件说明和示例,包括数据集、损失函数、训练参数、评估器和训练器等。通过微调,模型能够根据特定任务的需求调整相似度概念,从而显著提升性能。
Falcon 2 Models TII发布新一代模型Falcon 2,旨在为开源社区提供一系列性能增强且支持多模态的小型模型。该模型基于超过5000B个token和11种语言进行训练,包括11B参数的语言模型和11B参数的视觉语言模型,支持英语和其他十种语言。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 CyberSecEval 2 评测框架,用于评估大型语言模型(LLM)的网络安全风险,包括代码解释器滥用、攻击性网络安全能力和提示注入攻击等。该框架旨在帮助开发者提高 LLM 的网络安全安全性。
推荐理由:CyberSecEval 2 评测框架为评估大型语言模型(LLM)的网络安全风险提供了全面的基准,揭示了行业改进和持续挑战。
Hugging Face推出KV Cache Quantization功能,通过量化KV缓存来减少LLM在长文本生成时的内存使用,同时保持较低的质量损失,支持更长的文本生成。
推荐理由:原文介绍了KV Cache Quantization技术,该技术可以减少LLM在长文本生成时的内存使用,同时保持较低的质量损失,读者可以了解其对现有工作流的影响。
Google 发布了新的视觉语言模型 PaliGemma,包括预训练、混合和微调模型,支持多种分辨率和精度,可在 Hugging Face Hub 模型仓库中找到。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
OpenAI 发布新旗舰模型 GPT-4 Omni(GPT-4o),该模型能够跨音频、视觉和文本进行实时推理。
推荐理由:官方宣布新旗舰模型支持音频、视觉和文本的实时推理,明确了其核心能力边界。
OpenAI 官方新闻源发布了关于新模型的内容。当前材料仅包含标题和来源信息,未提供具体的模型名称、版本号或详细能力描述。
OpenAI 发布最新旗舰模型 GPT-4o,并在 ChatGPT 中向免费用户开放更多功能。
推荐理由:官方宣布 GPT-4o 上线并向免费用户开放更多能力,明确了新旗舰模型的可用范围。
Hugging Face 推出针对希伯来语言模型的开放排行榜,旨在评估和提升 Hebrew LLMs 的性能,包含四个关键数据集,涵盖问答、情感分析、Winograd Schema Challenge 和翻译等任务。
Hugging Face发布了一个LLM性能排行榜,旨在帮助AI工程师在AI应用中选择合适的LLM和API提供商,考虑了质量、价格和速度等多个指标。
推荐理由:该排行榜提供了关于不同LLM的全面指标,帮助AI工程师做出决策,具有参考价值。
Hugging Face 的 Leaderboards and Evals 研究团队发现,LLM 的基准性能与提示词格式密切相关。他们通过实验发现,模型在相同输入信息下,输出结果对提示词格式的微小变化极为敏感。为了提高提示词的一致性,Hugging Face 与 Dottxt 合作,探索了通过结构化生成来约束模型输出,以减少提示词格式变化带来的影响。
Hugging Face 推出 Open CoT Leaderboard,用于评估大型语言模型在生成有效推理链方面的能力,通过比较带有和不带有思维链提示的准确率差异来衡量模型性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了多用途 Transformer 智能体 Jack of All Trades (JAT),该智能体能够在多个任务上表现出色,包括游戏、机器人控制和简单导航环境中的命令执行。JAT 使用了改进的 Transformer 架构,并集成了多种数据集和专家策略。
推荐理由:原文介绍了 JAT 智能体及其在多个任务上的表现,读者可以了解其能力并评估其对现有工作流的影响。
Meta 发布了 Llama 3 开放式 LLM,包括 8B 和 70B 两种参数规模,支持多种硬件和上下文长度,并提供了多种集成和部署方式。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了 Mixtral 8x22B 开放模型,该模型具有多语言能力、强大的数学及编码能力,并采用 Apache 2.0 开源许可证,读者可以关注其性能和开源对 AI 社区的影响。
推荐理由:Mixtral 8x22B 模型在性能和效率方面达到新标准,具有多语言能力和强大的数学及编码能力,开源发布,读者可以关注其性能和开源对 AI 社区的影响。
Hugging Face 推出 LiveCodeBench 评测基准,基于 LiveCodeBench,由加州大学伯克利分校、麻省理工学院和康奈尔大学的研究人员开发,用于衡量 LLMs 的代码生成能力。
推荐理由:LiveCodeBench 评测基准的发布为代码 LLMs 提供了更全面、无污染的评估,有助于了解不同模型的能力和泛化能力。
Hugging Face 发布了 Idefics2,一款能够处理文本和图像输入并生成文本响应的多模态模型。Idefics2 在视觉问答基准测试中表现出色,并支持多种多模态应用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型,包括开源模型介绍、选择模型的方法、评估基准以及使用transformers库进行推理和微调的示例。
推荐理由:本文介绍了视觉语言模型的概念、应用场景以及如何使用和微调这些模型,对了解和利用视觉语言模型有重要参考价值。
Google 发布了 CodeGemma 代码大语言模型家族,包括三个版本:2B 基础模型、7B 基础模型和 7B 指令模型。这些模型在 Hugging Face Hub 上提供,并支持与 Google Cloud 和 Inference Endpoints 集成。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 SetFit 模型优化工具,通过 🤗 Optimum Intel 优化,可以加速 SetFit 模型的推理速度,最高可达 7.8 倍。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出嵌入量化技术,通过将浮点数嵌入转换为二进制或标量(int8)嵌入,显著降低内存和存储使用,提高检索速度,并降低成本。
推荐理由:原文介绍了嵌入量化技术及其在检索速度、内存使用、磁盘空间和成本方面的改进,读者可以了解这项技术如何改变现有工作流。
Hugging Face 与 Lighthouz AI 合作推出 Chatbot Guardrails Arena,旨在通过社区大规模盲测试评估 AI 聊天机器人隐私保护机制的有效性。该平台允许用户与受隐私保护机制限制的匿名大型语言模型进行对话,并投票选择隐私保护能力更强的模型。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布了 Cosmopedia,一个用于预训练大型语言模型的大规模合成数据集。该数据集包含超过 30 亿个 token,旨在解决传统数据集的局限性,并推动合成数据在 AI 领域的应用。
推荐理由:Cosmopedia 的发布为 LLM 预训练提供了新的数据集,有助于推动合成数据在 AI 领域的应用。
GaLore是一种新的工具,它通过降低内存需求,使得在消费级硬件上训练大型语言模型成为可能,为研究人员和从业者提供了新的可能性。
推荐理由:GaLore通过降低内存需求,使得在消费级硬件上训练大型语言模型成为可能,为研究人员和从业者提供了新的可能性。
Hugging Face 发布了优化后的嵌入模型和 fastRAG 框架,旨在提高信息检索和 RAG 应用的效率。
Hugging Face 推出 WebSight-v0.2 数据集,包含 200 万个网页截图与 HTML 代码对,旨在训练 AI 模型将视觉网页设计转换为功能性 HTML 代码。基于此数据集,研究人员训练了 Sightseer 模型,能够将网页截图转换为功能性的 HTML 代码,并支持将图像嵌入生成的 HTML 中。
BigCode 发布 StarCoder2,新一代开源代码大语言模型,基于 The Stack v2 数据集训练,提供 3B、7B 和 15B 参数的模型版本。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 发布了其最新的语言模型 Mistral Large,该模型具备高级推理能力,支持多语言,并可通过 Azure 平台使用。Mistral AI 还推出了优化模型 Mistral Small,适用于低延迟工作负载。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布 Gemma 模型支持 PEFT,允许用户在 Hugging Face 上进行参数高效微调,提高语言模型训练的效率和可访问性。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Matryoshka Embedding 模型通过在早期维度存储重要信息,在后期维度存储次要信息,实现高效的信息压缩。该模型使用 Sentence Transformers 框架进行训练,支持多种输出维度,可应用于推荐系统、检索、分类等多种任务。
Google 发布了新的开源大语言模型 Gemma,包括 2B 和 7B 参数版本,支持在 Hugging Face 平台使用,并提供了多种集成和部署方式。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face推出Open Ko-LLM评测基准,旨在评估韩语大语言模型的能力,为韩语LLM的发展提供了重要的评估平台。
Hugging Face 的 🤗 PEFT 引入了新的 LoRA 模型融合方法,包括 Concatenation、Linear/Task Arithmetic 和 SVD 等,旨在优化不同 LoRA 模型融合的体验,提高模型性能。