跳到正文

数据与训练

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

120条精选相关主题论文研究部署工程模型发布

最新精选

第 61–80 条 · 共 120 条
3月10日周二
  1. Hugging Face Blog70

    16个开源异步强化学习库的比较分析

    某研究机构对16个开源异步强化学习库进行了详细比较分析,包括架构设计、缓冲区设计、权重同步协议、陈旧数据管理、部分回滚处理、LoRA支持以及分布式训练后端等方面,为理解和实现异步强化学习库提供了重要参考。

    推荐理由:原文详细比较了16个开源的异步强化学习库,分析了它们在架构设计上的异同,对了解异步强化学习库的设计和实现有重要参考价值。

2月12日周四
  1. Hugging Face Blog65

    OpenEnv 实践:评估工具使用智能体在真实环境中的表现

    OpenEnv 是 Meta 和 Hugging Face 开发的一个开源框架,用于评估 AI 代理在真实系统中的表现。Turing 贡献了一个生产级的日历管理环境,用于研究工具使用代理在现实约束下的表现。

    推荐理由:OpenEnv 提供了一个评估 AI 代理在真实环境中的表现的平台,通过 Calendar Gym 等工具,可以更全面地了解代理的局限性和改进方向。

2月3日周二
  1. Hugging Face Blog70

    Hugging Face发布文本到图像模型训练设计研究:消融实验经验

    Hugging Face在Hugging Face Blog上发布了关于文本到图像模型训练设计的研究,通过消融实验分析了各种训练技巧对模型性能的影响,包括表示对齐、训练目标、标记路由和稀疏化以及数据选择等方面。

    推荐理由:本文详细介绍了Hugging Face在训练高效文本到图像模型方面的研究,包括各种训练技巧和实验结果,对理解和改进相关模型具有参考价值。

1月13日周二
  1. Google Research70

    Google Research 发布论文:NeuralGCM 模型提升全球降水模拟精度

    Google Research 发布论文,介绍其 NeuralGCM 模型在模拟全球降水方面的改进,该模型结合了机器学习和物理模型,在精度和效率方面优于传统大气模型。

    推荐理由:原文介绍了 NeuralGCM 模型在模拟全球降水的准确性方面的改进,读者可以了解其在气候预测领域的应用潜力。

1月10日周六
  1. Berkeley AI Research70

    信息驱动的成像系统设计

    该研究提出了一种基于信息理论的新方法来评估和优化成像系统,通过直接从测量中估计信息,避免了传统方法的局限性,并展示了在多个成像领域的应用效果。

    推荐理由:该研究提出了基于信息理论的新方法来评估和优化成像系统,对成像领域有潜在影响。

12月16日周二
  1. Google DeepMind72

    DeepMind 发布 Gemma Scope 2:助力AI安全社区深入理解复杂语言模型行为

    DeepMind 发布了 Gemma Scope 2,这是一套用于语言模型可解释性的开源工具,旨在帮助研究人员深入理解复杂语言模型的行为,包括Gemma 3系列模型。

    推荐理由:Gemma Scope 2 的发布为AI安全社区提供了强大的工具,有助于深入理解复杂语言模型的行为,对AI安全研究具有重要意义。

12月11日周四
  1. Google Research62

    Google Research发布基于差分隐私的AI聊天机器人使用洞察框架

    Google Research发布了一篇论文,介绍了一个名为Urania的框架,该框架通过差分隐私技术从LLM聊天机器人交互中获取见解,同时保护用户隐私。该框架使用差分隐私聚类算法和关键词提取方法,确保单个对话不会过度影响结果,从而提供更好的隐私保障。

    推荐理由:该研究提出了一个基于差分隐私的框架,用于从LLM聊天机器人交互中获取见解,同时确保用户隐私。读者可以了解该框架如何平衡隐私保护和信息获取的需求。

12月5日周五
  1. Google Research85

    Titans 和 MIRAS:帮助 AI 拥有长期记忆

    Google Research 发布了两篇论文,介绍了 Titans 和 MIRAS 架构,旨在帮助 AI 拥有长期记忆能力。Titans 架构通过深度神经网络作为记忆模块,提高了模型处理长序列的能力,而 MIRAS 架构则提供了新的优化机制。

    推荐理由:Titans 和 MIRAS 架构在序列建模方面取得了突破,通过引入深度神经网络作为记忆模块,提高了模型处理长序列的能力,并提供了新的优化机制。

11月22日周六
  1. Google Research67

    Google Research:如何通过简单的AI模型预测充电站可用性以缓解电动汽车里程焦虑

    Google Research发布了一篇论文,介绍了一种基于线性回归的模型,用于预测电动汽车充电站的可用性,以缓解电动汽车用户的里程焦虑。该模型通过分析充电站的历史数据,预测未来一段时间内充电站的可用情况,从而帮助用户做出更明智的出行决策。

    推荐理由:该研究提出了一种基于线性回归的模型,用于预测电动汽车充电站的可用性,有助于缓解电动汽车用户的里程焦虑,并可能对电动汽车的普及产生积极影响。

11月19日周三
  1. Hugging Face Blog77

    Apriel-H1:推理模型蒸馏的关键洞察

    Hugging Face 发布了 Apriel-H1 模型,通过知识蒸馏将 15B 推理模型转换为高效的推理模型,实现了 2.1 倍的吞吐量提升,同时保持了最小的质量损失。

    推荐理由:原文介绍了如何通过知识蒸馏将大型推理模型转换为高效的推理模型,读者可以了解其方法和效果。

11月17日周一
  1. Google DeepMind85

    DeepMind 发布 WeatherNext 2:最先进的天气预报模型

    DeepMind 发布了 WeatherNext 2 模型,该模型能够提供更高效、更准确和更高分辨率的全球天气预报。模型基于新的 AI 模型架构,能够预测数百种可能的天气情况,并已在多个 Google 产品中应用。

    推荐理由:原文介绍了 WeatherNext 2 模型的最新进展,包括其预测能力、技术细节和应用场景,读者可以了解该模型如何提升天气预报的准确性和效率。

11月14日周五
  1. Google Research72

    利用 AI 区分天然森林和其他树冠,助力实现无森林砍伐供应链

    Google Research 与 Google DeepMind 合作,发布了一项名为 'Natural Forests of the World 2020' 的新地图和数据集,旨在区分天然森林和其他树冠,为森林保护和可持续发展提供重要数据支持。

    推荐理由:该研究利用 AI 技术区分天然森林和其他树冠,为森林保护和可持续发展提供重要数据支持。

11月12日周三
11月8日周六
  1. Google Research77

    Google 研究推出 Nested Learning:持续学习的新机器学习范式

    Google 研究团队推出 Nested Learning,一种新的机器学习范式,旨在解决持续学习中的灾难性遗忘问题。通过实验验证了其在语言建模和长期记忆管理方面的优势。

    推荐理由:Nested Learning 提出了一种新的机器学习范式,旨在解决持续学习中的灾难性遗忘问题,通过实验验证了其在语言建模和长期记忆管理方面的优势。

11月5日周三
10月30日周四
  1. Google Research85

    Google 研究推出可证明隐私洞察系统,用于分析 AI 使用情况

    Google 研究推出可证明隐私洞察系统,利用大型语言模型、差分隐私和可信执行环境分析非结构化 GenAI 数据,保证个人数据不可查见且汇总洞察匿名。

    推荐理由:介绍了可证明隐私洞察(PPI)系统,该系统利用大型语言模型、差分隐私和可信执行环境来分析非结构化 GenAI 数据,同时保证个人数据不可查见且汇总洞察匿名。

10月22日周三
  1. Hugging Face Blog67

    Hugging Face 与 VirusTotal 合作加强 AI 安全

    Hugging Face 与 VirusTotal 合作,对 Hugging Face Hub 上的 220 万个公共模型和数据集存储库进行持续扫描,以增强文件共享的安全性,保护机器学习社区免受恶意或受损资产的影响。

    推荐理由:Hugging Face 与 VirusTotal 的合作增强了 Hugging Face Hub 上共享文件的安全性,有助于保护机器学习社区免受恶意或受损资产的影响。

10月17日周五
  1. Hugging Face Blog67

    Hugging Face 推出食品过敏研究项目,利用人工智能推动食品过敏研究进展

    Hugging Face 推出食品过敏研究项目,旨在利用人工智能推动食品过敏研究进展。该项目构建了一个社区驱动的食品过敏研究实验室,提供了丰富的数据集和工具,以促进食品过敏研究的合作和创新。

    推荐理由:该研究通过构建一个社区驱动的食品过敏研究实验室,展示了人工智能在食品过敏研究中的应用潜力,为研究人员、临床医生和患者提供了有价值的资源。

10月14日周二
  1. Hugging Face Blog72

    NVIDIA发布Nemotron-Personas-India:印度人设合成数据集

    NVIDIA发布Nemotron-Personas-India,这是一个针对印度人设的合成数据集,旨在解决印度AI领域的数据差距问题,为开发者提供更符合印度社会和文化背景的AI训练数据。

    推荐理由:该数据集旨在解决印度AI领域的数据差距问题,为开发者提供更符合印度社会和文化背景的AI训练数据,具有实际应用价值。

10月2日周四