OpenAI Scholars 2019:最终项目展示
OpenAI Scholars 2019 第二期学员结业,八位学者在 Demo Day 展示了各自完成的最终项目。
OpenAI Scholars 2019 第二期学员结业,八位学者在 Demo Day 展示了各自完成的最终项目。
OpenAI 公布 2018 年秋季 Fellows 计划最终项目,该批次学员在为期 6 个月的学徒制中从机器学习新手成长为 OpenAI 核心贡献者。目前 OpenAI 正以滚动方式审核 2019 年夏季 Fellows 计划的申请。
OpenAI 推出 MuseNet,这是一款能生成 4 分钟、含 10 种乐器的音乐作品的深度神经网络。该模型采用与 GPT-2 相同的大规模 Transformer 架构,通过预测数十万个 MIDI 文件中的下一个 token 来学习和谐、节奏和风格模式。
OpenAI 推出 Sparse Transformer,这是一种用于文本、图像和声音序列预测的深度神经网络。该模型通过改进注意力机制算法,实现了比此前技术长30倍的序列模式提取能力,并刷新了相关领域的预测记录。
OpenAI 宣布其开发的 Dota 2 AI 系统在公开比赛中击败了顶级职业选手团队。这一成就标志着人工智能在需要长期规划和团队协作的复杂游戏环境中取得了重大进展。
推荐理由:作为 OpenAI 早期在强化学习领域的标志性成果,该发布展示了 AI 在复杂实时策略游戏中的突破能力。
OpenAI Five 将于太平洋时间4月13日上午11:30举办最后一场现场直播活动。
OpenAI 在能量模型(EBMs)的稳定可扩展训练方面取得进展,其样本质量与泛化能力优于现有模型。该方法通过持续计算优化答案,低温下生成效果可与 GAN 竞争,同时具备似然模型的模式覆盖保证。
OpenAI公布2019年Scholars项目名单,从550名申请者中选出8位学者。这些学者具备文学、哲学、细胞生物学、统计学、经济学、量子物理及商业创新等领域的集体专业知识。
OpenAI 成立了名为 OpenAI LP 的新实体,采用“利润封顶”模式。该结构旨在允许其快速增加对算力和人才的投入,同时通过制衡机制确保实现使命。
OpenAI 与 Google 研究人员合作推出 Activation Atlases,这是一种用于可视化神经元交互所代表含义的新方法。该技术旨在帮助开发者理解 AI 系统的内部决策过程,从而识别弱点并调查故障,特别是在 AI 部署于敏感场景时提升透明度。
OpenAI 推出 Neural MMO,这是一个专为强化学习智能体设计的大规模多智能体游戏环境。该平台支持在持久且开放的任务中容纳大量可变数量的智能体。引入众多智能体和物种有助于改善探索过程、促进差异化生态位形成并提升整体能力。
OpenAI 于 2 月 2 日举办了首届 Spinning Up Workshop,作为其新教育计划的一部分。该活动聚焦深度强化学习(Deep RL)领域的教学与推广。
OpenAI 发表论文主张长期 AI 安全研究需引入社会科学家,以确保对齐算法在涉及真实人类时成功。正确对齐高级 AI 系统需解决人类理性、情感及偏见等心理学不确定性。OpenAI 计划全职招聘社会科学家并推动机器学习与社会科学研究者协作。
OpenAI 发布 GPT-2,这是一个拥有 15 亿参数的自回归语言模型。该模型在 800 万篇网页文本上训练,无需微调即可在多项任务中展现强大的零样本学习能力。
推荐理由:OpenAI 官方发布了基于 Transformer 架构的大规模生成式预训练模型,展示了零样本迁移能力。
OpenAI 首批 Fellows 计划结束,参与者通过为期 6 个月的学徒制从机器学习新手成长为 OpenAI 核心贡献者。
OpenAI 发现梯度噪声尺度这一统计指标能预测神经网络训练在广泛任务上的并行化能力。由于复杂任务的梯度通常更嘈杂,未来更大的批次大小将变得有用,从而消除 AI 系统进一步增长的一个潜在限制。
OpenAI 推出名为 CoinRun 的强化学习训练环境,旨在提供衡量智能体将经验迁移至新情境能力的指标。该环境复杂度介于传统平台游戏与简单任务之间,既比《索尼克》等游戏更简洁,又能为当前最先进算法带来有效的泛化挑战,有助于厘清强化学习领域的长期难题。
OpenAI 推出 Spinning Up in Deep RL,这是一份旨在帮助任何人成为深度强化学习熟练实践者的教育资源。该资源包含清晰的 RL 代码示例、教育练习、文档和教程。
OpenAI 开发出一种基于能量的模型,仅需五次演示即可快速学习并生成近、上、之间等二维点集概念。该模型还展示了跨域迁移能力,利用在二维粒子环境中学到的概念解决三维物理机器人的任务。
OpenAI 开发了基于预测的随机网络蒸馏(RND)方法,通过好奇心驱动强化学习智能体探索环境。该方法首次在 Montezuma’s Revenge 游戏中实现超过人类平均水平的表现。
OpenAI 提出名为 iterated amplification 的 AI 安全技术,旨在通过演示任务分解而非提供标注数据或奖励函数,来指定超越人类尺度的复杂目标。该方法目前处于早期阶段,仅在简单玩具算法领域完成实验,但被认为可能成为可扩展的 AI 安全方案。
OpenAI 启动 2019 年第二期 Scholars 计划,面向代表性不足群体提供全额奖学金与导师指导。入选者将全职学习深度学习 3 个月并开源一个项目,本期共提供 6–10 个名额。
OpenAI 正在接受 2019 年 Fellow 和 Intern 的申请,旨在培养下一代 AI 领域人才。
OpenAI Scholars 2018 首期学员已完成该计划。
OpenAI Five 在温哥华举办的 The International 2018 赛事中,以两局皆负的战绩输给了顶级 Dota 2 玩家。尽管最终失利,OpenAI Five 在两场比赛的前 20–35 分钟内均保持了良好的获胜机会。
OpenAI Five 在三局两胜制比赛中击败了由 Blitz、Cap、Fogged、Merlini 和 MoonMeander 组成的 Dota 玩家团队。该团队成员均为 99.95 百分位玩家,其中四人拥有职业比赛经验。
OpenAI 训练出一只人形机器人手,能以前所未有的灵巧度操控物理对象。
OpenAI 公布 2018 年首届 OpenAI Scholars 计划的首批学员名单。该计划旨在帮助具备经验的软件开发者转型为机器学习从业者,目前项目已正式启动并开放跟踪进展。
OpenAI 五人组基准赛已圆满结束。
OpenAI推出Glow模型,采用可逆1x1卷积,简化架构,生成高分辨率图像,支持高效采样,并发现可操控数据属性的特征。同时提供模型代码和在线可视化工具,供用户探索和构建。
OpenAI 训练的智能体通过单次人类演示学会玩 Montezuma’s Revenge,得分高达74,500分,优于之前任何已发布结果;采用与 OpenAI Five 相同的强化学习算法 PPO 进行游戏得分优化。
OpenAI 开发的五个神经网络组成的 OpenAI Five,已开始击败《Dota 2》中的业余人类团队。
OpenAI 完成了首次 Retro Contest,探索从先前经验中泛化的算法发展。
OpenAI 发布了一篇论文,提出了一种结合监督学习和无监督预训练的新方法,在多个语言任务上取得了最先进的成果,并计划开源。
OpenAI 正在接受下一批 OpenAI Fellow 的申请,该计划提供为期 6 个月的带薪 AI 研究学徒机会。
OpenAI 推出 Gym Retro 全版本,游戏数量从70款Atari游戏和30款Sega游戏增至超过1000款,涵盖多种支持模拟器。同时,发布用于添加新游戏的工具。
OpenAI于2018年5月16日发布了最新的研究进展。该内容由OpenAI官方渠道直接公布,具体涉及当时的技术研究细节。
推荐理由:OpenAI官方发布的早期研究动态,反映了其在2018年对模型训练或相关技术方向的探索,可作为理解其技术演进路径的历史参考。
OpenAI 提出一种 AI 安全技术,通过训练智能体进行辩论,并由人类评判胜负,以提升 AI 安全性。
OpenAI 推出实验性元学习方法 Evolved Policy Gradients,该方法通过进化学习代理的损失函数,实现新任务上的快速训练。使用 EPG 训练的代理在测试时能成功完成基本任务,如从训练时放置位置不同的房间另一侧导航到物体。
OpenAI 推出强化学习迁移竞赛 Retro Contest,旨在评估算法从先前经验中泛化的能力。