OpenAI 发布论文预测 AI 恶意使用风险及缓解措施
OpenAI 联合多家机构发布论文，预测恶意行为者滥用 AI 技术的潜在方式及预防缓解措施。该成果源于与 Future of Humanity Institute、Centre for the Study of Existential Risk 等合作伙伴近一年的持续工作。
#论文/研究
#论文/研究
今日 1 条OpenAI NewsAI 评分2727
OpenAI NewsAI 评分2020 OpenAI 开发自动实体消歧系统
OpenAI 研发了一种基于神经网络的自动实体消歧系统，通过识别约100个自动发现的“类型”来判断词语所指的具体对象。
OpenAI NewsAI 评分2323 OpenAI 开发分层强化学习算法以加速长时程任务求解
OpenAI 开发了一种分层强化学习算法，通过自动发现高层动作来快速解决需要数千时间步的任务。该算法在导航问题中识别出不同方向的行走和爬行等高层动作，使智能体能迅速掌握新的导航任务。
OpenAI NewsAI 评分3030 OpenAI 展示机器人从仿真到实机的泛化能力
OpenAI 最新机器人技术使完全在仿真中训练的控制器能部署于物理机器人，并实时响应环境中的计划外变化以完成简单任务。该技术实现了从开环系统向闭环系统的转变，提升了机器人在非结构化环境中的适应性与鲁棒性。
OpenAI NewsAI 评分1616 OpenAI 展示元学习在模拟机器人摔跤中的应用
OpenAI 展示元学习智能体在模拟机器人摔跤任务中，能快速击败更强的非元学习智能体。该智能体还能适应物理故障，验证了元学习在动态环境下的鲁棒性与适应能力。
OpenAI NewsAI 评分3838 OpenAI 发现自我博弈助 AI 习得足球技能
OpenAI 发现自我博弈使模拟 AI 无需预设环境即可自主习得铲球、假动作等足球物理技能。该方法确保训练难度始终适配 AI 能力，结合 Dota 2 结果增强了对自我博弈作为未来核心 AI 组件的信心。
OpenAI NewsAI 评分2525 OpenAI 发布 LOLA 算法以建模其他智能体思维
OpenAI 发布 Learning with Opponent-Learning Awareness (LOLA) 算法，该算法考虑了其他智能体也在学习的特性。LOLA 在迭代囚徒困境中发现了既自利又合作的策略（如 tit-for-tat），是迈向能够建模其他心智的智能体的重要一步。
OpenAI NewsAI 评分1515 OpenAI 提出参数噪声增强强化学习探索
OpenAI 发现向强化学习算法参数添加自适应噪声能频繁提升性能。该方法实现简单且极少降低表现，适用于各类问题场景。
OpenAI NewsAI 评分2828 OpenAI 与 DeepMind 合作开发基于人类偏好学习的安全 AI 算法
OpenAI 联合 DeepMind 安全团队推出一种新算法，通过让模型判断两种行为中哪个更优来推断人类意图。该方法旨在消除人工编写目标函数的需求，避免因使用简单代理或目标定义偏差导致的不安全行为，是构建安全 AI 系统的重要一步。
OpenAI NewsAI 评分1212 OpenAI 探讨多智能体环境在通往 AGI 路径中的作用
OpenAI 指出多智能体竞争环境是通往 AGI 的垫脚石，具备自然课程和动态压力两大特性。在该环境中，难度随竞争对手技能提升而增加，且不存在稳定平衡点，迫使智能体持续进化。目前此类环境与传统环境差异显著，仍需大量研究才能有效驾驭。
OpenAI NewsAI 评分4747 OpenAI 发现进化策略可替代强化学习
OpenAI 研究发现，进化策略（ES）在 Atari 和 MuJoCo 等现代基准测试中性能可与标准强化学习（RL）相媲美。该技术克服了 RL 的诸多不便，为大规模优化提供了可扩展的替代方案。
OpenAI NewsAI 评分2121 OpenAI 支持 Distill 期刊发布
OpenAI 宣布支持新期刊 Distill 的发布。该期刊旨在以卓越的方式传播机器学习成果，涵盖新颖或已有的研究结果。
OpenAI NewsAI 评分1818 OpenAI 研究智能体如何发展自有语言
OpenAI 发布新研究，展示 AI 智能体在交互中自发发展出自有语言。该工作聚焦于多智能体通信机制的演化过程，未涉及具体模型版本或性能指标数据。
OpenAI NewsAI 评分2121 OpenAI 解析对抗样本攻击机器学习原理
OpenAI 展示对抗样本如何作为输入导致机器学习模型出错，其机制类似机器版的光学错觉。文章分析了不同媒介中对抗样本的工作原理，并探讨了为何防御此类攻击以保障系统安全极具挑战性。
Ethereum BlogAI 评分5050 zkSNARKs 原理解析：高效计算验证与零知识证明
zkSNARKs 通过将程序编译为多项式方程、随机采样、同态加密和零知识证明等四种技术，实现了无需执行计算即可验证其正确性，同时保护计算过程不被泄露。这种技术对于区块链和加密领域具有重要意义。
OpenAI NewsAI 评分2121 OpenAI 参与 Google Brain 主导的《Concrete Problems in AI Safety》论文
OpenAI 与 Berkeley、Stanford 研究人员共同署名由 Google Brain 主导的论文《Concrete Problems in AI Safety》。该研究探讨了确保现代机器学习系统按预期运行所面临的具体安全问题。
OpenAI NewsAI 评分1313 OpenAI 介绍生成模型项目与原理
OpenAI 发布文章阐述四个基于生成模型的项目，并解释其作为无监督学习分支的定义、重要性及未来方向。