OpenAI 基于人类偏好微调 GPT-2
OpenAI 利用人类反馈对 774M 参数 GPT-2 模型进行微调，成功匹配外部标注员偏好。摘要任务需 60k 标签且导致模型倾向复制原文，简单续写任务仅需 5k 标签。此举旨在将安全技术融入“机器与人对话”以提取人类价值观信息。
#数据/训练
#数据/训练
今日 0 条OpenAI NewsAI 评分3030
OpenAI NewsAI 评分3131 OpenAI 发现梯度噪声尺度可预测神经网络训练的并行化能力
OpenAI 发现梯度噪声尺度这一统计指标能预测神经网络训练在广泛任务上的并行化能力。由于复杂任务的梯度通常更嘈杂，未来更大的批次大小将变得有用，从而消除 AI 系统进一步增长的一个潜在限制。
OpenAI NewsAI 评分5555 OpenAI 提出基于无监督学习的语言理解改进方法
OpenAI 发布了一篇论文，提出了一种结合监督学习和无监督预训练的新方法，在多个语言任务上取得了最先进的成果，并计划开源。
OpenAI NewsAI 评分3737 Reptile：可扩展的元学习算法
OpenAI 开发了名为 Reptile 的元学习算法，该算法通过重复采样任务、在任务上执行随机梯度下降并更新初始参数，使其向最终参数学习。Reptile 是将最短下降算法应用于元学习环境，与仅需要黑盒访问优化器（如 SGD 或 Adam）的第一阶 MAML 算法在数学上相似，具有相似的计算效率和性能。
OpenAI NewsAI 评分2929 OpenAI 发布无监督情感神经元
OpenAI 开发了一种无监督系统，仅通过预测 Amazon 评论文本中的下一个字符进行训练，却学习到了极佳的情感表示。
OpenAI NewsAI 评分1212 OpenAI 谈深度学习基础设施的重要性
OpenAI 指出深度学习是一门经验科学，团队的基础设施质量是进步的关键倍增器。当前开源生态系统已使任何人都有可能构建优秀的深度学习基础设施。
OpenAI NewsAI 评分1313 OpenAI 介绍生成模型项目与原理
OpenAI 发布文章阐述四个基于生成模型的项目，并解释其作为无监督学习分支的定义、重要性及未来方向。