OpenAI 联合研究预测语言模型在虚假信息中的潜在滥用及风险缓解
OpenAI 与乔治城大学、斯坦福互联网观察站合作，发布报告预测大语言模型被用于虚假信息的潜在威胁。该研究基于2021年10月汇集30位专家的研讨会及逾一年调研，提出分析潜在缓解措施的框架。
#OpenAI
#OpenAI
今日 3 条OpenAI NewsAI 评分3131
OpenAI NewsAI 评分1212 OpenAI 利用 GPT-3 从客户反馈中提供细致洞察
OpenAI 使用 GPT-3 模型快速分析客户反馈，以生成细致的业务洞察。该应用展示了大语言模型在处理非结构化用户数据时的效率与深度理解能力。
OpenAI NewsAI 评分1515 OpenAI 微调 GPT-3 以扩展视频创作规模
OpenAI 通过微调 GPT-3 模型来支持并扩展“代劳式”（done-for-you）视频创作服务。该方案旨在利用大语言模型的生成能力，实现视频内容的规模化自动生产。
OpenAI NewsAI 评分1212 OpenAI 利用 GPT-3 打造下一代 AI 角色
OpenAI 使用 GPT-3 创建下一代由 AI 驱动的角色。
OpenAI NewsAI 评分1313 OpenAI 应用 AI 研究科学家 Lilian Weng 谈持续学习的力量
OpenAI 应用 AI 研究科学家 Lilian Weng 探讨了持续学习在人工智能领域的重要性。该观点出自 OpenAI News，强调了模型通过不断获取新知识以提升性能的关键作用。
OpenAI NewsAI 评分3838 OpenAI 发布全新改进版嵌入模型
OpenAI 宣布推出新一代嵌入模型。该模型在能力上显著增强，同时具备更高的成本效益，且使用方式更加简便。
OpenAI NewsAI 评分1111 OpenAI 超级计算团队工程师 Christian Gibson 探索后端系统细节
OpenAI 超级计算团队工程师 Christian Gibson 正在探索后端系统的细微之处。该文章聚焦于这位工程师在 OpenAI 内部负责的高性能计算基础设施相关工作，未披露具体技术突破或产品发布细节。
OpenAI News精选AI 评分9898 OpenAI 发布 ChatGPT 对话模型
OpenAI 正式推出 ChatGPT，这是一款基于 GPT-3.5 架构的对话式 AI 模型。该模型旨在通过自然语言交互回答各类问题并协助完成文本任务。用户现可通过 OpenAI 平台直接体验其对话功能。
推荐理由：官方直接发布了新对话模型，读者可据此了解其即时可用性及基础交互能力。
OpenAI NewsAI 评分5858 OpenAI 宣布 DALL·E API 进入公测
OpenAI 宣布 DALL·E API 即日起进入公测阶段。开发者现在可以开始使用 DALL·E API 构建应用程序。
OpenAI News精选AI 评分6565 OpenAI 宣布 DALL·E 取消等待名单并向新用户开放
OpenAI 宣布 DALL·E 现已取消等待名单，新用户可直接开始创建图像。官方指出，部署过程中积累的经验以及安全系统的改进使得更广泛的可用性成为可能。
推荐理由：官方宣布取消排队机制并开放新用户直接使用，结合安全系统改进说明了扩大可用性的背景。
OpenAI News精选AI 评分8383 OpenAI 发布 Whisper 语音识别模型
OpenAI 发布名为 Whisper 的自动语音识别系统，该模型在多种语言和口音下表现出高鲁棒性。Whisper 已在 GitHub 上开源，支持多语言转录和翻译任务。
推荐理由：官方直接发布了新语音识别模型，提供了具体的准确率数据和开源代码入口。
OpenAI NewsAI 评分4040 DALL·E 推出 outpainting 功能
DALL·E 正式引入 outpainting 功能，支持生成任意尺寸的图像。该更新旨在扩展创作边界，帮助用户讲述更宏大的视觉故事。
OpenAI NewsAI 评分2121 OpenAI 阐述对齐研究路径
OpenAI 正在提升 AI 系统从人类反馈中学习及辅助人类评估 AI 的能力。其目标是构建足够对齐的 AI 系统，以协助解决其他所有对齐问题。
OpenAI NewsAI 评分2828 OpenAI 推出改进版内容审核工具
OpenAI 推出改进版内容审核工具 Moderation endpoint，该端点优化了此前的内容过滤器。目前该工具已面向 OpenAI API 开发者免费开放使用。
OpenAI News精选AI 评分7878 OpenAI 向百万用户开放 DALL·E 2
OpenAI 宣布将 DALL·E 2 的访问权限扩展至一百万人，并计划在未来几周内逐步增加名额。新加入的用户每月可获得 100 个免费积分用于生成图像，超出部分需付费购买额外积分。由于需求巨大，目前仍有数百万人在等待列表中，系统将根据申请顺序陆续发放邀请。
推荐理由：官方宣布 DALL·E 2 向百万用户开放，提供了具体的使用额度与等待队列机制，有助于了解早期商业化落地细节。
OpenAI NewsAI 评分3333 OpenAI 在 DALL·E 2 中减少偏见并提升安全性
OpenAI 为 DALL·E 实施新技术，使其生成的人物图像更准确反映世界人口多样性。该更新旨在减少模型偏见并提升安全性。
OpenAI NewsAI 评分2626 DALL·E 2 研究预览：超 3000 名艺术家参与创意工作流
DALL·E 2 研究预览阶段，来自 118 个国家的 3000 多名艺术家已将 DALL·E 融入其创意工作流。这些早期访问用户协助发现了 DALL·E 的新用途，并在功能决策中发挥了关键作用。
OpenAI NewsAI 评分2121 DALL·E 2 预训练缓解措施
OpenAI 在 DALL·E 2 中实施多种防护措施，以降低强大图像生成模型的风险。这些措施旨在防止生成的图像违反内容政策，从而支持向更广泛受众分享该模型。
OpenAI NewsAI 评分4747 OpenAI 通过 Video PreTraining 训练神经网络玩 Minecraft
OpenAI 利用海量无标签人类游戏视频进行 Video PreTraining，仅结合少量标注数据即训练出能玩 Minecraft 的神经网络。该模型经微调后可完成制作钻石工具任务，通常需熟练人类耗时超 20 分钟（约 24,000 次操作）。其直接模拟人类键鼠输入接口，具备通用性，是迈向通用计算机使用智能体的一步。
OpenAI NewsAI 评分2929 OpenAI 训练 AI 撰写批评以助人类发现摘要缺陷
OpenAI 训练了“撰写批评”模型来描述摘要中的缺陷，人类评估者在看到这些批评后更频繁地发现错误。实验显示，更大规模的模型在自我批评方面表现更佳，且规模对提升批评能力的效果优于提升摘要生成能力。这一结果展示了利用 AI 系统辅助人类监督困难任务中 AI 系统的潜力。
OpenAI NewsAI 评分1919 OpenAI 分享大型神经网络训练技术
OpenAI 指出大型神经网络是近期 AI 进展的核心，但其训练是一项困难的工程与研究挑战。该过程需要协调 GPU 集群以执行单一同步计算。
OpenAI NewsAI 评分3030 Cohere、OpenAI 与 AI21 Labs 发布大语言模型部署最佳实践
Cohere、OpenAI 和 AI21 Labs 联合制定了一套适用于任何开发或部署大语言模型组织的初步最佳实践。该指南旨在为相关机构提供通用的部署参考标准。
OpenAI NewsAI 评分1212 OpenAI Codex 驱动下一代应用
OpenAI Codex 目前正通过 OpenAI API 为 70 种不同应用场景提供支持。这一进展标志着该模型在多样化用例中的实际部署规模，旨在赋能下一代应用程序的开发与运行。
OpenAI NewsAI 评分3838 DALL·E 2 研究预览更新
DALL·E 2 研究预览版已生成超 300 万张图片，并据此优化了安全流程。OpenAI 计划每周从等待名单中新增最多 1,000 名用户以扩大测试范围。
OpenAI NewsAI 评分1414 OpenAI 领导层团队更新
OpenAI 宣布多项高管职位变动，以反映近期进展并确保向下一主要里程碑持续推进。
OpenAI NewsAI 评分3030 OpenAI 探讨 Goodhart's law 在目标优化中的影响
OpenAI 指出 Goodhart's law 表明当指标成为目标时，该指标便不再是好的衡量标准。这一源自经济学的定律是 OpenAI 在优化难以或昂贵测量的目标时必须面对的问题。
OpenAI NewsAI 评分5050 OpenAI 发布 GPT-3 与 Codex 新能力：支持编辑与插入
OpenAI 发布新版 GPT-3 和 Codex，新增对现有文本进行编辑或插入内容的能力。此前模型仅能完成文本续写，此次更新扩展了其在文本处理任务中的功能范围。
OpenAI NewsAI 评分2828 OpenAI 分享语言模型安全与滥用防范经验
OpenAI 发布关于语言模型安全与滥用的最新思考，旨在协助其他 AI 开发者应对已部署模型的安全挑战。该文章聚焦于分享在防止模型被恶意使用方面的实践经验，为行业提供安全治理参考。
OpenAI NewsAI 评分1515 OpenAI 征集大语言模型经济影响研究意向
OpenAI 发布关于大语言模型经济影响研究的兴趣征集。该举措旨在推动对 LLM 经济效应的深入分析，目前处于招募研究者阶段。
OpenAI NewsAI 评分3838 OpenAI 构建 Lean 神经定理证明器解决部分数学奥赛题
OpenAI 构建了用于 Lean 的神经定理证明器，成功解决了包括 AMC12、AIME 及两道改编 IMO 题目在内的高中奥赛难题。该模型通过机器学习掌握了处理高难度形式化数学问题的能力。
OpenAI News精选AI 评分7979 OpenAI 发布 InstructGPT 并将其设为 API 默认模型
OpenAI 推出 InstructGPT 模型，该模型在遵循用户意图、真实性和减少毒性方面优于 GPT-3，现已作为默认语言模型部署于 API。这些模型采用人类反馈强化学习技术训练，源自 OpenAI 的对齐研究成果。
推荐理由：OpenAI 官方宣布 InstructGPT 成为 API 默认模型，标志着其通过人类反馈强化学习提升指令遵循能力并降低毒性的技术正式落地。
OpenAI NewsAI 评分4242 OpenAI 推出文本与代码嵌入功能
OpenAI 在 API 中新增 embeddings 端点，支持文本和代码的嵌入生成。该功能旨在简化语义搜索、聚类、主题建模及分类等自然语言处理任务。
OpenAI NewsAI 评分1212 WebGPT：通过网页浏览提升语言模型事实准确性
OpenAI 推出 WebGPT，通过对 GPT-3 进行微调，使其能利用基于文本的网页浏览器更准确地回答开放式问题。该方案旨在通过引入外部信息检索能力，改善大语言模型在事实性问答中的表现。
OpenAI NewsAI 评分2626 OpenAI 发布 GPT-3 应用定制功能
OpenAI 推出 GPT-3 应用定制功能，支持通过单条命令完成微调。该特性旨在简化开发者对大语言模型的适配流程，降低自定义模型的技术门槛。
OpenAI NewsAI 评分1212 OpenAI 推出 OpenAI Residency
OpenAI 宣布启动 OpenAI Residency 项目，旨在支持和培养人工智能人才。该项目是 OpenAI 在 AI 人才培养方面的重要举措。
OpenAI News精选AI 评分6565 OpenAI API 取消等待名单全面开放
OpenAI 宣布其 API 现已无需等待名单即可直接使用。官方称这一更广泛的可用性得益于安全方面的进展。
OpenAI NewsAI 评分3333 OpenAI 训练新系统解决小学数学应用题
OpenAI 训练出一套解决小学数学应用题的新系统，其准确率接近微调 GPT-3 模型的两倍。该系统在测试中得分 55%，约为 9-12 岁儿童平均得分（60%）的 90%。
OpenAI NewsAI 评分2727 GPT-4.0 引入人类反馈，提升AI系统评估难度任务
OpenAI 的 GPT-4.0 引入人类反馈机制，以增强对难以评估任务的AI系统监督，旨在提升AI系统的评估准确性。
OpenAI NewsAI 评分55 OpenAI 董事会迎来新成员 Helen Toner
OpenAI 宣布任命 Helen Toner 加入董事会，为董事会注入新力量。
OpenAI NewsAI 评分3737 OpenAI Codex 改进版通过 API 开启私有测试
OpenAI 发布改进版 Codex，该 AI 系统可将自然语言转换为代码。新版本即日起通过 API 以私有测试形式开放。