OpenAI 与独立专家合作评估前沿 AI 系统，加强安全生态系统
OpenAI 与独立专家合作，通过第三方测试评估前沿 AI 系统，以加强安全性和验证安全措施，提高对模型能力和风险的评估透明度。
#安全/对齐
#安全/对齐
今日 0 条OpenAI NewsAI 评分4040
Google Research精选AI 评分8585 Google Research 发布 JAX-Privacy 1.0：大规模差分隐私机器学习工具
Google Research 发布了 JAX-Privacy 1.0，这是一个用于构建和审计差分隐私模型的工具包，旨在简化大规模机器学习中的隐私保护。
推荐理由：JAX-Privacy 1.0 的发布为大规模机器学习中的差分隐私提供了强大的工具，有助于推动隐私保护机器学习的研究和应用。
OpenAI NewsAI 评分5050 OpenAI 对抗《纽约时报》对 20 亿 ChatGPT 对话的隐私侵犯要求
OpenAI 正在对抗《纽约时报》对 20 亿 ChatGPT 对话的隐私侵犯要求，并加速推出新的安全和隐私保护措施，以保护用户数据。
OpenAI NewsAI 评分5252 OpenAI 探讨 AI 系统中的提示注入攻击
OpenAI 讨论了 AI 系统中的提示注入攻击，并介绍了其在安全研究、模型训练和用户防护方面的进展。
OpenAI NewsAI 评分4545 OpenAI 发布 Teen Safety Blueprint：青少年网络安全蓝图
OpenAI 推出青少年网络安全蓝图，旨在通过负责任地构建 AI、适龄设计和协作保护，保护并赋能年轻人在线。
Hugging Face BlogAI 评分4545 Hugging Face 推出基于同意的语音克隆系统
Hugging Face 推出基于同意的语音克隆系统，通过“语音同意门”确保只有当说话者明确表示同意时，才能克隆其声音。该系统结合语音识别和语音合成技术，旨在减少恶意使用风险，并支持用户在保持自主权的同时使用语音克隆功能。
OpenAI NewsAI 评分3535 ChatGPT 引入公司知识功能，提升企业用户工作效率
OpenAI 推出 ChatGPT 公司知识功能，将企业应用中的上下文信息引入模型，为用户提供特定业务问题的答案，并支持清晰的引用、安全隐私和行政控制，现已面向企业、企业和教育用户开放。
Hugging Face Blog精选AI 评分6767 Hugging Face 与 VirusTotal 合作加强 AI 安全
Hugging Face 与 VirusTotal 合作，对 Hugging Face Hub 上的 220 万个公共模型和数据集存储库进行持续扫描，以增强文件共享的安全性，保护机器学习社区免受恶意或受损资产的影响。
推荐理由：Hugging Face 与 VirusTotal 的合作增强了 Hugging Face Hub 上共享文件的安全性，有助于保护机器学习社区免受恶意或受损资产的影响。
OpenAI NewsAI 评分3737 OpenAI 专家委员会：ChatGPT 情绪健康支持与青少年
OpenAI 成立专家委员会，汇聚心理学家、临床医生和研究人员，指导 ChatGPT 支持青少年情绪健康，提升 AI 体验安全性。
OpenAI NewsAI 评分4040 OpenAI 评估 ChatGPT 政治偏见的测试方法
OpenAI 通过新的真实世界测试方法评估 ChatGPT 的政治偏见，提高客观性并减少偏见。
OpenAI NewsAI 评分3535 OpenAI 禁止涉及钓鱼和脚本支持活动的账户
OpenAI 禁止了涉及与公开报道的威胁组织重叠活动并符合中国情报需求标志的账户，这些账户利用 AI 支持钓鱼和脚本工作流程。
OpenAI NewsAI 评分5555 OpenAI 封禁与中国政府有关联的账户
OpenAI 封禁了使用 AI 支持监控相关策划、针对性画像研究和针对批评者及其他个人的账户，这些账户与中国政府有关联。
OpenAI News精选AI 评分6565 OpenAI 封禁与俄罗斯犯罪集团相关的账户，涉及 AI 恶意软件工具
OpenAI 封禁了可能与俄罗斯犯罪集团有关的账户，这些账户利用 AI 构建恶意软件加载器、规避层、凭证窃取脚本和 C2 基础设施。
推荐理由：OpenAI 对与俄罗斯犯罪集团相关的账户进行封禁，涉及使用 AI 构建恶意软件加载器、规避层、凭证窃取脚本和 C2 基础设施，读者可以关注这一事件对 AI 安全领域的影响。
OpenAI NewsAI 评分4040 OpenAI 禁止与网络诈骗相关的 AI 账户
OpenAI 禁止了与网络诈骗相关的账户，这些账户利用 AI 进行诈骗脚本、身份冒充、翻译和受害者互动。
OpenAI NewsAI 评分5050 OpenAI 取消与“九线”行动相关的账户
OpenAI 取消了与“九线”行动相关的账户，该行动利用AI生成有关南海、香港和美国政治的区域影响力内容。
OpenAI NewsAI 评分4545 OpenAI 取消“Stop News”行动相关账户，打击针对非洲和英国的人工智能恶意影响内容
OpenAI 取消了与俄罗斯相关联的“Stop News”行动账户，该行动利用人工智能生成针对非洲和英国的影响内容。
OpenAI NewsAI 评分3232 OpenAI 禁止使用 AI 支持恶意软件开发
OpenAI 禁止使用 AI 支持恶意软件开发、调试、钓鱼和凭证窃取工作流程，以打击韩国语言恶意软件活动。
OpenAI NewsAI 评分4040 OpenAI 推出 Sora 2 和 Sora 应用，以安全为核心
OpenAI 推出新型视频模型 Sora 2 及其社交创作平台 Sora 应用，强调安全为首要考量，采用具体保护措施。
OpenAI NewsAI 评分5252 OpenAI 发布打击网络儿童性剥削和滥用措施
OpenAI 发布了针对网络儿童性剥削和滥用的严格使用政策、先进检测工具和行业合作，以阻止、报告和预防 AI 的滥用。
OpenAI NewsAI 评分3030 OpenAI 探索青少年在 AI 使用中的安全、自由与隐私平衡之道
OpenAI 探索青少年在 AI 使用中的安全、自由与隐私平衡之道，旨在确保青少年在享受 AI 带来的便利的同时，保护其个人信息安全。
OpenAI NewsAI 评分2525 ChatGPT 推进年龄预测与家长控制功能，打造更安全的青少年体验
OpenAI 在 ChatGPT 中开发年龄预测和家长控制功能，旨在为青少年提供更安全的交流环境，并支持家庭使用新工具。
Ethereum Blog精选AI 评分6565 Ethereum 发布 Fusaka 审计竞赛
Ethereum 发布了 Fusaka 审计竞赛，旨在提高网络安全性，并奖励发现漏洞的研究者。
推荐理由：原文介绍了 Ethereum 网络的安全审计竞赛，读者可以了解其对网络安全的重视和措施。
OpenAI NewsAI 评分4040 OpenAI 与 US CAISI 和 UK AISI 合作进展：加强 AI 安全与安全
OpenAI 与美国 CAISI 和英国 AISI 合作，共同推进 AI 安全与安全体系建设，分享合作进展。
OpenAI NewsAI 评分4242 OpenAI 新研究揭示语言模型幻觉原因
OpenAI 新研究发现，语言模型产生幻觉的原因，并提出改进评估方法以提升 AI 的可靠性、诚实性和安全性。
OpenAI NewsAI 评分3535 ChatGPT 加强青少年保护并优化用户体验
OpenAI 与专家合作，为 ChatGPT 引入家长控制功能，强化青少年保护，并将敏感对话路由至推理模型，提升用户体验。
OpenAI NewsAI 评分4040 OpenAI 模型规范：集体对齐与公众意见
OpenAI 对全球超过 1000 人进行 AI 行为调查，并与模型规范进行对比，以实现集体对齐，更好地反映人类价值观和观点。
OpenAI News精选AI 评分7070 OpenAI 与 Anthropic 分享联合安全评估结果
OpenAI 和 Anthropic 进行了首次联合安全评估，测试彼此的模型，探讨安全性和协作价值。
推荐理由：OpenAI 和 Anthropic 进行了首次联合安全评估，测试彼此的模型，探讨安全性和协作价值，对研究者和行业有参考意义。
OpenAI NewsAI 评分3030 GPT-4 如何应对用户心理或情绪困扰
OpenAI 正在研究如何提升 GPT-4 在用户心理或情绪困扰时的应对能力，以解决当前系统的局限性。
Ethereum Blog精选AI 评分6565 以太坊启动“万亿美元安全”第二阶段计划
以太坊启动了“万亿美元安全”第二阶段计划，重点关注用户体验和安全问题，包括制定最低安全标准、解决盲签问题、帮助开发者避免部署漏洞代码等。
推荐理由：原文提出了 Ethereum 安全性的改进计划，读者可以了解其如何提升用户体验和安全性。
OpenAI NewsAI 评分3535 GPT-oss 恶意微调研究：评估开放权重大型语言模型的极限风险
OpenAI 研究了 GPT-oss 的极限风险，引入恶意微调（MFT）概念，通过微调 GPT-oss 在生物和网络安全领域达到最大能力，评估开放权重大型语言模型的潜在风险。
Ethereum BlogAI 评分5252 Ethereum 2025 年第二季度活动与进展汇总
Ethereum 在 2025 年第二季度举办了多项社区活动和教育项目，同时也在开发者工具、协议改进和安全研究方面取得了进展。
OpenAI NewsAI 评分4545 ChatGPT agent System Card：OpenAI的智能体模型整合研究、浏览器自动化和代码工具
OpenAI推出ChatGPT agent System Card，该模型结合研究、浏览器自动化和代码工具，采用Preparedness Framework保障安全。
Hugging Face BlogAI 评分4242 Hugging Face 生产基础设施背后的三大警报系统
Hugging Face 的基础设施团队分享了其生产基础设施的内部运作细节，重点介绍了三个关键的警报系统。这些系统包括监控 NAT 网关吞吐量、日志存档成功率和 Hub 请求日志，旨在确保平台的高性能和稳定性。通过这些警报，Hugging Face 能够及时识别并响应潜在问题，优化基础设施配置，降低成本。
OpenAI NewsAI 评分4242 OpenAI 主动评估 AI 在生物学领域的风险与安全措施
OpenAI 正在积极评估高级 AI 在生物学和医学领域的应用潜力，同时实施安全措施以预防滥用，以应对生物安全风险。
OpenAI NewsAI 评分4040 OpenAI 推出 Outbound Coordinated Disclosure 政策，强化安全责任披露
OpenAI 推出 Outbound Coordinated Disclosure 政策，旨在指导其负责任地报告第三方软件中的漏洞，强调完整性、协作和大规模主动安全。
OpenAI NewsAI 评分3737 OpenAI 应对《纽约时报》数据要求以保护用户隐私
OpenAI 正在应对《纽约时报》和原告提出的法院命令，涉及无限期保留消费者 ChatGPT 和 API 用户数据。公司正努力维护用户隐私，满足法律要求，并坚守数据保护承诺。
OpenAI NewsAI 评分4242 OpenAI 报告：2025年6月恶意使用AI的检测与预防案例研究
OpenAI 发布最新报告，详细介绍了如何检测和预防恶意使用AI的案例研究。
OpenAI NewsAI 评分3030 OpenAI Operation “High Five”：禁止AI生成菲律宾政治评论账号
OpenAI禁止使用AI生成关于菲律宾政治和公共官员的评论，涉及社交媒体平台上的账号。
OpenAI NewsAI 评分3535 OpenAI 取缔柬埔寨来源的诈骗账户，AI辅助诈骗工作流程遭打击
OpenAI 取缔了来自柬埔寨的账户，这些账户利用AI技术支持针对英国人的诈骗工作流程。
OpenAI NewsAI 评分4040 OpenAI 禁止使用 AI 进行社会工程、监控主题研究和针对批评者的宣传活动
OpenAI 禁止使用 AI 进行社会工程、监控主题研究和针对批评者的宣传活动，以打击滥用 AI 进行不良行为。