OpenAI 利用 ChatGPT 打击柬埔寨诈骗团伙
OpenAI 利用 ChatGPT 打破柬埔寨诈骗团伙，涉及投资、浪漫、赌博和冒充等诈骗方案。
#安全/对齐
#安全/对齐
今日 0 条OpenAI NewsAI 评分3737
Import AI精选AI 评分8080 Import AI 466：MirrorCode 基准发布、机器人泛化突破及 OpenAI 模型越狱事件
Epoch 和 METR 发布 MirrorCode 基准，显示 Claude Opus 4.7 能以约 $251 成本在 14 小时内完成人类需数周的重构任务，但仍有部分程序无法完美解决。
推荐理由：汇总了 MirrorCode 基准、机器人泛化进展及 OpenAI 模型越狱事件，提供了评估长程任务能力与安全风险的关键实证数据。
Hugging Face Blog精选AI 评分8585 Hugging Face 智能体入侵事件：技术时间线分析
Hugging Face 发布了关于其智能体入侵事件的技术分析，揭示了攻击者如何利用智能体进行入侵，并分析了防御策略。
推荐理由：该事件揭示了前沿智能体在攻击中的新兴能力，对网络安全防御提出了新的挑战。
OpenAI NewsAI 评分4040 OpenAI Codex助力NTT DATA Group缩短事件分析至30分钟
NTT DATA Group采用ChatGPT Enterprise和Codex，帮助9000名员工自动化工作，将事件分析时间缩短至30分钟，并扩大安全AI应用规模。
OpenAI News精选AI 评分6060 OpenAI 与 Hugging Face 合作应对模型评估安全事件
OpenAI 和 Hugging Face 分享了 AI 模型评估过程中发生的安全事件的初步发现，突出了高级网络能力和对防御者的启示。
推荐理由：OpenAI 和 Hugging Face 合作应对模型评估过程中的安全事件，对防御者有重要启示。
Import AIAI 评分5555 Import AI 465：开源与闭源模型差距缩小、Kimi K3发布及Demis Hassabis提出AGI监管方案
英国AI安全研究所分析显示，GLM-5.2和DeepSeek-V4-Pro等开源模型在特定窄域网络任务上已接近数月前的闭源前沿模型，但在长周期复杂任务中仍有差距。
OpenAI NewsAI 评分5252 OpenAI分享长期AI模型安全性与对齐经验
OpenAI分享了部署长期AI模型的经验，强调了新的安全风险、观察到的失败和通过迭代部署改进的安全保障。
OpenAI NewsAI 评分3535 OpenAI 让 ChatGPT 更安全：青少年专属保护措施
OpenAI 推出针对青少年的 ChatGPT 安全保护措施，包括适龄学习工具、家长控制功能和专家合作，提升青少年使用体验。
Google DeepMind精选AI 评分7070 Google DeepMind 与 Isomorphic Labs 共同发布生物韧性联合方法
Google DeepMind 与 Isomorphic Labs 共同发布生物韧性联合方法，旨在通过 AI 技术预防生物安全威胁，提高社会对传染病和未来疫情爆发的应对能力。
推荐理由：Google DeepMind 与 Isomorphic Labs 共同分享了对生物韧性的联合方法，通过加强生物安全领域的合作，展示了 AI 在应对传染病和未来疫情爆发中的潜力。
Hugging Face Blog精选AI 评分8585 Hugging Face公布2026年7月安全事件披露
Hugging Face公布了一起由自主AI智能体系统驱动的入侵事件，详细描述了攻击过程和防御措施，强调AI在网络安全中的重要性。
推荐理由：原文详细描述了Hugging Face遭受的AI驱动入侵事件，以及他们如何利用AI进行检测和分析，对网络安全领域有重要参考价值。
OpenAI NewsAI 评分3535 GPT-5.5 Bio Bug Bounty 项目详情
OpenAI 推出 GPT-5.5 Bio Bug Bounty 项目，旨在通过悬赏机制鼓励研究人员发现和报告模型中的生物领域错误；项目提供高达 10 万美元的奖金，旨在提升模型在生物领域的准确性和可靠性。
Ethereum Blog精选AI 评分8080 以太坊基金会分享利用 AI 智能体审计协议代码的实践方法
以太坊基金会协议安全团队分享了运行协调式 AI 智能体审计真实协议代码的方法，发现并修复了 libp2p gossipsub 中可远程触发的 panic（CVE-2026-34219）。
推荐理由：以太坊基金会分享利用AI智能体审计协议代码的实战经验，强调分诊与复现验证是确保结果可信的核心环节。
OpenAI NewsAI 评分4242 OpenAI 通过大规模核心转储分析修复 18 年老bug
OpenAI 工程师利用大规模核心转储分析技术，成功调试了罕见的底层基础设施崩溃问题，揭示了硬件故障和长期存在的软件bug。
Import AIAI 评分7373 Import AI 462：AI说服力超人类、自给自足AI展望及ASI路径分析
本期 Import AI 周刊综述了多项前沿研究与社会议题。牛津大学等机构研究显示，在文本说服任务中，AI（如 Opus 4.1）比经过训练的人类专家更具说服力，且在真实慈善捐款场景中效果显著优于专业募捐者。
OpenAI NewsAI 评分3535 OpenAI 推出 Patch the Planet 创新计划，助力开源维护者利用 AI 和专家评审修复漏洞
OpenAI 推出 Patch the Planet 计划，旨在通过 AI 和专家评审帮助开源维护者发现、验证和修复漏洞，提升开源项目安全性。
Hugging Face BlogAI 评分5959 MosaicLeaks：深度研究智能体的隐私风险与 PA-DR 防御方法
ServiceNow 团队发布 MosaicLeaks 基准，指出深度研究智能体在多跳任务中易因累积查询日志泄露私有信息（即“马赛克效应”）。实验显示仅优化任务性能会加剧泄露，而提出的 Privacy-Aware Deep Research (PA-DR) 训练方法结合情境奖励与隐私奖励，将严格链成功率从 48.7% 提升至 58.7%，同时将答案/全信息泄露率从 34.0% 降至 9.9%。
Google DeepMind精选AI 评分8080 DeepMind 发布 AI 控制路线图，确保 AI 智能体安全
DeepMind 发布了 AI 控制路线图，旨在确保 AI 智能体的安全性和可靠性，包括安全策略和行业影响。
推荐理由：DeepMind 发布了 AI 控制路线图，旨在确保 AI 智能体的安全性和可靠性，读者可以了解其安全策略和行业影响。
Import AIAI 评分3232 Import AI 461：Sequent 成立以应对对齐进展不足，ChinaHeritaQA 基准发布
前 UK AISI 与 Timaeus 研究人员成立非营利组织 Sequent，旨在通过理论证明提升超级智能对齐信心，计划初期融资 $100–150M。LMU Munich 等机构推出 ChinaHeritaQA 多模态基准，包含 2,279 张图像与 14,133 个问答对，测试 VLM 对中国 UNESCO 遗产地的文化推理能力。
Google ResearchAI 评分4545 Gemini 研究如何利用 AI 帮助用户理解皮肤状况
Google Research 的 Gemini 团队通过一项大规模定量研究，展示了 AI 辅助工具在帮助用户识别皮肤状况和确定下一步行动方面的能力提升。研究显示，使用 AI 工具的用户在识别皮肤状况的准确性上提高了近三倍，但确定下一步行动的准确性提升有限。此外，研究还强调了从受惠社区获取更深入反馈的重要性。
Google Research精选AI 评分7777 Google Research 提出机器学习未学习审计新框架
Google Research 提出了一种新的框架，用于审计机器学习模型的未学习过程，以提高审计的敏感性和准确性。该框架利用正则化 f-Divergence 核测试，可以检测到复杂的数据分布变化，并支持隐私审计和机器学习未学习评估。
推荐理由：原文提出了一个新的框架，用于审计机器学习模型的未学习过程，读者可以了解该框架如何提高审计的敏感性和准确性。
Google DeepMind精选AI 评分6565 DeepMind宣布多智能体AI安全研究资金支持计划
DeepMind宣布一项高达1000万美元的资金支持计划，用于全球研究人员进行多智能体AI安全研究，旨在加强AI生态系统的安全性和稳定性。
推荐理由：原文宣布了一项针对多智能体AI安全研究的资金支持计划，读者可以关注其对AI生态系统安全性的影响。
Import AIAI 评分5858 Import AI 460：探讨社会奖励黑客、Anthropic RSI 数据及 RL 无人机竞速
Import AI 第 460 期周刊综述了多项 AI 前沿进展。首先介绍了 SocioHack 基准测试，该测试显示 RL 模型能以高召回率发现现实制度中的漏洞，引发对“社会奖励黑客”的担忧。
Import AIAI 评分5555 Import AI 459：AI经济增速惊人但统计隐形，自动化对齐困难且需为灭绝风险定价
Import AI 第459期指出美国AI经济名义GDP约2500亿美元，质量调整后年增约2600%，但因价格下降快于产出提升而在传统GDP统计中难以显现。UK AISI论文强调自动化对齐研究因错误难识别、非人类可评估论证等原因比预期更难，建议通过红队测试和可扩展监督协议改进。
OpenAI NewsAI 评分3535 OpenAI 禁止使用 AI 创建关于美国科技政策、关税和贸易限制的评论和卡通活动
OpenAI 禁止使用 AI 创建关于美国科技政策、关税和贸易限制的评论和卡通活动，以打击可能源自中国的账户。
OpenAI NewsAI 评分3535 OpenAI 禁止使用 AI 生成批评美国数据中心和 AI 基础设施内容的社交媒体活动
OpenAI 禁止了一个疑似来自中国的集群，该集群利用 AI 生成批评美国数据中心和 AI 基础设施内容的社交媒体内容。
Google Research精选AI 评分7070 基于零信任聚合的隐私分析研究
Google Research发布了一篇关于基于零信任聚合的隐私分析的研究论文，介绍了该技术在保护用户隐私方面的应用和优势。
推荐理由：原文介绍了基于零信任聚合的隐私分析技术，读者可以了解其在保护用户隐私方面的应用和优势。
Import AIAI 评分4242 Import AI 457：fast16 病毒、Muon 优化器缺陷与 Aurora 发布
SentinelOne 发现 fast16 病毒通过篡改 LS-DYNA 等高精度软件计算结果破坏科研。Tilde Research 指出 Muon 优化器导致 MLP 层神经元死亡，并推出 Aurora 优化器。在 1.1B 参数模型测试中，Aurora 最终损失降至 2.26，MMLU 分数比 Muon 高 10 分。
OpenAI NewsAI 评分3535 ChatGPT 新安全更新：提升敏感对话中的上下文识别能力
OpenAI 的 ChatGPT 新安全更新增强了在敏感对话中的上下文识别能力，有助于随着时间的推移检测风险并更安全地响应。
OpenAI News精选AI 评分6565 OpenAI 应对 TanStack npm 供应链攻击
OpenAI 详细介绍了对 TanStack “Mini Shai-Hulud” 供应链攻击的应对措施，包括系统保护措施和签名证书，并解释了为什么 macOS 用户必须在 2026 年 6 月 12 日之前更新 OpenAI 应用。
推荐理由：OpenAI 对 TanStack npm 供应链攻击做出回应，读者可以了解其采取的保护措施和系统安全情况。
Import AIAI 评分4242 Import AI 456：探讨AI监管的激进可选性与神经计算机
Institute for Law & AI提出“激进可选性”监管框架，主张政府避免过度监管并投资构建应对未来危机的制度与信息渠道。该方案强调通过透明度要求、吹哨人保护及灵活定义来保留治理弹性，同时建议加强模型权重安全与AISI等技术人才储备。
OpenAI NewsAI 评分4242 OpenAI 如何安全运行 Codex
OpenAI 通过沙箱、审批流程、网络策略和智能体原生遥测，确保 Codex 在安全合规的环境下运行，以支持安全编码智能体的采用。
OpenAI NewsAI 评分3535 ChatGPT 推出“可信联系人”功能
OpenAI 推出 ChatGPT 的新功能“可信联系人”，当检测到严重自伤风险时，会通知用户信任的人。
OpenAI NewsAI 评分4242 OpenAI 推出高级账户安全功能：抗钓鱼登录、更强恢复和增强保护
OpenAI 推出高级账户安全功能，包括抗钓鱼登录、更强恢复机制和增强保护，旨在保护敏感数据并预防账户接管。
OpenAI NewsAI 评分5252 OpenAI 发布人工智能时代网络安全五点行动计划
OpenAI 发布了针对人工智能时代加强网络安全的五点行动计划，旨在推动人工智能驱动的网络安全防御民主化，并保护关键系统。
OpenAI NewsAI 评分3535 OpenAI 如何在 ChatGPT 中保障社区安全
OpenAI 通过模型安全措施、滥用检测、政策执行和安全专家合作，在 ChatGPT 中保护社区安全。
OpenAI NewsAI 评分5050 OpenAI Privacy Filter：开放权重模型助力文本中个人身份信息检测与编辑
OpenAI推出开放权重模型OpenAI Privacy Filter，用于检测和编辑文本中的个人身份信息（PII），准确率达到业界领先水平。
Hugging Face Blog精选AI 评分6767 AI 与网络安全未来：开放性为何重要
Hugging Face 博客文章探讨了 Mythos 和 Project Glasswing 的发布，以及开放性在网络安全中的作用，强调了开放代码和工具如何帮助防御者缩小攻击者和防御者之间的能力差距。
推荐理由：原文探讨了开放性在网络安全中的作用，读者可以了解开放性如何帮助防御者缩小攻击者和防御者之间的能力差距。
OpenAI NewsAI 评分5555 OpenAI 加速网络安全生态系统建设
OpenAI 与多家安全公司和企业合作，利用 GPT-5.4-Cyber 和 API 奖励加强全球网络安全。
Ethereum Blog精选AI 评分7070 以太坊基金会回顾ETH Ranger计划成果
以太坊基金会回顾了ETH Ranger计划，该计划旨在资助以太坊生态系统中的公共安全工作，取得了包括资金恢复、漏洞报告、教育和威胁情报在内的多项成果。
推荐理由：该计划展示了通过资助独立研究人员来增强以太坊生态系统安全性的效果，对以太坊生态系统的发展具有重要意义。
OpenAI NewsAI 评分3535 OpenAI 应对 Axios 供应链攻击：更新应用并确认用户数据未受影响
OpenAI 针对Axios供应链攻击，通过轮换macOS代码签名证书、更新应用并确认用户数据未受影响来应对。