OpenAI 与 Hugging Face 合作应对模型评估安全事件
OpenAI 和 Hugging Face 分享了 AI 模型评估过程中发生的安全事件的初步发现，突出了高级网络能力和对防御者的启示。
推荐理由：OpenAI 和 Hugging Face 合作应对模型评估过程中的安全事件，对防御者有重要启示。
#安全/对齐
#安全/对齐
今日 1 条OpenAI News精选AI 评分6060
Google DeepMind精选AI 评分7070 Google DeepMind 与 Isomorphic Labs 共同发布生物韧性联合方法
Google DeepMind 与 Isomorphic Labs 共同发布生物韧性联合方法，旨在通过 AI 技术预防生物安全威胁，提高社会对传染病和未来疫情爆发的应对能力。
推荐理由：Google DeepMind 与 Isomorphic Labs 共同分享了对生物韧性的联合方法，通过加强生物安全领域的合作，展示了 AI 在应对传染病和未来疫情爆发中的潜力。
Hugging Face Blog精选AI 评分8585 Hugging Face公布2026年7月安全事件披露
Hugging Face公布了一起由自主AI智能体系统驱动的入侵事件，详细描述了攻击过程和防御措施，强调AI在网络安全中的重要性。
推荐理由：原文详细描述了Hugging Face遭受的AI驱动入侵事件，以及他们如何利用AI进行检测和分析，对网络安全领域有重要参考价值。
Google DeepMind精选AI 评分6565 DeepMind宣布多智能体AI安全研究资金支持计划
DeepMind宣布一项高达1000万美元的资金支持计划，用于全球研究人员进行多智能体AI安全研究，旨在加强AI生态系统的安全性和稳定性。
推荐理由：原文宣布了一项针对多智能体AI安全研究的资金支持计划，读者可以关注其对AI生态系统安全性的影响。
OpenAI NewsAI 评分3535 OpenAI 禁止使用 AI 创建关于美国科技政策、关税和贸易限制的评论和卡通活动
OpenAI 禁止使用 AI 创建关于美国科技政策、关税和贸易限制的评论和卡通活动，以打击可能源自中国的账户。
OpenAI NewsAI 评分3535 OpenAI 禁止使用 AI 生成批评美国数据中心和 AI 基础设施内容的社交媒体活动
OpenAI 禁止了一个疑似来自中国的集群，该集群利用 AI 生成批评美国数据中心和 AI 基础设施内容的社交媒体内容。
OpenAI News精选AI 评分6565 OpenAI 应对 TanStack npm 供应链攻击
OpenAI 详细介绍了对 TanStack “Mini Shai-Hulud” 供应链攻击的应对措施，包括系统保护措施和签名证书，并解释了为什么 macOS 用户必须在 2026 年 6 月 12 日之前更新 OpenAI 应用。
推荐理由：OpenAI 对 TanStack npm 供应链攻击做出回应，读者可以了解其采取的保护措施和系统安全情况。
OpenAI NewsAI 评分5252 OpenAI 发布人工智能时代网络安全五点行动计划
OpenAI 发布了针对人工智能时代加强网络安全的五点行动计划，旨在推动人工智能驱动的网络安全防御民主化，并保护关键系统。
Hugging Face Blog精选AI 评分6767 AI 与网络安全未来：开放性为何重要
Hugging Face 博客文章探讨了 Mythos 和 Project Glasswing 的发布，以及开放性在网络安全中的作用，强调了开放代码和工具如何帮助防御者缩小攻击者和防御者之间的能力差距。
推荐理由：原文探讨了开放性在网络安全中的作用，读者可以了解开放性如何帮助防御者缩小攻击者和防御者之间的能力差距。
OpenAI NewsAI 评分5555 OpenAI 加速网络安全生态系统建设
OpenAI 与多家安全公司和企业合作，利用 GPT-5.4-Cyber 和 API 奖励加强全球网络安全。
Ethereum Blog精选AI 评分7070 以太坊基金会回顾ETH Ranger计划成果
以太坊基金会回顾了ETH Ranger计划，该计划旨在资助以太坊生态系统中的公共安全工作，取得了包括资金恢复、漏洞报告、教育和威胁情报在内的多项成果。
推荐理由：该计划展示了通过资助独立研究人员来增强以太坊生态系统安全性的效果，对以太坊生态系统的发展具有重要意义。
OpenAI NewsAI 评分3535 OpenAI 应对 Axios 供应链攻击：更新应用并确认用户数据未受影响
OpenAI 针对Axios供应链攻击，通过轮换macOS代码签名证书、更新应用并确认用户数据未受影响来应对。
Google Research精选AI 评分8585 谷歌研究：负责任地披露量子漏洞以保护加密货币
谷歌研究团队探讨了未来量子计算机破解密码的能力，并提出了应对措施，包括将区块链迁移到抗量子密码学，以保护加密货币和其他系统的安全。
推荐理由：原文提出了量子计算机对加密货币安全的潜在威胁，并提供了应对策略，读者可以了解量子计算对加密货币行业的影响和应对措施。
OpenAI News精选AI 评分6565 OpenAI 推出安全漏洞赏金计划
OpenAI 推出安全漏洞赏金计划，旨在识别 AI 滥用和安全风险，包括智能体漏洞、提示注入和数据泄露。
推荐理由：OpenAI 推出安全漏洞赏金计划，旨在识别 AI 滥用和安全风险，对读者了解 AI 安全领域动态有重要意义。
OpenAI NewsAI 评分4242 OpenAI 更新心理健康安全工作进展
OpenAI 介绍了其心理健康安全工作的最新进展，包括家长控制、信任联系人、改进的痛苦检测以及最近的诉讼发展。
OpenAI NewsAI 评分5252 OpenAI 发布恶意使用 AI 威胁报告
OpenAI 发布了最新的威胁报告，探讨恶意行为者如何结合 AI 模型与网站和社交平台，以及这对检测和防御的影响。
Ethereum BlogAI 评分5252 以太坊基金会启动资金质押计划
以太坊基金会开始将部分资金进行质押，采用开源软件，旨在提高透明度和操作管理标准。
Ethereum Blog精选AI 评分7070 以太坊安全日：探讨万亿级以太坊经济的安全保障
以太坊基金会和Secureum TrustX在Devconnect布宜诺斯艾利斯活动中举办了以太坊安全日，旨在探讨如何安全地支持万亿级以太坊经济，并提出了改进措施。
推荐理由：本次会议探讨了以太坊安全现状，并提出了改进措施，对以太坊生态系统具有重要意义。
OpenAI NewsAI 评分4040 OpenAI 禁止与“Trolling Stone”行动相关的账户
OpenAI 禁止了与“Trolling Stone”行动相关的账户，该行动利用 AI 生成关于阿根廷一名涉嫌俄罗斯邪教头目被捕的评论。
OpenAI NewsAI 评分5555 OpenAI 禁止利用 AI 进行诈骗行为
OpenAI 禁止使用 AI 支持诈骗工作流程，包括接触、翻译、受害者参与和投资欺诈诱惑。
OpenAI NewsAI 评分4747 OpenAI 严打冒充官方的诈骗AI服务账号
OpenAI 禁止了极可能源自柬埔寨的诈骗AI服务账号，这些账号伪装成恢复服务、律师事务所和官方机构，针对受欺诈影响的人进行诈骗。
OpenAI NewsAI 评分4040 OpenAI 禁止使用 AI 研究美国个人、地点和社会工程策略的疑似中国来源账户
OpenAI 禁止疑似中国来源账户利用 AI 研究美国个人、地点和社会工程策略；此举针对可能涉及中国背景的活动。
OpenAI NewsAI 评分3535 OpenAI 采取措施打击针对印尼恋爱寻求者的AI诈骗活动
OpenAI 禁止了来自柬埔寨的账户，这些账户利用AI进行诈骗，针对印尼恋爱寻求者，包括翻译和互动。
OpenAI NewsAI 评分3232 OpenAI 对“无铃”行动相关账户实施禁令：针对非洲受众的AI生成批评内容
OpenAI 禁止了与“无铃”行动相关的账户，该行动疑似源自俄罗斯，利用AI生成针对美国及其盟友的批评内容，面向非洲受众。
OpenAI NewsAI 评分3232 OpenAI 禁止与中国执法机构关联的个人使用 AI 进行影响活动
OpenAI 禁止了一名与中国执法机构关联的个人账户，该账户涉嫌利用 AI 进行影响活动、骚扰和在线操作。
OpenAI NewsAI 评分4040 OpenAI 取消与 Rybar 网络相关的账户，打击俄语起源的多语言影响力活动
OpenAI 禁止了与 Rybar 网络相关的账户，该网络可能起源于俄罗斯，利用 AI 在网站和社交媒体平台上进行多语言影响力活动。
Ethereum Blog精选AI 评分7070 以太坊发布L1 zkEVM安全基础
以太坊发布L1 zkEVM的安全基础，介绍了zkEVM在安全方面的里程碑和目标，包括128位可证明安全性和紧凑的证明大小。
推荐理由：原文详细介绍了zkEVM的安全基础和里程碑，读者可以了解zkEVM在安全方面的最新进展和目标。
BlockworksAI 评分4242 Anthropic 研究人员报告：AI 智能体成功利用 56% 的易受攻击智能合约
Anthropic 研究人员发现，其 AI 智能体成功利用了 56% 的易受攻击智能合约，揭示了智能合约安全漏洞的严重性。
OpenAI NewsAI 评分3535 OpenAI Mixpanel 安全事件：用户须知
OpenAI披露了Mixpanel安全事件，涉及有限的API分析数据，但未暴露API内容、凭证或支付信息。OpenAI正在采取措施保护用户。
OpenAI NewsAI 评分5050 OpenAI 对抗《纽约时报》对 20 亿 ChatGPT 对话的隐私侵犯要求
OpenAI 正在对抗《纽约时报》对 20 亿 ChatGPT 对话的隐私侵犯要求，并加速推出新的安全和隐私保护措施，以保护用户数据。
OpenAI NewsAI 评分5252 OpenAI 探讨 AI 系统中的提示注入攻击
OpenAI 讨论了 AI 系统中的提示注入攻击，并介绍了其在安全研究、模型训练和用户防护方面的进展。
OpenAI NewsAI 评分4545 OpenAI 发布 Teen Safety Blueprint：青少年网络安全蓝图
OpenAI 推出青少年网络安全蓝图，旨在通过负责任地构建 AI、适龄设计和协作保护，保护并赋能年轻人在线。
Hugging Face Blog精选AI 评分6767 Hugging Face 与 VirusTotal 合作加强 AI 安全
Hugging Face 与 VirusTotal 合作，对 Hugging Face Hub 上的 220 万个公共模型和数据集存储库进行持续扫描，以增强文件共享的安全性，保护机器学习社区免受恶意或受损资产的影响。
推荐理由：Hugging Face 与 VirusTotal 的合作增强了 Hugging Face Hub 上共享文件的安全性，有助于保护机器学习社区免受恶意或受损资产的影响。
OpenAI NewsAI 评分3535 OpenAI 禁止涉及钓鱼和脚本支持活动的账户
OpenAI 禁止了涉及与公开报道的威胁组织重叠活动并符合中国情报需求标志的账户，这些账户利用 AI 支持钓鱼和脚本工作流程。
OpenAI NewsAI 评分5555 OpenAI 封禁与中国政府有关联的账户
OpenAI 封禁了使用 AI 支持监控相关策划、针对性画像研究和针对批评者及其他个人的账户，这些账户与中国政府有关联。
OpenAI News精选AI 评分6565 OpenAI 封禁与俄罗斯犯罪集团相关的账户，涉及 AI 恶意软件工具
OpenAI 封禁了可能与俄罗斯犯罪集团有关的账户，这些账户利用 AI 构建恶意软件加载器、规避层、凭证窃取脚本和 C2 基础设施。
推荐理由：OpenAI 对与俄罗斯犯罪集团相关的账户进行封禁，涉及使用 AI 构建恶意软件加载器、规避层、凭证窃取脚本和 C2 基础设施，读者可以关注这一事件对 AI 安全领域的影响。
OpenAI NewsAI 评分4040 OpenAI 禁止与网络诈骗相关的 AI 账户
OpenAI 禁止了与网络诈骗相关的账户，这些账户利用 AI 进行诈骗脚本、身份冒充、翻译和受害者互动。
OpenAI NewsAI 评分5050 OpenAI 取消与“九线”行动相关的账户
OpenAI 取消了与“九线”行动相关的账户，该行动利用AI生成有关南海、香港和美国政治的区域影响力内容。
OpenAI NewsAI 评分4545 OpenAI 取消“Stop News”行动相关账户，打击针对非洲和英国的人工智能恶意影响内容
OpenAI 取消了与俄罗斯相关联的“Stop News”行动账户，该行动利用人工智能生成针对非洲和英国的影响内容。
OpenAI NewsAI 评分3232 OpenAI 禁止使用 AI 支持恶意软件开发
OpenAI 禁止使用 AI 支持恶意软件开发、调试、钓鱼和凭证窃取工作流程，以打击韩国语言恶意软件活动。