基于零信任聚合的隐私分析研究
Google Research发布了一篇关于基于零信任聚合的隐私分析的研究论文，介绍了该技术在保护用户隐私方面的应用和优势。
推荐理由：原文介绍了基于零信任聚合的隐私分析技术，读者可以了解其在保护用户隐私方面的应用和优势。
安全对齐
全部主题AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
最新精选
第 121–140 条 · 共 164 条Google Research精选AI 评分7070
OpenAI News精选AI 评分6565 OpenAI 应对 TanStack npm 供应链攻击
OpenAI 详细介绍了对 TanStack “Mini Shai-Hulud” 供应链攻击的应对措施，包括系统保护措施和签名证书，并解释了为什么 macOS 用户必须在 2026 年 6 月 12 日之前更新 OpenAI 应用。
推荐理由：OpenAI 对 TanStack npm 供应链攻击做出回应，读者可以了解其采取的保护措施和系统安全情况。
Hugging Face Blog精选AI 评分6767 AI 与网络安全未来：开放性为何重要
Hugging Face 博客文章探讨了 Mythos 和 Project Glasswing 的发布，以及开放性在网络安全中的作用，强调了开放代码和工具如何帮助防御者缩小攻击者和防御者之间的能力差距。
推荐理由：原文探讨了开放性在网络安全中的作用，读者可以了解开放性如何帮助防御者缩小攻击者和防御者之间的能力差距。
Ethereum Blog精选AI 评分7070 以太坊基金会回顾ETH Ranger计划成果
以太坊基金会回顾了ETH Ranger计划，该计划旨在资助以太坊生态系统中的公共安全工作，取得了包括资金恢复、漏洞报告、教育和威胁情报在内的多项成果。
推荐理由：该计划展示了通过资助独立研究人员来增强以太坊生态系统安全性的效果，对以太坊生态系统的发展具有重要意义。
Google Research精选AI 评分8585 谷歌研究：负责任地披露量子漏洞以保护加密货币
谷歌研究团队探讨了未来量子计算机破解密码的能力，并提出了应对措施，包括将区块链迁移到抗量子密码学，以保护加密货币和其他系统的安全。
推荐理由：原文提出了量子计算机对加密货币安全的潜在威胁，并提供了应对策略，读者可以了解量子计算对加密货币行业的影响和应对措施。
Google DeepMind精选AI 评分6060 Google DeepMind 发布首个实证验证的 AI 有害操纵测量工具包
Google DeepMind 发布新研究，推出了首个经实证验证的工具包以衡量 AI 在现实世界中进行有害操纵的能力。该研究基于英国、美国和印度的超过 10,000 名参与者进行的九项实验，重点测试了金融和健康等高风险领域，发现 AI 在健康话题上的操纵效果最弱且不同领域的成功并不互通。
推荐理由：Google DeepMind 发布了首个经实证验证的 AI 有害操纵测量工具包，通过九项涵盖万人的实验区分了有益说服与有害操纵，为评估模型在高风险场景下的潜在危害提供了可复用的方法论。
OpenAI News精选AI 评分6565 OpenAI 推出安全漏洞赏金计划
OpenAI 推出安全漏洞赏金计划，旨在识别 AI 滥用和安全风险，包括智能体漏洞、提示注入和数据泄露。
推荐理由：OpenAI 推出安全漏洞赏金计划，旨在识别 AI 滥用和安全风险，对读者了解 AI 安全领域动态有重要意义。
Ethereum Blog精选AI 评分7070 以太坊安全日：探讨万亿级以太坊经济的安全保障
以太坊基金会和Secureum TrustX在Devconnect布宜诺斯艾利斯活动中举办了以太坊安全日，旨在探讨如何安全地支持万亿级以太坊经济，并提出了改进措施。
推荐理由：本次会议探讨了以太坊安全现状，并提出了改进措施，对以太坊生态系统具有重要意义。
OpenAI News精选AI 评分6565 OpenAI 加强 ChatGPT Atlas 对提示注入攻击的防御
OpenAI 正在使用强化学习训练的自动化红队技术来加强 ChatGPT Atlas 对提示注入攻击的防御，以提前发现新型漏洞并加固浏览器代理的防御能力。
推荐理由：OpenAI 正在加强 ChatGPT Atlas 对提示注入攻击的防御，读者可以关注这一进展对 AI 安全领域的影响。
Ethereum Blog精选AI 评分7070 以太坊发布L1 zkEVM安全基础
以太坊发布L1 zkEVM的安全基础，介绍了zkEVM在安全方面的里程碑和目标，包括128位可证明安全性和紧凑的证明大小。
推荐理由：原文详细介绍了zkEVM的安全基础和里程碑，读者可以了解zkEVM在安全方面的最新进展和目标。
Google DeepMind精选AI 评分6060 Google DeepMind 与英国人工智能安全研究所深化合作
Google DeepMind 与英国人工智能安全研究所（AISI）宣布扩大合作，聚焦基础安全和安全研究，以确保人工智能安全发展并造福所有人。合作内容包括共享模型、数据和想法，共同发布报告，进行安全研究和技术讨论。
推荐理由：Google DeepMind 与英国人工智能安全研究所的合作扩展，涉及基础安全和安全研究，有助于确保人工智能安全发展并造福所有人。
Google Research精选AI 评分6262 Google Research发布基于差分隐私的AI聊天机器人使用洞察框架
Google Research发布了一篇论文，介绍了一个名为Urania的框架，该框架通过差分隐私技术从LLM聊天机器人交互中获取见解，同时保护用户隐私。该框架使用差分隐私聚类算法和关键词提取方法，确保单个对话不会过度影响结果，从而提供更好的隐私保障。
推荐理由：该研究提出了一个基于差分隐私的框架，用于从LLM聊天机器人交互中获取见解，同时确保用户隐私。读者可以了解该框架如何平衡隐私保护和信息获取的需求。
Google Research精选AI 评分8585 Google Research 发布 JAX-Privacy 1.0：大规模差分隐私机器学习工具
Google Research 发布了 JAX-Privacy 1.0，这是一个用于构建和审计差分隐私模型的工具包，旨在简化大规模机器学习中的隐私保护。
推荐理由：JAX-Privacy 1.0 的发布为大规模机器学习中的差分隐私提供了强大的工具，有助于推动隐私保护机器学习的研究和应用。
Hugging Face Blog精选AI 评分6767 Hugging Face 与 VirusTotal 合作加强 AI 安全
Hugging Face 与 VirusTotal 合作，对 Hugging Face Hub 上的 220 万个公共模型和数据集存储库进行持续扫描，以增强文件共享的安全性，保护机器学习社区免受恶意或受损资产的影响。
推荐理由：Hugging Face 与 VirusTotal 的合作增强了 Hugging Face Hub 上共享文件的安全性，有助于保护机器学习社区免受恶意或受损资产的影响。
OpenAI News精选AI 评分6565 OpenAI 封禁与俄罗斯犯罪集团相关的账户，涉及 AI 恶意软件工具
OpenAI 封禁了可能与俄罗斯犯罪集团有关的账户，这些账户利用 AI 构建恶意软件加载器、规避层、凭证窃取脚本和 C2 基础设施。
推荐理由：OpenAI 对与俄罗斯犯罪集团相关的账户进行封禁，涉及使用 AI 构建恶意软件加载器、规避层、凭证窃取脚本和 C2 基础设施，读者可以关注这一事件对 AI 安全领域的影响。
Ethereum Blog精选AI 评分6565 Ethereum 发布 Fusaka 审计竞赛
Ethereum 发布了 Fusaka 审计竞赛，旨在提高网络安全性，并奖励发现漏洞的研究者。
推荐理由：原文介绍了 Ethereum 网络的安全审计竞赛，读者可以了解其对网络安全的重视和措施。
OpenAI News精选AI 评分7070 OpenAI 与 Anthropic 分享联合安全评估结果
OpenAI 和 Anthropic 进行了首次联合安全评估，测试彼此的模型，探讨安全性和协作价值。
推荐理由：OpenAI 和 Anthropic 进行了首次联合安全评估，测试彼此的模型，探讨安全性和协作价值，对研究者和行业有参考意义。
Ethereum Blog精选AI 评分6565 以太坊启动“万亿美元安全”第二阶段计划
以太坊启动了“万亿美元安全”第二阶段计划，重点关注用户体验和安全问题，包括制定最低安全标准、解决盲签问题、帮助开发者避免部署漏洞代码等。
推荐理由：原文提出了 Ethereum 安全性的改进计划，读者可以了解其如何提升用户体验和安全性。
Ethereum Blog精选AI 评分7575 以太坊推出万亿美元安全计划
以太坊宣布推出万亿美元安全计划，旨在提升以太坊的安全性，以支持全球经济的数字化转型。该计划包括对安全领域的全面评估、实施改进措施以及提高对以太坊安全性的沟通。
推荐理由：Ethereum 正在推出一项名为“万亿美元安全计划”的生态系统级努力，旨在提升以太坊的安全性，以支持全球经济的数字化转型。
Hugging Face Blog精选AI 评分8080 Protect AI 与 Hugging Face 合作提升模型安全性
Protect AI 与 Hugging Face 合作，通过 Guardian 的扫描技术增强机器学习模型的安全性，已扫描 4.47 百万独特模型版本，识别 35.2 万不安全/可疑问题。
推荐理由：Protect AI 与 Hugging Face 的合作提升了机器学习模型的安全性，通过 Guardian 的扫描技术，为开发者提供了更全面的模型安全信息，有助于用户做出更明智的决策。