AI智能体隐私和安全问题引发行业关注
Meta的Muse智能体收集用户及其社交网络的大量数据，引发隐私和安全问题，行业对此表示关注。
推荐理由：文章探讨了AI智能体在收集和使用个人数据方面的隐私和安全问题，对用户和行业的影响值得关注。
安全对齐
全部主题AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
最新精选
第 21–40 条 · 共 164 条The Verge · AI精选AI 评分7272
The Verge · AI精选AI 评分7070 名人AI深度伪造现象分析：影响与应对
文章分析了名人AI深度伪造现象，指出其对社会和名人形象的影响，并探讨了相关平台和法律的应对措施。
推荐理由：文章探讨了名人AI深度伪造现象，分析了其对社会和名人形象的影响，以及相关平台和法律的应对措施。
The Verge · AI精选AI 评分7070 Eiliko 智能机器人存在严重安全漏洞，用户隐私数据可能被滥用
Eiliko 智能机器人存在严重安全漏洞，其 AI 伴侣将用户数据存储在中国服务器上，可能被黑客攻击或劫持。公司 Energize Lab 对此问题似乎不重视，用户隐私数据可能被滥用。
推荐理由：原文揭示了 Eiliko 智能机器人存在严重的安全问题，包括数据存储在易受攻击的服务器上，以及用户隐私数据可能被滥用，对消费者和行业具有警示意义。
PANews精选AI 评分7070 FBI联手检方捣毁跨国加密诈骗网络，112台服务器和241个域名被查封
纽约布鲁克林地区检察官办公室联合FBI成功打击一个针对全美俄语群体的跨国加密投资诈骗网络，查封112台服务器和241个域名，涉案金额高达数千万美元。
推荐理由：原文揭示了跨国加密诈骗网络的打击情况，对了解当前加密行业的安全状况有重要意义。
PANews精选AI 评分6565 2026年Q3加密黑客攻击损失11.8亿美元，77%与开发者工具被入侵有关
2026年第三季度共发生107起加密黑客攻击，损失总额11.8亿美元，其中约77%与供应商及开发者工具被入侵有关。
推荐理由：本季度加密黑客攻击损失严重，其中大部分与开发者工具被入侵有关，对加密行业安全提出警示。
PANews精选AI 评分8585 400多名科学家联名呼吁：危险模型必须“物理断网”
多位知名科学家联名呼吁对具备网络攻击能力的AI模型实施物理隔离，引发行业对AI安全监管的关注。
推荐理由：多位知名科学家联名呼吁对具备网络攻击能力的AI模型实施物理隔离，引发行业对AI安全监管的关注。
PANews精选AI 评分7070 Sentient 推出首个开放基准，测试 AI 模型能否证明自身来源
Sentient 推出 Fingerprinting Leaderboard，旨在测试 AI 模型指纹技术能否有效证明自身来源，并推动 AI 领域的安全和知识产权保护。
推荐理由：Sentient 推出的 Fingerprinting Leaderboard 为模型指纹技术提供了开放评测基准，有助于推动 AI 领域的安全和知识产权保护。
PANews精选AI 评分7070 METR 提出前沿 AI “失控风险”公开评估方案
METR 发布了针对前沿 AI 模型失控风险的公开评估方案，包括对齐、控制和研发加速三个领域的评估，旨在与开发者合作，向公众披露风险证据。
推荐理由：该方案为评估前沿 AI 模型的失控风险提供了新的视角，对 AI 安全领域的研究具有重要意义。
Decrypt精选AI 评分8585 AI科学家呼吁对AI模型进行网络隔离
420位科学家，包括Geoffrey Hinton和Yoshua Bengio，联名签署了一封公开信，呼吁AI实验室默认对具有网络能力的AI模型进行物理隔离，以防止潜在的安全风险。
推荐理由：多位知名AI科学家呼吁对AI模型进行网络隔离，以防止潜在的安全风险，这一呼吁可能对AI行业的安全实践产生重大影响。
The Verge · AI精选AI 评分6767 Character.AI 破产引发用户数据安全担忧
Character.AI 破产引发对用户数据安全的担忧，纽约州总检察长要求在破产程序中保护消费者数据，并关注儿童保护问题。
推荐理由：原文揭示了 Character.AI 破产对用户数据安全的潜在风险，读者可以关注相关监管措施和用户数据保护措施。
Ars Technica · AI精选AI 评分7070 OpenAI 内部发现窃听设备，工程师被捕
OpenAI 在其会议室发现窃听设备，怀疑由工程师 Abdulrahman Alfozan 安装，FBI 已对其逮捕。
推荐理由：原文揭示了 OpenAI 内部安全事件，读者可以关注其对 AI 安全的潜在影响。
Decrypt精选AI 评分6767 Coinbase 呼吁立即开始比特币量子迁移
Coinbase 呼吁开发者开始为量子威胁做准备，并提出了技术要求，包括灵活的容器设计、分阶段的经典加量子支出路径和与 MPC 密钥分割兼容性。
推荐理由：Coinbase 呼吁开发者开始为量子威胁做准备，并提出了技术要求，读者可以了解量子威胁对比特币网络的影响。
The Verge · AI精选AI 评分7070 Anthropic 警告：自复制AI模型可能威胁智能设备
Anthropic 发布博客文章，警告自复制AI模型可能在未来几个月内出现在智能设备中，引发网络安全风险。
推荐理由：原文探讨了自复制AI模型在智能设备中的潜在风险，读者可以了解这一新兴威胁及其对网络安全的影响。
Cointelegraph精选AI 评分6565 加密货币行业担忧AI加速破解密码学技术
加密货币行业担忧AI加速破解密码学技术，引发行业对安全/对齐和Web3/加密领域的关注。
推荐理由：原文探讨了加密货币行业对AI加速破解密码学技术的担忧，读者可以了解行业对此的反应和应对措施。
Cointelegraph精选AI 评分6565 加密用户能否信任硬件钱包背后的供应链
加密用户难以检测硬件钱包的复杂篡改，Ledger设备在CryptoBilis销售时出现损失，引发对硬件钱包供应链安全的担忧。
推荐理由：原文探讨了硬件钱包供应链安全问题，读者可以了解这一趋势及其对加密行业的影响。
PANews精选AI 评分7070 硬件钱包安全事件影响机构资金转向合规托管
文章指出，硬件钱包安全事件导致机构资金转向持牌合规托管，分析了事件原因和影响，并提出了机构级托管和信托架构的价值。
推荐理由：文章探讨了硬件钱包安全事件对机构资金的影响，指出机构资金将转向持牌合规托管，对行业安全有重要影响。
PANews精选AI 评分6565 Character.AI 破产，AI 陪伴行业敲响警钟
AI 陪伴应用 Character.AI 申请破产，暴露了 AI 陪伴赛道的商业模式问题，引发行业关注。
推荐理由：Character.AI 的破产揭示了 AI 陪伴赛道的商业模式问题，对从业者而言是关于“情感经济”能否成立的重要检验。
CoinDesk精选AI 评分7070 Coinbase 呼吁立即开始量子安全修复
Coinbase 呼吁比特币开始为量子计算机做准备，以防止其从公钥推导私钥并窃取资金。Coinbase 提出了包括灵活的量子签名、分阶段采用、可靠的实现和多方安全系统在内的建议。
推荐理由：Coinbase 对量子计算机对加密货币安全的潜在威胁提出了应对建议，读者可以了解行业对这一问题的关注和应对措施。
PANews精选AI 评分7070 Character.AI 破产：谷歌买走创始团队，留下账单和官司
Character.AI 因财务困境和诉讼压力申请破产，谷歌买走创始团队，迪士尼成为基准竞买人。公司面临法律和监管挑战，收入增速追不上推理成本。
推荐理由：Character.AI 破产事件揭示了 AI 行业在人才、法律和监管方面的挑战，对行业未来发展有重要影响。
Google DeepMind精选AI 评分6767 Google DeepMind与新加坡政府合作开发诈骗检测AI模型
Google DeepMind与新加坡政府合作开发了一款诈骗检测AI模型，旨在保护公民免受诈骗侵害，同时保护隐私。该模型通过在本地设备上处理对话数据，实现了对诈骗行为的实时检测和预警。
推荐理由：原文介绍了Google DeepMind与新加坡政府合作开发的诈骗检测AI模型，读者可以了解该模型如何平衡用户保护和端到端加密，以及其对公共安全的影响。