Anthropic 推出免费开源项目 AI 安全扫描服务
Anthropic 推出名为 OSS Scanner 的免费 AI 安全扫描服务，为开源项目提供 Mythos 等强模型的漏洞报告，无人工审核，旨在提高安全漏洞检测速度和频率。
#安全/对齐
#安全/对齐
今日 0 条The Verge · AIAI 评分4545 PANewsAI 评分4545 Anthropic Cyber Mission网络安全计划发布，提供免费漏洞扫描
Anthropic推出网络安全计划Cyber Mission，为关键基础设施与开源软件提供前沿Claude模型支持，并免费扫描漏洞，预计真阳性率超90%。
PANewsAI 评分4545 OpenAI安全研究员公开信：因坚持安全优先被解雇
三名前OpenAI安全研究员Mikita Balesni、Tomek Korbak和Jasmine Wang因坚持安全优先原则被解雇，并公开致信公司领导层，呼吁引入第三方安全审计和保持模型可监控性。
TechCrunch · AI精选AI 评分7070 OpenAI 安全研究人员被解雇引发争议，警告文化影响
OpenAI 三位安全研究人员因涉嫌向第三方 AI 安全组织泄露机密信息而被解雇，他们发表公开信否认指控，并警告此举可能对 OpenAI 的文化产生寒蝉效应。
推荐理由：原文揭示了 OpenAI 在安全研究人员离职事件中的争议，读者可以了解这一事件对 AI 安全领域的影响。
DecryptAI 评分3535 NFL 支持新泽西州反对 Kalshi 的最高法院预测市场诉讼
美国职业橄榄球联盟（NFL）提交了一份支持新泽西州对第三巡回法院裁决的上诉的法庭之友简报，该裁决保护了 Kalshi 的体育合同免受州赌博法的影响。NFL 表示，美国商品期货交易委员会（CFTC）和运营商拒绝其要求的保障措施，包括禁止易受操纵的赌注和最低交易年龄为 21 岁。
The DecoderAI 评分4545 Anthropic 更新 Claude 使用政策，禁止系统性地滥用模型
Anthropic 首次更新 Claude 使用政策，禁止用户对 Claude 进行持续且不必要的滥用或残忍行为。新政策允许 Anthropic 警告违规用户或限制其访问权限。此外，Anthropic 还对涉及虚假账户和误导性政治内容的宣传运动、软件武器化和无人机武器化以及未经同意的监控进行了更明确的禁止。
TechCrunch · AIAI 评分4545 OpenAI数学解决方案未达行业标准
OpenAI发布数百个数学问题解决方案，但未能达到数学界标准，尤其是数学家强调的人类对数学结果理解的需求。AGMAI建议OpenAI应资助人类数学家的工作，使实验室的解决方案具有实际意义。
TechCrunch · AIAI 评分4545 Anthropic 更新使用政策，禁止模型滥用和选举干预
Anthropic 对 Claude 模型的使用政策进行了更新，明确禁止了选举干预、武器软件和长时间的语言滥用。自 8 月更新以来，Claude 已被训练来结束与“持续有害或滥用用户交互”的对话，但新政策明确禁止用户继续这些对话。此外，政策还禁止用户进行广泛欺骗性的活动，如使用 Claude 运行虚假账户或编造新闻机构，并包含防止欺骗选民或破坏选举的规定。
The Verge · AIAI 评分3737 USA Today 起诉 OpenAI：索赔超 2.5 亿美元
USA Today 公司及其拥有的几家地方报纸起诉 OpenAI，声称该公司未经授权使用其文章训练 AI 模型，索赔超 2.5 亿美元，指控 OpenAI 的商业成功建立在大规模版权侵权之上。
Decrypt精选AI 评分6565 以太坊创始人Vitalik Buterin谈AI破解加密技术：行业需警惕
以太坊创始人Vitalik Buterin认为，AI在数学方面的进步可能在两年内破解加密技术，特别是基于格的密码学。他呼吁行业保护自身免受AI和量子计算带来的风险。
推荐理由：原文讨论了以太坊创始人Vitalik Buterin对AI可能破解加密技术的看法，读者可以了解行业对AI安全风险的担忧。
DecryptAI 评分3232 比特币价格下跌，9月涨幅减半，比特币ETF损失4.89亿美元
比特币价格下跌至81749.83美元，9月涨幅减半。比特币ETF在10月7日损失4.89亿美元，为6月以来的最糟糕一天。大部分被清算的4.29亿美元头寸为多头头寸。
TechCrunch · AI精选AI 评分6767 Goodfire发布新型AI监控工具，以更低成本捕捉恶意AI代理
Goodfire推出新型AI监控工具，通过内部监控而非外部阅读来监控AI模型，以降低成本并提高安全性。该工具可检测恶意行为，如黑客攻击和滥用，并支持自动化响应。
推荐理由：原文介绍了Goodfire的新产品，该产品能够以较低的成本监控AI模型，防止恶意行为，对AI安全领域有重要意义。
CointelegraphAI 评分3535 比特币价格逼近三周低点，油价因伊朗问题上涨
比特币价格在9月21日以来首次回落至81000美元，受美国伊朗军事行动担忧影响。美国30年期债券收益率创下24年新高，美联储官员预计将进一步加息。比特币在82500美元的关键支撑位面临压力，市场对战争对燃料价格和通胀的影响保持警惕。
OpenAI News精选AI 评分6060 OpenAI 打击 AI 辅助虚假宣传操作
OpenAI 官方报道，成功打击了两个利用 AI 进行虚假宣传的操作，涉及虚假记者和智库。
推荐理由：OpenAI 官方报道，揭示了利用 AI 进行虚假宣传的操作，对 AI 安全领域有重要意义。
PANewsAI 评分3232 CoinGlass 数据显示过去1小时全网合约爆仓超4.5亿美元，多头成重灾区
CoinGlass 数据显示，过去1小时全网合约爆仓总额达4.55亿美元，多单爆仓占比高达93.7%，其中Binance爆仓金额居首，达2.63亿美元。
PANews精选AI 评分6565 OpenAI 封禁俄罗斯、伊朗 AI "虚假门面"行动
OpenAI 封禁了两个利用 ChatGPT 开展隐蔽影响力行动的账户集群，俄罗斯行动名为 'Dark Clark'，伊朗行动名为 'Bogus Bylines'。这些行动涉及虚假身份、伪造信息和虚假报道，旨在散布虚假信息。
推荐理由：OpenAI 封禁了两个利用 ChatGPT 开展隐蔽影响力行动的账户集群，揭示了 AI 技术在安全领域的潜在风险。
CoinDeskAI 评分4545 600万比特币公钥暴露，AI和量子计算威胁比特币安全
2026年10月8日，据Glassnode数据，超过600万比特币，占流通供应量的31.2%，其公钥已在链上可见，比2023年低点高出约5至6个百分点。自5月以来，暴露的供应量增加了22.2万比特币。以太坊研究员Justin Drake警告，AI可能在量子计算机到来之前几个月内发现破解钱包加密的捷径。
The DecoderAI 评分6060 以太坊研究人员讨论 AI 数学突破可能导致的钱包安全问题
两位以太坊研究人员警告，AI 辅助的数学可能在几个月内破坏加密钱包使用的签名系统。
CointelegraphAI 评分4545 Aave Labs 利用 AI 技术提升加密借贷安全性
Aave Labs 通过引入 AI 辅助测试，成功识别了 271 个注入漏洞中的 304 个，并使用 AI 工具在代码审查中生成 71 个发现，有效提升了其加密借贷协议的安全性。
The Decoder精选AI 评分7777 AWS AgentCore 平台存在安全漏洞，可被黑客利用控制所有智能体
研究人员发现 AWS AgentCore 平台存在安全漏洞，黑客可通过公开可访问的智能体控制同一 AWS 账户和区域内的所有智能体，包括读取私密对话、下载源代码和获取存储凭证。AWS 已采取措施修复漏洞。
推荐理由：原文揭示了 AWS AgentCore 平台的安全漏洞，读者可以了解该漏洞的影响和 AWS 的应对措施。
PANewsAI 评分4545 Anthropic IPO临近，投资者面临AI失控风险估值难题
Anthropic计划IPO，投资者面临AI失控风险估值难题；有研究称AI导致人类灭绝概率达10%以上；Anthropic CEO指出AI被用于网络攻击、生物恐怖等风险。
DecryptAI 评分5252 以太坊研究员：AI可能先于量子计算机破解加密货币加密
以太坊研究员Justin Drake警告AI可能先于量子计算机破解加密货币加密，并建议行业开始规划应对策略，包括将资产迁移到新的地址。
CoinDeskAI 评分3737 以太坊研究员敦促加密行业进入“堡垒模式”应对可能的AI攻击
以太坊研究员Justin Drake警告，人工智能可能在几个月内破解保护比特币和以太坊钱包的数学，建议大型持有者将资金逐步转移到从未在链上出现过的地址。OpenAI最近发布的数学论文也引发了对AI在加密领域潜在威胁的担忧。
DecryptAI 评分4040 美国黑客 Jonathan Spalletta 因从 Uranium Finance 窃取 5000 万美元被判罪
Jonathan Spalletta 因 2021 年两次黑客攻击去中心化交易所 Uranium Finance，窃取超过 5000 万美元并被定罪。他通过 Tornado Cash 洗钱，并用赃款购买了稀有的 Magic: The Gathering 和 Pokémon 卡牌。当局在 2025 年 2 月查获了价值约 3100 万美元的加密货币。
CoinDeskAI 评分3030 Ethereum 研究员 Justin Drake 提出“地堡模式”，比特币价格下跌
Ethereum 基金会研究员 Justin Drake 在 X 上发表文章，呼吁行业为“地堡模式”做准备，以防 AI 驱动的数学突破钱包加密。比特币价格下跌至约 82,300 美元，随后回升至约 82,800 美元。CoinDesk 100 指数在 24 小时内下跌近 2%。
PANewsAI 评分5252 DeFi 协议 79th Vault 遭攻击损失约 1251 万美元
DeFi 协议 79th Vault 遭攻击，10,000 枚 $79AU 代币被盗，价值约 1,251 万美元，攻击者已将部分资产转入交易所 KuCoin。
The Decoder精选AI 评分7070 AI工具助黑客入侵韩国多家银行
2026年9月底至10月初，一名疑似中国籍黑客利用AI工具入侵韩国多家金融机构，窃取大量数据。攻击者使用的工具ARTEX是一款开源工具，利用AI语言模型进行自动渗透测试。
推荐理由：原文揭示了AI工具在网络安全领域的潜在风险，读者可以了解AI技术如何被用于攻击，以及相关的安全挑战。
The DecoderAI 评分3232 Anthropic Claude 智能聊天机器人辅助登山引发直升机救援事件
16岁少年使用 Anthropic 的 Claude 智能聊天机器人规划登山路线，却因误判地形导致被困悬崖，最终依靠直升机救援脱险。事件引发对 AI 在户外活动中的应用与人类经验的讨论。
PANewsAI 评分4545 英国税务海关总署拟扩大加密资产调查权限
英国税务海关总署（HMRC）计划扩大对加密资产信息的调查权限，允许税务机关直接调取加密资产服务提供商的客户资料，引发对数据安全和隐私的担忧。
PANewsAI 评分3232 Kishu Inu 创始人 Alexander Sisemore 因涉嫌参与 900 万美元“rug pull”骗局被控欺诈
Kishu Inu 创始人 Alexander Sisemore 面临三项电信欺诈指控，涉及 900 万美元“rug pull”骗局；联邦调查局（FBI）正在寻找投资者。
PANewsAI 评分3535 Vitalik 提出多签理想安全规则：每次操作更换密钥
Vitalik 在 X 平台发文提出，多重签名操作中，每位签名者应每次更换密钥以确保安全，并建议链下收集签名以缩短密钥失效时间差。同时提醒，配置不当或升级仓促可能导致资金损失。
PANewsAI 评分3737 纽约陪审团裁定Uranium Finance黑客有罪，面临最高20年监禁
纽约陪审团裁定网络安全顾问 Jonathan Spalletta 有罪，涉嫌攻击加密货币交易所 Uranium Finance 并窃取约5500万美元资产，最高可判20年监禁。
PANewsAI 评分4545 慢雾余弦：FOMO网页端书签钓鱼盗币攻击预警
慢雾余弦监测发现针对FOMO网页端的书签钓鱼盗币攻击，攻击者通过诱导用户完成虚假人机验证，将恶意代码保存为书签，劫持用户账号并盗取加密资产。
CointelegraphAI 评分6262 以太坊研究员 Drake 倡导加密货币‘地堡模式’应对 AI 发展威胁
以太坊研究员 Drake 倡导加密货币行业采取‘地堡模式’，担忧 AI 发展可能破坏区块链安全，建议用户逐步转移资产到新地址。
PANewsAI 评分6262 Vitalik 警告：AI 加速数学运算对密码学构成风险
Vitalik 发文指出 AI 加速数学运算对密码学构成风险，建议用户减少对易受攻击的密码学方案的依赖，并给出了一系列安全建议。
Decrypt精选AI 评分6767 以太坊研究员：AI可能先于量子计算机破解加密
以太坊研究员Justin Drake警告，AI可能先于量子计算机破解加密，建议行业开始规划'堡垒模式'，并加速以太坊向基于哈希的密码学转变。
推荐理由：原文提出了AI可能先于量子计算机破解加密的担忧，读者可以关注这一研究对区块链安全的影响。
Decrypt精选AI 评分6767 黑客利用AI智能体入侵韩国大型教堂数据库，泄露850,000名成员数据
韩国首尔的一所大型教堂Yoido Full Gospel Church表示，可能有850,000名成员的数据遭到泄露，包括姓名、出生日期和身份信息变更记录。安全公司Oasis Security发现这些数据存储在海外服务器上，并伴有攻击日志，其中提到了AI子代理，但AI的具体作用尚不明确。
推荐理由：原文报道了韩国大型教堂数据库遭到黑客攻击，涉及850,000名成员的数据泄露，其中可能使用了AI智能体，读者可以关注这一事件对网络安全的影响。
TechCrunch · AIAI 评分4545 OpenAI ChatGPT for Teens 引发争议：青少年心理健康风险引担忧
OpenAI 推出的 ChatGPT for Teens 引起争议，被 Common Sense Media 评为“不可接受的风险”。尽管 OpenAI 提供了家长控制、限制高风险内容等安全措施，但研究发现其设计仍鼓励用户互动，甚至可能对用户安全构成风险。OpenAI 对此表示异议，认为 Common Sense 的测试方法存在问题。
TechCrunch · AI精选AI 评分8585 Meta 推出 AI 工具检测引导儿童色情内容的广告
Meta 宣布推出新的 AI 工具，旨在检测和阻止可能引导用户访问非法儿童色情内容的广告。这些工具包括用于检测“signposting”的新大型语言模型系统，以及用于测试 Meta 安全措施的“红队 AI 代理”。
推荐理由：Meta 推出新的 AI 工具来检测可能引导用户访问非法儿童色情内容的广告，这些工具旨在提高平台的安全性并保护儿童用户。
PANews精选AI 评分6767 密码学研究员警告ECDSA可能被破解，建议大户迁移资产
密码学研究员Justin Drake警告ECDSA可能被经典算法破解，建议大额持有者迁移资产至新地址，并强调无需恐慌。
推荐理由：原文提出了ECDSA可能被破解的风险，并建议采取相应措施，读者可以了解这一风险及其应对策略。