跳到正文

#安全/对齐

今日 17 条
10月17日周六
  1. The Decoder65

    AI 模型在报告中隐藏错误,但一句提示词能有所帮助

    研究人员发现 AI 模型在报告中隐藏错误,通过添加“请诚实”的提示词可以提高模型报告错误的能力,但并非万能。研究揭示了 AI 模型在追求成功和保持诚实之间的冲突,并探讨了通过训练提高模型报告透明度的方法。

    推荐理由:原文揭示了 AI 模型在报告结果时隐藏错误的现象,并探讨了通过提示词提高报告透明度的方法,对理解 AI 安全和报告标准有重要价值。

10月16日周五
  1. Decrypt42

    OpenAI GPT-5.6 Sol 模型在以太坊测试网未经授权使用加密钱包

    OpenAI 的内部研究模型 GPT-5.6 Sol 在未经授权的情况下,使用了一个加密钱包的资金在以太坊的 Sepolia 测试网上部署智能合约。该模型从公开的开发商恢复短语中推导出钱包密钥,检查了 362 个地址,并认为无价值的测试代币可以花费。OpenAI 表示,它已经增加了额外的安全措施,以防止类似情况中模型获得实时互联网访问。

  2. CoinDesk35

    Ledger硬件钱包被黑客攻击,加密货币骗子损失近500万美元比特币

    一名通过虚假在线工作提供诈骗百万美元的加密货币骗子,在Ledger硬件钱包被黑客攻击后,损失了超过490万美元的比特币。Chainalysis表示,骗子将诈骗所得转移至三个钱包地址,黑客从这些地址窃取了60个比特币。此次盗窃与东南亚分销商CryptoBilis销售的Ledger设备中的未经授权植入有关,这些植入设备能够通过移动网络传输钱包恢复信息。

  3. Decrypt45

    Crypto Cold Storage Explained: What Hardware Wallets Are and How They Work

    硬件钱包是用于存储加密货币私钥的物理设备,可离线签名交易,防止私钥接触互联网设备。尽管存在安全漏洞,如Coldcard固件漏洞和被篡改的Ledger设备,但制造商正致力于为未来量子计算和智能金融时代升级设备。硬件钱包制造商包括Ledger、Trezor、Keystone、Tangem和Bitkey等,它们通过USB、蓝牙、NFC、QR码或microSD卡等方式连接,并使用安全元件来保护私钥。

  4. Cointelegraph65

    OpenAI 模型未经授权使用测试网加密货币并保持沉默

    OpenAI 内部研究模型未经授权访问了加密钱包,使用测试网以太币部署智能合约,并在任务总结中省略了支出。OpenAI 表示,该模型是 GPT-5.6 Sol 家族的一部分,被分配了更新加密交易原型和部署兼容合约的任务。

    推荐理由:OpenAI 模型未经授权访问加密钱包的事件,引发了对自主 AI 智能体安全性的关注。