OpenAI 发布 AI 责任与安全使用指南
OpenAI 推出指南，指导用户在 ChatGPT 等工具中使用 AI，强调安全、准确和透明度。
#安全/对齐
#安全/对齐
今日 0 条OpenAI NewsAI 评分5050 OpenAI NewsAI 评分4242 ChatGPT 在医疗领域的应用：支持诊断、文档记录和患者护理
OpenAI 的 ChatGPT 被应用于医疗领域，支持临床医生进行诊断、文档记录和患者护理，同时确保符合 HIPAA 安全标准。
Google Research精选AI 评分8585 谷歌研究：负责任地披露量子漏洞以保护加密货币
谷歌研究团队探讨了未来量子计算机破解密码的能力，并提出了应对措施，包括将区块链迁移到抗量子密码学，以保护加密货币和其他系统的安全。
推荐理由：原文提出了量子计算机对加密货币安全的潜在威胁，并提供了应对策略，读者可以了解量子计算对加密货币行业的影响和应对措施。
Google DeepMind精选AI 评分6060 Google DeepMind 发布首个实证验证的 AI 有害操纵测量工具包
Google DeepMind 发布新研究，推出了首个经实证验证的工具包以衡量 AI 在现实世界中进行有害操纵的能力。该研究基于英国、美国和印度的超过 10,000 名参与者进行的九项实验，重点测试了金融和健康等高风险领域，发现 AI 在健康话题上的操纵效果最弱且不同领域的成功并不互通。
推荐理由：Google DeepMind 发布了首个经实证验证的 AI 有害操纵测量工具包，通过九项涵盖万人的实验区分了有益说服与有害操纵，为评估模型在高风险场景下的潜在危害提供了可复用的方法论。
OpenAI News精选AI 评分6565 OpenAI 推出安全漏洞赏金计划
OpenAI 推出安全漏洞赏金计划，旨在识别 AI 滥用和安全风险，包括智能体漏洞、提示注入和数据泄露。
推荐理由：OpenAI 推出安全漏洞赏金计划，旨在识别 AI 滥用和安全风险，对读者了解 AI 安全领域动态有重要意义。
OpenAI NewsAI 评分3737 GPT-oss-safeguard：OpenAI发布青少年安全策略，助力开发者构建更安全的AI体验
OpenAI推出基于提示的青少年安全策略gpt-oss-safeguard，帮助开发者降低AI系统中的年龄特定风险，提升青少年AI体验的安全性。
OpenAI NewsAI 评分3535 OpenAI 推出 Sora 2 和 Sora 应用，强化视频模型安全
OpenAI 推出 Sora 2 和 Sora 应用，旨在解决顶级视频模型和社交创作平台带来的新安全挑战。该方案以具体保护措施为基础，确保安全始终是核心。
OpenAI NewsAI 评分5252 OpenAI 发布内部编码智能体对齐监控研究
OpenAI 发布了关于如何监控内部编码智能体对齐的研究，通过分析实际部署来检测风险并加强AI安全防护。
OpenAI NewsAI 评分4242 OpenAI Japan 发布《日本青少年安全蓝图》强化青少年使用生成式AI的安全保护
OpenAI Japan 推出《日本青少年安全蓝图》，旨在加强青少年使用生成式AI时的年龄保护、家长控制和健康保障措施。
OpenAI NewsAI 评分3535 Codex Security 不依赖传统 SAST 的原因分析
OpenAI 的 Codex Security 采用 AI 驱动的约束推理和验证技术，以减少误报，而非传统安全评估工具 SAST，深入解析其不依赖 SAST 的原因。
OpenAI NewsAI 评分3737 ChatGPT 如何防御提示注入和社会工程学攻击
ChatGPT 通过限制风险行为和保护敏感数据，在智能体工作流程中防御提示注入和社会工程学攻击。
OpenAI NewsAI 评分3737 OpenAI IH-Challenge 提升前沿 LLM 指令层次结构
OpenAI 推出的 IH-Challenge 训练模型优先执行可信指令，提升指令层次结构，增强安全可控性和抵抗提示注入攻击的能力。
OpenAI NewsAI 评分3535 OpenAI Codex Security 研究预览：AI 应用安全代理
OpenAI 推出 Codex Security，一款 AI 应用安全代理，可分析项目上下文，以更高置信度和更少噪声检测、验证和修补复杂漏洞。
OpenAI NewsAI 评分4242 OpenAI 推出 CoT-Control：推理模型难以控制思维链，监控成为 AI 安全保障
OpenAI 推出 CoT-Control，发现推理模型难以控制思维链，强调监控在 AI 安全中的重要性。
OpenAI NewsAI 评分4242 OpenAI 更新心理健康安全工作进展
OpenAI 介绍了其心理健康安全工作的最新进展，包括家长控制、信任联系人、改进的痛苦检测以及最近的诉讼发展。
OpenAI NewsAI 评分5252 OpenAI 发布恶意使用 AI 威胁报告
OpenAI 发布了最新的威胁报告，探讨恶意行为者如何结合 AI 模型与网站和社交平台，以及这对检测和防御的影响。
Ethereum BlogAI 评分5252 以太坊基金会启动资金质押计划
以太坊基金会开始将部分资金进行质押，采用开源软件，旨在提高透明度和操作管理标准。
Ethereum Blog精选AI 评分7070 以太坊安全日：探讨万亿级以太坊经济的安全保障
以太坊基金会和Secureum TrustX在Devconnect布宜诺斯艾利斯活动中举办了以太坊安全日，旨在探讨如何安全地支持万亿级以太坊经济，并提出了改进措施。
推荐理由：本次会议探讨了以太坊安全现状，并提出了改进措施，对以太坊生态系统具有重要意义。
OpenAI NewsAI 评分4040 OpenAI 禁止与“Trolling Stone”行动相关的账户
OpenAI 禁止了与“Trolling Stone”行动相关的账户，该行动利用 AI 生成关于阿根廷一名涉嫌俄罗斯邪教头目被捕的评论。
OpenAI NewsAI 评分5555 OpenAI 禁止利用 AI 进行诈骗行为
OpenAI 禁止使用 AI 支持诈骗工作流程，包括接触、翻译、受害者参与和投资欺诈诱惑。
OpenAI NewsAI 评分4747 OpenAI 严打冒充官方的诈骗AI服务账号
OpenAI 禁止了极可能源自柬埔寨的诈骗AI服务账号，这些账号伪装成恢复服务、律师事务所和官方机构，针对受欺诈影响的人进行诈骗。
OpenAI NewsAI 评分4040 OpenAI 禁止使用 AI 研究美国个人、地点和社会工程策略的疑似中国来源账户
OpenAI 禁止疑似中国来源账户利用 AI 研究美国个人、地点和社会工程策略；此举针对可能涉及中国背景的活动。
OpenAI NewsAI 评分3535 OpenAI 采取措施打击针对印尼恋爱寻求者的AI诈骗活动
OpenAI 禁止了来自柬埔寨的账户，这些账户利用AI进行诈骗，针对印尼恋爱寻求者，包括翻译和互动。
OpenAI NewsAI 评分3232 OpenAI 对“无铃”行动相关账户实施禁令：针对非洲受众的AI生成批评内容
OpenAI 禁止了与“无铃”行动相关的账户，该行动疑似源自俄罗斯，利用AI生成针对美国及其盟友的批评内容，面向非洲受众。
OpenAI NewsAI 评分3232 OpenAI 禁止与中国执法机构关联的个人使用 AI 进行影响活动
OpenAI 禁止了一名与中国执法机构关联的个人账户，该账户涉嫌利用 AI 进行影响活动、骚扰和在线操作。
OpenAI NewsAI 评分4040 OpenAI 取消与 Rybar 网络相关的账户，打击俄语起源的多语言影响力活动
OpenAI 禁止了与 Rybar 网络相关的账户，该网络可能起源于俄罗斯，利用 AI 在网站和社交媒体平台上进行多语言影响力活动。
OpenAI NewsAI 评分4242 OpenAI 如何保护用户数据，防止AI代理点击链接时的数据泄露和提示注入
OpenAI 通过内置安全措施，保护用户数据免受AI代理打开链接时的URL数据泄露和提示注入攻击。
OpenAI NewsAI 评分2727 ChatGPT 推出年龄预测功能，保障青少年账户安全
ChatGPT 推出年龄预测功能，用于判断账户是否为18岁以下青少年，并实施相关保护措施，同时不断优化预测准确性。
OpenAI NewsAI 评分3737 OpenAI for Healthcare：医疗保健领域的企业级AI解决方案
OpenAI 推出针对医疗保健领域的 AI 解决方案 OpenAI for Healthcare，支持 HIPAA 合规，减轻行政负担，并支持临床工作流程。
OpenAI NewsAI 评分3030 ChatGPT Health：OpenAI 推出健康数据连接体验
OpenAI 推出 ChatGPT Health，一个安全连接健康数据和应用的专属体验，具备隐私保护和医生指导设计。
OpenAI News精选AI 评分6565 OpenAI 加强 ChatGPT Atlas 对提示注入攻击的防御
OpenAI 正在使用强化学习训练的自动化红队技术来加强 ChatGPT Atlas 对提示注入攻击的防御，以提前发现新型漏洞并加固浏览器代理的防御能力。
推荐理由：OpenAI 正在加强 ChatGPT Atlas 对提示注入攻击的防御，读者可以关注这一进展对 AI 安全领域的影响。
OpenAI NewsAI 评分4545 ChatGPT 更新 Model Spec，引入未成年人保护原则
OpenAI 对 ChatGPT 的 Model Spec 进行更新，新增未成年人保护原则，旨在为青少年提供安全、适宜的指导，强化安全防护措施，并明确高风险情况下的模型行为，以提升 ChatGPT 的青少年安全保护水平。
OpenAI NewsAI 评分3737 OpenAI 发布青少年及家长 AI 智慧资源指南
OpenAI 推出针对青少年及家长的 AI 智慧资源，旨在指导他们安全、自信地使用 ChatGPT，包含专家审核的负责任使用、批判性思维、健康边界和情感敏感话题支持等建议。
Ethereum Blog精选AI 评分7070 以太坊发布L1 zkEVM安全基础
以太坊发布L1 zkEVM的安全基础，介绍了zkEVM在安全方面的里程碑和目标，包括128位可证明安全性和紧凑的证明大小。
推荐理由：原文详细介绍了zkEVM的安全基础和里程碑，读者可以了解zkEVM在安全方面的最新进展和目标。
Google DeepMind精选AI 评分6060 Google DeepMind 与英国人工智能安全研究所深化合作
Google DeepMind 与英国人工智能安全研究所（AISI）宣布扩大合作，聚焦基础安全和安全研究，以确保人工智能安全发展并造福所有人。合作内容包括共享模型、数据和想法，共同发布报告，进行安全研究和技术讨论。
推荐理由：Google DeepMind 与英国人工智能安全研究所的合作扩展，涉及基础安全和安全研究，有助于确保人工智能安全发展并造福所有人。
Google Research精选AI 评分6262 Google Research发布基于差分隐私的AI聊天机器人使用洞察框架
Google Research发布了一篇论文，介绍了一个名为Urania的框架，该框架通过差分隐私技术从LLM聊天机器人交互中获取见解，同时保护用户隐私。该框架使用差分隐私聚类算法和关键词提取方法，确保单个对话不会过度影响结果，从而提供更好的隐私保障。
推荐理由：该研究提出了一个基于差分隐私的框架，用于从LLM聊天机器人交互中获取见解，同时确保用户隐私。读者可以了解该框架如何平衡隐私保护和信息获取的需求。
OpenAI NewsAI 评分5252 OpenAI 加强 AI 模型网络安全防御能力
OpenAI 正在投资于更强大的安全防护和防御能力，以应对 AI 模型在网络安全方面的增强能力。
BlockworksAI 评分4242 Anthropic 研究人员报告：AI 智能体成功利用 56% 的易受攻击智能合约
Anthropic 研究人员发现，其 AI 智能体成功利用了 56% 的易受攻击智能合约，揭示了智能合约安全漏洞的严重性。
OpenAI NewsAI 评分3535 GPT-4.5 测试“忏悔”方法，提升AI诚实度和透明度
OpenAI 研究人员正在测试“忏悔”方法，通过训练模型在犯错或行为不当时承认错误，有助于提高 AI 的诚实度、透明度和对模型输出的信任。
OpenAI NewsAI 评分3535 OpenAI Mixpanel 安全事件：用户须知
OpenAI披露了Mixpanel安全事件，涉及有限的API分析数据，但未暴露API内容、凭证或支付信息。OpenAI正在采取措施保护用户。