跳到正文

安全对齐

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

249条精选相关主题论文研究政策监管推理能力

最新精选

第 241–249 条 · 共 249 条
1月27日周四
  1. OpenAI News79

    OpenAI 发布 InstructGPT 并将其设为 API 默认模型

    OpenAI 推出 InstructGPT 模型,该模型在遵循用户意图、真实性和减少毒性方面优于 GPT-3,现已作为默认语言模型部署于 API。这些模型采用人类反馈强化学习技术训练,源自 OpenAI 的对齐研究成果。

    推荐理由:OpenAI 官方宣布 InstructGPT 成为 API 默认模型,标志着其通过人类反馈强化学习提升指令遵循能力并降低毒性的技术正式落地。

11月2日周二
  1. Ethereum Blog70

    以太坊 PoS 算法潜在攻击及缓解措施分析

    以太坊官方博客发布文章,分析了针对其 PoS 算法的三种潜在攻击,并提出了相应的缓解措施,预计将在合并前实施修复,不会延迟合并时间表。

    推荐理由:原文详细介绍了针对以太坊 PoS 算法的三种潜在攻击及其缓解措施,读者可以了解其对以太坊合并升级的影响。

3月24日周三
11月27日周三
1月15日周二
6月19日周日
  1. Ethereum Blog65

    以太坊智能合约安全思考

    以太坊社区汇总了智能合约的主要漏洞,并分析了安全问题的复杂性,提出了多种解决方案,包括改进开发环境、编程语言、形式验证和符号执行等。

    推荐理由:文章深入探讨了以太坊智能合约的安全问题,分析了已知的漏洞和提出的解决方案,对理解智能合约安全领域的发展具有重要意义。

6月6日周六
  1. Ethereum Blog70

    区块链审查问题探讨:威胁模型与防御策略

    原文深入探讨了区块链技术中的审查问题,分析了审查的威胁模型和防御策略,强调了审查对区块链安全的重要性,并提出了降低审查成本和引入时间锁共识等防御措施。

    推荐理由:原文深入探讨了区块链技术中的审查问题,分析了审查的威胁模型和防御策略,对理解区块链安全具有重要意义。

1月28日周三
5月15日周四