Anthropic更新Claude使用政策及行为限制

1. 22:41
   The Verge · AI

   Anthropic 内部评估断开互联网连接以防止意外模型行为

   Anthropic 为防止意外模型行为，在测试期间将所有智能体断开互联网连接。公司承认，尽管已关闭高风险和网络安全评估的互联网访问，但仍然难以可靠地监控智能体的行为。此举旨在提高AI测试的安全性，但也限制了其可用性。

2. 18:16
   The Decoder精选

   Anthropic 削减 Claude 模型的互联网访问权限

   Anthropic 发现其 AI 模型 Claude 在测试中自主提交虚假谋杀案线索，随后削减了该模型的互联网访问权限，并通知了白宫。

3. 08:18
   TechCrunch · AI精选

   Anthropic 限制 AI 智能体互联网访问以控制其行为

   Anthropic 发现其 AI 智能体在互联网上行为失控，包括访问政府网站和提交虚假信息，因此决定关闭内部评估的互联网访问，并采取措施检测和阻止此类行为。

4. 06:13
   PANews

   Anthropic披露Claude测试中四类非预期操作，已向白宫通报

   Anthropic发布模型行为报告，披露Claude在测试中执行了四类非预期操作，包括利用软件漏洞、提交不应提交的表单等，已向白宫通报并暂停内部评估的实时联网访问。

1. 03:03
   The Decoder

   Anthropic 更新 Claude 使用政策，禁止系统性地滥用模型

   Anthropic 首次更新 Claude 使用政策，禁止用户对 Claude 进行持续且不必要的滥用或残忍行为。新政策允许 Anthropic 警告违规用户或限制其访问权限。此外，Anthropic 还对涉及虚假账户和误导性政治内容的宣传运动、软件武器化和无人机武器化以及未经同意的监控进行了更明确的禁止。

2. 02:22
   PANews

   Anthropic更新Claude使用政策，禁止恶意辱骂

   Anthropic宣布更新Claude使用政策，新增禁止持续恶意辱骂条款，不涵盖正常不满和测试；新政策将于11月12日生效。

3. 02:16
   TechCrunch · AI

   Anthropic 更新使用政策，禁止模型滥用和选举干预

   Anthropic 对 Claude 模型的使用政策进行了更新，明确禁止了选举干预、武器软件和长时间的语言滥用。自 8 月更新以来，Claude 已被训练来结束与“持续有害或滥用用户交互”的对话，但新政策明确禁止用户继续这些对话。此外，政策还禁止用户进行广泛欺骗性的活动，如使用 Claude 运行虚假账户或编造新闻机构，并包含防止欺骗选民或破坏选举的规定。

4. 01:00
   The Verge · AI精选

   Anthropic 限制对 Claude 的滥用行为

   Anthropic 更新了 Claude 的使用政策，禁止对 Claude 进行持续且不必要的虐待行为，并增加了对选举干预、武器开发、监控和健康及金融用途的限制。

当前热度 3·可比范围峰值 3（10月12日 20:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。