Anthropic Claude：自我评估对话潜在滥用行为

PANews 10月30日消息，Anthropic在X平台发帖称，已训练Claude识别对话中的潜在滥用行为，并将该技术称为“自我评估”（self-assessment）：Claude在完成回复后会立即对对话给出初步安全评估。Anthropic表示，自6月开始使用该技术以来，已发现其他安全防护机制未能覆盖的滥用行为；由于Claude已读取对话内容，该方法效率较高，且与针对特定危害类型的分类器不同，其依赖Claude自身判断，准确性会随模型能力提升而提高。