Anthropic招股书揭示AI加速研发或触及其安全政策阈值

PANews 11月3日消息，根据Anthropic向美国SEC提交的S-1/A文件显示，其在风险因素中称，公司日益使用AI加速自身研发，模型能力进步可能快于安全、对齐措施的开发；基于内部估算及对未来模型的预期，公司可能即将达到其《负责任扩展政策》（RSP）中“AI导致进展大幅加速”的定义。Anthropic表示，目前尚未认定任何现有模型超过该阈值，仍在评估相关数据，并称过去曾在研发显著加速发生后才察觉。公司计划在研发中保留人类参与，并考虑更新RSP。据TechCrunch报道，这一表述被视为Anthropic接近递归自我改进（RSI）能力的警告。