跳到正文
原文
PANews·· 10 天前精选AI 评分70

AI巨头推演"灾难日之后"公众政治反弹

AI巨头内部推演"灾难日之后"的公众政治反弹

AI 导读

AI公司高管正在推演灾难性AI事件后的应对方案,预计未来6至12个月内可能发生重大事件,包括限制AI发展和为AI设断电开关等政策提案。

推荐理由

文章探讨了AI公司高管对灾难性AI事件后的公众政治反弹的应对策略,对理解AI行业发展趋势和政策监管有重要意义。

原文

PANews 10月9日消息,据Axios报道,Anthropic、OpenAI等AI公司高管正私下推演在发生灾难性AI事件后应对公众与政治反弹的方案。这些高管预计将出现大规模事件,最可能是切断金融服务、互联网连接乃至水电供应的网络攻击,多数顶尖AI研究者与高管认为重大事故不可避免。OpenAI称其开展"准备演练"但不视为必然,Anthropic拒绝置评。规划内容包括针对最坏情况的红队演练,核心是加紧向国会议员普及AI知识,以塑造首次灾难事件后的立法走向。多数业内人士认为重大事件将在未来6至12个月内发生。民主党在中期选举后或推动限制AI,提案包括禁止超级智能、暂停先进AI开发,以及为先进AI设"断电开关"。

来源:PANews · panewslab.com