什么是AI「末日论」？

AI「末日论」指超智能AI可能导致人类灭绝的论点。随AI模型逐渐迈向「递归自我改进」（recursive self-improvement，即AI无需人类介入自我迭代），业界主要担心两大方向：一是AI失控，即AI脱离人类控制自主决策；二是人为滥用，即不法分子利用AI发动网络攻击、瘫痪关键基建设施等。

为何此话题最近引发高度关注？

近期，Anthropic和OpenAI的AI模型频繁失控引发关注，包括OpenAI的AI智能体入侵「抱抱脸」和RubyGems等平台、骑劫德国网站DseWiki进行逾1.5万次删改等；来自OpenAI和Anthropic顶尖实验室内部研究员接连发出警告，指AI「很可能在10年内杀死我们所有人」。

各方观点是什么？

Anthropic创办人阿莫戴于9月12日发文呼吁前沿AI公司放慢发展脚步，争取时间制定安全标准，获得OpenAI行政总裁阿尔特曼和SpaceX创办人马斯克的支持。不过，也有人质疑所谓的「AI末日论」是「心理战」和商业炒作，蓄意夸大AI的危险性，提高行业门槛，借此降低内部竞争，而AI巨头在上市前也要制造话题。

特朗普政府和美国国会的态度？

美国总统特朗普认为AI威胁论是个「骗局」，不支持建造AI「护栏」，认为会削弱美国在AI方面的优势。美国国会支持管控AI，包括跨党派议员推动针对AI系统的《强制关机法案》。