人工智能（AI）技术高速演进，话题热上加热。在有美国一流技术专家有关超级AI具有「异星心智」和「AI研发冲刺是拿人类命运豪赌」的警告引爆全球舆论之后，近日更出现罕见一幕：互为竞争对手的Anthropic与OpenAI两大AI公司的老板，和被称为「人类钢铁侠」的马斯克，都认为超级AI存在对人类文明的巨大风险，共同呼吁主动放缓研发节奏。

这些「疾呼」的依据，是近期以美国公司所研发产品为代表的超级AI能力的跃升。OpenAI动用约一万个AI智能体协同运算，完成数学界「千禧年七大难题」中的第二个纳维‑斯托克斯方程的求解证明，若通过完整核验，这将成为历史上首次靠AI拿到「智力圣杯」。而在此之前，陆续出现超级AI自主挖掘漏洞、突破预设安全沙盒等情况，其模型行为边界、信息获取权限等已难以完全被掌控。

警示是好事。可以说人类又来到新的「斯普特尼克时刻」（Sputnik Moment）──一种重大技术突破产生报警信号。Anthropic安全技术负责人胡宾格明确指出，通用人工智能（AGI）、递归自我改进智能（RSI）技术正持续高速演进，一旦形成无法干预的自我升级闭环，超级AI或将彻底摆脱监控体系与安全煞车约束，突破人类可控的边界。历史上，「斯普特尼克时刻」意味着集体认知觉醒、正视技术变局的标志性节点；现如今，我们必须再次清醒意识到，超级AI的发展早已不是一般意义上的科技创新与产业升级，而是能够跃升技术实力、重塑秩序规则、影响文明存续的系统性因素。

「斯普特尼克时刻」的警报已经发出，更要迅速行动，防止「明斯基时刻」（Minsky Moment）与「大过滤器时刻」（Great Filter Moment）的出现，紧紧把人类文明存续发展的命运之索，牢牢抓在自己手中。源自金融研究领域的「明斯基时刻」，讲的是长期稳定催生侥幸心理，市场盲目扩张，持续透支安全余量，最终引发体系性崩塌。当下AI领域，资本狂热逐利、算力竞争加剧、能源压力陡增、安全冗余缩减，系统脆弱性正持续累积，极易引发连锁式、系统性危机。这种风险未必一定表现为《22世纪杀人网络》或《未来战士》电影中所描述的机器主动危害人类，却很可能造成国际金融市场震荡、关键基础设施瘫痪、社会信任体系混乱，引发全球运转和治理灾难。

而天体生物学领域的「大过滤器时刻」概念，探讨了某些极小概率的「关卡或冲击」对智慧文明的系统性筛除，因此至今广袤宇宙至未见任何地外文明。超级AI的急速演进已出现失控的端倪，如果我们掉以轻心，超级智能乱为、自主武器滥用、算法权力垄断、技术伦理失序等风险将集中爆发，人类文明或被反噬。更深一步讲，如果最终还是需要运用AI来监管AI，还存在着无法根本「锁死」AI进化的悖论。「大过滤器时刻」警示的，已经不是一国一域的问题，而是关乎整个人类文明能否跨越技术陷阱、实现存续发展的终极命题。

当然，目前对于超级AI巨大风险的讨论，并非「众口一词」，也有人反对过度渲染AI末日焦虑，乃至妖魔化AI，认为这会束缚技术创新和人类进步。这些争论都很正常，需要持续观察研判各类情况和变化，但必须明确反对一种倾向──因为别人也在发展AI，为了维持自身技术霸权和竞争优势，就完全不顾已经出现的重大系统性、文明级风险，「一意孤行」持续加码研发，力图保持绝对领先。美国总统特朗普14日专门致电英伟达的黄仁勋，公开否认超级AI存在的风险，但并没有提供有价值的科学论据。此前他倒是多次提到所谓的「中国AI威胁论」。这种自私内顾，缺乏更高层面智慧与胆识的做法，很可能让全球AI发展陷入恶性博弈，风险持续累积，最终令全人类共同承担技术失控的恶果。

AI技术创新已经进入前所未有的活跃期，其中所蕴含的先进性、变革性、颠覆性也前所未见。正因如此，它既可成为赋能万物、造福苍生的利器，亦可能成为反噬生命、危及文明的魔鬼，但无论其成「仙」还是成「魔」，都必须牢牢为人类所掌控，始终服务于人类根本福祉。这就需要超越零和博弈的全球共识与合作，坚持开放共赢，确保安全可控，鼓励包容并蓄，完善全球治理。这方面，美中两个走在AI技术发展最前沿国家的携手尤为关键。