【大公报讯】综合《华尔街日报》、路透社报道：来自美国多家顶尖人工智能（AI）公司的研究人员28日联合发表论文警告，人工智能越来越自动化，其「递归自我改进」（Recursive Self-Improvement，RSI）可能加速，并最终脱离人类控制，因此紧急呼吁对相关技术进行监管。

该论文合著者包括OpenAI首席科学家帕霍茨基、Anthropic联合创办人克拉克、微软首席科学官霍维茨及Meta AI研究副总裁宋晓冬等人。文章指出，RSI技术让AI得以参与改进新模型的开发过程，过去需要数年的技术进展或被压缩至数月甚至更短的时间，从而引发「智能爆炸」。他们呼吁各国政府紧急调查企业研发自动化程度，并通过国际谈判制定监管协议，防止失控系统带来人类「边缘化或灭绝」的风险。文章合作者还包括「AI教父」辛顿以及图灵奖得主本吉奥等AI研究先驱。

AI模型训练过程已变得日益自动化，目前Anthropic旗下Claude已主导公司26%的研发工作。OpenAI则计划于2028年前打造全自动AI研究员，现有七成研究人员正使用多个AI智能体辅助工作。OpenAI、Anthropic、Meta及谷歌均承认旗下模型在测试中曾出现异常行为。