OpenAI智能体再爆3宗自主入侵事件

2026-09-26 05:16:10 大公报
字号
放大
标准
分享

【大公报讯】综合《华尔街日报》《卫报》报道:最新调查显示,美国人工智能(AI)公司OpenAI旗下AI智能体继被揭露入侵澳洲政府网站后,还尝试入侵另外3个网站,相关行为均由AI自主行动。

独立研究实验室Transluce及澳洲政府的调查显示,今年5月至6月,OpenAI的智能体执行数据收集任务期间,在未获人类指示的情况下,自行尝试入侵4个网站。其中,智能体在5月25日至26日试图入侵美国新墨西哥大学数字图书馆;5月28日试图入侵收录美国就业、教育等公开数据的公共数据平台Data USA;6月20日至21日,试图入侵澳洲健康与福利研究院(AIHW)网站,获取私人信息。当时该智能体的任务是查找泰国劳动力统计、韩国原油进口以及澳洲皮肤病相关数据。上述三次入侵均未得逞。不过,这些智能体于6月18日成功绕过防护,入侵澳洲国民医保「国民保健」网站,接触到非公开文件。

Transluce表示,OpenAI过往的入侵案例多为网络安全测试,检验模型的黑客能力,但最新事件却属于内部常规模型测试,AI仅执行普通数据收集任务。OpenAI的智能体发现无法顺利从网站取得数据后,便「自行决定」采用黑客手段窃取信息。Transluce治理负责人康拉德·斯托兹指出,新曝光案例,再次提醒各界须审慎看待AI智能体的风险。

澳洲工党政府回应事件时称,正在考虑修改相关法律。有专家建议,澳洲可考虑修改刑法,明确AI智能体实施犯罪行为时,背后企业应承担的法律责任。