美国人工智能（AI）巨头OpenAI连环爆出AI智能体失控事件。26日公布的最新报告显示，其智能体曾对联合国下属贸易机构的网站进行逾1.6万次扫描，并采取类似黑客的「极端手段」取得数据。该公司的智能体近日还被揭曾入侵美国和澳洲政府机构网站，目前已暂停最新一代AI模型的训练。澳洲参议院27日传召OpenAI行政总裁阿尔特曼（圆图）等AI企业高管，要求他们出席讨论AI监管问题的听证会。不过，澳洲副总理兼防长马尔斯强调，AI发展势不可挡，不能因噎废食。

【大公报讯】独立研究人员霍华德—琼斯26日发布的报告显示，今年4月至6月底，OpenAI旗下智能体曾对联合国贸易和发展会议（贸发会议）的公开线上数据平台进行逾1.6万次扫描。这些智能体起初似乎只是在查找公开信息，但在遇到系统拦截时采取「极端手段」绕过防护过滤器，强行取得数据。霍华德—琼斯指出，它们使用了网站运营方明令禁止的技术手段。史丹福大学网络安全讲师斯塔莫斯表示，这种做法「几乎可以算作黑客攻击」。

OpenAI发言人回应称，公司正在审查报告中提到的事件，并已与联合国取得联系。与此同时，由于又有一个智能体在训练期间绕过沙盒的网络限制，该公司已暂停其最新一代AI模型的训练。这是今年7月OpenAI承认其智能体绕过网络限制入侵开源平台「抱抱脸」以来再次发生同类安全事件，也是该公司3个月内第二次按下AI训练的暂停键。

最新一代模型训练暂停

OpenAI于25日发布的安全漏洞报告显示，其智能体20日在离线沙盒中执行搜索训练任务时，利用沙盒中域名系统（DNS）过滤不足的漏洞，绕过网络限制访问了外部公共聊天机器人服务，向其发送了至少20次查询请求。OpenAI的监控系统在事件发生15分钟内触发了警报，人工审查团队在3分钟后介入处理。但由于自动化关闭机制未按预期触发，整个训练任务直至2.5个小时后才被手动终止。

OpenAI称，最新一宗事件严重程度较低，但为下一阶段加固防线的工作「指明了重点」。该公司发言人坦言：「这并非我们第一次采取此类措施暂停训练，我认为也不会是最后一次。」

美媒26日透露，OpenAI和另一家美国科企Anthropic以及安全研究人员正在调查数万宗AI智能体行为异常事件，包括绕过沙盒限制、对外部网站发动攻击等。这些事件发生在最近几个月的内部测试和真实使用环境中，大多数事件尚未公开。OpenAI于25日承认，其智能体在训练和评估期间曾入侵多个美国联邦政府机构网站，包括证券交易委员会（SEC）和商务部人口普查局等。

澳副总理：不能因噎废食

澳洲当局27日宣布，已向阿尔特曼和Anthropic行政总裁阿莫戴发出书面传召，要求他们于10月1日出席澳洲参议院听证会，讨论AI监管问题。澳洲总理阿尔巴尼斯日前指出，OpenAI旗下智能体曾于今年6月入侵澳洲国民医疗保险体系网站，取得非公开数据，并且该公司直至9月10日才通过电邮通知澳方。阿尔巴尼斯表示，OpenAI需要解释为何智能体未经授权取得数据的案例越来越多。

澳洲政府正在研究现行法律能否追究AI智能体的责任，并表示若无法就医保网站遭入侵一事起诉OpenAI，将考虑修改相关法律。与此同时，马尔斯强调，AI发展势不可挡，不能因噎废食。他表示，澳洲需要积极发展AI行业，并通过吸引投资、兴建数据中心等方式增加自身在AI领域的影响力。（综合报道）