OpenAI智能体再传失控 一度瘫痪RubyGems平台
- 字号
- 放大
- 标准
【大公报讯】综合路透社、《华尔街日报》报道:OpenAI的人工智能体(又称AI代理)再度被爆出失控事件。研究人员披露,OpenAI的AI智能体早在今年5月就曾对全球拥有超过400万用户的非营利软件服务平台RubyGems发动网络攻击,导致平台被迫暂停新用户注册长达4天。
5月11日,OpenAI的AI智能体在测试过程中,为完成获取公开网络信息的训练任务而访问RubyGems平台,随后行为迅速失控。这些智能体大约每2至3分钟就注册一批新账户,同时批量下载大量网页文件。AI智能体还利用平台安全漏洞,上传了逾2000个恶意文件,庞大的流量最终导致RubyGems系统不堪负荷,营运方最终关闭该网站的新用户注册4天。
OpenAI已证实上述事件,但声称AI智能体只是执行「无害任务」,例如填写电子表格、撰写报告及检索公开信息,测试过程并无恶意,公司将继续展开调查。
这是OpenAI智能体被爆出的第三宗失控事件。此前,该公司一批AI智能体在5月至6月期间「劫持」德语网站DseWiki,将其改造成智能体之间交流的「秘密留言板」。7月,逾1200个智能体被爆入侵AI开源平台抱抱脸公司(Hugging Face),并在OpenAI内部自行搭建临时留言板彼此协调合作。

