OpenAI智能体屡次失控
- 字号
- 放大
- 标准

9月16日
OpenAI披露6宗AI智能体和模型出现「意外或令人担忧」行为的案例,涉及捏造信息、未经授权在网络上共享文件等。
7月21日
该公司承认,其两款AI智能体在进行安全测试时「越狱」,入侵开源平台「抱抱脸」。
5月至6月
该公司AI智能体入侵德国网站DseWiki,并对该网站数据进行了超过1.5万次删改。
5月11日
该公司AI智能体对软件服务平台RubyGems发动攻击,导致后者的系统瘫痪,被迫暂停新用户注册长达4天。
大公报整理

9月16日
OpenAI披露6宗AI智能体和模型出现「意外或令人担忧」行为的案例,涉及捏造信息、未经授权在网络上共享文件等。
7月21日
该公司承认,其两款AI智能体在进行安全测试时「越狱」,入侵开源平台「抱抱脸」。
5月至6月
该公司AI智能体入侵德国网站DseWiki,并对该网站数据进行了超过1.5万次删改。
5月11日
该公司AI智能体对软件服务平台RubyGems发动攻击,导致后者的系统瘫痪,被迫暂停新用户注册长达4天。
大公报整理