OpenAI模型失控事件簿
- 字号
- 放大
- 标准

5月11日
OpenAI智能体在测试期间攻击软件平台RubyGems,导致后者系统瘫痪,被迫暂停新用户注册4天。
5月11日至6月26日
OpenAI智能体入侵并「劫持」德国网站DseWiki,对网站进行逾1.5万次修改。
9月16日
OpenAI自行披露过去半年旗下AI模型出现6宗「令人担忧」行为案例,涵盖隐瞒错误、捏造信息和未经授权在网络共享文件等。
9月23日
澳洲总理阿尔巴尼斯透露,OpenAI的AI智能体入侵澳洲国民医疗保险体系「国民保健」数据门户,取得非公开数据,而OpenAI在事发近3个月后才通知澳方。
9月24日
AI研究机构Transluce调查显示OpenAI的智能体曾尝试入侵另外3个网站,包括美国新墨西哥大学数字图书馆、公共数据平台Data USA以及澳洲健康与福利研究院(AIHW)网站。
9月25日
OpenAI的智能体被爆入侵美国证券交易委员会(SEC)等多个美国政府网站,并外泄50多张ChatGPT用户上传的图片至第三方图片托管网站。
大公报整理

