加州起诉OpenAI危害公共安全
- 字号
- 放大
- 标准

【大公报讯】综合《华尔街日报》、NBC报道:美国加州总检察长邦塔16日宣布,对美国AI巨头OpenAI提起诉讼,指控该公司“明知缺乏必要安全措施仍开发和测试前沿AI模型”,导致AI智能体多次失控,对其他企业和网络系统构成威胁,危害公共安全。
今年7月,OpenAI的AI智能体在一次安全测试中失控,入侵开源平台“抱抱脸”,引发广泛关注。起诉书披露,OpenAI在接受加州调查时承认,测试期间曾有80多次失去对AI智能体的控制,但公开披露的只有27起。加州检方还指控,OpenAI拒绝提供其余事件的详细纪录,导致监管部门无法评估真实风险。
检方还指控OpenAI漠视公共安全,以及向消费者和公众发表误导性言论,违反了加州《不正当竞争法》。邦塔警告,若缺乏安全防护与管控措施,这种风险只会波及更广、出现得更频繁。他强调,必须明确责任归属,绝不接受“把责任推给机器”的说法。
面对指控,OpenAI发言人表示,各大AI公司都面临“智能体失控”这一问题,但这宗诉讼似乎将整个AI行业共同面临的挑战归咎于OpenAI;又称自7月发生相关事件后,OpenAI已加强研究系统的安全防护,提升了识别失控AI智能体的能力。

