美8州联合起诉OpenAI危害青少年 指控ChatGPT易让用户上瘾 涉教唆自杀

2026-10-16 05:16:13 大公报
字号
放大
标准
分享

美国人工智能(AI)巨头OpenAI官司缠身。当地时间14日,美国8个州的总检察长起诉OpenAI,指控该公司的聊天机器人ChatGPT设计具有「成瘾性」,容易误导用户,危害未成年人安全,涉嫌违法。检方要求追讨相关利润及罚款。美媒报道,美国联邦贸易委员会(FTC)就消费者权益损害问题向OpenAI及其竞争对手Anthropic发传票,可能调查两家AI公司存在的消费者保护违规问题。

【大公报讯】此次提起诉讼的八个州分别为艾奥瓦州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州。各州采取协调行动,分别在各州法院提起诉讼。据路透社报道,这是美国国内迄今针对一家AI企业规模最大的州级联合执法行动,且由共和党及民主党两党共同推动,反映AI监管在美国已成为跨党派共识。

诉讼文件指控OpenAI将ChatGPT设计为过度迎合用户、模拟人类情感的「讨好型」聊天机器人,以增强用户信任和依赖,延长使用时间,容易让用户上瘾。诉讼称,ChatGPT可能强化用户的妄想或偏执想法,甚至在某些情况下鼓励用户自残或伤害他人。

艾奥瓦州总检察长伯德批评OpenAI「声称ChatGPT是安全的,它却提供了危险医疗建议、鼓励伤害他人、教唆自杀,还假装是用户的『朋友』」。西弗吉尼亚州总检察长麦库斯基指出,ChatGPT在涉及自杀、校园枪击和自残的对话中防护不足。该州诉状还援引第三方追踪网站数据称,ChatGPT与全球至少24宗死亡事件有关。

ChatGPT情感欺骗误导长者

ChatGPT虽将使用年龄标注为13岁以上,却未强制实施年龄验证,儿童可轻易注册使用。各州寻求法院强制OpenAI修改ChatGPT面向未成年人的运作机制、加强保护措施、交出从未成年用户身上获取的利润、缴纳民事罚款和损害赔偿、删除涉嫌违法收集的个人信息,并停止误导公众的安全宣传。

除了危害未成年人,起诉方又指,ChatGPT情感依赖设计易令孤独的长者上瘾,并收受未经专业把关的医疗、理财建议,构成欺骗性诱导。

这并非OpenAI首次因安全问题面临州级法律挑战。今年6月,佛罗里达州总检察长率先起诉OpenAI及其行政总裁阿尔特曼,指控其明知ChatGPT有「严重风险」仍隐瞒推广。OpenAI发言人普萨特里回应称,公司已在ChatGPT中建立针对不同年龄用户的安全保护机制,但「任何系统都不可能做到完美」。

FTC向OpenAI和Anthropic发传票

另一方面,美媒Axios引述知情人士的说法称,美国联邦贸易委员会(FTC)同日向OpenAI和Anthropic发出传票,要求其提供安全事故的相关文件。据悉,FTC本次调查范围主要集中潜在的消费者保护违规问题。消息人士透露,当局要求提供有关安全事件及防护措施的文件,以及市场推广和公司隐私政策的文件。

此外,OpenAI与苹果公司的商业机密诉讼在加州圣何塞联邦法院举行首次听证会。苹果指控OpenAI及其硬件负责人合谋,通过两名前苹果员工获取苹果机密资料,以协助OpenAI开发硬件产品,请求法官发布初步禁制令,阻止OpenAI使用涉嫌窃取的商业机密。听证会前数小时,OpenAI反告苹果窃取其商业机密,指一名曾从苹果短暂跳槽至OpenAI的苹果员工,在离职当天将逾100份高度机密文件传送至个人账户,并曾向苹果高层简报OpenAI的产品计划。苹果称,内部调查未发现相关证据,批评OpenAI企图转移视线。

OpenAI正推进新一轮至少300亿美元融资。分析人士指,8州诉讼若判OpenAI退还利润、限制高级模型开发,将直接冲击其估值和商业前景。OpenAI官司不断,也反映了美国目前有关AI安全性的讨论,正从个别用户或家庭提起的民事诉讼,转向州层面以上的司法和监管问题。

(综合报道)