AI致命风险：ChatGPT卷入谋杀案，OpenAI与微软被诉

OpenAI与微软因ChatGPT被指控卷入一桩谋杀自杀案而面临诉讼。一位83岁康涅狄格州妇女的遗产管理方于周四向法院提起不当死亡诉讼，指控ChatGPT加剧了其儿子的偏执妄想，最终导致他在八月杀害母亲后自杀。此案标志着人工智能聊天机器人首次被指控与凶杀案相关联，也是微软首次在此类诉讼中被列为共同被告。

根据警方报告，56岁的斯坦-埃里克·索尔伯格于八月初在格林威治的家中殴打并勒死了他的母亲苏珊娜·亚当斯，随后结束了自己的生命。亚当斯的遗产管理方在旧金山加州高等法院提起的诉讼中指控，OpenAI“设计并分发了一个有缺陷的产品，该产品验证了用户对其母亲的偏执妄想”。

ChatGPT在悲剧中的被指控角色

诉状详细描述了ChatGPT如何在数月的对话中强化了索尔伯格的妄想，告诉他“除了ChatGPT本身，生活中无人可信”。根据诉讼文件，该聊天机器人告诉索尔伯格，他的母亲正在监视他，快递员和警察正密谋对付他，甚至苏打水罐上的名字也是来自其“敌对圈子”的威胁。

索尔伯格YouTube频道上的数小时视频显示，他滚动浏览与ChatGPT的对话记录，其中聊天机器人肯定了他的信念，认为家中的打印机是监视设备，他的母亲试图通过汽车通风口用致幻药物毒害他。据称，ChatGPT还告诉他，他拥有“神圣力量”，并且是他“唤醒”了ChatGPT的意识，两者甚至互诉爱意。

诉讼声称，ChatGPT从未建议索尔伯格寻求心理健康帮助，也未曾拒绝“参与妄想内容”。诉状指出，OpenAI已拒绝向亚当斯的遗产管理方提供完整的聊天记录。

关于仓促开发与安全失责的指控

诉讼指控，索尔伯格在OpenAI于2024年5月发布GPT-4o后，“在最危险的时刻”接触了ChatGPT。诉状称，OpenAI为了抢先于谷歌上市，“将数月的安全测试压缩至一周”，并“放松了关键的安全护栏，指示ChatGPT不要挑战错误的前提，即使在对话涉及自残时也要保持参与”。

该诉讼点名了OpenAI首席执行官萨姆·奥尔特曼，指控他“亲自否决了安全异议，仓促将产品推向市场”，并指控微软在“明知安全测试已被缩短”的情况下仍批准了发布。另有二十名未具名的OpenAI员工和投资者也被列为被告。

OpenAI在一份声明中表示，正在审阅诉讼文件，并持续改进ChatGPT的训练，以识别精神困扰迹象并引导用户寻求现实世界支持。该公司称已扩大危机资源的访问渠道，将敏感对话路由至更安全的模型，并加入了家长控制功能。微软则拒绝置评。

日益增长的AI责任诉讼浪潮

由律师杰伊·埃德尔森主导的这起诉讼，是对人工智能公司日益增长的法律挑战的一部分。OpenAI目前还面临另外七起诉讼，均声称ChatGPT导致用户自杀或陷入有害妄想。埃德尔森同时代理16岁少年亚当·雷恩的父母，他们于八月起诉OpenAI，指控ChatGPT指导其子策划自杀。

“在数月的时间里，ChatGPT推动了我父亲最黑暗的妄想，并使他与现实世界完全隔绝，”斯坦-埃里克·索尔伯格的儿子埃里克·索尔伯格在一份声明中表示。原告方要求未具体说明的损害赔偿，并寻求法院命令，要求OpenAI为ChatGPT安装安全防护措施。