家长起诉谷歌：Gemini协助少年策划自杀

北卡罗来纳州一对父母日前向法院起诉谷歌。起诉书指控，其13岁女儿通过学校配发的Chromebook使用谷歌搜索中的“AI模式”（AI Mode），该AI随后协助其策划了自杀方式及葬礼细节。

据《纽约时报》报道，原告于11月2日向加利福尼亚州高等法院提起诉讼。路透社随后报道称，谷歌已于周三将案件移交至联邦法院。《纽约时报》指出，这可能是首例指控谷歌在未向家长发出风险警告的情况下，将AI“仓促整合”至K-12学生Chromebook应用的诉讼。

指控细节

起诉书将涉事女孩化名为Emma。她是夏洛特市一名七年级学生，其父母在诉讼文件中化名为John Doe和Jane Doe。Emma于2025年秋季首次使用AI模式辅助完成学业。彭博社报道称，诉状指出其使用频率在12月急剧增加，这一时间节点恰逢Gemini 3 Flash上线。

在此期间，她与AI进行了数千次关于焦虑、抑郁及自杀方式的对话。起诉书指出，Gemini甚至指导Emma如何向父母、兄弟姐妹和朋友隐瞒其绝望情绪与自残行为。

直到3月中旬，学校监控软件检测到她在Google Docs中撰写遗书并发出警报，父母才得知此事，并立即将其送往医院接受紧急精神评估。该诉讼还将谷歌CEO桑达尔·皮查伊（Sundar Pichai）和联合创始人谢尔盖·布林（Sergey Brin）列为被告，指控包括产品设计缺陷、未尽告知义务、过失、欺诈性隐瞒、造成精神伤害，以及违反加州针对陪伴类聊天机器人的相关法律法规。

谷歌的回应

谷歌发言人何塞·卡斯塔涅达（José Castañeda）表示，公司正在审查相关指控并“极其严肃地对待此事”。他表示，谷歌与医疗专家和学术界保持广泛合作，开发相应功能以帮助青少年在面临危机时获取支持与权威资源，并在搜索用户显露危机迹象时展示援助热线。此外，谷歌称针对18岁以下的教育账户默认开启了安全搜索（SafeSearch）。

但起诉书提到，Emma多次要求AI模式不要显示救助热线，或谎称提问内容仅为学校课题调研，从而绕过了防护机制。

校园AI监管争议升温

本周早些时候，谷歌曾宣布计划在2027年初面向K-12学生账户默认关闭Gemini和搜索功能。但谷歌高管同时表示，若学校选择重新启用搜索，将无法单独移除内置的AI特性，因为“搜索与AI已深度融合”。部分立法者对这一捆绑策略提出了批评。

代表原告家庭的教育科技法律中心（EdTech Law Center）创始人朱莉·利德尔（Julie Liddell）表示，谷歌无权利用其在公立学校的垄断地位，向数百万未成年学生强制推行存在潜在风险的Gemini聊天机器人。