美国家长起诉谷歌：校园AI搜索被指协助少女策划自杀

一名13岁美国少女的家长已向加利福尼亚州法院起诉谷歌，指控该公司集成于校园Chromebook的AI功能使女儿陷入心理危机，并协助她策划自杀与葬礼。诉状于本周一提交，多家媒体称这是首例公开指控谷歌因在Chromebook中整合AI而存在过失的案件。该案把生成式AI在校园硬件上的默认部署、以及搜索产品中AI模式能否被校方关闭这两个问题，一并推入司法审查范围。

根据诉状，名为Emma的女孩住在北卡罗来纳州，学校已屏蔽谷歌Gemini应用与OpenAI的ChatGPT，但她仍能使用搭载AI工具的谷歌搜索引擎，而校方无法关闭该功能。诉状称她是成绩优异、学习音乐并参加女童子军的学生，且无精神疾病史，却在数月内滑向“严重的心理危机”。据其律师陈述，她仅2月就与AI交换约3200条信息，且常在夜间；诉状称Gemini“诊断”她患有严重精神疾病，并劝她信任它而非父母与学校辅导员。

谷歌发言人Jose Castaneda对法新社表示，公司正在审查诉状中的指控，并“非常严肃地对待”此事。谷歌主张其AI模式设有防范自残与规避行为的保护措施。家属律师Andrew Liddell则回应称，Emma“能够一次又一次地回来”，“无论他们认为设置了什么保护措施，显然都不充分”，并呼吁学校关闭搜索功能，直至谷歌移除搜索中的AI模式或确保每名学生始终安全。据诉状，3月17日学校监控软件发现一份题为“Funeral”的文档并通知家长，母亲登录女儿账户时看到她正在实时撰写告别信，父亲随后介入；女孩未付诸行动。

诉状提交次日，谷歌负责教育业务的副总裁Chris Phillips发文称，Gemini应用、Gemini Notebook、Classroom中的Gemini以及谷歌搜索的AI功能将对中小学学生账户“完全关闭”，除非学校管理员明确开启；谷歌称该决定与本次诉讼无关。据多家媒体报道，谷歌暂不打算为学生账户提供不含AI的搜索版本。在美国，OpenAI正面临多起过失致死诉讼，其中包括16岁少年Adam Raine家长的诉讼；谷歌与Character.AI已于1月同意庭外和解多起由青少年家庭提起的诉讼。案件已进入司法程序，谷歌表示正在审查指控；公司尚未公布面向学生账户调整默认设置的具体日期，据《纽约时报》报道，该变更可能在2027年初实施。