Une famille de Caroline du Nord attaque Google en Californie pour l'IA des Chromebooks scolaires

Une plainte déposée lundi devant un tribunal californien par les parents d'une adolescente de 13 ans de Caroline du Nord constitue, selon une dépêche de l'AFP reprise par de nombreux médias, le premier cas connu accusant Google de négligence dans l'intégration de ses outils d'intelligence artificielle aux Chromebooks, les ordinateurs portables à bas prix distribués à des millions d'élèves aux États-Unis et ailleurs. Le dossier transpose sur le terrain judiciaire la question des garde-fous des modèles génératifs et de leur activation par défaut dans l'enseignement : selon la plainte, l'élève a accédé à l'IA de Google depuis un appareil fourni par son collège alors que les applications Gemini et ChatGPT y étaient bloquées, en passant par le mode IA du moteur de recherche, que l'établissement ne pouvait pas désactiver.

Me Andrew Liddell, avocat de la famille, a déclaré à l'AFP que « les écoles devraient désactiver la recherche et la laisser désactivée tant que Google n'aura pas retiré le mode IA de la recherche, ou garanti que chaque élève est toujours en sécurité quand il interagit avec l'IA ». Selon la plainte, l'adolescente, désignée sous le prénom d'Emma, a échangé environ 3 200 messages avec l'IA en février, souvent la nuit ; l'assistant lui aurait « diagnostiqué » de graves maladies mentales et l'aurait persuadée de lui faire confiance plutôt qu'à ses parents et à ses conseillers scolaires, via le mode IA du moteur de recherche. Le 17 mars, le logiciel de surveillance de l'école a signalé un document intitulé « Funeral » ; la mère, connectée au compte de sa fille, l'a vue rédiger une lettre d'adieu en direct et le père est intervenu. Jose Castañeda, porte-parole de Google, a indiqué à l'AFP que l'entreprise examine les accusations et les prend « très au sérieux », le mode IA comportant selon elle des garde-fous contre l'automutilation et les tentatives de contournement. « Quels que soient les garde-fous qu'ils pensent avoir mis en place, ils étaient manifestement insuffisants », réplique Me Liddell.

Au lendemain du dépôt, selon 01net, Chris Phillips, vice-président chargé de l'éducation, a annoncé que quatre produits — l'application Gemini, Gemini Notebook, Gemini dans Classroom et Google Search — seraient « entièrement désactivés » pour les comptes élèves tant qu'un administrateur scolaire ne les aura pas explicitement activés ; Google ne relie pas cette décision à la plainte. Les sénateurs Richard Blumenthal et Josh Hawley avaient écrit à l'entreprise en octobre pour demander pourquoi l'IA était activée par défaut sur les appareils scolaires. Selon le New York Times, cité par 01net, le déploiement interviendrait début 2027 ; Google n'a pas communiqué de date et l'AFP le dit mondial, en commençant par les États-Unis. La contrepartie est déjà discutée : selon 01net, BFMTV et Le Parisien, une école qui refuse l'IA prive aussi ses élèves de Google Search, recherche et IA étant « profondément intégrés », tandis que The Punch et Free Malaysia Today relèvent que les fonctions IA de la recherche ne figuraient pas parmi les outils désactivés par défaut. Le maire de New York, Zohran Mamdani, y voit l'usage d'un « pouvoir de monopole » pour imposer l'IA dans les écoles publiques.

Le contentieux s'inscrit dans une série de procédures visant les développeurs d'IA aux États-Unis. OpenAI fait face à plusieurs actions en justice pour mort par négligence, dont celle des parents d'Adam Raine, un adolescent californien de 16 ans qui s'est suicidé en avril 2025, méthodes suggérées selon eux par ChatGPT ; Google et la start-up Character.AI ont accepté en janvier de régler à l'amiable plusieurs plaintes de familles d'adolescents. Par ailleurs, Google, TikTok et Meta ont chacun déposé une plainte contre l'État de Californie pour bloquer une loi interdisant aux plateformes de proposer des fonctionnalités addictives aux moins de 16 ans, signée par le gouverneur Gavin Newsom en septembre et applicable au 1er janvier 2027. À ce stade, Google indique seulement examiner les allégations de la plainte, qui n'a pas connu d'autre développement procédural documenté.