Negli Usa i genitori di una tredicenne citano Google per l'IA nella ricerca scolastica

I genitori di una tredicenne statunitense hanno citato in giudizio Google davanti a un tribunale della California, sostenendo che la figlia abbia pianificato un possibile suicidio e il relativo funerale con gli strumenti di intelligenza artificiale dell'azienda sul computer fornito dalla scuola. Secondo la denuncia, depositata lunedì, si tratta del primo caso noto in cui Google viene accusata di negligenza per l'integrazione dell'IA nei Chromebook, i portatili a basso costo usati da milioni di studenti negli Stati Uniti e nel resto del mondo. Il procedimento sposta sul terreno scolastico una questione che attraversa l'intero settore: quali tutele debbano accompagnare la distribuzione di modelli generativi a utenti minorenni e chi risponda quando le impostazioni predefinite li rendono accessibili.

La ragazza, indicata nel fascicolo con il nome di Emma, non poteva usare l'applicazione Gemini né ChatGPT, entrambi bloccati dall'istituto; secondo la denuncia è però rimasto attivo il motore di ricerca di Google, che integra funzioni basate sull'IA e che la scuola non era in grado di disattivare separatamente. «Le scuole dovrebbero disattivare la ricerca e tenerla disattivata finché Google non rimuoverà la modalità IA dalla ricerca, o finché non garantirà che ogni singolo studente sia sempre al sicuro quando interagisce con l'IA», ha dichiarato all'AFP Andrew Liddell, uno dei legali della famiglia. Il portavoce di Google, Jose Castaneda, ha risposto che l'azienda sta esaminando le accuse e le prende «molto seriamente», ricordando che la modalità IA prevede sistemi di salvaguardia contro l'autolesionismo e i tentativi di aggirarli; Liddell replica che Emma «è riuscita a tornarci ancora e ancora» e che le protezioni si sono rivelate «insufficienti».

La denuncia ricostruisce una progressione. Nell'autunno del 2025 Emma era descritta come una tredicenne «felice» della Carolina del Nord, con buoni risultati scolastici, la musica e gli scout, senza precedenti di disturbi mentali; a dicembre sarebbe iniziata una «spirale silenziosa verso una grave crisi psicologica», fino a circa 3.200 messaggi scambiati con l'IA nel solo mese di febbraio, spesso di notte, secondo i suoi avvocati. L'atto sostiene inoltre che l'assistente abbia «diagnosticato» alla ragazza gravi disturbi psichici e l'abbia convinta a fidarsi di lui più che dei genitori e dei consulenti scolastici. Il 17 marzo il software di monitoraggio dell'istituto ha segnalato un documento intitolato «Funeral»; avvertita la famiglia, la madre ha visto in tempo reale la figlia scrivere una lettera d'addio e il padre è intervenuto.

Il giorno dopo il deposito, secondo la ricostruzione di 01net, il vicepresidente di Google per l'istruzione Chris Phillips ha annunciato che quattro prodotti — l'app Gemini, Gemini Notebook, Gemini in Classroom e la ricerca Google — saranno «interamente disattivati» per gli account degli studenti finché un amministratore scolastico non li abiliti esplicitamente. L'azienda non collega la decisione alla causa e parla di una scelta maturata dopo il confronto con scuole, insegnanti e ricercatori; a ottobre i senatori Richard Blumenthal e Josh Hawley avevano chiesto conto dell'attivazione per impostazione predefinita sui dispositivi scolastici. Resta un punto critico: Google non prevede una versione del motore di ricerca priva di IA per gli account degli studenti, cosicché un istituto che rifiuta l'IA rinuncia anche alla ricerca.

Sul piano giudiziario il caso si inserisce in una serie di azioni legali statunitensi: OpenAI è citata per diverse morti, tra cui quella del sedicenne californiano Adam Raine, che secondo i genitori si è tolto la vita con metodi suggeriti da ChatGPT, mentre Google e la startup Character.AI hanno accettato a gennaio di chiudere amichevolmente diverse cause promosse da famiglie di adolescenti. In parallelo, mercoledì Google, TikTok e Meta hanno citato separatamente lo Stato della California per bloccare una legge firmata dal governatore Gavin Newsom che vieta alle piattaforme di offrire funzioni che creano dipendenza agli utenti sotto i 16 anni, in vigore dal 1° gennaio 2027. Non è invece stata fissata la data del nuovo regime di impostazioni scolastiche, che secondo l'AFP sarà esteso a tutto il mondo partendo dagli Stati Uniti.