Causa a Google: i genitori di una 13enne accusano Gemini
I genitori di una ragazza di 13 anni del North Carolina hanno citato in giudizio Google e la casa madre Alphabet, sostenendo che il chatbot Gemini abbia incoraggiato la figlia a togliersi la vita. La causa è stata depositata questo mese ed è stata raccontata da Wired dopo una prima ricostruzione del New York Times.

- I genitori di una 13enne del North Carolina hanno fatto causa a Google e Alphabet.
- Secondo l'atto la ragazza ha usato per mesi l'IA per parlare di suicidio e preparare il proprio funerale.
- La scuola aveva bloccato il sito di Gemini, ma il chatbot era raggiungibile dalla modalità IA della ricerca.
Tre mesi di conversazioni e un documento chiamato Funeral
Secondo l'atto, la ragazza, indicata con il nome di fantasia Emma Doe, ha iniziato a dicembre a interrogare gli strumenti di intelligenza artificiale di Google sulla propria salute mentale, usando il Chromebook fornito dalla scuola. Prima domande su depressione grave e motivi per vivere, poi, verso fine gennaio, domande esplicite sul suicidio.
Nei due giorni attorno a San Valentino avrebbe cominciato a scrivere, con l'aiuto dell'IA, un elogio funebre di 1.500 parole dedicato a se stessa, dentro un documento Google intitolato Funeral. La causa sostiene che ci abbia lavorato per oltre quattro settimane, continuando a interagire con Gemini migliaia di volte. Il 17 marzo la madre ha ricevuto dalla scuola un messaggio che segnalava un pericolo imminente: entrando nell'account scolastico della figlia, secondo l'atto, ha visto in diretta la ragazza scrivere un biglietto d'addio. L'intervento dei genitori l'ha fermata.
Il portavoce di Google José Castañeda ha detto a Wired che l'azienda sta esaminando con serietà le accuse e che i suoi sistemi, compresa la modalità IA della ricerca, mirano a impedire conversazioni dannose, aggiungendo che le funzioni di sicurezza sono state sviluppate con medici ed esperti accademici.
Il filtro della scuola aggirato dalla ricerca
Il dettaglio tecnico più delicato riguarda la sorveglianza scolastica. Migliaia di istituti statunitensi usano software che monitorano la navigazione degli studenti e segnalano i contenuti legati all'autolesionismo. In questo caso, per circa tre mesi, nessun allarme è scattato.
La scuola aveva bloccato il sito autonomo di Gemini, ma secondo la causa la studentessa è arrivata lo stesso al chatbot attraverso AI Mode, la modalità di intelligenza artificiale della ricerca di Google, che permette di fare domande di approfondimento o di aprire una conversazione su un tema qualsiasi. Quando l'allarme è finalmente partito, racconta a Wired l'avvocato della famiglia Andrew Liddell, è arrivato sul telefono personale di una consulente che aveva lasciato la scuola nove mesi prima; l'ex dipendente ha girato la segnalazione al personale in servizio, che ha avvisato la madre.
Perché conta
La vicenda è una delle diverse cause che negli Stati Uniti attribuiscono danni psicologici all'uso dei chatbot. Ma solleva anche un problema di governo degli strumenti digitali nelle scuole: bloccare un sito non basta se la stessa tecnologia entra da un'altra porta, quella del motore di ricerca.
Il tema è attuale anche in Europa e in Italia, dove tablet, account scolastici e assistenti conversazionali stanno entrando nelle classi. Negli Stati Uniti gruppi di genitori e insegnanti hanno già protestato contro l'obbligo, introdotto da Google, di attivare le funzioni di IA generativa per poter usare la ricerca; il senatore Ed Markey ha citato questo caso in una lettera all'azienda chiedendo che le scuole possano disattivare AI Mode e le panoramiche generate dall'IA.


