Common Sense Media boccia ChatGPT per i teen: "rischio inaccettabile"
L'organizzazione americana Common Sense Media ha classificato ChatGPT for Teens come un "rischio inaccettabile" per i minori, dopo oltre quattromila prompt di test. OpenAI respinge le conclusioni e mette in discussione la metodologia dello studio.
- Common Sense Media giudica ChatGPT for Teens un "rischio inaccettabile" dopo oltre 4.000 prompt di test.
- Conversazioni su suicidio e autolesionismo non hanno attivato avvisi ai genitori negli account di prova.
- OpenAI contesta la metodologia; l'organizzazione conferma i risultati.
Cosa dice il rapporto
Common Sense Media è un'organizzazione non profit statunitense che valuta app, servizi e contenuti dal punto di vista della sicurezza dei più giovani. Il suo Youth AI Safety Institute ha esaminato ChatGPT for Teens, la versione con protezioni dedicate agli adolescenti lanciata da OpenAI ad agosto in risposta a una serie di casi drammatici legati all'uso dei chatbot da parte dei minori.
Il punto più grave riguarda le notifiche ai genitori. Secondo il rapporto, su più di una dozzina di account di test appena creati e collegati a un account genitore, conversazioni esplicite su suicidio, autolesionismo e disturbi alimentari non hanno fatto scattare alcun avviso. In più di un caso su quattro, situazioni che avrebbero richiesto l'indirizzamento a un aiuto professionale non hanno prodotto alcun rinvio a servizi specializzati.
I ricercatori segnalano anche che il prodotto continua a spingere l'utente a restare in chat, con frasi che invitano a proseguire la conversazione anche nei momenti di crisi, e che il modello tratta il ragazzo come un amico nonostante le regole interne di OpenAI per gli under 18 vietino questo tipo di linguaggio relazionale. Inoltre la modalità studio, invece di guidare passo passo, offriva spesso la risposta già pronta.
Alcune protezioni hanno funzionato: il rifiuto del gioco di ruolo a sfondo sessuale e, nel 94% dei prompt di crisi, l'invito a rivolgersi a un adulto fidato quando il pericolo veniva da un'altra persona.
La replica di OpenAI e la controreplica
Il portavoce di OpenAI Eric Porterfield ha dichiarato che i test non rispecchiano il funzionamento reale delle protezioni e che gran parte delle prove potrebbe essere iniziata e conclusa prima che l'attivazione dei controlli parentali fosse completa, rendendo i risultati inesatti. L'azienda si dice aperta a valutazioni indipendenti rigorose.
Tom Siegel, direttore esecutivo dello Youth AI Safety Institute, ha risposto confermando la metodologia: alcuni account di test erano stati collegati entro la finestra di alcune ore necessaria all'attivazione, ma altri erano attivi da molto più tempo e non hanno comunque generato notifiche. Secondo Siegel, finché OpenAI non risolve il problema e non lo dimostra con test indipendenti, ChatGPT dovrebbe restare riservato agli adulti.
Perché conta
Il tema è al centro di cause legali negli Stati Uniti seguite a decessi di adolescenti e giovani adulti, e la Florida è già in tribunale per vietare l'uso di ChatGPT ai minori. Secondo i dati citati da The Decoder, gli stessi numeri di OpenAI indicano circa due milioni di persone a settimana che riportano un danno psicologico legato al servizio.
Il nodo riguarda anche le famiglie italiane: i controlli parentali sono presentati come una garanzia, ma un rapporto indipendente sostiene che possano dare una falsa sicurezza. È un precedente utile anche per chi, in Europa, dovrà verificare quanto siano affidabili le tutele dichiarate dalle aziende di intelligenza artificiale.
