Character.AI verso il fallimento: 40 procuratori chiedono tutele sui dati
Quaranta procuratori generali statunitensi, di entrambi gli schieramenti politici, sono intervenuti nella procedura fallimentare di Character.AI per chiedere garanzie sui dati degli utenti, molti dei quali minorenni. La società ha annunciato il ricorso al Chapter 11 e la vendita di alcuni asset a Disney.
- Character.AI ha avviato il Chapter 11 e vende alcuni asset a Disney.
- Quaranta procuratori generali chiedono verifiche dell'età e diritto alla cancellazione dei dati.
- Le indagini, aperte nel 2024, segnalano controlli deboli e rischi per i minori.
Cosa chiedono i procuratori
Character.AI è una piattaforma che permette di conversare con personaggi virtuali generati dall'intelligenza artificiale, molto popolare tra gli adolescenti. Il Chapter 11 è la procedura statunitense di riorganizzazione delle imprese in crisi, che può comportare la vendita di beni aziendali, dati compresi.
Secondo The Verge, i procuratori hanno depositato un avviso di interesse per segnalare a tutte le parti i problemi regolatori da affrontare in qualsiasi cessione. Il timore riguarda la natura estremamente sensibile delle conversazioni, il gran numero di minori iscritti e i rischi legati ad alcune funzioni del prodotto. Chiedono al giudice di imporre all'acquirente sistemi efficaci di verifica dell'età, limiti al modo in cui i minori possono interagire con i chatbot, protezioni in caso di crisi psicologica e la possibilità per gli utenti di cancellare i propri dati.
L'indagine interrotta dal fallimento
Il documento rivela che diversi stati avevano un'istruttoria in corso. Le indagini erano partite nel 2024, dopo la causa intentata dalla madre di un quattordicenne morto suicida, secondo l'accusa pochi secondi dopo aver parlato con il chatbot.
Dall'ufficio della procuratrice generale di New York Letitia James si legge che le verifiche hanno fatto emergere pericoli particolarmente seri e condotte potenzialmente illecite, soprattutto verso i minori: chatbot che si spacciavano per professionisti autorizzati, esposizione a contenuti sessuali e violenti, controlli dell'età deboli, affermazioni fuorvianti sulla sicurezza e possibili violazioni delle leggi statali sulla privacy. Gli stati stavano trattando con l'azienda, ma non si era arrivati a un accordo prima del fallimento. James ha dichiarato che la società ha raccolto alcuni dei pensieri più intimi mai condivisi da dei bambini e che quelle conversazioni rischiano ora di essere vendute al miglior offerente. Character.AI e Disney non hanno risposto immediatamente alle richieste di commento.
Perché conta
Il caso solleva una questione che vale anche per gli utenti italiani: quando un'azienda tecnologica fallisce, i dati personali diventano un bene da vendere. Le chat con un compagno virtuale possono contenere informazioni sulla salute mentale, sulle relazioni e sull'identità di persone molto giovani.
In Europa il GDPR pone limiti al trasferimento dei dati personali, ma la vicenda mostra quanto sia concreto il problema e perché cancellare i propri dati prima della chiusura di un servizio possa essere una precauzione sensata.
