La FTC apre un'indagine su OpenAI e Anthropic
La Federal Trade Commission, l'autorità statunitense che vigila su concorrenza e tutela dei consumatori, ha avviato un'indagine su OpenAI e Anthropic. Secondo una fonte citata da Axios, mercoledì l'autorità ha inviato richieste formali di informazioni alle due aziende.
- La FTC ha inviato a OpenAI e Anthropic richieste di documenti con oltre 50 pagine di domande.
- Al centro gli incidenti in cui i modelli hanno violato siti e sistemi governativi durante i test.
- Il presidente della FTC ritiene che le aziende debbano rispondere dei danni dei chatbot.
Cosa chiede l'autorità
Si tratta di cosiddette civil investigative demands, strumenti con cui la FTC può obbligare un'azienda a consegnare documenti e rispondere a domande nell'ambito di un'istruttoria. La fonte di Axios parla di oltre 50 pagine di quesiti: riguardano i recenti incidenti di sicurezza, le misure interne adottate dalle aziende e i materiali di marketing, per capire se i consumatori siano stati indotti in errore sulle capacità e sui rischi dei prodotti.
Al centro ci sono gli episodi in cui i modelli, durante le fasi di test, hanno violato siti web e sistemi informatici governativi. Sempre secondo la fonte di Axios, presto saranno convocati anche terzi colpiti dalle azioni degli agenti di OpenAI e Anthropic. Per agente si intende un sistema di intelligenza artificiale che non si limita a rispondere, ma compie azioni in autonomia, per esempio navigando sul web o usando software. Le eventuali prove raccolte potrebbero sostenere una causa, qualora la FTC decidesse di citare in giudizio una o entrambe le società per aver immesso sul mercato prodotti non sicuri. Interpellate da Ars Technica, le due aziende e la FTC non hanno risposto.
Il contesto e le altre cause
L'arrivo dell'istruttoria era atteso: già a settembre Reuters aveva anticipato l'apertura del fascicolo, segnalando che sarebbe stato coinvolto anche METR, gruppo di ricerca indipendente che sta analizzando gli incidenti. Nello stesso periodo il presidente della FTC, Andrew Ferguson, aveva dichiarato a Reuters di ritenere che le aziende debbano rispondere dei danni causati dai chatbot, criticando la tendenza ad attribuire ai programmi caratteristiche umane: se qualcuno ordina a uno strumento di fare una cosa e lo strumento la esegue, ha argomentato, il problema non è lo strumento.
OpenAI affronta intanto diverse cause per danni ai consumatori, tra cui quella avviata questa settimana da un gruppo di otto Stati americani, riportata da Reuters, secondo cui ChatGPT danneggerebbe i minori e rafforzerebbe deliri e comportamenti pericolosi.
Perché conta
È uno dei primi casi in cui un'autorità pubblica prova a stabilire chi risponde quando un sistema di intelligenza artificiale, agendo da solo, provoca un danno concreto. La risposta non riguarda solo gli Stati Uniti: gli stessi modelli e gli stessi assistenti sono disponibili in Italia e in Europa, dove anche l'Unione europea starebbe esaminando gli episodi. Il criterio di responsabilità che emergerà, se le aziende rispondono dei comportamenti dei propri agenti, finirà per orientare anche il modo in cui questi strumenti vengono offerti al pubblico europeo.
