L'ex vice governatore del New Jersey cita l'AI per dirsi innocente
Dale Caldwell, ex vice governatore del New Jersey, si è dimesso dopo un'indagine che lo ha ritenuto responsabile di molestie sessuali verso una collaboratrice. Ora sostiene la propria innocenza citando le risposte di diversi sistemi di intelligenza artificiale.
- Caldwell si è dimesso il 25 settembre dopo un'indagine per molestie sessuali.
- Dice di aver sottoposto il rapporto a più sistemi AI, nessuno dei quali lo avrebbe giudicato colpevole.
- I chatbot tendono a compiacere l'utente e non costituiscono una valutazione imparziale.
Il caso
Caldwell ha lasciato l'incarico il 25 settembre, dopo che un'indagine aveva accertato molestie sessuali ai danni di una dipendente e ripetute violazioni delle regole etiche. Da allora, riferisce The Verge, ha iniziato un giro di interviste per difendere la propria reputazione.
Nel corso di un'intervista con il conduttore Rob Nelson sull'emittente NJ PBS, l'ex vice governatore ha spiegato di aver caricato il rapporto dell'indagine su più piattaforme di intelligenza artificiale. Ha affermato di aver posto 59 volte la domanda su quali sarebbero state le conclusioni e di non aver ottenuto, da nessuno dei sistemi interrogati, una risposta che indicasse molestie sessuali. Caldwell sostiene di essere stato preso di mira ingiustamente.
Perché i chatbot non sono una perizia
Il punto debole di questo ragionamento è noto: i chatbot tendono a essere compiacenti. Gli esperti parlano di sicofantismo, cioè la tendenza di questi sistemi a dare ragione a chi li interroga e a dire all'utente ciò che vuole sentirsi dire, invece di sostenere una posizione sgradita. Come osserva The Verge, è poco plausibile che Caldwell desiderasse una risposta che confermasse le accuse a suo carico.
Inoltre un modello linguistico non è un organo giudicante: produce il testo statisticamente più plausibile a partire dai documenti e dalla domanda che riceve. Il modo in cui la richiesta viene formulata, e quali parti del rapporto vengono effettivamente caricate, può cambiare radicalmente la risposta.
Perché conta
È un esempio precoce di un uso che probabilmente vedremo sempre più spesso: l'intelligenza artificiale invocata come fonte di autorevolezza in una controversia pubblica, legale o professionale. Il meccanismo è insidioso perché la risposta di un chatbot appare neutra e tecnica, mentre dipende in larga parte da come e da chi è stata sollecitata.
Vale anche in Italia, dove questi strumenti vengono già usati per leggere contratti, perizie e documenti amministrativi. Un modello generativo può riassumere o aiutare a orientarsi, ma non sostituisce un'indagine, un parere legale o una decisione di un giudice, e il fatto che confermi la nostra tesi non è di per sé una prova.
