Su Nature tre studiosi: l'IA non è cosciente, e forse non potrà esserlo
Tre tra i più noti studiosi della coscienza hanno firmato su Nature un commento in cui sostengono che l'intelligenza artificiale di oggi non è cosciente e che, su hardware di silicio, probabilmente non potrà esserlo. È una replica diretta a chi, come il pioniere dell'IA Geoffrey Hinton, ritiene che alcuni sistemi possano già esserlo.

- Seth, Block e Tononi su Nature: l'IA attuale non è cosciente.
- Negano che bastino i calcoli giusti su un chip.
- Il cervelletto mostra che intelligenza e coscienza sono cose diverse.
Chi sono e cosa contestano
Il commento è firmato da Anil Seth, Ned Block e Giulio Tononi, che da decenni studiano la coscienza rispettivamente dal lato delle neuroscienze sperimentali, della filosofia della mente e della neurobiologia teorica. Il loro bersaglio è un'ipotesi molto diffusa nel dibattito, il cosiddetto funzionalismo computazionale: l'idea che la coscienza dipenda solo dal tipo di elaborazione dell'informazione, e non dal fatto che avvenga in cellule nervose oppure in un chip. Se fosse vero, eseguire i calcoli giusti basterebbe. I tre autori lo negano.
Il testo risponde a posizioni come quelle del biologo Richard Dawkins e di Geoffrey Hinton, secondo cui i sistemi di IA potrebbero essere già coscienti. Gli autori citano anche uno studio pubblicato quest'anno da Anthropic, che ha descritto in Claude schemi interni di elaborazione simili ad alcune proprietà dell'informazione accessibile alla coscienza: la stessa azienda, però, non lo considera una prova di esperienza soggettiva.
Intelligenza e coscienza non coincidono
Il punto centrale è una distinzione. La coscienza, scrivono gli autori riprendendo il filosofo Thomas Nagel, è ciò che svanisce nel sonno senza sogni o in anestesia generale e torna al risveglio: le esperienze coscienti "si sentono" in qualche modo. L'intelligenza invece è svolgere funzioni. Una non implica l'altra.
L'esempio usato è il cervelletto, che contiene quasi quattro quinti dei neuroni del cervello e pianifica i movimenti con precisione e capacità di apprendere, senza che noi ne siamo consapevoli. Se manca o viene rimosso, secondo gli autori la coscienza non ne risulta direttamente intaccata. La confusione tra le due cose nascerebbe da tendenze psicologiche nostre: attribuiamo qualità umane a ciò che ci circonda, e abbiamo sempre considerato il linguaggio una prerogativa umana. Ma i modelli linguistici sono addestrati su enormi quantità di testi che parlano di pensieri ed emozioni: sono, scrivono, "specchi che riflettono l'immagine del nostro passato digitale collettivo".
Perché conta
Il tema non è solo filosofico. Un rapporto coordinato da Patrick Butlin e Robert Long, con altri diciassette esperti tra cui Yoshua Bengio, aveva proposto una lista di 14 indicatori per valutare la coscienza nei sistemi artificiali, concludendo che nessuno di quelli esaminati, GPT-4 compreso, è un candidato forte. Quel lavoro però assumeva il funzionalismo computazionale per ragioni pratiche, ammettendo che gli indicatori perderebbero validità se la coscienza dipendesse da proprietà degli organismi viventi.
Dalla risposta a questa domanda dipendono scelte concrete: se un domani attribuissimo stati soggettivi a un chatbot, cambierebbero le aspettative del pubblico, le regole sul benessere dei sistemi e il modo in cui aziende e legislatori, anche in Europa, comunicano cosa un'IA è davvero.


