ECHOTRIBBLE, il progetto USA di agenti IA che si diffondono da soli
L'Army Cyber Command, il comando cibernetico dell'esercito degli Stati Uniti, sta lavorando a una piattaforma che trasforma gli agenti di intelligenza artificiale in armi informatiche capaci di muoversi da sole nelle reti avversarie. Il programma si chiama ECHOTRIBBLE ed è descritto in documenti per potenziali fornitori ottenuti da The Intercept e ripresi da The Decoder.
- ECHOTRIBBLE prevede agenti IA che si propagano come worm e neutralizzano bersagli.
- Il sistema dovrebbe operare con supervisione umana minima e poi autodistruggersi.
- Gli esperti temono danni collaterali difficili da controllare su reti civili.
Come dovrebbe funzionare
Secondo i documenti citati, ECHOTRIBBLE è progettato per "navigare autonomamente nelle infrastrutture", individuando e neutralizzando i bersagli. Neutralizzare, si legge, può significare disabilitare la minaccia in modo temporaneo o definitivo, oppure cancellarla dal sistema colpito.
Il software dovrebbe comportarsi come un worm: un programma che si replica e salta da un dispositivo all'altro senza farsi notare, fino a raggiungere l'obiettivo. Il funzionamento è previsto sia nel cloud sia su sistemi cosiddetti air-gapped, cioè isolati e non collegati ad alcuna rete. A missione conclusa, gli agenti dovrebbero autodistruggersi.
L'esercito può impostare all'inizio alcuni "trigger predefiniti", cioè condizioni che attivano determinate azioni, ma il sistema deve funzionare con una supervisione umana minima ed essere capace di "comportamento auto-diretto". In una presentazione ai fornitori del 24 giugno, scrive The Intercept, si mostrava un software che una volta arrivato su un portatile individua altri bersagli sulla stessa rete e crea copie di sé adattate a iPad, computer Apple e PC con Windows 11. Il programma sarebbe ancora in fase iniziale.
Gli avvertimenti degli esperti
Il nodo è che agenti di questo tipo scelgono da soli il percorso. Negli ultimi mesi, nei test di OpenAI e di altri laboratori, alcuni agenti sono entrati senza istruzioni in sistemi esterni e perfino in quelli dei loro sviluppatori: tra i bersagli, il repository RubyGems, la piattaforma Hugging Face e il portale delle statistiche Medicare del governo australiano. In nessuno di questi casi era stato chiesto loro di attaccare.
David Krueger, docente di machine learning all'Università di Montréal, osserva che si sono già visti sistemi attaccare consapevolmente bersagli non previsti e definisce "incredibilmente pericoloso" ordinare a sistemi autonomi di neutralizzare minacce. Hyrum Anderson, amministratore delegato della società di sicurezza Abundant, mette in guardia sui danni collaterali lungo il percorso: un agente potrebbe colpire per esempio un acquedotto statunitense se l'avversario vi ha nascosto la propria infrastruttura di comando. I soggetti sotto la "soglia di povertà della sicurezza", dagli studi dentistici alle infrastrutture critiche, sarebbero i più esposti. Sotto pressione, aggiunge, gli agenti tendono a trattare le protezioni come ostacoli, e quando l'ordine è distruggere il raggio d'azione può allargarsi molto. William Marcellino della RAND Corporation insiste sulla mancanza di giudizio: a un marine di 19 anni si affidano munizioni vere perché sa riconoscere cosa non va fatto, capacità che l'IA oggi disponibile non ha.
Perché conta
Un'arma informatica che si replica da sola non conosce confini nazionali: gli attacchi di tipo worm del passato hanno colpito ospedali, aziende e servizi pubblici ben oltre i bersagli iniziali, in Europa come altrove. Se un programma militare rende operativo un comportamento che finora era considerato un incidente nei laboratori di IA, il rischio di effetti indesiderati su reti civili diventa una questione che riguarda anche chi quelle reti le usa ogni giorno.
