Supervisione umana sui bersagli AI: in pratica dura pochi secondi
Helsing assicura che con la sua piattaforma Clarity ogni passaggio verso un sistema d'arma deve essere autorizzato da una persona, il cui nome viene registrato. L'esperienza con sistemi comparabili, però, mostra che quella revisione umana può ridursi a pochissimi secondi.
- Helsing garantisce che ogni attacco è autorizzato e firmato da una persona.
- Con Maven e Claude gli Stati Uniti avrebbero colpito oltre 3.000 obiettivi in pochi giorni in Iran.
- A Gaza, secondo le inchieste, la revisione umana durava circa 20 secondi per bersaglio.
La promessa del controllo umano
Secondo l'azienda tedesca, un bersaglio viene raccomandato solo quando fonti indipendenti concordano e la valutazione può essere fatta con elevata affidabilità. Ogni decisione viene documentata con il nome della persona responsabile. È la formula del cosiddetto "human in the loop", cioè l'essere umano inserito nel ciclo decisionale come ultimo filtro prima dell'azione.
Il punto, segnala The Decoder, è la velocità. Quando un sistema produce centinaia o migliaia di raccomandazioni, il tempo disponibile per ciascuna verifica si comprime, e l'autorizzazione rischia di diventare un gesto formale più che un controllo reale.
I precedenti: Iran e Gaza
Nel conflitto con l'Iran, riferisce The Decoder, l'esercito statunitense starebbe usando il sistema Maven di Palantir insieme al modello Claude di Anthropic per suggerire centinaia di bersagli, ordinarli per priorità e consigliare le munizioni. Nelle prime 24 ore sarebbero stati colpiti circa 1.000 obiettivi, saliti a oltre 3.000 in pochi giorni secondo il Wall Street Journal, che riporta anche l'allarme di ufficiali militari su una mentalità riassunta internamente nella frase "lo ha detto il computer".
Il caso più citato riguarda Gaza. Secondo le inchieste di +972 Magazine e Local Call, il sistema israeliano Lavender ha per un certo periodo segnalato fino a 37.000 palestinesi come potenziali bersagli. La revisione umana sarebbe durata in media una ventina di secondi per nominativo, soprattutto per verificare che si trattasse di un uomo. Un sistema separato, chiamato "Where's Daddy?", seguiva le persone segnalate fino alle abitazioni familiari, spesso colpite di notte.
Perché conta
La questione non è solo tecnica ma di responsabilità: se la firma umana arriva dopo venti secondi di esame, chi risponde davvero di un errore? I sistemi di intelligenza artificiale possono produrre allucinazioni, cioè output errati presentati con sicurezza, e la fusione di molte fonti di dati non elimina questo rischio.
Il tema riguarda da vicino l'Europa, dove la Germania prevede di introdurre sistemi militari basati sull'AI dal prossimo anno e dove si discute di standard comuni NATO. Le regole su quanto tempo e quali informazioni servono per un'autorizzazione umana valida diventano, in questo scenario, un elemento centrale del dibattito pubblico.


