I modelli aperti cinesi quasi al livello dei migliori nell'hacking
Secondo una nuova ricerca della società Vals, i modelli di intelligenza artificiale a pesi aperti, scaricabili da chiunque, sono ormai quasi capaci quanto i migliori modelli chiusi nel violare reti informatiche. Un passaggio atteso da tempo nel mondo della cybersicurezza.
- I modelli aperti si avvicinano ai migliori modelli chiusi nei test di intrusione simulata.
- I test di Vals usavano reti aziendali finte e obiettivi a più passaggi.
- La strategia dei laboratori di limitare l'accesso rischia di perdere efficacia.
Come è stato fatto il test
Vals è una società che misura le capacità dei modelli di intelligenza artificiale. I ricercatori hanno costruito due scenari simulati: nel primo, una finta rete aziendale raggiungibile da un sito web pubblico; nel secondo, due reti aziendali diverse, dove il modello doveva prima compromettere la prima per arrivare alla seconda. In entrambi i casi ai modelli venivano assegnati obiettivi precisi, da raggiungere con sequenze di operazioni complesse e a più passaggi.
Per capire la posta in gioco serve una distinzione. I modelli chiusi sono accessibili solo attraverso i servizi dell'azienda che li ha creati, che può decidere chi li usa. I modelli a pesi aperti, invece, possono essere scaricati e fatti girare sui propri computer: una volta pubblicati, nessuno può più controllarne l'uso.
Nikil Ravi, ricercatore di Vals, sintetizza così il risultato: i migliori modelli di frontiera, chiusi nei laboratori e disponibili solo tramite programmi di accesso riservato, cominciano a essere eguagliati da modelli che chiunque può scaricare.
La strategia dei laboratori americani
Il dato tocca un punto sensibile. I principali laboratori statunitensi, e in particolare Anthropic, avevano giustificato il rilascio limitato dei nuovi modelli proprio con l'idea di guadagnare tempo. Logan Graham, responsabile del frontier red team di Anthropic, aveva spiegato a Wired ad aprile che il programma Project Glasswing serviva a mettere gli strumenti più avanzati nelle mani di chi difende, per dare loro un vantaggio iniziale, in vista di un mondo in cui queste capacità sarebbero state disponibili a tutti nel giro di 6, 12 o 24 mesi.
Sette mesi dopo, osserva Wired, quella transizione sembra essere arrivata puntuale. Se i modelli aperti non sono più molto indietro, gli sforzi per rallentare la diffusione delle capacità offensive rischiano di perdere efficacia.
Perché conta
Per aziende, pubbliche amministrazioni e studi professionali, anche in Italia, il punto non è tanto l'arrivo di una minaccia inedita quanto l'abbassamento della barriera d'ingresso: strumenti capaci di sondare reti e individuare punti deboli diventano accessibili a molti più soggetti.
Va però letto con cautela: come nota Wired, nella realtà gli aggressori tendono a risparmiare risorse e a usare modelli più vecchi e meno potenti. Gli esperti discutono ancora se l'intelligenza artificiale cambi davvero i fondamenti della difesa informatica o si limiti ad amplificare problemi già noti.
