DeepMind mette una filigrana invisibile nelle proteine create dall'AI
Google DeepMind ha pubblicato una ricerca che propone di inserire una filigrana invisibile nelle proteine progettate dall'intelligenza artificiale. L'obiettivo è poter riconoscere le molecole che arrivano da laboratori affidabili e sottoporre tutto il resto a controlli più attenti.
- DeepMind propone di marchiare le proteine progettate dall'AI con una filigrana invisibile.
- La tecnica deriva da SynthID e distribuisce il segnale nella sequenza di amminoacidi.
- Serve a distinguere le molecole di provenienza affidabile da tutte le altre.
Il problema della biosicurezza
Gli strumenti di progettazione di proteine basati sull'intelligenza artificiale hanno già prodotto risultati notevoli, come enzimi capaci di digerire la plastica o di bloccare le proteine dei veleni. Le stesse tecniche, però, potrebbero essere usate per creare tossine o modificare il comportamento di proteine virali.
Come spiega Ars Technica, il software che oggi serve a individuare sequenze di DNA potenzialmente pericolose non riconosce le proteine progettate dall'AI, semplicemente perché nessuno le ha ancora studiate abbastanza da classificarle come minacce. Il rischio era stato segnalato quasi un anno fa, senza che emergesse una contromisura chiara.
Come funziona il watermark
L'idea nasce da SynthID, la tecnologia di Google che marchia testi e immagini generati dall'AI. Il meccanismo agisce sulle probabilità delle scelte compiute dal modello: la distorsione introdotta si distribuisce in modo sistematico lungo tutto il prodotto finale. Senza conoscere la chiave di codifica non si può individuare la filigrana, e quindi non si può rimuoverla.
Applicarlo alle proteine è molto più difficile. Le proteine sono fatte di soli 20 amminoacidi, ciascuno potenzialmente essenziale per la struttura o per l'attività della molecola, e sono «piccole»: una proteina da 500 amminoacidi è già grande, mentre un'immagine contiene milioni di pixel. Il team di Google è partito da ProteinMPNN, uno degli strumenti di progettazione più diffusi, sviluppato dal laboratorio di David Baker, e ha distribuito il segnale lungo la sequenza senza compromettere la funzione della proteina.
Perché conta
La biosicurezza è uno dei quattro ambiti citati anche nell'accordo appena firmato alla Casa Bianca, segno che il tema è considerato centrale tra i rischi dell'AI. La filigrana non impedisce a nessuno di progettare molecole pericolose, ma cambia l'approccio: invece di cercare di riconoscere le minacce una per una, permette di certificare ciò che proviene da fonti note.
Per laboratori, università e aziende che sintetizzano sequenze su richiesta, anche in Italia, uno strumento del genere potrebbe diventare un filtro pratico: se una sequenza non porta il marchio, merita un esame più approfondito prima di essere prodotta.
Fonti
- Ars Technica: Google figures out how to watermark AI-designed proteins