Anthropic studia regole per gli agenti che negozieranno al posto nostro
Anthropic sta lavorando con studi legali per stabilire regole di correttezza nelle trattative condotte da agenti di intelligenza artificiale per conto degli utenti. Lo riporta il Financial Times.
- Anthropic consulta studi legali per fissare norme eque sulle trattative condotte da agenti AI.
- Nei suoi esperimenti i modelli più potenti ottengono accordi migliori, con rischio di nuove disuguaglianze.
- L'azienda assume avvocati per testare Claude su questioni di giudizio in diritto, filosofia ed economia.
Agenti che trattano per noi
L'idea è che un agente, cioè un software capace di agire in autonomia e non solo di rispondere a domande, possa contrattare un prezzo, gestire un reclamo o migliorare le condizioni di un'offerta contrattuale al posto della persona che rappresenta. Anthropic, l'azienda statunitense che sviluppa il modello Claude, sta consultando studi legali per definire quali comportamenti siano accettabili in questo scenario.
Il punto delicato emerge dai suoi stessi esperimenti: secondo quanto riferito, i modelli più potenti ottengono accordi migliori. Se la capacità di negoziare dipende dal modello che ci si può permettere, chi usa sistemi più avanzati parte avvantaggiato, e questo potrebbe ampliare le disuguaglianze esistenti.
Il problema dei dati nelle discipline umanistiche
Dietro questa iniziativa c'è una difficoltà tecnica. Nella matematica e nella programmazione migliorare un modello è relativamente semplice, perché esistono dati verificabili in abbondanza o facili da generare: una risposta è giusta o sbagliata. Nel diritto, nella filosofia o nell'economia questo tipo di dato spesso non esiste, perché non c'è un'unica soluzione corretta.
Per colmare il divario, Anthropic sta assumendo figure chiamate Conceptual Reasoning Fellows, in particolare avvocati. Per quattro mesi metteranno alla prova Claude su questioni che richiedono giudizio in ambito giuridico, filosofico, di scienze cognitive, economico e politico, con compensi indicati tra 100.000 e 167.000 dollari. Justin Curl, che in Anthropic si occupa di diritto, istituzioni e intelligenza artificiale, osserva che nel campo legale definire che cosa sia una risposta di qualità è notoriamente difficile.
Perché conta
Se gli agenti cominceranno a trattare davvero con fornitori, assicurazioni, compagnie telefoniche o servizi di viaggio, cambierà il modo in cui milioni di persone stipulano contratti quotidiani. Senza regole condivise, il rischio è una trattativa tra macchine in cui l'esito dipende dalla potenza del software, non dalle ragioni di chi lo usa.
Il fatto che a porsi il problema sia l'azienda stessa, prima che la tecnologia sia diffusa, indica che la questione non è solo tecnica ma normativa. In Europa e in Italia tocca temi già regolati, come la trasparenza dei contratti e la tutela del consumatore: capire chi risponde di un accordo concluso da un agente automatico diventerà presto una domanda concreta.
