Matematici contro OpenAI: l'associazione di Tao chiede il boicottaggio
L'Association for Human Mathematics, presieduta dal medaglia Fields Terence Tao, ha chiesto ai matematici di smettere di collaborare con OpenAI dopo la pubblicazione di centinaia di dimostrazioni generate dall'intelligenza artificiale. Per l'associazione non si tratta di ricerca scientifica, ma di una dimostrazione di potere.
- L'Association for Human Mathematics chiede di boicottare OpenAI dopo 719 manoscritti generati dall'IA.
- Solo 10 manoscritti includono la catena di ragionamento; il 42% delle prove non è formalizzato.
- Un lavoro di Cambridge e King's College segnala discrepanze nella soluzione su Navier-Stokes.
Oltre 700 manoscritti in un colpo solo
OpenAI ha diffuso 719 manoscritti con presunte soluzioni a problemi aperti di matematica. Molti testi sono così densi e scritti in modo insolito che, secondo The Decoder, perfino gli esperti hanno bisogno dell'aiuto dell'IA per decifrarli, quando ci riescono.
L'associazione accusa OpenAI di aver violato norme fondamentali della ricerca scientifica e definisce il rilascio in blocco non una prova di studio, ma una prova di forza. Nel testo si fa riferimento anche alle numerose cause per copyright che l'azienda affronta nel mondo, lasciando intendere che questi risultati siano stati possibili addestrando i modelli sul lavoro dei matematici.
Le regole non rispettate
OpenAI aveva creato un gruppo consultivo, l'AGMAI, ospitato dall'Institute for Advanced Study di Princeton e composto da nove ricercatori. La prima raccomandazione del gruppo era smettere di testare problemi matematici avanzati su modelli proprietari: l'azienda, invece, dichiara esplicitamente di valutare i propri modelli su problemi di ricerca aperti.
Secondo TechCrunch, solo 10 dei 719 manoscritti includono la catena di ragionamento del modello, e il 42% delle dimostrazioni non è stato formalizzato, cioè tradotto in Lean, il linguaggio di programmazione che in teoria verifica la correttezza di una prova compilandola come codice. Un lavoro di ricercatori di Cambridge e del King's College di Londra ha documentato almeno due discrepanze tra la versione in linguaggio naturale e il codice Lean della soluzione proposta da OpenAI per un problema derivato dalle equazioni di Navier-Stokes.
Tao ha osservato che i problemi vengono risolti da chi non ha interesse per il campo e non capisce abbastanza l'output del modello per rispondere a domande o tenere seminari. Il complessologo Scott Aaronson ha parlato di Mathocalypse e ha contrapposto il metodo di Anthropic, che ha collaborato con due ricercatori pagandoli perché scrivessero una versione comprensibile della dimostrazione.
Perché conta
La disputa riguarda una domanda di fondo: un problema può dirsi risolto prima che una prova sia stata verificata e resa comprensibile dagli esseri umani? Venticinque medaglie Fields hanno già denunciato un grave disallineamento tra gli obiettivi dell'industria dell'IA e quelli della matematica, dove risolvere problemi è solo uno strumento per arrivare alla comprensione concettuale. È lo stesso nodo che si ripropone in ogni disciplina, dalla medicina alla fisica, quando i modelli producono risultati più velocemente di quanto la comunità scientifica riesca a controllarli.
