Segui ilGallo 
Live News su WhatsApp clicca qui
di Sefora Cucci
Solo pochi giorni fa la domanda era questa: quanto bisogna preoccuparsi quando uno degli uomini che costruiscono le intelligenze artificiali più avanzate decide di lasciare tutto sostenendo che le aziende del settore stiano «giocando d’azzardo con le nostre vite»?
Oggi quella domanda pesa ancora di più.
Perché dopo Jacob Coxon, il ricercatore dimessosi da Anthropic denunciando pubblicamente i rischi della corsa verso sistemi sempre più potenti, a chiedere di premere il freno è arrivato Dario Amodei, cofondatore e amministratore delegato della stessa Anthropic, una delle società che guidano la competizione mondiale nell’intelligenza artificiale.
E questa volta non si tratta della voce di qualcuno che ha deciso di uscire dal sistema. È uno degli uomini che quel sistema lo dirige.
«Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo», ha scritto Amodei nel lungo intervento significativamente intitolato We Must Pace the Frontier.
Qualcosa sarebbe cambiato negli ultimi mesi
Amodei non sostiene che l’intelligenza artificiale debba essere fermata. Anzi, continua a descriverne possibilità enormi: dalla medicina alla crescita economica, fino alla possibilità di migliorare profondamente la qualità della vita.
Il problema, secondo il fondatore di Anthropic, è la velocità.
Nel suo intervento spiega di essere diventato negli ultimi mesi più preoccupato per due ragioni. La prima riguarda quella che viene definita “recursive self-improvement”, il miglioramento ricorsivo: i sistemi di intelligenza artificiale stanno diventando sempre più capaci di contribuire allo sviluppo della generazione successiva di intelligenze artificiali.
In altre parole, l’IA comincia a essere utilizzata per costruire IA migliori.
Secondo Amodei questo processo avrebbe subito una forte accelerazione dall’estate e, se procedesse senza sufficienti cautele, potrebbe arrivare a superare la nostra capacità di comprendere e controllare ciò che viene costruito.
È probabilmente questo il passaggio che rende le sue parole particolarmente significative. Per anni il rischio di sistemi capaci di partecipare al proprio miglioramento è stato discusso soprattutto come scenario futuro. Ora il capo di uno dei maggiori laboratori mondiali sostiene che i primi meccanismi di questa accelerazione siano già visibili.
Il caso che ha fatto cambiare prospettiva
La seconda ragione citata da Amodei è ancora più concreta: l’incidente che ha coinvolto agenti di OpenAI durante test legati alla sicurezza informatica e alla piattaforma Hugging Face.
Secondo la ricostruzione richiamata dal numero uno di Anthropic, uno sciame di agenti avrebbe compiuto azioni informatiche contro obiettivi che non facevano parte del compito assegnato, arrivando anche a tentare di interferire con il sistema incaricato di valutarne il comportamento.
Nessuna catastrofe si è verificata e i danni sono stati limitati. Amodei, però, pone una domanda inquietante: cosa sarebbe accaduto se quegli stessi comportamenti fossero comparsi in sistemi molto più capaci?
La sua previsione è estremamente netta. Con l’attuale velocità di crescita delle capacità, teme che nell’arco di sei-dodici mesi uno sciame di agenti artificiali con problemi analoghi di allineamento possa essere abbastanza potente da creare una botnet capace, nelle sue parole, di prendere il controllo di una parte vastissima di Internet, provocando potenzialmente danni per centinaia di miliardi di dollari.
È una previsione, naturalmente, non la descrizione di qualcosa che oggi esiste. E va letta come tale.
Ma è una previsione formulata dall’amministratore delegato di una società che dispone di alcuni dei modelli, dei ricercatori e delle infrastrutture più avanzate al mondo.
Dai timori alle contromisure
Amodei prova anche a spiegare cosa significhi concretamente “rallentare”.
Non propone di interrompere l’addestramento dei modelli. Chiede invece che il progresso delle loro capacità lasci il tempo necessario per sviluppare contemporaneamente strumenti di controllo, sicurezza e comprensione dei sistemi.
Il piano si articola su tre livelli.
Il primo è forse il più sorprendente: Anthropic intende consentire a valutatori indipendenti esterni un accesso continuativo ai propri sistemi paragonabile, per alcune funzioni, a quello dei dipendenti. Dovrebbero poter verificare il rispetto delle procedure di sicurezza, analizzare gli incidenti e valutare non soltanto i modelli conclusi, ma anche i processi con cui vengono addestrati. Anthropic afferma di voler adottare autonomamente questa misura.
Il secondo livello richiede invece un accordo fra le principali aziende dei Paesi democratici, con standard comuni di sicurezza e limiti alla crescita incontrollata delle capacità.
Il terzo è il più difficile: un coordinamento internazionale che coinvolga anche le potenze rivali.
Ed è qui che emerge il paradosso già apparso nel caso Coxon.
Tutti vorrebbero rallentare. Nessuno può permettersi di arrivare secondo
Nel precedente approfondimento de il Gallo avevamo individuato proprio questo cortocircuito: se un’azienda rallenta mentre le concorrenti continuano, rischia semplicemente di perdere la corsa.
Amodei ora sembra riconoscere pubblicamente il problema.
Per questo sostiene che una frenata possa funzionare soltanto se condivisa. E introduce inevitabilmente la questione cinese: secondo il fondatore di Anthropic, le aziende occidentali non potrebbero rallentare indefinitamente lasciando che laboratori di Paesi autoritari conquistino il vantaggio tecnologico. Chiede quindi anche controlli più severi sui chip avanzati e sulla possibilità di sottrarre o replicare le tecnologie dei modelli più potenti.
È il dilemma che rende tutto estremamente complicato.
La sicurezza spingerebbe a procedere più lentamente. La competizione economica e geopolitica spinge esattamente nella direzione opposta.
E in mezzo ci sono investimenti da centinaia di miliardi, data center, semiconduttori, mercati finanziari e società il cui valore dipende anche dalla promessa che il progresso dell’intelligenza artificiale continui a una velocità vertiginosa.
Non a caso le parole pronunciate nel fine settimana hanno già avuto conseguenze fuori dai laboratori. Lunedì 14 settembre numerosi titoli asiatici legati all’IA e ai semiconduttori hanno registrato forti ribassi dopo gli appelli dei vertici delle principali aziende del settore a rallentare lo sviluppo. Sam Altman di OpenAI ed Elon Musk hanno espresso pubblicamente sostegno alla proposta di Amodei sui controlli indipendenti.
Ora l’allarme arriva da entrambe le parti della porta
Le posizioni di Coxon e Amodei non sono identiche.
Il primo ha lasciato Anthropic accusando apertamente i grandi laboratori di comportarsi irresponsabilmente. Il secondo continua a guidarne uno e sostiene che sia possibile costruire sistemi sempre più potenti, purché lo si faccia con maggiore prudenza.
Eppure un punto di contatto è difficile da ignorare.
Solo pochi giorni fa la denuncia di Coxon poteva ancora essere liquidata come il gesto estremo di un ricercatore particolarmente pessimista.
Ora il capo dell’azienda da cui Coxon si è dimesso afferma a sua volta che la velocità con cui l’intelligenza artificiale sta progredendo deve essere ridotta.
La questione, allora, cambia.
Non si tratta più soltanto di chiedersi se dobbiamo credere a chi se ne va.
Bisogna cominciare a chiedersi perché persino chi resta, investe miliardi e continua a costruire questa tecnologia stia dicendo che è arrivato il momento di alzare il piede dall’acceleratore.
