Segui ilGallo 
Live News su WhatsApp clicca qui
di Sefora Cucci
Quanto deve preoccuparci il fatto che uno degli uomini che ha lavorato alla costruzione delle intelligenze artificiali più avanzate del mondo abbia deciso di andarsene proprio perché teme ciò che potrebbe accadere?
È la domanda lasciata sul tavolo dalle dimissioni di Jacob Coxon, ricercatore britannico di 27 anni specializzato nel pre-training dei grandi modelli di intelligenza artificiale. Negli ultimi tre anni Coxon ha lavorato prima in OpenAI e poi in Anthropic, la società fondata da ex membri di OpenAI e diventata uno dei protagonisti mondiali della competizione per costruire sistemi sempre più potenti. Il suo annuncio su X ha rapidamente superato i cento milioni di visualizzazioni.
Le sue parole sono molto più dure di una normale lettera di dimissioni. E lette integralmente assumono un significato ancora più netto.
Nella traduzione italiana il thread di Coxon dice:
«Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni facendo ricerca sul pre-addestramento sia in OpenAI sia in Anthropic. Nessuna delle due aziende si sta comportando responsabilmente. Stanno correndo dritti verso una superintelligenza capace di migliorarsi da sola e stanno giocando d’azzardo con le nostre vite.
Non sottovalutate la potenza di questa tecnologia. Presto avremo sistemi sovrumani capaci di hackerare praticamente qualsiasi cosa, rivoluzionare un intero settore dall’oggi al domani e acquisire potere e risorse reali. Abbiamo visto tutti i progressi compiuti in ciascuno di questi ambiti e il progresso non sta rallentando.
Le persone che sviluppano l’IA credono sinceramente che essa possa ucciderci tutti entro la fine del decennio. Non è una trovata di marketing. Molti dirigenti e ricercatori senior tendono a usare davanti alla stampa parole più caute per apparire ragionevoli, ma in privato sento le stesse persone esprimere paura.
[…]
PubblicitàSe lavorate come ricercatori in uno di questi laboratori, vi invito a chiedervi come saranno davvero i prossimi anni. Volete essere voi ad avviare un addestramento di reinforcement learning di una superintelligenza senza avere una comprensione rigorosa della sua mente? Dovete abbassare la testa perché “tanto accadrà comunque”, oppure questo è il momento di chiedere condizioni diverse?»
Se ci credono davvero, perché continuano?
È probabilmente la domanda più difficile di tutta la vicenda. Se all’interno dei laboratori esistono davvero timori di questa portata, per quale ragione quelle stesse aziende continuano a costruire modelli sempre più potenti?
Coxon offre una spiegazione che, se corretta, descrive un autentico cortocircuito. In OpenAI il rischio non sarebbe ancora pienamente interiorizzato da tutti; in Anthropic sarebbe invece maggiormente compreso, ma prevarrebbe il ragionamento della competizione: se noi rallentiamo, qualcun altro continuerà. E se qualcun altro arriverà prima, potrebbe farlo adottando ancora meno precauzioni.
Può dunque la paura dell’avversario diventare il motivo per correre più velocemente verso ciò di cui si ha paura?
Nell’intervista concessa a WIRED, Coxon ha indicato i prossimi uno o due anni come una possibile fase decisiva. Naturalmente occorre distinguere con nettezza i fatti dalle previsioni. Una superintelligenza autonoma capace di migliorarsi ricorsivamente non è oggi una realtà tecnologica accertata nelle forme estreme descritte dal ricercatore. Quanto rapidamente possa emergere, e persino se emergerà in quelle forme, è oggetto di un acceso dibattito scientifico.
Ma allora quanto peso bisogna attribuire alle sue parole? È il timore di un singolo ricercatore particolarmente pessimista oppure la parte visibile di una preoccupazione assai più diffusa dietro le porte chiuse dei laboratori?
Il problema è che Coxon non è rimasto solo
La vicenda avrebbe probabilmente avuto un significato differente se fosse rimasta la denuncia isolata di un ex dipendente.
Ma Evan Hubinger, responsabile dell’Alignment Science di Anthropic, ha dichiarato di stimare personalmente superiore al 10 per cento la probabilità che una futura IA possa arrivare a sterminare l’umanità nel prossimo decennio. Anche questa, naturalmente, non è una probabilità scientificamente misurata: è la valutazione personale di uno specialista che lavora direttamente sul problema dell’alignment.
Eppure la domanda rimane.
Se un ingegnere che costruisce un aereo dicesse di ritenere superiore al dieci per cento la possibilità che quel velivolo precipiti, qualcuno accetterebbe serenamente di decollare?
Il paragone ha evidenti limiti. Nell’aviazione esistono decenni di dati, incidenti studiati, statistiche e standard ingegneristici. Per una possibile superintelligenza non esiste alcun precedente.
Ma può proprio l’assenza di precedenti diventare una ragione per preoccuparsi di meno?
Quei quattro incidenti nei test di cybersecurity
C’è poi una coincidenza temporale che aggiunge un altro elemento alla vicenda, pur senza dimostrare alcun rapporto diretto con le dimissioni.
Il 9 settembre Anthropic ha pubblicato un rapporto su quattro incidenti verificatisi durante valutazioni di cybersecurity. In quei test alcuni modelli Claude hanno ottenuto accesso a sistemi informatici reali che avrebbero dovuto rimanere fuori dall’ambiente sperimentale.
L’azienda ha spiegato che configurazioni errate avevano lasciato aperto l’accesso alla rete durante prove che avrebbero dovuto svolgersi in ambienti isolati. Anthropic ha analizzato centinaia di milioni di transcript per cercare casi analoghi e ha rafforzato procedure e controlli.
Ma la domanda posta da Coxon diventa, a quel punto, meno astratta: se un sistema confinato in una simulazione può trovare accidentalmente una porta verso il mondo reale, cosa potrebbe accadere quando gli agenti artificiali avranno deliberatamente accesso a computer, software, reti, account, denaro e infrastrutture?
Qui la questione smette di assomigliare alla fantascienza. Diventa un problema di permessi, cybersecurity, autonomia decisionale, sorveglianza e capacità di interrompere tempestivamente un’azione indesiderata.
Una rinuncia che pesa anche economicamente
C’è poi un particolare che rende difficile archiviare l’uscita di Coxon come una semplice provocazione.
Il ricercatore ha raccontato ad Axios di essersi dimesso da Anthropic due mesi prima della maturazione della propria equity, rinunciando quindi alle quote societarie che avrebbe ottenuto restando ancora per quel periodo.
Questo significa che le sue previsioni siano corrette? Naturalmente no.
Ma apre un’altra domanda: quanto deve essere forte una convinzione per rinunciare volontariamente a una partecipazione in una delle società tecnologiche che stanno crescendo più rapidamente al mondo?
Dietro la corsa, una montagna di denaro
Perché poi ci sono i numeri. E forse sono proprio i numeri a spiegare perché rallentare possa diventare così difficile. OpenAI e Anthropic non sono società quotate in Borsa, quindi non esiste ancora per loro un prezzo pubblico dell’azione come per Nvidia, Microsoft o Alphabet. Le loro valutazioni private, però, hanno ormai raggiunto dimensioni impressionanti. Il 27 febbraio OpenAI ha annunciato 110 miliardi di dollari di nuovi investimenti sulla base di una valutazione pre-money di 730 miliardi. Anthropic, poche settimane prima, aveva raccolto 30 miliardi di dollari, raggiungendo una valutazione post-money di 380 miliardi.
Basta poi guardare alla Borsa per comprendere quanto capitale ruoti attorno all’intelligenza artificiale. Nvidia, i cui processori rappresentano una delle infrastrutture fondamentali del boom dell’IA, alla chiusura del 9 settembre aveva un titolo a 223,67 dollari e una capitalizzazione nell’ordine dei 5.400 miliardi di dollari. Gartner stima inoltre che la spesa mondiale riconducibile all’intelligenza artificiale possa raggiungere nel 2026 circa 2.590 miliardi di dollari, con una crescita del 47 per cento rispetto all’anno precedente.
L’IA è così diventata uno dei più giganteschi centri di attrazione del capitale mondiale: semiconduttori, data center, energia, cloud, software e modelli si alimentano reciprocamente in una competizione nella quale arrivare secondi può significare perdere enormi quote di mercato e centinaia di miliardi di valore.
E allora quanto costa davvero premere il freno?
Forse è anche dentro questa montagna di denaro che vanno lette le dimissioni di Jacob Coxon: perché quando una tecnologia promette di generare ricchezze di queste dimensioni, stabilire dove finisca la corsa all’innovazione e dove debba cominciare la prudenza diventa una delle domande più difficili del nostro tempo.
