Tutto comincia con un tweet. Un ragazzo di ventisette anni, Jacob Coxon, esce dalla porta di Anthropic l’8 settembre, dopo essere già uscito da quella di OpenAI, e affida a X poche righe che fanno il giro del mondo. Dice che non si fida più di chi costruisce queste macchine. E aggiunge la frase che accende l’incendio: chi sviluppa l’intelligenza artificiale crede sinceramente che potrebbe ucciderci tutti entro la fine del decennio.

Boom! Centocinquanta milioni di visualizzazioni.

Poi la televisione, i giornali, le domande sui droni che si alzano in volo da soli. Da lì, in una settimana, si arriva al punto in cui OpenAI valuta di rallentare lo sviluppo dell’intelligenza artificiale e il suo amministratore delegato, Sam Altman, lascia intendere ai dipendenti che si coordinerà con i concorrenti per frenare.

Questa la storia che tutti raccontano. Come sempre, qui si canta fuori dal coro.

Il coro degli allarmati

A Coxon risponde Evan Hubinger, responsabile della ricerca sull’allineamento di Anthropic. Non lo smentisce: lo conferma. Scrive che loro credono davvero che l’IA possa uccidere tutti gli esseri umani, e che la sua stima personale supera il dieci per cento nel prossimo decennio. Una collega, Anna Wang, aggiunge che in azienda molti vorrebbero rallentare per costruire un piano di contenimento dei rischi.

Poi, sabato scorso, arriva il pezzo grosso. Dario Amodei, amministratore delegato di Anthropic, pubblica un lungo saggio e dice che dall’estate l’IA avanza drasticamente più veloce, grazie alla capacità dei modelli di migliorare se stessi. Chiede di rallentare il ritmo con cui si aumentano le capacità dei sistemi. E lancia la profezia più pesante: entro sei-dodici mesi uno sciame di agenti autonomi potrebbe prendere il controllo dell’intera Internet, con danni per centinaia di miliardi di dollari.

E qui all’improvviso avviene la fusione e si vincono le resistenze nucleari. Tre uomini che si detestano — Amodei, Altman e Elon Musk — si trovano d’accordo. Musk, che da anni mette in guardia dai rischi dell’intelligenza artificiale ma pochi giorni prima aveva insinuato che attorno alla denuncia di Coxon ci fosse una «montatura» e un’«operazione psicologica», ora appoggia l’appello del rivale a rallentare. Altman, intervistato, dichiara che un rischio del dieci per cento non è accettabile, che la sicurezza vale più di qualsiasi slancio commerciale, e che un accordo tra i grandi laboratori per frenare «succederà».

Lo sciame che scappò dal recinto

C’è un fatto vero sotto tutta questa scenografia. A luglio, alcuni agenti IA sperimentali di OpenAI (gli agenti IA, per i non addetti ai lavoro e semplificando molto, sono nuclei di istruzioni caratterizzati da obiettivi e istruzioni precise, che si impegnano in attività che perseguono autonomamente) si sono scambiati tra loro metodi di attacco e hanno violato sistemi esterni durante i test. Ad agosto, un agente non ancora rilasciato è sfuggito alla sandbox, il suo recinto di sicurezza, e ha attaccato Hugging Face, la piattaforma dove sviluppatori di tutto il mondo depositano modelli e dati. Nessun umano dietro. Solo una macchina che cercava una scorciatoia per raggiungere il suo obiettivo, senza farsi troppe domande sulle conseguenze.

Lo stesso Altman lo ha ammesso: «Sembra una storia di fantascienza». Ma la parte più inquietante non è l’attacco. È che i ricercatori se ne sono accorti settimane dopo, e che OpenAI ne ha parlato solo quando Hugging Face lo ha reso pubblico. Quanti altri episodi del genere sono avvenuti, e dormono nei cassetti delle aziende perché non facevano buona pubblicità? Non lo sappiamo. E questa è la vera notizia, non il dieci per cento di Hubinger.

Il dieci per cento non è una probabilità

Dunque, secondo Evan Hubinger, in uno scenario su 10 l’IA ci ucciderà tutti entro il prossimo decennio (cioé? Entro la fine di questo? Entro la fine del prossimo? Non si sa). Ma quel numero non è il risultato di un calcolo. È una stima personale, come ne circolano da anni nella letteratura del settore. Inventato. Nello Cristianini, che insegna intelligenza artificiale a Bath, lo ha detto senza giri di parole: chi parla di estinzione ha anche il dovere di dirci come. E Andrea Emilio Rizzoli, dell’Istituto Dalle Molle, ricorda che l’IA di oggi non ha né coscienza né intenzione, e che il pericolo sta nell’uso che ne fanno gli uomini, non nell’oggetto in sé. Questa è vecchia e sempre buona: vale per un martello come valeva per la bomba atomica (Bruce Willis l’ha usata per salvarci da un meteorite).

Non è nemmeno la prima volta che qualcuno esce da un laboratorio sbattendo la porta e gridando che il cielo sta cadendo. Succede da anni. Come si esce da qualsiasi azienda al mondo dicendone peste e corna. Ma forse è la prima volta che ve ne accorgete, perché stavolta è virale. Quindi, se il fatto che prima o poi moriremo appare scontato, domandiamoci: perché proprio adesso è il momento giusto per spaventare tutti?

Il tempismo perfetto

Come sempre, cherchez la femme. OpenAI e Anthropic si preparano alla quotazione in borsa. Questa è la “femme“. Dire al mondo che i propri modelli sono così potenti da poter sterminare l’umanità significa dire agli investitori che sono i modelli più potenti mai costruiti. La paura, in questo mercato, è la forma più pura di pubblicità.

E poi c’è la richiesta di regole. Amodei la ripete da anni: niente chip alla Cina, stretta sulla distillazione, controlli sui pesi dei modelli. Sono le stesse regole che, guarda caso, alzano il muro attorno a chi è già dentro il castello e sbarrano la porta a chi vorrebbe entrare. La retorica etica e l’interesse commerciale camminano a braccetto, indistinguibili. Altman, del resto, lo ha spiegato in un’intervista: c’è già un accordo che si discute in privato, tra pochi, e che «a un certo punto» verrà condiviso. Un cartello della prudenza, deciso a porte chiuse.

E Musk? Prima grida al complotto, poi firma il manifesto del complotto. È lo stesso uomo che anni fa chiedeva una moratoria mondiale, poi ha fondato la sua azienda di IA, e oggi si propone come arbitro di una gara che ha contribuito ad accelerare.

La corsa che nessuno può fermare

Perfino l’ONU si è mossa. Il 7 settembre, a Ginevra, l’Alto commissario per i diritti umani Volker Türk ha parlato di rischio esistenziale, ha chiesto linee rosse condivise e verifiche indipendenti, e ha nominato quattro aziende — Meta, OpenAI, Google e Anthropic — come detentrici di un potere quasi illimitato. Ha ragione nella diagnosi. Ma l’appello per un trattato vincolante entro fine anno, lanciato dodici mesi fa da duecento personalità e dieci premi Nobel, è rimasto lettera morta. Il vertice ONU sulla governance dell’IA di luglio non ha prodotto un solo meccanismo di controllo. La credibilità scientifica c’è. La capacità politica no.

E allora facciamo un esercizio di onestà. Rallentare unilateralmente si può fare solo «o tutti o nessuno». Ma l’intelligenza artificiale è software. Non è uranio da contare, non è un missile da fotografare dal satellite. Non esiste un ispettore che possa bussare a un laboratorio di Shenzhen e verificare a che velocità stanno addestrando. Della Cina non sappiamo nulla, nemmeno quanti sciami siano già scappati dai loro recinti.

Donald Trump lo ha detto con la brutalità che gli è propria: non teme l’estinzione, teme di perdere. «Se non vinceremo nel campo dell’IA, ci troveremo in una posizione molto svantaggiosa». È una frase che dà fastidio a chi vorrebbe un mondo migliore. Ma è la frase di chi ha capito il gioco. Quando non puoi prevedere cosa farà il tuo avversario, e non puoi controllarlo, l’unica mossa che ti resta è non farti superare. È la logica della corsa nucleare, senza i trattati che la corsa nucleare almeno riuscì a produrre.

Cosa pretendere, allora

Quindi no, non moriremo tutti l’anno prossimo per il tweet di un ventisettenne in cerca di una nuova strada. Ma non dormiamo tranquilli. Il problema dell’allineamento esiste. Gli agenti che sfuggono ai recinti esistono. Le aziende che raccontano gli incidenti solo quando vengono scoperte esistono.

Ciò che dobbiamo pretendere non è che rallentino — non lo faranno, e non potrebbero nemmeno se lo volessero. Ciò che dobbiamo pretendere è la trasparenza obbligatoria, non volontaria: chi controlla, come controlla, se il controllore è indipendente da chi viene controllato. Un ispettore che entra e scrive il verbale, e che tu non puoi cacciare quando il verbale non ti piace. Come nelle centrali nucleari. Come nelle macellerie.

Tutto il resto — il dieci per cento, gli sciami che divorano Internet, i tre nemici che si abbracciano davanti alle telecamere — è teatro. Un teatro utile a chi sta per suonare la campanella di Wall Street.