Stati Uniti, Cina e Russia stanno negoziando un’intesa per limitare l’uso dell’intelligenza artificiale nei sistemi di comando e controllo delle armi nucleari. L’obiettivo è fissare un principio comune: la decisione di lanciare un ordigno atomico deve restare a un essere umano e mai a un algoritmo. Il dossier sarebbe al centro dei contatti che preparano il vertice Apec (Asia-Pacific Economic Cooperation, il forum di cooperazione economica dell’area Asia-Pacifico) in programma a Shenzhen la prossima settimana. A margine del summit potrebbero incontrarsi Donald Trump, Xi Jinping e Vladimir Putin.

La notizia circola da ieri. A darla è stata la stampa di Hong Kong, che cita persone a conoscenza dei colloqui. Secondo Kantan.News, le delegazioni dei tre Paesi stanno lavorando da settimane per trasformare la questione in un impegno condiviso.

IA e armi nucleari, cosa c’è sul tavolo di Usa, Cina e Russia

I contatti tra le tre capitali riguarderebbero il formato e i contenuti di un possibile vertice trilaterale. Il cuore della discussione è il perimetro di autorità da concedere all’intelligenza artificiale in tre ambiti: i sistemi di allerta precoce, i software di individuazione dei bersagli e i meccanismi che portano alla decisione di lancio.

Stando a quanto riportato da Kantan.News, sul tavolo ci sarebbero testi di protocollo in forma di dichiarazioni congiunte o vincolanti. Lo scopo è impedire che un sistema autonomo possa avere autorità di lancio. Le squadre tecniche dei tre Paesi continuerebbero a riunirsi per definire il testo prima dell’appuntamento di Shenzhen.

Altri dossier sono stati accantonati. La guerra in Ucraina e la denuclearizzazione della penisola coreana resterebbero fuori dall’agenda prioritaria, perché su questi temi le posizioni restano distanti. Washington vorrebbe aggiungere anche il controllo degli armamenti nucleari in senso stretto. Pechino finora ha opposto resistenza, anche per la differenza di dimensioni tra il proprio arsenale e quelli di Stati Uniti e Russia.

Intelligenza artificiale e deterrenza nucleare, il rischio dei minuti

La ragione tecnica della trattativa è nota agli specialisti. I modelli di apprendimento automatico usati nella difesa analizzano i dati dei sensori e riducono a pochi minuti i tempi di decisione. Nella rilevazione dei missili balistici anche i secondi contano. Un errore dell’algoritmo, oppure il cosiddetto data poisoning, cioè la manipolazione deliberata dei dati con cui un sistema viene addestrato, potrebbe innescare una catastrofe.

Secondo Kantan.News, la supervisione dei sistemi militari di intelligenza artificiale viene considerata l’elemento di equilibrio più praticabile in una fase in cui gli accordi tradizionali sul controllo degli armamenti si indeboliscono. Se l’intesa andasse in porto, rappresenterebbe il primo passo di consenso trilaterale sui limiti dell’IA nelle strategie nucleari.

Il precedente di Lima: l’intesa Biden-Xi sul controllo umano

Il principio ha un precedente. Il 16 novembre 2024, a margine del vertice Apec di Lima, Joe Biden e Xi Jinping affermarono per la prima volta in una dichiarazione congiunta la necessità di mantenere il controllo umano sulle decisioni relative all’uso delle armi nucleari. L’allora consigliere per la Sicurezza nazionale americano, Jake Sullivan, la definì «una base per poter lavorare insieme sulla riduzione del rischio nucleare» e sulla sicurezza dell’IA.

Quel risultato era arrivato dopo un percorso lento. Nel novembre 2023, a San Francisco, i due leader avevano avviato un dialogo intergovernativo sull’intelligenza artificiale. Le indiscrezioni su un accordo per limitare l’IA negli arsenali atomici si erano poi tradotte soltanto in un generico impegno ad affrontare i rischi dei sistemi avanzati. Il primo incontro tecnico si tenne a Ginevra nel maggio 2024.

Gli Stati Uniti si erano già impegnati nel 2022 a mantenere sempre un essere umano nel processo decisionale sull’uso dell’arma atomica. La Cina non aveva assunto un impegno analogo. Paul Scharre, esperto di IA del Center for a New American Security, osservava allora: «Garantire un controllo umano rigoroso sulle armi nucleari sembra un’asticella bassa da superare per un accordo sull’IA militare».

Dopo Lima, gli analisti di Concordia AI avevano letto l’intesa come un segnale: Pechino lasciava aperta la porta al dialogo anche in vista del cambio di amministrazione a Washington. Due anni dopo, quella porta si allarga e coinvolge Mosca.

Cina e governance dell’IA, la linea di Pechino all’Onu

Il tema del controllo umano è da tempo un punto fermo della diplomazia cinese. Nell’ottobre 2024, al Consiglio di sicurezza delle Nazioni Unite, l’ambasciatore cinese Fu Cong definì la sicurezza e la controllabilità un «requisito minimo» dello sviluppo tecnologico e affermò che l’IA deve restare sempre sotto il controllo umano. Nella stessa occasione criticò le politiche del «piccolo cortile e alto recinto», riferimento alle restrizioni americane sull’export di tecnologie, sostenendo che rischiano di spingere il mondo verso lo scontro.

Pechino ha poi promosso all’Onu, insieme allo Zambia, un «Gruppo di amici» per la cooperazione sulle capacità in materia di IA, con la partecipazione di oltre ottanta Paesi. Anche la ricerca cinese insiste sul tema. Uno studio dell’Università Fudan ha rilevato che alcuni grandi modelli linguistici riescono ad autoreplicarsi senza assistenza umana nella maggioranza delle prove sperimentali. Lo Shanghai AI Lab propone «linee rosse» per i rischi estremi.

Trump, Putin e Xi, un tavolo a tre senza l’Europa

La trattativa dice molto degli equilibri attuali. Le tre potenze nucleari scelgono un terreno tecnico, dove la convergenza è possibile, e lasciano fuori i dossier che dividono. È il metodo di Trump: pragmatico, disposto a separare i temi e a trattare con chiunque possa garantire un risultato. Per Mosca è l’occasione di tornare a un tavolo con Washington da interlocutore alla pari. Per Pechino è la conferma di una linea coltivata da anni nei fori multilaterali.

L’Unione europea resta fuori. Mentre a Bruxelles il dibattito ruota attorno all’aumento delle spese militari, la gestione del rischio nucleare viene discussa altrove, tra Washington, Pechino e Mosca.

Resta fuori anche la guerra in Ucraina, che continua a produrre vittime. L’accantonamento del conflitto conferma che il canale tra Washington e Mosca procede su binari paralleli: dialogo dove c’è un interesse comune, distanza dove gli interessi divergono.

Il testo sull’intelligenza artificiale nel comando nucleare dovrebbe essere definito dalle squadre tecniche prima del vertice di Shenzhen. Sarà quella la sede in cui i tre leader potrebbero dargli forma politica.