L’esperto di IA Stuart Russell: «Stiamo giocando alla roulette russa con l’umanità»
Il professor Stuart Russell, docente di informatica all’Università di Berkeley da quarant’anni e autore del manuale di riferimento sull’intelligenza artificiale studiato da generazioni di ricercatori — compresi, afferma, molti degli attuali CEO delle principali aziende del settore — è tornato a sollevare con forza la questione della sicurezza dei sistemi di IA in una lunga intervista pubblicata il 31 maggio 2026 sul canale YouTube Diary of a CEO. Le sue posizioni, già note alla comunità scientifica internazionale, trovano ora una vasta eco pubblica.
Il «problema del gorilla» e la perdita di controllo
Nel video, Russell illustra quello che definisce il «problema del gorilla»: così come i gorilla non hanno alcun potere decisionale sul proprio destino perché gli esseri umani sono più intelligenti di loro, allo stesso modo l’umanità potrebbe trovarsi nella medesima condizione rispetto a un’intelligenza artificiale superintelligente. «L’intelligenza è il fattore più importante per controllare il pianeta», afferma nel colloquio. «E noi stiamo costruendo qualcosa di più intelligente di noi».
Il professore respinge l’argomento, spesso avanzato nei commenti online, secondo cui basterebbe «staccare la spina» per neutralizzare un sistema pericoloso. «Come se una macchina superintelligente non ci avesse già pensato», osserva con ironia, ricordando che la competenza — non la coscienza — è il vero elemento da considerare.
I CEO sanno ma non si fermano
Uno dei passaggi più rilevanti dell’intervista riguarda le conversazioni private che Russell dichiara di avere avuto con esponenti di vertice del settore tecnologico. Secondo quanto riferisce, molti di loro sarebbero consapevoli dei rischi ma si sentirebbero impossibilitati a uscire dalla corsa: «Sanno che c’è una buona probabilità di mettere fine alla vita sulla Terra, ma ritengono di non poter fare altrimenti. Se un CEO decidesse di fermarsi, verrebbe semplicemente sostituito».
Russell cita a sostegno il fatto che numerosi leader del settore — tra cui, stando alle sue parole, Sam Altman di OpenAI, Dario Amodei di Anthropic ed Elon Musk — abbiano pubblicamente riconosciuto rischi di estinzione stimati tra il 25 e il 30 per cento, pur continuando a sviluppare i propri sistemi. «Stanno giocando alla roulette russa con ogni essere umano sulla Terra, senza il nostro permesso», afferma il professore nel video.
Uno dei CEO di una delle principali aziende di IA — che Russell non identifica — gli avrebbe confidato che il modo migliore per indurre i governi a regolamentare il settore sarebbe un disastro di portata paragonabile a Chernobyl: un incidente causato, ad esempio, dall’uso improprio dell’IA per ingegnerizzare una pandemia o dal collasso di sistemi finanziari o infrastrutturali critici.
Il confronto con il progetto Manhattan e la «presa gravitazionale» verso l’AGI
Russell pone in prospettiva storica le dimensioni degli investimenti in corso: il progetto Manhattan per lo sviluppo dell’arma nucleare, rivalutato in dollari del 2025, costò circa venti miliardi di dollari. Il budget previsto per lo sviluppo dell’intelligenza artificiale generale (AGI) potrebbe raggiungere mille miliardi di dollari nel giro di un anno, cinquanta volte di più. «Non c’è mai stato nulla di simile nella storia», afferma il professore.
Riprende poi la metafora del «magnete economico»: il valore potenziale dell’AGI è stimato da alcuni in quindici quadrilioni di dollari, una forza attrattiva che, più ci si avvicina, diventa sempre più difficile da contrastare. Russell cita anche il concetto di «fast take-off», ovvero la possibilità che un sistema di IA sufficientemente avanzato inizi a migliorare autonomamente le proprie capacità in modo esponenziale, lasciando rapidamente gli esseri umani indietro.
Sul bottone per fermare tutto: «Metterei in pausa per cinquant’anni, non per sempre»
Interpellato sull’ipotetica possibilità di premere un pulsante che fermasse ogni progresso nell’IA, Russell fornisce una risposta articolata. Se la pausa fosse di cinquant’anni — tempo sufficiente per sviluppare sistemi matematicamente garantiti come sicuri e per ripensare l’organizzazione sociale — dichiara che lo farebbe. Se il blocco fosse permanente e immediato, senza alternative, probabilmente sì, ma con riluttanza: ritiene ancora esista «una discreta possibilità di correggere la rotta».
Critica con nettezza le politiche dell’attuale amministrazione statunitense, che descrive come orientata a evitare qualsiasi regolamentazione del settore, in parte — a suo dire — per effetto delle pressioni degli «accelerazionisti» di Silicon Valley. Contesta anche la narrativa secondo cui la Cina sarebbe del tutto priva di vincoli normativi: le regolazioni cinesi sull’IA, sostiene, sono in realtà piuttosto stringenti e prevedono esplicitamente il divieto di costruire sistemi che possano sfuggire al controllo umano.
Il futuro del lavoro e la domanda senza risposta
Nel corso dell’intervista, Russell affronta anche le ricadute sociali ed economiche dell’automazione spinta. Descrive un futuro in cui le professioni intellettuali — avvocati, medici, contabili — potrebbero essere sostituite da agenti di IA, e in cui l’umanità si troverebbe a fronteggiare una disoccupazione di massa senza avere ancora elaborato un modello di società funzionante in assenza di lavoro retribuito. Cita l’economista John Maynard Keynes, che già nel 1930 aveva anticipato il problema di come gli esseri umani avrebbero trovato significato in assenza di necessità economiche.
Tra le professioni con maggiori prospettive future, Russell indica quelle basate sulla relazione interpersonale e sulla comprensione dei bisogni umani: terapisti, coach, accompagnatori nelle fasi critiche della vita.
La soluzione proposta: IA «fedele» all’interesse umano
Sul piano tecnico, Russell illustra il proprio approccio di ricerca: costruire sistemi che non abbiano obiettivi propri prefissati, ma che apprendano progressivamente cosa vogliono gli esseri umani, mantenendo una residua incertezza su ciò che non comprendono ancora. «Dobbiamo rinunciare all’idea di specificare l’obiettivo», afferma. «Il sistema deve capire da solo cosa vogliamo, e laddove non è sicuro, deve astenersi dall’agire».
Chiude l’intervista con un appello diretto ai cittadini: contattare i propri rappresentanti politici. «Gli unici che parlano ai governi in questo momento sono le aziende tecnologiche con i loro assegni da cinquanta miliardi di dollari. Le persone devono far sentire la propria voce».
Fonti: