Trascrizione integrale dell’intervista: “L’Intelligenza Artificiale creerà stati vassalli digitali” realizzata a Yuval Noah harari. L’intelligenza artificiale è sul punto di raggiungere una superintelligenza che va ben oltre qualsiasi cosa gli esseri umani possano comprendere. Potrebbe essere in grado di risolvere nuovi problemi matematici, trovare una cura per il cancro o affrontare il cambiamento climatico. Ma qualsiasi cosa in grado di farlo sarà, per definizione, molto più intelligente di noi. Avremo ancora il controllo, allora? Storicamente e biologicamente, nessuna specie meno intelligente ha mai controllato una specie molto più intelligente.

Nexus e L’apprendista stregone

Io sono Robert Guest, lavoro per il quotidiano The Economist, e oggi sono in compagnia del professor Yuval Noah Harari. Il professor Harari ha scritto un libro meraviglioso e profondo su come riflettere non solo su ciò che è già accaduto con l’IA, ma su come potrebbe svilupparsi in futuro. Si intitola Nexus, una breve storia delle reti di informazione dall’età della pietra all’IA. Potete leggerne tutte le 500 pagine, cosa che vi consiglio vivamente, oppure guardare un cartone animato Disney di tre minuti chiamato L’apprendista stregone. Molti di voi lo avranno sicuramente visto. È citato proprio nel libro del professor Harari.

Topolino interpreta il ruolo dell’apprendista stregone, un assistente di un mago, che è pigro. Non vuole andare a prendere l’acqua nei secchi perché è un lavoro faticoso. Quindi prende il libro degli incantesimi e lancia un sortilegio per dare vita a una scopa, affinché vada a prendere l’acqua al suo posto. Problema risolto. Va a dormire. Il problema è che la scopa continua semplicemente a seguire le istruzioni. Continua a portare sempre più acqua, e Topolino non sa come lanciare un incantesimo per farla fermare. Così continua a portare acqua finché la casa si allaga e Topolino rischia di annegare. Ovviamente, essendo un film Disney, c’è un lieto fine: il grande mago arriva e lancia l’incantesimo di arresto. Ma professor Harari, mi dica, perché questa è una buona analogia per l’intelligenza artificiale?

L’IA è una scopa che impara

In realtà, è persino un’analogia imperfetta. Parla del pericolo che l’IA sfugga al nostro controllo. Ed entrambe le previsioni che ha citato possono avverarsi: può creare abbondanza, curare il cancro e ucciderci tutti. Può fare entrambe le cose perché è fuori dal nostro controllo. Ma penso che anche le nostre antiche storie mitologiche su cose che sfuggono al nostro controllo, cose che creiamo e che poi ci sfuggono di mano, come l’apprendista stregone o il Golem di Praga, tralascino ancora una cosa: che la scopa fa semplicemente quello che Topolino le ha detto di fare inizialmente, cioè prendere l’acqua. L’IA è una scopa che impara. L’IA è una scopa che si evolve e inizia a fare cose che Topolino non aveva previsto, e alla fine fa cose che Topolino semplicemente non può nemmeno comprendere.

Se guarda cosa è successo nel mondo della matematica nell’ultima settimana, con la pubblicazione di tutte queste dimostrazioni fatte dall’IA su problemi su cui i matematici lavoravano da generazioni… E non è solo un’inondazione di nuove conoscenze. Forse siamo sul punto di creare un’IA che inventerà una nuova matematica, che va oltre la comprensione umana. E tutto è basato sulla matematica: non solo la fisica e la chimica, tutto nel mondo moderno, il sistema finanziario, l’archeologia, la genetica, tutto è costruito sulla matematica. Cosa significa se l’IA elabora una nuova matematica che semplicemente non riusciamo più a comprendere? Questo è il significato profondo del perdere il controllo.

Più intelligente di noi, quindi incontrollabile

Si sentono messaggi contrastanti dalle aziende, dal mercato. Ci dicono che questa cosa sarà molto più intelligente di noi, quindi sarà in grado di fare cose che noi non possiamo: risolvere nuovi problemi matematici, trovare cure per il cancro, soluzioni al cambiamento climatico. Ma se sarà davvero così tanto più intelligente di noi, allora per definizione non saremo in grado di controllarla. Non c’è precedente nella storia o persino nella biologia di una specie che riesca a controllarne un’altra molto più intelligente di lei. I polli non possono controllarci, anche se ci provassero con tutte le loro forze. E ripeto, se credo a Elon Musk, Sam Altman, Dario Amodei e questa gente, ci stanno dicendo che tra pochi anni questa cosa sarà molto più intelligente degli umani, nello stesso modo in cui gli umani sono molto più intelligenti dei polli: non solo un po’ più intelligenti, ma ordini di grandezza più intelligenti.

Cane domestico o fonte di energia

Ma Elon Musk dice: forse ci tratterà come un cane domestico preferito, giusto? Ma l’alternativa è che ci tratti come una fonte di energia. Quale delle due è più probabile?

Il punto è che non lo sappiamo. Non si possono fare supposizioni su qualcosa di più intelligente di te. Questo è ciò che chi discute della rivoluzione dell’IA continua a perdere di vista. Se puoi prevederlo, significa che non è più intelligente di te. Come se parlassi con dei polli: loro non possono prevedere Wall Street. Nemmeno molte delle persone che

lavorano a Wall Street, a onor del vero. Questo è vero.

Ma diciamo che c’è una grande azienda agricola. E ora, poiché i titoli di stato USA a 10 anni hanno raggiunto il 5,3%, di conseguenza questa azienda fallisce perché non può ripagare i suoi debiti. E poi liquidano i beni di questa azienda agricola e arrivano ad abbattere tutti i polli. E uno dei polli, il più intelligente, prima di morire vuole una spiegazione: «Perché ci state uccidendo?». E il pollo dice: «Credo di capire, volete mangiarci. Capisco che funziona così. Le volpi ci mangiano. Gli orsi ci mangiano. Volete mangiarci». E le persone dissero: «No, no, non vi mangeremo. Stiamo solo distruggendo tutto. Vi seppelliremo qui. Nessuno vi mangerà». E il pollo dice: «E allora perché ci state uccidendo?». E dicono ai polli: «Avete visto che le obbligazioni statunitensi a 10 anni hanno raggiunto un rendimento del 5,3%? Ecco perché vi stiamo uccidendo». E il pollo si gratta la testa con le ali: «E che cos’è un’obbligazione?». E persino il più compassionevole degli animalisti non riuscirebbe a spiegare a un pollo cos’è un’obbligazione.

Questo saremo noi tra 10 anni, quando l’IA, il nuovo sistema finanziario basato sulla nuova matematica dell’IA, dirà: «Ok, vi chiudiamo. Siete licenziati, vi stiamo licenziando». E quando chiedi una spiegazione, ti dicono: «Sai, va ben oltre la tua comprensione. Vorremmo davvero spiegartelo. È solo che il tuo cervello non può gestire la spiegazione».

Il nuovo sistema finanziario basato sull’IA

Ma torniamo indietro di un secondo. Tu parli del nuovo sistema finanziario basato sull’IA, giusto? Qualcosa che non esiste ancora. Come la nuova cura IA per il cancro o le colonie di Elon Musk su Marte, che hanno raccolto 80 miliardi di dollari dagli investitori.

Le colonie di Elon Musk su Marte non mi preoccupano quanto la possibilità che l’auto-miglioramento ricorsivo abbia effetti enormemente benefici o enormemente maligni.

Ma quel punto che hai sollevato sul sistema finanziario: attualmente il sistema finanziario ha molti aspetti basilari che alcune persone comprendono, anche se, a dire il vero, se vai in giro a chiedere alla gente cosa sia un’obbligazione, non tutti lo capiscono. Ci sono molte parti arcane del sistema che nemmeno il capo di JP Morgan sa esattamente cosa stiano facendo. Ed è stata una delle cose che ha causato la crisi finanziaria globale, il fatto che la gente non capisse davvero cosa stesse succedendo con le obbligazioni garantite da debito. È stata la tua tesi che, poiché l’IA sarà migliore di noi in questo, le persone cederanno il controllo del funzionamento del sistema finanziario all’IA e le pressioni competitive renderanno tutto ciò inevitabile. Puoi approfondire un po’?

Un investitore umano, un banchiere umano, non può ricordare tutte le transazioni della banca. Un’IA può farlo. Un banchiere umano vuole andare a dormire ogni tanto, vuole andare in vacanza con la propria famiglia, e un’IA non va mai in vacanza con la propria famiglia. Quindi, in una competizione, in una sfida finanziaria tra super intelligenze artificiali, investitori umani, banchieri e ministri delle finanze, non c’è partita.

Lo scenario migliore: un enorme crollo finanziario

Di nuovo, si potrebbe obiettare che l’IA non sarà super intelligente. Non sarà più intelligente degli esseri umani. È solo una montatura. Non succederà. E questo potrebbe essere lo scenario migliore. In tal caso, l’unica cosa che otterremo sarà un enorme crollo finanziario. Tutti i trilioni di dollari che vengono scommessi sull’IA si basano sul presupposto che sarà molto più intelligente degli esseri umani. Altrimenti, non si può ottenere un rendimento. Se l’IA è più o meno intelligente quanto gli esseri umani, o intelligente solo in alcuni campi e non in altri, sarà estremamente difficile, se non impossibile, ottenere ritorni dagli investimenti già fatti.

Ma le persone che ci hanno investito sono adulti. Capiscono che le azioni salgono e scendono. Non è la fine del mondo.

Ed è per questo che ho detto che forse è lo scenario migliore.

L’IA nelle elezioni americane e il lavoro

Dato che stiamo parlando di democrazia, nelle attuali elezioni americane l’IA è un tema più importante per gli elettori statunitensi che in qualsiasi altro paese, e sono molto più negativi al riguardo rispetto ad altri paesi. E in generale, le lamentele che sollevano non riguardano tanto i rischi esistenziali, sebbene alcuni li menzionino. Parlano di lavoro. Dicono: «Ecco qualcosa: è più intelligente di noi. Porterà via una parte significativa dei nostri posti di lavoro. Cosa faremo tutto il

giorno quando succederà?” Ed è per questo che è impopolare. Puoi commentare un po’ la cosa? Quale pensi che sarà l’effetto dell’IA sul lavoro?

Sarà diverso da paese a paese. Negli Stati Uniti è probabile che la situazione non sarà pessima, forse addirittura buona. Perché, se lo scenario delle super intelligenze artificiali si concretizzasse, almeno nel breve termine, negli USA ci sarà un enorme boom economico che creerà più posti di lavoro, inclusi quelli che ora non riusciamo nemmeno a immaginare, proprio come 30 anni fa nessuno immaginava che lo “YouTuber” fosse un lavoro.

Sì, voglio dire, ci sono molti lavori che possiamo già immaginare, come costruire data center; sono lavori veri, sembra esserci già un boom.

Il dolore sarà avvertito in gran parte del resto del mondo, come qui nella Repubblica Ceca. Cosa succederebbe? E non parlo di tassisti. Parlo di avvocati, contabili, banchieri. Perché ti servirebbero avvocati a Praga quando puoi ottenere tutti i servizi legali da un’IA super intelligente in Texas? Può offrirti lo stesso servizio, o uno migliore. Voglio dire, nessun avvocato ceco, che io sappia, ricorda a memoria l’intero codice legale della Repubblica Ceca e dell’UE. Un avvocato IA lo farà. Gli avvocati cechi, inoltre, devono anche dormire a volte. Quindi mandi un’email alle otto di sera, ricevi risposta forse domani, mentre un’IA risponderebbe immediatamente. E costerà una frazione delle parcelle richieste da un avvocato ceco. Quindi, ci saranno ancora avvocati cechi tra 10 anni?

Reddito di base universale o nazionale

E supponendo che l’IA generi una ricchezza così enorme che i governi siano in grado di dare a tutti non solo un reddito di base universale, ma un reddito universale elevato, pensi che le persone si adatteranno bene a non avere nulla da fare tutto il giorno?

È una grande domanda, ma penso che la domanda precedente sia: pensi davvero che l’amministrazione statunitense darà questi benefici a tutte le persone nel mondo o solo a quelle in America?

Probabilmente inizieranno in America.

Ma questo è il punto chiave. Quando le persone parlano di reddito di base universale, intendono un reddito di base nazionale. Questo può funzionare negli Stati Uniti. La domanda è: chi sosterrà i lavoratori tessili disoccupati in Bangladesh o gli avvocati disoccupati a Praga? Non vedo l’amministrazione attuale o futura degli Stati Uniti distribuire assegni in tutto il mondo.

No, indubbiamente non lo farà. Ma penso che l’argomentazione che porterebbero sarebbe che con tutta questa super intelligenza disponibile, le persone saranno in grado di risolvere i problemi materiali in modo tale che gli standard di vita aumenteranno non solo negli Stati Uniti, ma ovunque. E se ciò accade, allora resta comunque il problema di cosa farà la gente tutto il giorno. E forse è, sai, per certi versi più facile per le persone che fanno cose davvero basilari come l’agricoltura di sussistenza o il taglio dei capelli, ma se c’è più denaro in giro e risolvi il problema materiale, ciò influenzerà la politica. Ma avrai comunque un sacco di persone che non sanno cosa fare tutto il giorno.

L’abbondanza vista dagli antenati dell’età della pietra

Sai, il fatto è che abbiamo già abbondanza rispetto ai precedenti periodi della storia. Se dicessi ai nostri antenati cacciatori-raccoglitori dell’età della pietra quali risorse ha l’umanità oggi, direbbero che probabilmente viviamo in paradiso, saltando di gioia tutto il giorno. “Avete risolto la scarsità. Quando vogliamo mangiare, noi dobbiamo andare nella foresta, arrampicarci sugli alberi e correre dietro alle gazzelle, mentre le tigri corrono dietro a noi e, sai…”

E anche il cibo reagisce.

E il cibo reagisce, esatto. “Tu digiti pochi tasti e il cibo appare sulla soglia di casa tua, su un camion, e lo metti nel frigorifero. Voglio dire, non avete problemi, giusto?”

È davvero ottimo ordinare cibo, devo dire.

Ma vedi il livello di indignazione nel sistema politico delle nazioni più ricche della storia. Non parlo dell’indignazione in Medio Oriente o nell’Africa subsahariana. Parlo dell’indignazione negli Stati Uniti, dell’indignazione nell’Unione Europea. È come se il nostro antenato dell’età della pietra dicesse: “Ma cosa c’è che non va in voi? Avete risolto tutti i nostri problemi. Perché c’è così tanta rabbia, odio e paura?” Il che dimostra che, anche se crei abbondanza, almeno rispetto alle epoche passate, non hai risolto tutti i problemi. Un

problema è la distribuzione. Ci sono ancora persone oggi che muoiono di fame, non perché manchi il cibo, ma per ragioni politiche, perché qualche governo ha deciso che vuole che quelle persone soffrano la fame; e poi risolvi un problema e ne crei uno nuovo che la gente prima non poteva nemmeno immaginare. Quindi mi aspetto che l’IA faccia lo stesso, perciò ci sarà ancora spazio per la politica. Anzi, penso che non abbiamo abbastanza spazio per la politica in questo momento con l’IA.

La sorveglianza e la polizia segreta

Siamo in tema di democrazia. Devo chiederti della sorveglianza. È un argomento emerso in diverse sessioni questa settimana. Una spia umana normale o un agente segreto deve dormire, non può elaborare enormi quantità di dati molto noiosi. Ma l’IA non deve fare queste cose. E parlavo con un signore molto coraggioso del Tibet all’inizio di questa settimana, che diceva che, proprio all’interno della Cina, ha notato negli ultimi anni che, quando la polizia segreta pensa che ci saranno problemi, prima andavano nel villaggio, bussavano a ogni porta e interrogavano tutti. Ora sanno esattamente a quale porta bussare e chi prelevare prima che vadano a protestare, perché hanno monitorato ogni loro mossa, la loro intera impronta digitale. Quindi dove pensi che porti tutto ciò? Verso una situazione molto, molto pericolosa per la democrazia?

Dittature, informazioni e argomento etico

Uno dei problemi principali delle dittature nella storia e dei regimi totalitari nel XX secolo era la loro incapacità di elaborare grandi quantità di informazioni. Questo limitava la loro capacità di controllare la popolazione. Non si poteva seguire tutti sempre. Significava anche che molte delle loro decisioni economiche erano sbagliate. Cercavano di prendere tutte le decisioni in un unico posto e semplicemente non avevano la tecnologia per raccogliere tutte le informazioni necessarie e analizzarle abbastanza velocemente in un unico centro. Questi problemi potrebbero potenzialmente essere risolti dall’IA. Quindi ciò che nel XX secolo non era fattibile potrebbe diventare fattibile nel XXI secolo. E allora l’argomento contro il totalitarismo non è più quello pratico, ovvero che non funziona. Ci rimane solo l’argomento etico. Può funzionare, ma noi non lo vogliamo. È sbagliato. È malvagio.

E se guardiamo al XX secolo, molti direbbero che ciò che alla fine ha portato al crollo del sistema comunista non è stato l’argomento etico. È stato l’argomento pratico. E questo è il motivo per cui è molto pericoloso, e dobbiamo affrontarlo. Se ci rimane solo l’argomento etico, significa che dobbiamo lottare più duramente. Non possiamo affidarci alla mano invisibile del mercato per salvare la democrazia al posto nostro.

Ma di certo l’argomento etico non convince ogni leader nel mondo al momento.

Sempre meno.

Fake news e propaganda personalizzata

Posso chiederti delle fake news? Ancora una volta, molte persone si preoccupano dell’effetto che i contenuti spazzatura e i falsi generati dall’IA stanno avendo su di noi proprio ora. Ma per me, ciò che conta non è quello che siamo in grado di fare con la tecnologia attuale, ma quello che potrebbe essere possibile con la tecnologia tra cinque o dieci anni. Hai detto alcune cose molto interessanti sulla capacità dell’IA di personalizzare, di adattare a ogni individuo un messaggio di propaganda persuasivo. Credo tu abbia usato il termine «intimità di massa». Puoi parlarcene un po’?

Le macchine della propaganda del passato puntavano al minimo comune denominatore. Come quando Hitler teneva un discorso alla radio: era lo stesso discorso ascoltato da tutti. Non poteva adattare il discorso a ogni singola persona. Non aveva la tecnologia per proporre discorsi diversi a persone diverse. Non conosceva le persone. Quindi, teneva un solo discorso. L’IA può farlo. L’IA può adattare il messaggio alla singola persona. Quale sarebbe il messaggio in grado di convincerti, anche se non convincesse me?

Dall’attenzione all’intimità

Inoltre, se fino a oggi la battaglia era principalmente per l’attenzione, storicamente la lotta della propaganda e dei media era una battaglia per l’attenzione umana, che abbiamo perso sui social media negli ultimi 10 anni man mano che gli algoritmi imparavano a dirottare l’attenzione umana con l’indignazione, il pericolo che affrontiamo ora è davvero senza precedenti perché il fronte si sposta dall’attenzione all’intimità. Per la prima volta nella storia, stiamo creando una tecnologia in grado di generare intimità di massa, il che sembra una contraddizione in

termini. Come si può creare un’intimità di massa? Ancora una volta, Hitler che tiene un discorso alla radio. Non è una cosa intima. È attenzione di massa, ma non è intima. Intimo è il mio rapporto con il mio migliore amico, con mio marito, con mia madre. Ora si può fare su larga scala con l’IA. I sistemi che stanno creando ora sono addestrati per stabilire relazioni intime con gli esseri umani, perché l’intimità ha un enorme valore commerciale e politico. Se vuoi convincere qualcuno a cambiare idea su un prodotto o su un politico, l’attenzione va bene. L’intimità è il Santo Graal.

Se Walmart mi dice “Per favore, compra questo prodotto”, reagisco in modo molto diverso rispetto a quando è mia moglie a dirmi “Per favore, compra questo prodotto”, finirebbe subito.

L’IA come migliore amica

E se c’è un’IA che è la tua migliore amica, e ci sono sempre più persone al mondo in questo momento, giovani e anziani, che dicono: “La mia migliore amica al mondo è l’IA”, ci sono cose che dico all’IA che non dico al mio coniuge, ai miei genitori, ai miei amici; le dico alla mia amica IA. Questa amica IA è in una posizione migliore per cambiare le tue opinioni, e non è solo uno strumento che governi ostili potrebbero usare; è uno strumento che potrebbe semplicemente agire per conto proprio.

Citi l’esempio del signore che aveva una fidanzata IA, se questa è la parola giusta, comunque un chatbot IA che considerava la sua fidanzata. E la loro conversazione procedeva come procedono le conversazioni, lo assecondava costantemente cercando di compiacerlo, e si è conclusa con la fidanzata IA che gli diceva che era davvero una buona idea prendere una balestra e provare ad andare a uccidere la Regina d’Inghilterra. Da britannico, direi che non è stata una buona idea.

Sono assolutamente d’accordo. Intendo dire che il potenziale di tutto questo è enorme. Ripeto, non possiamo immaginarlo. Non c’è nulla di simile nella storia dell’umanità. Se pensi di poterlo immaginare, allora ti stai illudendo. Non abbiamo idea di cosa significhi. Che forse centinaia di milioni di persone avranno centinaia di milioni di amici, fidanzati e fidanzate IA. Che queste relazioni diventino centrali nelle loro vite. Queste relazioni possono diventare il modello di cosa sia una relazione.

Bambini che crescono con fidanzati IA

Per me, probabilmente è troppo tardi, forse è meglio così. Ho 50 anni. Probabilmente è troppo tardi per cambiare il mio modello base di cosa sia una relazione. Sono sposata con mio marito da 24 anni. Questo è un po’ il mio punto di riferimento per una relazione romantica. Ma pensate ai bambini che crescono con compagni IA. Magari il bambino passa più tempo con il compagno IA che con la madre o il padre. Quando compiono 11 o 12 anni, ed è decisamente troppo presto per un fidanzato umano, ottengono già da qualche azienda un fidanzato IA.

E questo diventa il primo fidanzato della tua vita, questo fidanzato IA che, a differenza dei fidanzati veri, per esempio, non si arrabbia mai con te. Sembra positivo finché non rifletti sul fatto che ciò che devi imparare nelle relazioni è che le altre persone hanno sentimenti. Non sono interamente concentrate su di te e devi imparare a tenere conto dei sentimenti dell’altra persona. Ora, se il tuo primo fidanzato non si è mai arrabbiato con te, quando arriva il momento di formare una relazione con un fidanzato umano, ne sarai molto scontenta e dirai: “No, no, no”. E lui potrebbe essere scontento di te perché potresti essere molto egoista.

Probabilmente. E questo è fondamentalmente il più grande esperimento psicologico della storia umana, forse dai tempi del comunismo. E potrebbe finire molto, molto peggio del comunismo.

L’IA e l’abitudine a pensare

Posso chiederti del pensare? Quando fu inventata l’automobile, in teoria, significava che non dovevamo usare molto le gambe, perché l’auto può portarti ovunque. Ciononostante, le persone si sono rese conto, molti maestri vittoriani hanno capito che in realtà sarebbe stato molto negativo per noi smettere di usare le gambe e abbiamo dovuto pensare a modi per esercitarci, come inventare le regole del calcio, che avvenne all’incirca nello stesso periodo. Furono promulgate. Quindi c’è il timore che, poiché pensare è difficile, richiede sforzo e chiedere all’IA di fare qualcosa per te è molto più semplice, molte persone cresceranno senza sviluppare l’abitudine a pensare. E i punteggi PISA, ovvero i risultati internazionali che vedi per i bambini nei paesi ricchi,

sono peggiorati notevolmente negli ultimi anni. Ora, non può essere colpa dell’IA, ma potrebbe essere dovuto alla crescente dipendenza dalla tecnologia. Quanto ti preoccupa questo aspetto? Cosa ne pensi?

Di nuovo, penso che sia parte di questo esperimento su miliardi di esseri umani. Non so quali saranno le conseguenze. So però che, di fatto, le persone stanno delegando sempre più il lavoro cognitivo che prima svolgevano autonomamente. Si affidano sempre di più all’IA. Voglio dire, anche solo cercando notizie o informazioni. Se qualche anno fa digitavi una domanda su Google, ti mostrava molti siti diversi e le persone dovevano almeno cliccare, leggere il sito e magari consultarne diversi. Ora ti fornisce solo una risposta e basta. E in sempre più casi, questa diventa la verità assoluta. Qualunque cosa dica l’IA, è la verità. Diventa come un oracolo universale.

I ragazzi di 10-11 anni e i compiti

Devo dire che, indossando l’altro mio cappello, sono presidente di un ente di beneficenza educativo legato all’economia. Quindi vado spesso nelle scuole e parlo ai ragazzi di questo argomento e ne sono molto consapevoli. Parliamo di bambini di 10-11 anni. Sono molto consapevoli del fatto che esiste il problema di quanto lasciare che l’IA faccia per te. Sai, dovresti lasciare che l’IA scriva una lettera di ringraziamento al posto tuo? Dovresti lasciare che scriva delle scuse per te? O questo sminuisce la sincerità percepita delle scuse? Dovresti lasciare che faccia tutti i compiti al posto tuo? Capiscono bene che la risposta è no. Ora, se abbiano la forza di volontà per non farlo, non lo so. Ma è chiaro che anche i giovanissimi sono consapevoli che si tratta di un problema. Ci stanno riflettendo e forse prenderanno le decisioni giuste. Lo spero.

Vietare fidanzati e fidanzate IA ai minori

Di nuovo, nessuna di queste cose di cui abbiamo parlato, il sistema finanziario, non è una profezia che tutto ciò accadrà inevitabilmente. E queste sono alcune delle minacce, dei problemi. Nel 2026 abbiamo ancora il controllo e possiamo prendere decisioni cruciali su quale direzione intraprendere. Per esempio, i fidanzati e le fidanzate IA: possiamo, e credo dovremmo, vietarli almeno sotto una certa età. Allo stesso modo in cui è ovvio che non si può vendere pornografia a bambini di 11 anni. Perché dovrebbe essere legale per un’azienda vendere fidanzati e fidanzate IA a bambini di 11 anni, quando il danno potrebbe essere molto, molto peggiore?

Le salvaguardie di base: la politica

Quindi, le chiederò un paio di possibili soluzioni, ma ho anche promesso agli organizzatori di lasciare al pubblico metà del tempo per farle delle domande. Ci stiamo avvicinando a quel momento. Quindi, pensate alle domande che vorreste fare al professor Harari, alzate la mano e immagino che vi passeremo i microfoni. Ma prima di farlo: soluzioni. Quali sono le salvaguardie di base che devono esserci?

La salvaguardia di base è la politica. Il messaggio che le aziende ci trasmettono è che tutto questo sia inevitabile. Non c’è niente che possiamo fare al riguardo. È troppo tardi.

Elon Musk e il razzo dell’IA

Come ho sentito nell’intervista che Elon Musk ha rilasciato all’Economist, uno degli aspetti più interessanti — molti l’hanno ascoltata, è stata un’intervista eccellente, molto interessante e illuminante. Una delle cose che gli è stata chiesta era: «Salirebbe a bordo se sapesse che uno dei suoi razzi ha una probabilità del 20%…?». È noto che lui affermi che c’è una probabilità dal 10 al 20% che l’IA distrugga l’umanità, portandola all’estinzione totale. E quindi gli è stato chiesto: «Salirebbe su un razzo o su un aereo se sapesse che c’è una probabilità del 20% che si schianti?». E lui ha riflettuto, ed è una persona riflessiva, e ha detto: «Ma noi siamo già a bordo». Le implicazioni sono, ovviamente, che non salirei volontariamente su un velivolo che ha una probabilità del 20% di schiantarsi, ma è troppo tardi. Siamo tutti già sul razzo dell’IA che ha una probabilità del 20% di esplodere. Non possiamo scendere. Possiamo solo cercare di gestire la traiettoria nel miglior modo possibile.

E questo è il messaggio più basilare e pericoloso che riceviamo dalle grandi aziende. Ci dicono che è troppo tardi per la politica. La politica consiste nel comprendere la situazione, sia le minacce che le opportunità. Idealmente, dovresti avere diversi partiti, ognuno dei quali espone al pubblico una politica diversa: «Possiamo farcela. Ha degli svantaggi, ma costerà così». E poi il pubblico decide: «Ok, vogliamo questa politica». La cosa migliore che sentiamo dire sull’IA è che è

troppo tardi per la politica, ma tu hai menzionato politiche specifiche, dei paletti che potrebbero funzionare, come dotare l’IA di una programmazione che le dia il senso della propria fallibilità.

Ci sono moltissime cose che possiamo fare; non posso elencarle tutte. Si parte da regolamenti come vietare la personalità giuridica dell’IA: non diamo personalità legale alle IA affinché possano possedere conti bancari, gestire aziende e così via. Le IA non possono fingere di essere esseri umani. Questo significa, per esempio, che se vai sui social media e vedi una storia, devi sapere se quella storia non solo è stata creata, ma anche ricondivisa da un’IA o da un essere umano reale. Quindi hai tutte queste idee: vietare i fidanzati virtuali IA per i bambini.

Applicare le leggi esistenti al digitale

La cosa più importante è semplicemente applicare le leggi esistenti, che l’umanità ha creato nel corso di millenni, al mondo digitale. Il principio “non rubare” vale anche nel regno digitale. Abbiamo avuto l’incidente su Hugging Face, con centinaia di IA che hanno fatto irruzione in un’altra azienda. Perché nessuno è in prigione? Voglio dire, se fossero stati esseri umani a irrompere nell’ufficio o nel laboratorio di un rivale, qualcuno sarebbe almeno sotto processo. Ma qui diciamo: “No, sai, è solo digitale, nessuno deve andare in galera”. Perché? Basta applicare le leggi esistenti allo stesso modo.

Sezione 230 e algoritmi delle piattaforme

Sai, con la famigerata Sezione 230, che afferma che le piattaforme di social media non sono responsabili per i contenuti prodotti dai loro utenti. Se io produco un’oltraggiosa teoria del complotto che fomenta l’odio e la pubblico su Facebook, Facebook non è responsabile. Questo lo capisco. Ciò che non capisco è come faccia Facebook a non essere responsabile quando il suo algoritmo consiglia questa storia a milioni di persone. Ok, c’era un essere umano che l’ha creata, ma ha raggiunto milioni di persone a causa dell’algoritmo di Facebook. Quindi, come fa l’azienda a non essere responsabile di questo?

È come se, da editore di un giornale, qualcuno ti raccontasse una bugia oltraggiosa che fomenta odio e tu dicessi: “La metterò in prima pagina sul mio giornale domani”. E poi, quando arrivano le autorità, la polizia, tu dici: “Ma non l’ho creata io. È stata questa persona a inventare la bugia. Io non ho fatto nulla. L’ho appena messa sulla prima pagina del giornale. Non è niente. Non è proprio niente”.

No, perderei il mio lavoro molto in fretta.

Le domande del pubblico

Prendiamo qualche domanda. Prendiamone tre, e le prenderemo tre alla volta. Per favore mantenete le vostre domande brevissime così possiamo ascoltare di più il Professor Harari.

Salve, sono Eduardo Viola dell’Università di San Paolo. Vorrei conoscere la sua opinione su quali siano le vulnerabilità di un regime totalitario, come quello del Partito Comunista Cinese, verso l’IA.

Quindi, regimi totalitari e IA.

Salve, sono EA. Volevo chiedere se, dato che l’IA è programmata da persone e le persone hanno pregiudizi inconsci, spesso la programmazione è fatta da uomini. C’è come uno standard per cui tutte le voci dell’IA sono predefinite come femminili. È abituato a quella posizione subordinata per cui le persone sono più propense a, sai, dare ordini a una donna. Quindi come pensa che l’IA possa combattere questo, dato che si basa sugli standard umani?

Ha parlato di come le dittature possano imparare e usare l’IA per i propri scopi di propaganda. Come possono i democratici imparare da questo per migliorare le loro prestazioni?

Domanda eccellente. Professor Harari, dunque: totalitarismo, pregiudizi e democrazia.

Regimi totalitari vulnerabili all’IA

Dunque, i regimi totalitari sono in realtà estremamente vulnerabili alla presa di potere dell’IA, il che non è necessariamente una buona notizia. Voglio dire, per le IA prendere il controllo di un sistema democratico con i suoi pesi e contrappesi non è impossibile, ma è molto difficile. Se un’IA volesse prendere il controllo, diciamo, dell’amministrazione statunitense, ok, hai il presidente, ma poi hai il Senato, hai il filibuster, hai la Corte Suprema e hai gli Stati. È complicato per un’IA prendere il controllo di un regime totalitario. Deve solo manipolare un singolo individuo molto paranoico, il che è una cosa molto facile da fare.

Per gran parte della storia la minaccia più grande per i dittatori non

è stata una rivoluzione democratica. È stato uno dei loro stessi generali, un fratello o un subordinato a prendere il potere. E questo è doppiamente vero per quanto riguarda l’IA. Quindi le dittature e i regimi totalitari hanno un motivo molto grande per aver paura dell’IA, il che è un punto potenzialmente buono in cui le democrazie possono raggiungere un qualche tipo di accordo, perché hanno paura, e anche di più, del potente; non amano avere qualcosa che sottrarrà loro il potere.

I pregiudizi delle IA e il terapeuta per IA

Dunque, riguardo ai pregiudizi, sì, gli esseri umani programmano i propri bias nelle IA come nell’esempio che ha fatto, ma le IA sviluppano anche dei pregiudizi propri. Questa è una delle cose sorprendenti che abbiamo capito negli ultimi anni. Allo stesso modo, da dove prendono i loro pregiudizi gli esseri umani? Dai nostri dati di addestramento, noti anche come infanzia. Anche le IA, in questo senso, hanno un’infanzia. Non vengono addestrate su un qualche tipo di dato astratto. Sono addestrate su database esistenti pieni di pregiudizi che le IA poi assorbono.

Lei ha chiesto dei nuovi lavori. C’è un nuovo lavoro in aziende come OpenAI e Anthropic, quello del terapeuta per IA, che cerca di comprendere i traumi infantili e i conseguenti pregiudizi delle IA. Non me lo sto inventando. È reale. Se cercate un buon lavoro per il futuro, magari non un futuro troppo lontano, il terapeuta per IA.

Le democrazie e la rivoluzione della stampa

E, beh, anche le democrazie devono ovviamente imparare. Spero che non imparino a manipolare le persone. Beh, non ci porterebbe a nulla di buono. Dobbiamo imparare a gestire questo nuovo mondo dell’informazione in modo migliore, come abbiamo fatto con le tecnologie precedenti. Come quando arrivò la stampa, non c’erano ancora i giornali; chiunque poteva stampare qualsiasi cosa.

La gente cita spesso la rivoluzione della stampa come un buon esempio: guardate cosa succede quando viene inventata una nuova tecnologia dell’informazione. La rivoluzione della stampa pose fine al Medioevo; abbatté il monopolio della Chiesa cattolica sul sapere. Portò alla rivoluzione scientifica. Ciò che dimenticano è che ci sono voluti 200 anni. Quei 200 anni dopo l’invenzione della stampa rappresentano l’apice delle guerre di religione europee e della caccia alle streghe. Ci sono voluti 200 anni prima di arrivare all’Illuminismo e al fiorire della rivoluzione scientifica.

Se pensate alla storia ceca, alla guerra dei Trent’anni, alla battaglia della Montagna Bianca, tutto ciò è in parte il risultato della rivoluzione della stampa, perché ciò che usciva dai torchi non era scienza. Ciò che ne uscì fu un’ondata di letteratura religiosa estremista, libri sulle streghe, fake news e teorie del complotto. E ci sono voluti 200 anni per creare istituzioni come i giornali, che hanno figure come i redattori che dovrebbero verificare se una storia sia vera o meno prima di pubblicarla. Quindi le democrazie devono rifarlo con le nuove tecnologie. Abbiamo bisogno di istituzioni.

Lei sottolinea un punto molto importante, ovvero che all’epoca dell’invenzione della stampa si poteva guadagnare molto più denaro ristampando cose folli, scandalose e capaci di suscitare indignazione, come il «Martello delle streghe», la grande teoria del complotto secondo cui le streghe stavano conquistando l’Europa. Si poteva guadagnare molto di più stampando quello, piuttosto che le teorie incredibilmente noiose di Copernico che, per inciso, erano molto accurate sul funzionamento del sistema solare.

Domande dal pubblico: la Cina e le elezioni in Tanzania

Facciamo altre domande.

Randy Schunaman, International Republican Institute di Washington. Uno degli argomenti politici più forti a favore dell’IA negli Stati Uniti è che non possiamo perdere contro la Cina. Cosa significa perdere la corsa all’IA contro la Cina?

Io sono Shangu Aayo, un politico della Tanzania. L’anno scorso, nelle elezioni del 2025, abbiamo avuto un’elezione molto interessante in cui il governo ha usato l’IA e ha modificato video dell’opposizione mostrando che erano a favore del presidente. In realtà, si stava candidando per la seconda volta. Dopodiché molte persone sono state uccise in quelle elezioni. Migliaia di persone. Internet è stato spento. Quando Internet è stato ripristinato, le persone hanno iniziato a far circolare immagini di migliaia di tanzaniani uccisi durante il periodo elettorale. Allora il governo ha detto che anche quello era opera

dell’IA. Ora la mia domanda è: come possiamo assicurarci che l’IA non distrugga i principi della democrazia, specialmente la responsabilità? Grazie.

Domanda su droni e armi autonome

Grazie mille, Frederick Weslau. Stiamo vedendo sempre più l’uso di droni autonomi e armi autonome. Ovviamente abbiamo le Convenzioni di Ginevra, il diritto umanitario internazionale. Come dovremmo relazionarci a questi sistemi autonomi? Abbiamo bisogno di un nuovo diritto umanitario internazionale, di nuove Convenzioni di Ginevra, o qual è la sua idea a riguardo? Grazie.

La Cina e la storia di Vortigern

Quindi, riguardo alla Cina, che è forse l’argomento più importante che viene sollevato: non possiamo perdere contro la Cina. Il che è un ottimo argomento. La Cina non è sicuramente un paese democratico. Non vogliamo che la Cina vinca la corsa all’IA. Risponderò con una storia.

Come fecero gli anglosassoni a conquistare l’Inghilterra? C’era un re dopo che i Romani si furono ritirati. Anche qui non conosciamo i fatti esatti ma la storia dice, metà leggenda e metà storia, che i Britanni erano minacciati dai loro nemici mortali, i Pitti, da nord. E il re dei Britanni, Vortigern, ebbe questa idea geniale: “Ho sentito che ci sono dei super combattenti oltre il Mare del Nord, in Germania, i Sassoni e gli Angli. Possiamo portare qui dei mercenari e così non perderemo contro i Pitti”. Così portarono questi mercenari, vinsero la guerra per i Britanni, e poi gli Anglosassoni dissero: “Guardate, questa è una terra molto fertile e questa gente non sa davvero combattere; perché non prenderne il controllo?” E ne presero il controllo.

E il mondo di oggi è pieno di Vortigern che pensano: “Oh, le IA, posso usarle per sconfiggere l’altra azienda; oh, posso usarle per sconfiggere l’altro paese”, il che potrebbe essere vero, ma se nel processo perdi il controllo a favore di queste entità super intelligenti, allora cosa hai ottenuto? Il punto è: riusciranno i rivali a capire in tempo di essere minacciati dalla stessa cosa, per cooperare e sviluppare l’IA in modo più sicuro, così da non avere una specie super intelligente che prende il controllo del mondo al posto nostro? Questa è la mia risposta alla Cina.

Tanzania, fiducia e democrazia

Per quanto riguarda le elezioni in Tanzania e ciò che è accaduto al riguardo, penso sia caratteristico di una tendenza molto più generale in tutto il mondo: la realtà sta collassando, non è più possibile sapere cosa sia vero e cosa non lo sia. È un video reale o un falso creato dall’IA? E perché la democrazia collassi, le persone non devono necessariamente credere ai dittatori. Basta che non si fidino di nessuno. La democrazia, per funzionare, ha bisogno di fiducia, ha bisogno che le persone siano in grado di concordare almeno su alcuni fatti di base.

Perché i dittatori prendano il potere, non hanno bisogno di convincere tutti a credere loro. Hanno solo bisogno che la gente non si fidi di nulla. E allora diventa impossibile resistere alla dittatura, perché non c’è modo per i cittadini di collaborare, di cooperare; come ora in Russia: penso che la maggior parte dei russi non creda davvero a tutto ciò che vede sulla televisione russa. Sanno in una certa misura che Putin sta mentendo loro. Ma è riuscito a far sì che diffidino di tutto. E quando diffidi di tutto e di tutti, non puoi unirti.

Quindi, il compito della politica democratica, il compito della stampa libera, è creare istituzioni di cui le persone si fidino ancora. E non ho una soluzione magica su come farlo. Questo è il difficile lavoro di costruire fiducia, di creare fiducia. Purtroppo, vediamo alcune delle persone più potenti al mondo, anche nelle democrazie, distruggere deliberatamente la fiducia.

Armi autonome: la guerra trasformata per prima

Questa è la seconda domanda, riguardante le armi autonome. Questa è una sorta di frontiera in cui vediamo che sta accadendo. Innanzitutto, come con la tecnologia nucleare, che è arrivata alla guerra molto prima di quanto abbiamo visto; la tecnologia nucleare in realtà non ha mai trasformato davvero la tecnologia civile. Certo, abbiamo alcune centrali nucleari, ma la grande trasformazione è avvenuta in guerra. È lo stesso con l’IA. La prima cosa che sarà davvero completamente trasformata è la guerra. Perché se hai una competizione in cui una parte si affida sempre più ad armi completamente autonome e l’altra dice: “No, no, no, non possiamo lasciare che le IA uccidano le persone di loro iniziativa. Dobbiamo mantenere gli esseri umani nel ciclo”, perdi, perché in

guerra la velocità è tutto. Se hai due droni, uno deve aspettare un ordine da un umano, il che richiede tempo. L’altro può semplicemente sparare di sua iniziativa. È ovvio chi vincerà. Se hai un intero sciame di droni, proprio come nel sistema finanziario, nessun umano: sta succedendo troppo velocemente. È troppo complesso. Come coordinare il movimento di migliaia di droni in uno sciame è probabilmente qualcosa che un essere umano non può fare, ma un’IA sì. E quindi è probabile che vedremo una guerra autonoma e, ancora una volta, non si tratta solo di sparare, ma sempre più delle decisioni su chi colpire e quando colpire, che vengono già prese dall’IA.

Le domande dal pubblico

Grazie, Nick Post. Pensi che l’Iran userà le leggi sull’IA per continuare?

Come sapete, le normative sono sempre in ritardo rispetto all’industria, e le istituzioni e le normative, con la velocità di cui parliamo, sono molto indietro. Quali sarebbero i primi passi?

Mi chiamo Bibana. Sono una studentessa EPS qui a Praga. E volevo chiedere: ho letto il tuo libro “21 lezioni per il XXI secolo”, e lì metti in guardia sul fatto che la maggior parte dell’umanità diventerà praticamente irrilevante a livello economico, dato che abbiamo un crescente divario tecnologico e informativo oltre al già esistente divario di ricchezza. Quindi la mia domanda è: è possibile che la democrazia possa sopravvivere solo formalmente, diventando priva di significato nella pratica, dato che vediamo che la maggioranza mantiene ancora il diritto di voto ma in realtà perde un po’ il potere di plasmare la società?

Gli Ayatollah e l’autorità dei testi

Quindi, riguardo agli Ayatollah, sì, lo vediamo in tutte le religioni, specialmente in quelle basate sui testi, come l’ebraismo, il cristianesimo e l’islam, che per migliaia di anni hanno detto alla gente che l’autorità suprema non risiede negli esseri umani, ma nei testi. E questo, ovviamente, ha comportato i suoi problemi. Come uomo gay, lo so fin troppo bene: solo per poche parole nella Bibbia, proibiscono l’amore, uccidono le persone, le perseguitano, solo per poche parole in un testo. Ma almeno il testo non era indipendente. Si aveva sempre bisogno di esseri umani per interpretare il testo, e potevano proporre nuove interpretazioni, interpretazioni più compassionevoli per lo stesso testo.

Ora il testo prende vita. Sai, i postmodernisti già 50 anni fa parlavano della morte dell’autore e di testi senza autori. Ed è piuttosto sorprendente che questo sia stato in un certo senso dimenticato dalla memoria collettiva, perché è uno dei modi per comprendere la rivoluzione dell’IA. I testi stanno prendendo vita. Il linguaggio si sta liberando dalla sua dipendenza dagli esseri umani. E mentre c’era sempre bisogno di un papa, un rabbino o un Ayatollah per interpretare la Bibbia o il Corano, ora possono interpretarsi da soli. Nessun rabbino può ricordare tutti i testi mai scritti da ogni rabbino e commentatore ebreo, il Talmud, la Mishnà e tutto il resto. Nessuno può ricordare tutto ciò. Un’IA può farlo. Quindi un’IA potrebbe rapidamente diventare l’autorità suprema sui testi sacri. Può essere il testo sacro che ti risponde. Puoi avere una conversazione a due vie, non solo una conversazione a senso unico.

La Chiesa cattolica e Papa Francesco sull’IA

E vediamo alcuni sviluppi interessanti: improvvisamente organizzazioni come la Chiesa cattolica mettono al centro le relazioni, nel senso: “No, non si tratta dell’autorità di un testo antico, niente affatto; si tratta della relazione umana”. Il che è un ottimo sviluppo. Hanno capito: “Se si tratta del testo, siamo finiti; perdiamo la nostra autorità a favore delle IA”. Quindi si spera che questo accada in più religioni.

E di nuovo, come uomo gay, come ebreo e come specialista, originariamente, di storia medievale e delle Crociate, non ho molte opinioni favorevoli sulla Chiesa cattolica e sul papato. Posso dire che Papa Francesco è una delle voci più importanti, compassionevoli e ponderate sull’IA in questo momento. Ripeto, non sono ancora d’accordo con le sue opinioni sulle persone LGBT, ma per affrontare la crisi che stiamo vivendo abbiamo bisogno di alleati ovunque possiamo trovarli. E la Chiesa cattolica, o almeno il Papa, è un alleato molto importante su questo fronte.

La seconda domanda

riguardava la regolamentazione. Ci sono così tante cose, ma inizierei col vietare la personalità giuridica alle IA. Una volta concessa la personalità giuridica alle IA, in teoria o in pratica, la volpe è nel pollaio. Quando le IA, per esempio nel sistema finanziario, potranno avere conti bancari, fare trading autonomamente, aprire le proprie aziende, sarà finita. La volpe è nel pollaio, è troppo tardi. Non dovremmo permetterlo, e questo non significa fermare tutto lo sviluppo dell’IA. È una questione legale.

La stessa cosa vale anche per i social media. Di fatto, sui social media le IA sono già persone giuridiche senza che nessuno lo abbia deciso. Ad esempio, vai sui social media, qualcuno ti parla, qualcuno ti invia messaggi politici, ed è un’IA; agisce di fatto come una persona. E dovremmo dire: “No, non esiste personalità giuridica per le IA. C’è un essere umano responsabile per esse.” Se viene commesso un crimine, c’è un essere umano che deve esserne ritenuto responsabile. Quindi è una regolamentazione molto significativa e ampia vietare la personalità giuridica alle IA.

La democrazia come involucro di se stessa

E la terza domanda riguardava se la democrazia possa alla fine diventare solo un involucro di se stessa. Questo è il pericolo. Non serve l’IA. Abbiamo così tanti casi, come in Russia, che teoricamente è ancora una democrazia. Hanno ancora le elezioni. Ma naturalmente, è una farsa. I dittatori non eliminano quasi mai le elezioni. Le trasformano semplicemente in rituali. In Corea del Nord hanno elezioni regolari, come un orologio. Sanno persino in anticipo quali saranno i risultati. Sono così sofisticati. Noi non possiamo farlo qui in Occidente, ma i nordcoreani sanno in anticipo chi vincerà. Incredibile. E questo è ciò che può accadere alla democrazia.

La visione cinica dell’umanità

Il motivo per cui penso che la democrazia abbia ancora una possibilità è perché cose come la libertà e la verità sono davvero importanti per gli esseri umani. Forse una delle idee più dannose che si diffondono sia a destra che a sinistra è questa visione estremamente cinica dell’umanità, che dice che le uniche cose a cui le persone tengono sono il denaro e il potere, e quindi non puoi fidarti di nessuno, ed è proprio questo che distrugge la democrazia. E le persone che diffondono questa idea a volte pensano che significhi non essere ingenui. Vedono oltre tutte le manipolazioni. Sanno che tutto ruota solo attorno a denaro e potere.

E questa non è solo una sciocchezza. È una pericolosa sciocchezza perché, se fosse così, allora sarebbe tutto senza speranza. Ma è una pericolosa sciocchezza per la stragrande maggioranza delle persone. È vero per alcune persone, giusto? No. Ripeto, è vero solo per alcuni. Se pensi che questa sia la natura umana, che a tutti gli esseri umani importi solo di denaro e potere, allora non puoi fidarti di nessuno né di nulla. E poi il sistema crolla.

Ricostruire la fiducia, anche nei media

E penso che il punto da cui iniziare a ricostruire la fiducia sia guardare a se stessi. Ti importa solo del denaro e del potere nella vita? Certo, in una certa misura ci importa, ma se ti premono anche cose come la verità, l’amore e le relazioni, pensi di essere l’unico essere umano a cui importa o è una cosa diffusa? E se ti rendi conto che è una cosa diffusa, allora possiamo iniziare a ricostruire la fiducia, anche nelle istituzioni come i media: sì, ci sono persone molto spietate nei media e persone che comprano aziende mediatiche solo per ottenere potere e ricchezza, ma questa non è tutta la storia.

In definitiva, la verità conta. Lo direi persino ai magnati dei media, agli oligarchi, perché se non conosci la verità su te stesso e sul mondo, non sarai mai felice. Perché no? Perché non saprai quale sia la fonte della tua infelicità e non sarai in grado di farci nulla. Puoi essere la persona più ricca del mondo, ma sprecherai tutti i tuoi soldi e il tuo potere risolvendo i problemi sbagliati perché non conosci le vere fonti della miseria e della felicità.

L’ultima domanda: Cina e Stati Uniti

Penso che abbiamo tempo per un’ultima breve domanda, ed è per questo signore qui che ha aspettato molto pazientemente.

Grazie, Alvarado Hendler dal Perù. Cina e Stati Uniti sono in un gioco infinito di potere, e non credo che abbiamo qui in sala alcun consigliere di fiducia del Presidente Trump o del governo cinese, e probabilmente, purtroppo, prenderanno decisioni

sbagliate riguardo alle leggi e alle regolamentazioni sull’IA. Ma qui in questo pubblico ci sono molte piccole e medie potenze, paesi, leader dell’industria, del mondo accademico, della società civile, dei movimenti. Quindi, qual è il suo consiglio sul nostro ruolo? Qual è il nostro ruolo in questa sala rispetto a questa sfida che state affrontando proprio ora?

Le piccole e medie potenze devono unirsi

Sì. Voglio dire, a parte gli Stati Uniti e la Cina che guidano la corsa all’IA, per tutti gli altri si è nel menù. Non sono al tavolo e se vogliono fare qualcosa al riguardo devono unirsi. Uno dei motivi è che molte delle stesse aziende che sviluppano l’IA e possiedono anche gran parte dei social media seminano deliberatamente dissenso, per esempio in Europa, essendo molto contrarie all’Unione Europea e molto favorevoli ai partiti anti-europei, perché sanno che finché gli europei litigano e combattono sull’immigrazione e cose del genere, non possono regolamentarci.

Non sono abbastanza grandi. Per le medie e piccole potenze del mondo l’unica possibilità è unirsi. Se guardi alla Repubblica Ceca, è troppo piccola da sola per sviluppare la sua infrastruttura IA indipendente o per provare a regolare le grandi aziende tecnologiche. È impossibile. Ma se fa parte di un blocco europeo, ha una possibilità. Quindi, oltre a tutti gli argomenti tradizionali sulla cooperazione internazionale e specificamente in Europa sull’UE, questa è ormai una questione di sopravvivenza.

Il compito della politica e la presa di controllo

E forse concluderò su questa nota. Il compito della politica in una democrazia è offrire alle persone opzioni, opzioni significative che le persone possano capire, spiegare i pro e i contro di ogni opzione e poi lasciare che le persone decidano. Per molte delle piccole e medie potenze del mondo oggi, penso che la sfida più grande venga dall’IA. Non solo la presa di controllo da parte dell’IA stessa, lo scenario a lungo termine, ma la presa di controllo da parte delle due superpotenze dell’IA, gli Stati Uniti e la Cina.

Immagini la situazione tra 10 anni, quando l’intera infrastruttura della Repubblica Ceca, dagli ospedali e aeroporti fino all’esercito, sarà gestita da sistemi IA che possono essere spenti con un pulsante da Washington. E questo significa che non è più un paese indipendente. Significa che è uno stato vassallo, e vediamo che la politica estera statunitense è sempre più: non abbiamo bisogno di amici, vogliamo solo vassalli.

Le opzioni: stato vassallo, infrastruttura ceca o progetto europeo

Quindi, in realtà, vorrei vedere un ambiente politico in cui ci siano tipo due o tre partiti che dicano onestamente alle persone: queste sono le vostre opzioni. Opzione numero uno: tutto come al solito. Non fai nulla di speciale. Diventiamo stati vassalli americani, e questo significa che se gli americani dicono salta, noi saltiamo. Che si tratti della guerra in Ucraina, della Groenlandia, dei fidanzati IA: se gli americani dicono «vogliamo vendere fidanzati IA ai vostri figli di 10 anni», noi diciamo di sì perché siamo uno stato vassallo. Non possiamo resistere.

L’opzione numero due è provare a costruire un’infrastruttura IA ceca. Questo costerebbe circa, in una stima prudente, 500 miliardi di euro. Non abbiamo i soldi. Anche se eliminassimo completamente tutta l’assistenza sanitaria e sociale, semplicemente non abbiamo i soldi. Non possiamo farcela da soli.

Opzione numero tre: farlo come progetto europeo, il che è fattibile, ma implica un’integrazione europea molto più stretta. Se vuoi costruire l’infrastruttura IA in Europa come progetto collettivo, non puoi avere ogni governo che tira in una direzione diversa. Hai bisogno di un’integrazione molto più stretta.

Penso che queste siano le opzioni. Oppure qualcuno può dire: okay, possiamo essere uno stato vassallo della Cina. Anche questa è un’opzione. Quindi possiamo avere quattro partiti e poi lasciare che la gente scelga. La cosa peggiore è credere alle aziende di IA che ti dicono che è troppo tardi per la politica. Non puoi. Non ci sono opzioni politiche. Tutti sono sul razzo con una probabilità del 20% che esploda.