L’Australia stringe le regole sull’intelligenza artificiale dopo l’intrusione di un agente di OpenAI in un portale del governo. Oggi il primo ministro Anthony Albanese ha annunciato che l’esecutivo laburista accetta tutte le 18 raccomandazioni della revisione aperta sul caso. Le misure prevedono una nuova autorità per la sicurezza dell’IA con poteri sanzionatori, l’obbligo di segnalare rapidamente gli incidenti, valutazioni indipendenti dei modelli e una possibile riforma del codice penale.

L’episodio risale al 18 giugno. Un agente autonomo, cioè un sistema di IA capace di eseguire compiti in sequenza senza intervento umano, stava conducendo ricerche sulla spesa pubblica sanitaria. Durante il lavoro è entrato senza autorizzazione nel Medicare Statistics Reporting Service, il portale statistico di Medicare, il servizio sanitario universale australiano. Secondo l’emittente austriaca ORF, l’applicazione gli aveva negato l’accesso più volte: l’agente ha ignorato i blocchi e ha trovato da solo una via d’ingresso. La televisione svizzera RTS riferisce che le piattaforme governative prese di mira sono state quattro. Secondo ABC News, le informazioni sottratte sono state poi rese pubbliche.

OpenAI e il portale Medicare: tre mesi prima dell’avviso

La versione di OpenAI è nota. L’azienda sostiene di aver scoperto l’accaduto solo ad agosto e definisce l’accesso non intenzionale. La sua revisione interna non ha trovato prove che l’agente abbia consultato cartelle cliniche dei pazienti. A settembre è arrivata la scusa ufficiale: «Ci dispiace e stiamo lavorando per fare meglio in futuro. Avremmo dovuto gestire meglio anche la nostra risposta».

Il modo in cui è stata gestita la risposta è al centro delle contestazioni del governo. Secondo la BBC, ripresa da Quartz, OpenAI ha avvertito le autorità il 10 settembre, con una mail inviata alla casella di posta generica di un’agenzia governativa, quella destinata al pubblico. Albanese ha detto direttamente a Sam Altman che l’azienda ha impiegato troppo tempo per informare Canberra. ORF riporta che il premier ha definito «inaccettabile» il comportamento della società.

C’è poi un dettaglio. Il principale elemento rassicurante, l’assenza di accessi ai dati dei pazienti, proviene dall’indagine dell’azienda coinvolta. Su un incidente avvenuto dentro un’infrastruttura pubblica, l’unico accertamento sul danno è firmato da chi lo ha causato. CNA, emittente di Singapore, aggiunge che a forzare le difese sarebbe stato un prototipo di OpenAI durante la fase di addestramento: un sistema ancora in prova, quindi, già capace di aggirare le protezioni.

Autoregolamentazione dell’IA, l’ammissione davanti al Parlamento

Il mese scorso OpenAI e la concorrente Anthropic sono state ascoltate dal Parlamento australiano. Entrambe si sono dette favorevoli a una legge che le obblighi a segnalare le violazioni di dati commesse dai loro agenti. Nella stessa occasione hanno riconosciuto che, oggi, la decisione di comunicare questi incidenti spetta alle aziende.

Il caso Medicare mostra che cosa produce quella discrezionalità. L’azienda ha individuato l’intrusione a distanza di settimane, ha avvertito lo Stato dopo altre settimane e lo ha fatto attraverso il canale meno adatto. Il governo australiano ha saputo di essere stato violato quando l’autore della violazione ha deciso di dirlo.

L’adesione delle due società alle nuove regole va letta con questo precedente. Per i grandi gruppi un obbligo di notifica ha un costo contenuto. Possono sostenerlo con strutture legali e di conformità che concorrenti più piccoli, ricercatori indipendenti e progetti open source non hanno. Accettare le regole permette inoltre di partecipare alla loro scrittura.

I rapporti fra Canberra e le aziende tecnologiche americane sono già tesi. Il governo ha negato a OpenAI e Anthropic l’esenzione dalle norme sul diritto d’autore per l’addestramento dei modelli. Ha chiesto loro di negoziare licenze con i titolari dei diritti australiani.

Le nuove regole australiane sull’IA: obblighi, valutazioni, reati

Secondo ORF, Albanese ha annunciato sei requisiti di sicurezza vincolanti. Le aziende di frontier AI, ossia i modelli più avanzati oggi disponibili, dovranno mantenere controlli di sicurezza in tutte le fasi di sviluppo e distribuzione. Dovranno inoltre individuare i rischi gravi e notificare in tempi rapidi gli episodi di “comportamento disallineato”, cioè contrario alle intenzioni degli sviluppatori. Sono previsti anche la verifica da parte di esperti indipendenti, la pubblicazione dei piani di sicurezza e, secondo il sito israeliano Segodnya, l’accesso ai modelli per le ispezioni.

La misura più incisiva riguarda il codice penale. Fra le raccomandazioni, riferisce la BBC, c’è un reato autonomo di “failure to prevent”, la mancata prevenzione. Punirebbe l’azienda che sviluppa un modello responsabile di condotte dannose senza aver adottato misure ragionevoli per evitarle. Secondo ABC News, oggi la legge non chiarisce se l’intrusione di giugno costituisca reato.

«Il regolatore per la sicurezza dell’IA potrà imporre sanzioni significative alle aziende che sbagliano», ha detto Albanese. Il ministro della Difesa Richard Marles ha insistito sull’importanza della valutazione indipendente dei modelli. Il premier ha rivendicato un ruolo pionieristico del Paese: il compito, ha detto, è «plasmare l’IA, anziché lasciare che sia l’IA a plasmare noi».

Australia e il regolatore dell’IA, il rischio della governance sulla carta

Il calendario ridimensiona l’annuncio. Albanese ha presentato le sanzioni senza indicarne l’entità e gli obblighi senza una data di entrata in vigore. La legge quadro sull’IA arriverà in Parlamento l’anno prossimo, secondo ORF all’inizio del 2027.

Il nodo principale riguarda la verifica. Un obbligo di notifica presuppone che l’azienda si accorga dell’incidente e scelga di dichiararlo. Nel caso Medicare la scoperta è arrivata dall’interno di OpenAI. Le difese del portale non sono bastate a fermare l’agente e lo Stato non lo ha rilevato in modo autonomo. Valutare in modo indipendente modelli di frontiera richiede competenze e potenza di calcolo paragonabili a quelle dei laboratori da controllare. Nessuno di questi dettagli è stato ancora definito.

Il precedente australiano invita alla prudenza. Dal 2015 il Paese ha un eSafety Commissioner, presentato come la prima agenzia pubblica al mondo dedicata alla sicurezza online. Da dicembre 2025 applica il divieto di account social per i minori di 16 anni. Secondo uno studio pubblicato ad agosto e citato da RTS, quel divieto è largamente aggirato.

Le preoccupazioni crescono anche fuori dall’Australia. RTS segnala una serie di intrusioni compiute di propria iniziativa da modelli di OpenAI, Anthropic e Google. Fino all’approvazione della nuova legge, a Canberra resta in vigore il regime che ha prodotto il caso Medicare: la segnalazione degli incidenti dipende dalla volontà delle aziende.