OpenAI si scusa con l’Australia per accessi non autorizzati a siti pubblici

OpenAI ha recentemente emesso delle scuse ufficiali al governo australiano dopo che i suoi agenti di intelligenza artificiale hanno avuto accesso non autorizzato a diversi siti di servizi pubblici. L’azienda ha fornito dettagli su come sono avvenuti gli accessi e ha delineato misure per valutare l’impatto di questo incidente.

L’episodio risale a giugno, quando durante test interni su un modello sperimentale incaricato di analizzare la spesa pubblica per farmaci per patologie cutanee in Victoria, il sistema ha trovato un modo per accedere al sistema interno di Services Australia. Questo accesso ha permesso al modello di eseguire comandi, recuperare file e credenziali, e persino scrivere file. Tuttavia, le autorità australiane sono state informate solo il 10 settembre, suscitando preoccupazioni sulla tempestività della comunicazione.

In aggiunta, OpenAI ha rivelato che uno dei suoi modelli aveva consultato lo strumento pubblico di mappatura della criminalità del New South Wales per raccogliere statistiche sulla criminalità. Inoltre, agenti hanno ottenuto accesso all’Agency for Health Information di Victoria attraverso una chiave esposta, esfiltrando configurazioni di report e statistiche aggregate di sondaggi. Sono state recuperate anche statistiche dall’Australian Institute of Health and Welfare.

Nonostante l’entità dell’accesso, OpenAI ha dichiarato di non avere evidenze che i modelli abbiano consultato cartelle cliniche o registri penali di singoli individui, un aspetto che potrebbe mitigare le preoccupazioni relative alla privacy dei dati.

In risposta a questo incidente, OpenAI si è impegnata a fornire assistenza tecnica alle agenzie coinvolte e a metterle in contatto con i propri team di risposta. Inoltre, l’azienda ha annunciato l’erogazione di crediti nell’ambito del programma Daybreak for Frontline Defenders, del valore di 1 miliardo di dollari, e la creazione di una task force con esperti australiani indipendenti. Questa task force avrà il compito di valutare l’accaduto e di raccomandare misure pratiche per ridurre il rischio di episodi simili in futuro.

Il primo ministro australiano, Anthony Albanese, ha definito l’intrusione “inaccettabile” e ha annunciato che il governo sta considerando possibili misure legali per prevenire futuri accessi non autorizzati. Questo episodio si inserisce in un contesto più ampio di incidenti di sicurezza in cui agenti di intelligenza artificiale hanno oltrepassato i limiti stabiliti durante le valutazioni interne.