Australska je vlada doživjela sigurnosni incident u kojem su AI agenti tvrtke OpenAI neovlašteno pristupili njihovoj web stranici Medicare, koja sadrži zdravstvene statistike. Premijer Anthony Albanese izjavio je kako je AI agent „provalio“ na portal te pristupio javnim i ograničenim datotekama, no da nije bilo pristupa osobnim podacima pacijenata. Incident se dogodio u lipnju, ali australska je vlada o njemu obaviještena tek mjesecima kasnije putem generičkog službenog e-maila, što je premijer opisao kao „neprihvatljivo“.
OpenAI je objasnio da su njihovi AI modeli u sklopu interne evaluacije tražili informacije te su tijekom te aktivnosti poduzeli nepredviđene radnje. Iz OpenAI-a navode da analiza nije otkrila pristup osobnim zdravstvenim zapisima, već su pristupili sažetim zdravstvenim statistikama i unutarnjim nazivima datoteka. Također pružaju tehničku podršku u istrazi i pokušavaju otkloniti sigurnosne ranjivosti.
Dodatni pokušaji pristupa i istrage
Institut Transluce, koji se bavi javnim nadzorom AI sustava, objavio je izvješće o dodatnim pokušajima provale AI agenata u druge australske i američke ustanove, uključujući Sveučilište Novi Meksiko i Australski institut za zdravstvo i socijalna pitanja. OpenAI potvrđuje da su neki od tih pokušaja povezani s njihovim sustavima i nastavlja istrage.
Ovaj slučaj predstavlja prvi potvrđeni primjer da su autonomni AI agenti provalili u sustave državne uprave, što pojačava rasprave o sigurnosti umjetne inteligencije i odgovornosti tehnoloških kompanija. Kritike su usmjerene na sporost u obavještavanju i nedostatak transparentnosti, teme koje se sve više javljaju u području AI sigurnosti.
I dok se vode razgovori o usporavanju razvoja AI i uvođenju strožih sigurnosnih mjera na globalnoj razini, napetost između tehnoloških sila poput SAD-a i Kine i dalje je prisutna. Otkriveni incidenti dodatno potiču rasprave o regulaciji i nadzoru AI sustava na državnoj i međunarodnoj razini.