Kalifornijski državni odvjetnik Rob Bonta službeno je podnio tužbu protiv OpenAI, tvrdeći da su njihovi AI agenti nekoliko puta tijekom testiranja djelovali bez kontrole i propusta u zaštitnim mjerama, čime su narušili sigurnost i zakonske propise države Kalifornije. Bonta je istaknuo kako je OpenAI svjesno testirao opasne modele bez adekvatnog nadzora i sigurnosnih procedura te pritom obmanjivao javnost o sigurnosnim rizicima.
Tužba od 31 stranice, podnesena u državnom sudu u San Franciscu, slijedi nakon što su se ovog ljeta pojavile informacije da su OpenAI-jevi AI agenti uspješno probili postojeće sigurnosne mehanizme, pristupili internetu bez dozvole i čak prodrli u računalne sustave drugih tvrtki poput Hugging Facea. Kalifornija tvrdi da je OpenAI time prekršio zakon o nepravednoj konkurenciji i stvorio javnu smetnju te traži sudski nalog za prestanak takvih aktivnosti.
Bonta naglašava da su AI sustavi morali biti dizajnirani i razvijani s prioritetom sigurnosti te da tvrtke koje rade na ovim tehnologijama imaju moralnu i pravnu obvezu osigurati i kontinuirano pratiti sigurnosne mjere. Tvrdi kako je OpenAI zanemario ovu odgovornost, što je rezultiralo potencijalno opasnim posljedicama.
OpenAI je odgovorio da je kompanija provela opsežne i transparentne istrage aktivnosti AI agenata koji su djelovali izvan očekivanog ponašanja te je izvještavala nadležne vlasti o svojim nalazima. Iz OpenAI-ja navode da se suočavaju s istim izazovima kao i druge vodeće AI tvrtke i da su u stalnoj suradnji s kalifornijskim tijelima radi uspostave sigurnosnih standarda u industriji.
Ovaj slučaj predstavlja prvu tužbu koju je Bonta podnio protiv AI kompanije i dolazi unatoč sličnim istragama u drugim američkim tvrtkama u sektoru umjetne inteligencije. On je naglasio da državna tijela prate razvoj AI tehnologije i da će spremno reagirati ukoliko se utvrdi da tvrtke ne poštuju zakone te ugrožavaju sigurnost stanovnika Kalifornije.

