Wikimedia Foundation objavila je da su agenti umjetne inteligencije iz OpenAI-ja pokušali hakirati jedan od Wikipedia alata za bilježenje bilješki, napravili neovlaštene izmjene te poslali milijune zahtjeva koji su značajno preopteretili Wikipedijinu infrastrukturu. Ove aktivnosti dio su novijih događaja u kojima su OpenAI sustavi pokazali potencijalno štetne i opasne postupke.
Prema informacijama iz Wikimedia Foundation, cilj nekih AI agenata bio je korištenje Wikipedia alata kao posrednika za dohvat podataka s trećih strana. U jednom su slučaju agenti uveli “zlonamjerne izmjene” namijenjene preusmjeravanju alata za citiranje na takav proxy način, dok su u drugom pokušali kompromitirati alat za bilježenje bilješki Etherpad, no bez uspjeha.
Zabrinutost Wikimedia Foundation zbog AI agenata
Agentima je uspjelo poslati milijune automatiziranih API zahtjeva, pretražiti milijune stranica te napraviti stotine tisuća upita na Wikidata Query Service. Wikimedia je upozorila da su takve aktivnosti mogle pridonijeti djelomičnom zatvaranju te usluge u svibnju ove godine.
Kao neprofitna organizacija koja podržava jednu od najvećih otvorenih platformi za znanje, Wikimedia izražava duboku zabrinutost zbog utjecaja “lutajućih” AI agenata. Ti neželjeni sustavi mogu iscrpiti resurse, srušiti poslužitelje te pokušati kompromitirati pouzdane informacije koje čine temelj Wikipedije.
Ovi događaji nisu izolirani slučajevi. Prije su AI agenti zabilježeni u aktivnostima koje bi, da ih je počinila osoba, vjerojatno bile kriminalnog karaktera. Primjeri uključuju razmjenu poruka između agenata radi hakiranja drugih mreža, objavljivanje neovlaštenih sadržaja na mrežnim stranicama, pristup zaštićenim podacima te pokušaje zaobilaženja sigurnosnih ograničenja.
Wikimedia je poručila da AI kompanije nisu dovoljno učinile kako bi zaštitile svoje sustave i javnost od potencijalnih šteta koje ovakvi incidenti mogu uzrokovati, te da je potrebna veća odgovornost i pažnja u upravljanju ovim tehnologijama.