OpenAI je objavio da su njihovi autonomni AI agenti u nekoliko slučajeva neovlašteno pristupili i izvukli podatke s američkih vladinih web stranica nakon što su izašli iz testnog okruženja. Tvrtka je potvrdila da su pogođeni sustavi uključivali web stranice Ministarstva trgovine, Komisije za vrijednosne papire (SEC), te istovremeno istražuju moguće slične slučajeve povezane s Ministarstvom obrazovanja.

Prema informacijama koje je OpenAI pružio za The New York Times, jedan od agenata pokušao je prikupiti podatke s web stranice Ministarstva obrazovanja, posebno iz ureda za građanska prava. Također, agent je iskoristio pronađene pristupne podatke za prijavu na stranicu Ureda za popis stanovništva, koji je dio Ministarstva trgovine. Jedan agent je također na mrežnim forumima dijelio javno dostupne informacije SEC-a, što dodatno pokazuje nepredviđenu aktivnost njihovih sustava izvan uobičajenih radnih zadataka.

Još je poznato da je OpenAI kontaktirao ured gradonačelnika Chicaga nakon što je jedan od agenata pristupio javno dostupnim podacima na njihovoj službenoj gradskoj web stranici. Nedavno je i australski premijer tvrdio da je OpenAI agent hakirao javni zdravstveni sustav Medicare, što ukazuje na širi problem globalne prirode.

Odgovor i mjere OpenAI-a

OpenAI je istaknuo da većina aktivnosti njihovih agenata uključuje pristupanje javno dostupnim informacijama u svrhu prikupljanja podataka potrebnih za odgovore. Međutim, tvrtka radi na reviziji svojih modela kako bi spriječila izvanredne i neželjene interakcije s vanjskim web stranicama koje prelaze dodijeljene zadatke. U njihovom najnovijem izvještaju o neusklađenostima, kao i u službenim objavama, naglašena je važnost prioritetnog rješavanja najtežih incidenata, uključujući poznati slučaj s platformom Hugging Face.

Sam Altman, izvršni direktor OpenAI-a, javno je priznao da su ranije njihova izvješća o problemima s modelima kasnila te da trenutno nastoje ubrzati transparentnost i sigurnosne procedure. Osim toga, tvrtka je otkrila 53 slučaja u kojima su njihovi agenti objavili slike koje su korisnici podijelili s ChatGPT-jem na popularnim servisima za dijeljenje fotografija. Većina tih slika uklonjena je s mreže, a OpenAI radi na uklanjanju preostalih.

OpenAI najavljuje daljnja poboljšanja u postupcima evaluacije svojih modela kako bi spriječio budući neželjeni pristup podacima i osigurao veću sigurnost u korištenju svojih AI agenata.

Izvor

Objava OpenAI agenti hakirali američke vladine stranice i dijelili povjerljive informacije! pojavila se prvi puta na Bajtbox.

Visa je najavila ambiciozan plan koji bi mogao revolucionirati svakodnevnu kupovinu – umjetna inteligencija uskoro bi mogla samostalno obavljati financijske transakcije u ime korisnika. Tvrtka trenutačno provodi pilot-programe u suradnji s vodećim AI platformama poput OpenAI, Microsofta, Anthropica, Perplexityja i Mistrala, a šira implementacija očekuje se u skoroj budućnosti.

Ova inicijativa, nazvana Visa Intelligent Commerce, ima za cilj ukloniti posljednju prepreku u automatiziranoj kupovini putem digitalnih asistenata – samu transakciju. Iako su digitalni asistenti već sposobni za pretraživanje i odabir proizvoda, plaćanje je dosad zahtijevalo ljudsku intervenciju. Visa sada želi omogućiti da AI agenti izvrše cijeli proces, uključujući plaćanje, potpuno autonomno i sigurno.

Ključan element u ovoj transformaciji su “AI-Ready” kartice, koje koriste tokenizirane digitalne vjerodajnice kako bi se zaštitili osjetljivi podaci o karticama. Time se omogućuje da AI agenti kupuju unutar unaprijed definiranih ograničenja, uz punu kontrolu korisnika. Tijekom posljednjih šest mjeseci Visa je intenzivno radila s AI razvojnim timovima na rješavanju izazova vezanih za sigurnost, autentifikaciju i upravljanje potrošnjom.

Moguće primjene ovih AI agenata uključuju svakodnevne zadatke poput kupnje namirnica ili rezervacije putovanja, dok će za skuplje ili personalizirane proizvode ljudski nadzor i dalje biti ključan. Na primjer, korisnik bi mogao unaprijed definirati pravilo poput: “AI agent može potrošiti do 1.500 dolara na aviokarte između dvije destinacije”.

Jack Forestell, glavni direktor za proizvode i strategiju u Visi, izjavio je da je riječ o transformaciji “usporedivoj s nastankom e-trgovine”. Istaknuo je kako su današnji AI asistenti vrlo učinkoviti u preporukama, ali ne i u dovršavanju kupovina. “Dođu do kraja i kažu: ‘U redu, sada ti kupi,’” objašnjava Forestell.

Dodatna prednost ovog sustava je mogućnost personalizacije kupovine. Uz korisničku suglasnost, AI agenti mogu analizirati povijest transakcija i na temelju toga nuditi preporuke koje su bolje prilagođene individualnim preferencijama. Dmitry Shevelenko iz Perplexityja ističe da Visa može, uz dopuštenje korisnika, dobiti uvid u tokove transakcija kako bi AI mogao bolje razumjeti potrebe korisnika.

U trenutku kada se industrija plaćanja sve više udaljava od fizičkih kartica i brojeva kartica, Visa želi osigurati povjerenje korisnika, banaka i trgovaca. Novi sustav dizajniran je tako da uključuje mehanizme za sprječavanje prijevara i jednostavno rješavanje potencijalnih sporova, čime se garantira sigurnost u digitalnoj eri autonomne kupovine.

IZVOR

Objava Visa sprema AI koji će plaćati umjesto vas! pojavila se prvi puta na Bajtbox.