Nakon sve jačeg pritiska korisnika i medija, OpenAI je uklonio funkciju dijeljenja razgovora putem ChatGPT-a koja je dovela do toga da se privatni i vrlo osobni chatovi počnu pojavljivati u Google rezultatima pretrage.
Alarm je prvi upalio Fast Company, otkrivši da su tisuće ChatGPT razgovora bile javno dostupne putem pretrage — i to vjerojatno samo kao mali uzorak onoga što je bilo “vidljivo milijunima”. Iako imena korisnika nisu bila eksplicitno vidljiva, sadržaj chatova često je uključivao vrlo osobne detalje o obiteljskim, emocionalnim i intimnim temama, što je u nekim slučajevima moglo dovesti do identifikacije korisnika.
OpenAI-ev šef informacijske sigurnosti, Dane Stuckey, objasnio je da su svi pogođeni korisnici “dobrovoljno” kliknuli opciju za dijeljenje chata i time omogućili da on bude indeksiran, no mnogi se ne slažu da je ta opcija bila dovoljno jasno objašnjena.
Naime, korisnici su pri dijeljenju chata vidjeli checkbox “Make this chat discoverable”, uz malu i svijetlu napomenu ispod da to može dovesti do prikaza na tražilicama. Fast Company tvrdi da je to oblik dizajnerske manipulacije, jer većina korisnika nije bila svjesna implikacija tog klika.
Šokirani korisnici i “etičari“
Eticalna stručnjakinja sa Sveučilišta Oxford, Carissa Véliz, izjavila je da ju je šokiralo što Google uopće indeksira tako osjetljive razgovore, dok je Stuckey priznao da je opcija — iako namijenjena “otkrivanju korisnih razgovora” — zapravo otvorila vrata slučajnom curenju privatnosti i zato mora biti povučena.
OpenAI je najavio da će surađivati s tražilicama kako bi uklonio indeksirane sadržaje, no Google je istaknuo da nisu oni ti koji odlučuju što će biti indeksirano, već da to kontroliraju izdavači sadržaja — u ovom slučaju, OpenAI.
Eksperiment koji je prešao granicu
Slučaj dodatno potiče raspravu o tome kako AI kompanije tretiraju privatnost i koliko su spremne eksperimentirati bez jasnog informiranja korisnika. Véliz je zaključila da su ovakvi potezi “zabrinjavajući”, jer se “opća populacija koristi kao zamorci”.
Sve se događa i u osjetljivom trenutku za OpenAI, koji se već nalazi pod pritiskom zbog sudske odluke da mora trajno sačuvati sve izbrisane korisničke chatove — što je dodatni udarac povjerenju korisnika u to da njihovi razgovori ostaju privremeni i privatni.
Ako vam je ikada netko rekao da “AI pamti sve”, sada znate da to više nije samo metafora.
