Kako se internet sve brže puni sadržajem koji izgleda stvarno, ali to možda nije, šef Instagrama Adam Mosseri upozorava na problem koji će uskoro postati gotovo nemoguće ignorirati: kako razlikovati autentične fotografije i videe od onih koje je stvorila umjetna inteligencija.
U objavi na Threadsu Mosseri je istaknuo da će društvene mreže poput Instagrama biti pod sve većim pritiskom da korisnicima jasno pokažu što je stvarno, a što generirano AI-jem. Prema njegovim riječima, velike platforme će u početku relativno uspješno prepoznavati i označavati AI sadržaj, ali kako tehnologija bude napredovala i imitacija stvarnosti postajala uvjerljivija, taj će zadatak postajati sve teži.
Mosseri smatra da bi rješenje moglo ići u suprotnom smjeru od onoga koji se danas najčešće spominje. Umjesto stalnog lova na lažni sadržaj, realnije je, tvrdi on, “označiti” ono što je stvarno. Drugim riječima, lakše bi moglo biti potvrditi autentičnost pravih fotografija i videa nego stalno pokušavati razotkriti sve sofisticiranije AI krivotvorine.
Ideja je da se takozvani “otisak” autentičnosti stvara već u samim kamerama. Proizvođači bi, prema Mosseriju, mogli kriptografski potpisivati fotografije i videe u trenutku snimanja, čime bi se stvorio svojevrsni lanac povjerenja – od kamere do objave na društvenoj mreži. Takav sustav bi omogućio platformama da s većom sigurnošću potvrde da je neki sadržaj zaista nastao u stvarnom svijetu, a ne u nekom generatoru slika.
“Moramo jasno označavati AI-generirani sadržaj i surađivati s proizvođačima kako bismo provjeravali autentičnost u trenutku nastanka. Fokus treba biti na ‘fingerprintingu’ stvarnog sadržaja, a ne samo na lovu na lažni”, poručio je Mosseri.
Ovakav pristup mogao bi pomoći korisnicima da se lakše snađu u moru AI slopa koji preplavljuje internet – od generičnih videa i slika do sadržaja koji izgleda uvjerljivo, ali nema nikakvu stvarnu podlogu. No Mosseri ide i korak dalje. Smatra da prepoznavanje autentičnosti neće utjecati samo na sadržaj, nego i na odnos ljudi prema onima koji ga objavljuju.
Prema njegovim riječima, platforme će morati istaknuti “signale vjerodostojnosti” o tome tko stoji iza objave, kako bi korisnici sami mogli procijeniti kome vjerovati. U svijetu u kojem svatko može objaviti gotovo bilo što, a AI može oponašati gotovo svakoga, povjerenje bi moglo postati najvrjednija valuta na društvenim mrežama.
Ako se Mosserijeva predviđanja pokažu točnima, budućnost Instagrama i sličnih platformi neće se vrtjeti samo oko algoritama, dosega i engagementa, nego i oko digitalnih dokaza da je ono što gledamo – barem u nekom trenutku – zaista postojalo izvan ekrana.
