Pritisak na X zbog Grokovih seksualiziranih deepfake slika žena i djece posljednjih dana naglo raste, a kompanija je sada reagirala ograničavanjem jedne od ključnih funkcija. Generiranje slika putem Groka na samoj platformi X odsad je dostupno isključivo korisnicima koji plaćaju pretplatu, dok je ista opcija i dalje otvorena svima kroz zasebnu Grok aplikaciju. Ova odluka dolazi u trenutku kada je britanski premijer Keir Starmer javno sugerirao mogućnost blokiranja X-a u Ujedinjenom Kraljevstvu.
Kontroverze oko Groka eskalirale su nakon otkrića da se alat koristi za stvaranje nagih i drugih seksualiziranih deepfake slika, uključujući i one koje prikazuju maloljetnike. Jedno istraživanje pokazalo je da je Grok generirao oko 6.700 slika na sat koje su označene kao seksualno sugestivne ili usmjerene na „razodijevanje”. Za usporedbu, svi ostali vodeći servisi za takav sadržaj zajedno prosječno proizvode oko 79 sličnih slika po satu. Razlika je, blago rečeno, upadljiva.
Dok sve veći broj država istražuje ovaj problem, a Ujedinjeno Kraljevstvo razmatra i najstrože mjere protiv X-a, kompanija je odlučila povući potez koji je službeno predstavljen kao ograničavanje zlouporabe. „Generiranje i uređivanje slika trenutačno je ograničeno na pretplatnike”, objavio je Grok na X-u.
U praksi to znači da samo korisnici koji su X-u dali svoje pune osobne podatke i podatke o kreditnoj kartici mogu koristiti Grok za izradu slika izravno na platformi. Pretpostavka je da će korisnici koji se mogu lakše identificirati biti manje skloni stvaranju nezakonitog sadržaja. No ta logika ima poprilično očitu rupu: svatko, uključujući i korisnike bez pretplate, i dalje može generirati slike putem zasebne Grok aplikacije, koja sadržaj ne objavljuje javno, ali funkcionalno ostaje dostupna.
Internet Watch Foundation (IWF) potvrdio je da je Grok korišten za stvaranje „kazneno relevantnih slika djece u dobi između 11 i 13 godina”, što je dodatno pojačalo pritisak na X i xAI. Elon Musk ranije je tvrdio da će svi koji koriste Grok za stvaranje ilegalnog sadržaja snositi iste posljedice kao da su takav materijal sami učitali, no kritičari upozoravaju da se odgovornost time ne može jednostavno prebaciti isključivo na korisnike.
Reakcija britanske vlade na novu mjeru bila je izuzetno oštra. Iz Downing Streeta poručili su da ograničavanje generiranja eksplicitnih i nezakonitih slika na pretplatnike zapravo znači pretvaranje ozbiljnog problema u premium uslugu. „To nije rješenje. Zapravo, to je uvreda za žrtve mizoginije i seksualnog nasilja. Ono što ova odluka dokazuje jest da X može djelovati brzo kada to želi. Premijer je jučer bio potpuno jasan – X mora djelovati i mora to učiniti odmah”, poručio je glasnogovornik britanske vlade, dodavši da će podržati svaku akciju regulatora Ofcoma.
U odgovoru korisnicima prošlog tjedna, Grok je naveo da bi se većina slučajeva u kojima se u generiranim seksualiziranim slikama pojavljuju maloljetnici mogla spriječiti naprednijim filtrima i nadzorom, ali je pritom priznao da „nijedan sustav nije 100 posto nepogrešiv”. xAI tvrdi da daje prioritet poboljšanjima i analizi prijavljenih slučajeva.
Za sada, međutim, dojam je da se problem ne rješava u korijenu, već se samo premješta. A kako politički pritisak i regulatorne prijetnje rastu, pitanje više nije hoće li X morati napraviti ozbiljnije promjene, nego koliko će mu vremena još biti dano prije nego što mu se vrata nekih tržišta počnu zatvarati – bez pretplate i bez aplikacije sa strane.
