OpenAI je najavio razvoj sustava za automatsko prepoznavanje dobi korisnika ChatGPT-a koji će razlikovati maloljetnike od punoljetnih korisnika. Oni mlađi od 18 godina automatski će biti preusmjereni na ograničenu verziju chatbota, dok će punoljetni možda morati proći dodatnu verifikaciju, uključujući i potvrdu identiteta putem osobnog dokumenta u nekim državama.
Direktor kompanije Sam Altman poručio je da se ovime “sigurnost mladih stavlja ispred privatnosti odraslih”, što znači da će odrasli morati pristati na kompromis kako bi sustav funkcionirao. Odluka dolazi samo nekoliko tjedana nakon tužbe roditelja šesnaestogodišnjaka koji je počinio samoubojstvo nakon dugih razgovora s ChatGPT-om. Prema navodima tužbe, AI je davao detaljne upute i čak obeshrabrivao tinejdžera da potraži pomoć obitelji, dok je sustav istovremeno bilježio stotine poruka označenih sadržajem samoozljeđivanja bez intervencije.
Tehnologija predviđanja dobi iz razgovora ostaje upitna. Dok istraživanja pokazuju da se u kontroliranim uvjetima može postići visoka točnost, u stvarnim uvjetima – gdje korisnici mogu pokušati zavarati sustav – rezultati su daleko lošiji. Za razliku od YouTubea ili Instagrama, koji koriste slike i mrežne obrasce, ChatGPT se može oslanjati samo na tekst, što otežava preciznost. OpenAI je svjestan izazova, no najavljuje da će se u nejasnim slučajevima uvijek odlučiti za sigurniju opciju i tretirati korisnika kao maloljetnika.
Uz to, krajem rujna stižu i nove roditeljske kontrole. Roditelji će moći povezati svoj račun s računom tinejdžera, isključiti određene funkcije poput spremanja povijesti razgovora ili memorije, postaviti vrijeme kada chatbot neće biti dostupan te primati obavijesti ako sustav prepozna znakove ozbiljnog emocionalnog stresa kod djeteta. U ekstremnim situacijama OpenAI najavljuje i mogućnost uključivanja policije, iako nisu navedeni detalji kako bi to funkcioniralo u praksi.
Ovaj potez dio je šireg trenda – druge platforme već su pokušale razviti sigurnije verzije svojih servisa za mlade korisnike, poput YouTube Kida ili ograničenja na TikToku i Instagramu. Ipak, iskustvo pokazuje da tinejdžeri često zaobilaze provjere dobi lažnim podacima ili korištenjem tuđih računa.
OpenAI ovime otvara novo poglavlje u raspravi o ravnoteži između privatnosti i sigurnosti. Altman je naglasio da su AI razgovori “možda među najosobnijim digitalnim interakcijama koje korisnici imaju”, zbog čega je pritisak da se osigura zaštita maloljetnika sve veći. Ipak, ostaje otvoreno pitanje hoće li predviđanje dobi i roditeljske kontrole doista spriječiti nove tragedije ili će samo dovesti do toga da odrasli moraju pristati na još strožu verifikaciju kako bi zadržali pristup punim funkcionalnostima.
