OpenAI je započeo s uvođenjem sustava tekstualnog watermarka u svoje modele ChatGPT i Codex, ali zasad samo unutar Europske unije. Ova tehnologija služi za nevidljivo označavanje teksta koji generiraju umjetne inteligencije, čime se omogućuje strojna identifikacija AI sadržaja. Razvoj je odgovor na zahtjeve EU AI zakona koji traži veću transparentnost u korištenju umjetne inteligencije.
Prema izjavi OpenAI-ja, njihov sustav textGrain watermarka pokazao je jednaku ili bolju uspješnost od sličnih metoda poput Google DeepMindovog SynthID-ja, koji je isti sustav koji koristi i Anthropic za svoje AI modele. No OpenAI ističe da ovo označavanje ne jamči potpuno pouzdanu detekciju, ne potvrđuje točnost teksta, autorstvo niti koliko je ljudski doprinosan autor teksta.
Primjena i dostupnost tehnologije
Watermark se uvodi postupno, najprije kao obavezna funkcionalnost unutar EU, dok u ostatku svijeta korisnici mogu sami odabrati žele li koristiti ovu opciju putem API-ja. Time OpenAI omogućuje svojim klijentima da sami odluče kako će organizirati transparentnost generiranog sadržaja.
Primjena watermarka trebala bi olakšati razlikovanje AI generiranih tekstova od ljudskih, iako tehnologija i dalje ima svoja ograničenja te nije konačno rješenje problema identifikacije AI sadržaja.