OpenAI uvodi nevidljivi vodeni žig u EU za tekstove pisane alatom ChatGPT
Američka kompanija OpenAI objavila je da je počela sa uvođenjem nevidljivog vodenog žiga u tekstove i kodove koje generišu njeni alati ChatGPT i Codex na teritoriji Evropske unije.
Ova odluka donijeta je u cilju usklađivanja sa novim Zakonom o vještačkoj inteligenciji Evropske unije (EU AI Act), čija pravila o transparentnosti nalažu proizvođačima da označavaju AI generisani sadržaj tako da drugi računarski sistemi mogu da ga lako prepoznaju.
Nevidljivi vodeni žig biće postepeno dostupan svim korisnicima alata ChatGPT i Codex u svim članicama Evropske unije u narednih nekoliko nedjelja.
Za programere koji koriste OpenAI API interfejs širom svijeta, ova opcija je od danas dostupna, ali je isključena po osnovnim podešavanjima i zavisi od izbora samih korisnika.
Tehnologija iza ovog rješenja, nazvana TextGrain, razvijena je u saradnji sa istraživačima sa Univerziteta u Pensilvaniji i Jejla.
Vodeni žig ne predstavlja nikakav vidljivi grafički simbol, već suptilno utiče na izbor narednih riječi u rečenici prema tajnom ključu.
Time se stvara matematički obrazac koji je nevidljiv ljudskom oku, ali ga specijalizovani detektori mogu uočiti čak i nakon što se tekst kopira i prenese u drugi dokument.
Iz kompanije OpenAI napominju da vodeni žig ne prikuplja lične podatke i ne narušava kvalitet odgovora generisanog teksta.
Testovi ipak pokazuju određena ograničenja ove tehnologije, navodi OpenAI u saopštenju na svojoj veb stranici.
Promjena oko 10 procenata riječi u tekstu običnim sinonimima smanjuje pouzdanost detekcije sa 92 na 66 odsto, dok se kratki odgovori, matematički proračuni i prevedeni tekstovi teže označavaju žigom.
Zbog ovih ograničenja, OpenAI će pristup alatu za detekciju u početnoj fazi odobravati samo provjerenim istraživačkim organizacijama i stručnjacima koji mogu da se već danas prijave za korišćenje detektora.
Konkurentska kompanija Anthropic je prije dva mjeseca saopštila da uvodi vodeni žig za tekst generisan njenim modelom Claude i to globalno, a ne samo u Evropskoj uniji kao OpenAI, prenijeli su mediji.