Tekstovi nastali uz pomoć veštačke inteligencije u Evropskoj uniji dobiće nevidljivu oznaku koja bi trebalo da omogući mašinsko prepoznavanje njihovog porekla, ali tehnologija još ima značajna ograničenja.
OpenAI će tokom narednih nedelja u Evropskoj uniji početi da uvodi nevidljivi vodeni žig u odgovarajuće tekstualne izlaze koje generišu ChatGPT i Codex. Oznaka je deo prilagođavanja pravilima transparentnosti iz evropskog Zakona o veštačkoj inteligenciji.
Tehnologija nazvana textGrain ne dodaje vidljiv simbol, skrivene karaktere ili neobične razmake. Umesto toga, ona menja statistički obrazac izbora reči i delova reči tokom generisanja teksta, stvarajući signal koji specijalizovani detektor može da prepozna.
OpenAI navodi da vodeni žig ne otkriva identitet korisnika, nalog, upit niti razgovor, niti može da utvrdi koliko je čovek naknadno menjao tekst. Takođe, samo prisustvo oznake ne govori ništa o tačnosti sadržaja.
Promene teksta slabe detekciju
Sistem ima ograničenja. U testovima OpenAI-ja, zamena 10 odsto reči sinonimima smanjila je uspešnost detekcije sa oko 92 na 66 odsto, dok su kratki tekstovi i sadržaji sa manjim prostorom za izbor reči, poput matematike, još teži za pouzdano prepoznavanje.
Zbog mogućnosti pogrešnih pozitivnih i negativnih rezultata, detektor u početku neće biti javno dostupan, već će pristup dobijati odobrene istraživačke i stručne organizacije.
Za korisnike OpenAI API-ja širom sveta vodeni žig je dostupan kao opcija za odabrane modele, ali nije uključen po osnovnim podešavanjima.
