Pravila EU-a o označavanju sadržaja generiranog umjetnom inteligencijom stupila na snagu

Nova pravila Evropske unije, koja obavezuju kompanije da označavaju sadržaj generiran ili izmijenjen pomoću umjetne inteligencije (AI), stupila su na snagu u nedjelju u okviru sveobuhvatnog Zakona o umjetnoj inteligenciji EU-a.

Član 50. ovog zakona propisuje da pružaoci chatbotova i drugih interaktivnih AI sistema moraju obavijestiti korisnike kada komuniciraju s umjetnom inteligencijom, osim u slučajevima kada je to već očigledno.

Prema Evropskoj komisiji, sistemi koji mogu stvarati sintetički tekst, slike, video ili audio sadržaje moraju sadržavati oznake koje mašine mogu prepoznati kako bi se utvrdilo da je sadržaj generiran ili izmijenjen pomoću AI tehnologije.

Kompanije i drugi profesionalni korisnici koji objavljuju deepfake sadržaje ili tekstove generirane umjetnom inteligencijom o pitanjima od javnog interesa, a koji nisu prošli značajnu ljudsku provjeru ili uredničku kontrolu, morat će jasno označiti takav materijal.

Nova pravila također zahtijevaju obavještavanje osoba koje su izložene sistemima zasnovanim na prepoznavanju emocija ili biometrijskoj kategorizaciji.

Evropska komisija navodi da je cilj ovih mjera smanjenje obmana, lažnog predstavljanja i širenja dezinformacija, omogućavajući građanima da utvrde da li je sadržaj koji gledaju, slušaju ili čitaju autentičan.

- Strožija kontrola deepfake sadržaja -

Prema Zakonu o umjetnoj inteligenciji EU-a, deepfake se definiše kao sadržaj u obliku slike, zvuka ili videa koji je generiran ili izmijenjen pomoću AI-a i koji prikazuje stvarne osobe, objekte, mjesta ili događaje na način da djeluje autentično, iako to nije.

AI-generirani tekstovi koji se odnose na politiku, javno zdravlje, sigurnost, okoliš, zaštitu potrošača, nauku, kulturu i druga pitanja od javnog interesa moraju biti označeni ukoliko nisu prošli ljudsku uredničku kontrolu.

Sadržaji koji su prošli suštinsku ljudsku provjeru neće morati biti označeni. Međutim, Evropska komisija naglašava da samo površne izmjene, poput provjere pravopisa, gramatike ili formata, ne predstavljaju uredničku kontrolu.

Posebna pravila odnose se na umjetnička, kreativna, satirična i fikcionalna djela koja sadrže deepfake elemente. Obaveza objavljivanja informacije i dalje postoji, ali oznaka može biti predstavljena na način koji ne narušava doživljaj ili prikaz djela.

Osobe koje koriste AI isključivo u privatne i neprofesionalne svrhe nisu obuhvaćene ovim pravilima. Međutim, pojedinci koji redovno koriste umjetnu inteligenciju radi ostvarivanja prihoda ili u okviru poslovne, samostalne ili profesionalne aktivnosti mogu se smatrati korisnicima sistema i podliježu novim obavezama.

Pravila se primjenjuju i na kompanije izvan Evropske unije ukoliko se sadržaj njihovih AI sistema koristi unutar evropskog bloka.

- Rokovi i kazne za nepoštivanje pravila -

Postojeći generativni AI sistemi koji su već bili na tržištu prije 2. augusta imaju rok do 2. decembra za usklađivanje sa zahtjevom za mašinski čitljive oznake. Ovaj ograničeni rok ne odnosi se na ostale obaveze transparentnosti, dok sadržaj nastao prije 2. augusta neće morati biti naknadno označavan.

Za nadzor nad primjenom pravila prvenstveno će biti zadužena nacionalna tijela za nadzor tržišta, uz podršku Ureda EU-a za umjetnu inteligenciju u oblastima koje su pod njegovim nadzorom.

Za kršenje pravila predviđene su kazne do 15 miliona eura ili tri posto ukupnog godišnjeg prometa kompanije na globalnom nivou.

Evropska komisija odobrila je i dobrovoljni kodeks prakse koji kompanijama omogućava standardizirani način dokazivanja usklađenosti s pravilima. Do kraja jula kodeks je potpisalo oko 190 kompanija i organizacija.

Neke velike tehnološke platforme već su uvele oznake za AI sadržaj prije stupanja pravila na snagu. TikTok je saopćio da je više od tri milijarde videa označeno putem prijava autora, sistema za detekciju i tehnologija poput Content Credentials i nevidljivog vodenog žiga.

Kompanija Meta koristi oznaku "AI Info" za sadržaje na platformama Facebook i Instagram kada otkrije standardne tehničke oznake ili dobije prijavu korisnika.

Google je potpisao kodeks transparentnosti EU-a i razvija sisteme za označavanje i detekciju sadržaja koristeći tehnologije poput SynthID i Content Credentials, ali je upozorio da bi preklapanje različitih oznaka i pravnih obavijesti moglo izazvati dodatnu konfuziju među korisnicima.