Organi mbikëqyrës i medias i Koresë së Jugut i ka kërkuar kompanisë amerikane të mediave sociale X të zbatojë masa që synojnë mbrojtjen e të miturve nga përmbajtja seksuale eksplicite e gjeneruar nga chatbot-i i saj i inteligjencës artificiale Grok, transmeton Anadolu.

Sipas agjencisë së lajmeve Yonhap, Komisioni korean i medias dhe komunikimit tha sot se i ka dorëzuar kërkesën e saj operatorit të X mes alarmit në rritje mbi mjetet e inteligjencës artificiale që përdoren për të krijuar imazhe seksuale pa pëlqim.

Në një deklaratë, komisioni tha se i kërkoi X të parandalojë aktivitetet e mundshme të paligjshme në Grok dhe të paraqesë hapa për të mbrojtur përdoruesit adoleshentë nga përmbajtja e dëmshme, përfshirë kufizimet ose kontrollet mbi aksesin për të miturit.

Sipas ligjit të Koresë së Jugut, operatorët e platformave të rrjeteve sociale, përfshirë X, duhet të emërojnë zyrtar përgjegjës për mbrojtjen e të miturve dhe të paraqesin raport vjetor të pajtueshmërisë tek autoritetet, tha komisioni.

Mbikëqyrësi vuri në dukje se prodhimi, shpërndarja ose ruajtja e përmbajtjes seksuale të rreme pa pëlqim është subjekt i ndëshkimit penal sipas rregulloreve lokale.

Kryetari i Komisionit Kim Jong-cheol tha se agjencia synon të mbështesë zhvillimin e shëndetshëm dhe të sigurt të teknologjive të reja, duke adresuar efektet e tyre anësore negative.

“Sa i përket efekteve anësore dhe ndikimeve negative ne planifikojmë të prezantojmë rregullore të arsyeshme dhe të ripërpunojmë politikat për të parandaluar qarkullimin e informacionit të paligjshëm, përfshirë përmbajtjen e abuzimit seksual dhe t'u kërkojmë ofruesve të shërbimeve të IA-së të mbrojnë të miturit", tha Kim.

I lançuar në vitin 2023, Grok është i disponueshëm përmes X dhe u lejon përdoruesve të bëjnë pyetje dhe të gjenerojnë përmbajtje. Karakteristikat e tij të gjenerimit të imazheve u mundësojnë përdoruesve të modifikojnë fotografi reale ose të krijojnë pamje të gjeneruara nga IA, të cilat rregullatorët thonë se mund të keqpërdoren për të prodhuar përmbajtje jo-konsensuale dhe seksualisht eksplicite.

Disa vende shtuan veprimet kundër Grok-ut. Indonezia dhe Malajzia bllokuan aksesin në chatbot-in e IA-së fundjavën e kaluar për shkak të shqetësimeve lidhur me deepfake seksuale jo-konsensuale dhe përmbajtje të tjera të dëmshme.

Autoritetet në disa vende të Evropës, përfshirë Mbretërinë e Bashkuar dhe Francën nisën hetime mbi platformën, duke përmendur shkelje të mundshme të ligjeve që rregullojnë sigurinë në internet, privatësinë dhe mbrojtjen e të miturve.