Indonezija je u subotu privremeno blokirala chatbot vještačke inteligencije (AI) Grok zbog toga što je nastavio nuditi nemoralni deepfake sadržaj nastao bez pristanka osoba na koje se odnosi. javlja Anadolu.

Ministarstvo komunikacija i digitalnih poslova saopćilo je da je odluka o uvođenju blokade donesena iz „hitne potrebe da se zaštite žene, djeca i šira javnost od psiholoških i društvenih šteta koje uzrokuje eksplicitni sadržaj generiran vještačkom inteligencijom“, prenosi državna novinska agencija Antara.

„Vlada smatra da su seksualni deepfake sadržaji bez pristanka ozbiljno kršenje ljudskih prava, dostojanstva i sigurnosti građana u digitalnom prostoru“, izjavila je ministrica komunikacija i digitalnih poslova Meutya Hafid u zvaničnom saopćenju.

Ona je zloupotrebu vještačke inteligencije za stvaranje lažnog eksplicitnog sadržaja opisala kao oblik „digitalnog nasilja“.

Digitalne platforme koje posluju u Indoneziji obavezne su dokazati da imaju adekvatne zaštitne mehanizme kako bi spriječile proizvodnju ili distribuciju zabranjenog sadržaja.

Vlasti u Jakarti su formalno pozvale američku društvenu mrežu X – putem koje je Grok dostupan – na razgovore radi pojašnjenja situacije.

U petak je Grok onemogućio korisnicima bez pretplate generiranje slika koje digitalno razodijevaju žene i maloljetnike, ograničivši tu funkciju isključivo na korisnike koji plaćaju uslugu, nakon globalne reakcije i osuda zbog nemoralnog sadržaja.

Međutim, neke vlade, uključujući i britansku, ocijenile su da ostavljanje mogućnosti digitalne manipulacije dostupne korisnicima koji plaćaju pretplatu uopće nije rješenje.

Indonezija je ranije ovog mjeseca upozorila da bi platforma X mogla biti zabranjena zbog nemoralnog sadržaja koji uključuje maloljetnike.