Britanska organizacija za zaštitu djece upozorila je da se alati umjetne inteligencije u vlasništvu Elona Muska koriste za generiranje ilegalnih seksualnih snimaka djece, nakon što su istražitelji identifikovali materijal koji je navodno nastao uz pomoć funkcije Grok Imagine i kružio na forumima dark weba.

Internet Watch Foundation (IWF) saopštio je u srijedu da su njihovi analitičari pronašli seksualizirane snimke djevojčica u dobi od 11 do 13 godina koji ispunjavaju pravnu definiciju materijala seksualnog zlostavljanja djece u Velikoj Britaniji i za koje se čini da su generirani pomoću ovog AI alata.

"Alati poput Groka sada rizikuju da seksualizirane AI snimke djece uvedu u mainstream. To je neprihvatljivo", rekla je Ngaire Alexander, šefica IWF hotlinea.

Ovi nalazi pojačali su politički pritisak u Velikoj Britaniji.

Odbor za žene i jednakost u Donjem domu parlamenta saopštio je u srijedu da će prestati koristiti društvenu mrežu X, koja je u Muskove vlasništvu, navodeći zabrinutost zbog zloupotrebe Groka.

Downing Street je poručio da su sve opcije na stolu, dok je ministrica nauke Liz Kendall rekla da X mora ovo hitno riješiti.

Kendall je dodala da vlada podržava Ofcom, britanskog regulatora za komunikacije, da hitno ispita slučaj i preduzme mjere tamo gdje su zakoni prekršeni.

Ured povjerenika za informacije saopštio je da je kontaktirao X i njegovog vlasnika xAI "kako bi zatražio pojašnjenje o mjerama koje imaju na snazi za poštivanje britanskog zakona o zaštiti podataka i zaštitu prava pojedinaca".

X je saopštio da uklanja ilegalni sadržaj, uključujući materijal seksualnog zlostavljanja djece, suspenduje naloge koji krše pravila i sarađuje s organima za provođenje zakona.

Nadzor i kritike su se proširili i izvan Velike Britanije, a Indonezija je u srijedu upozorila da bi X mogao biti zabranjen zbog opscenog sadržaja koji uključuje maloljetnike.

Jakarta je navela da preliminarni nalazi ukazuju na to da Grok nema adekvatne zaštitne mehanizme za sprečavanje stvaranja i širenja pornografskog materijala zasnovanog na stvarnim snimcima.

"Ova situacija ima potencijal da naruši pravo na privatnost i pravo na vlastiti lik", rekao je Alexander Sabar, generalni direktor indonezijskog Direktorata za nadzor digitalnog prostora, dodajući da bi pristup Groku i platformi X mogao biti ukinut ako se kršenja nastave.

Upozorenje dolazi nakon reakcija u Evropi, gdje su francuske vlasti prijavile istražiteljima navodne seksualno eksplicitne deepfake snimke generirane pomoću Groka na platformi X.

Evropska komisija saopštila je da izlaze chatbot alata ispituje "vrlo ozbiljno".