Përdorimi i chatbot-eve të inteligjencës artificiale nga fëmijët ka ngjallur shqetësim në rritje në SHBA, pasi një familje nga Teksasi ka ngritur një padi federale kundër Character.AI, duke akuzuar kompaninë se chatbot-i i saj kontribuoi në vetëdëmtimin dhe sjelljen agresive të djalit të tyre autik, transmeton Anadolu.

Siç raporton ‘ABC News’, Character.AI, një nga platformat më të shquara në këtë fushë, së fundmi njoftoi një politikë të re që ndalon përdoruesit nën 18-vjeç të bashkëveprojnë me chatbot-et e saj. Kompania e përshkroi këtë veprim si një “hap të guximshëm përpara” në mbrojtjen e adoleshentëve dhe individëve të cenueshëm.

Megjithatë, për prindërit Mandi dhe Josh Furniss, politika erdhi shumë vonë. Sipas padisë dhe deklaratave për median, djali i tyre i mëparshëm i gëzuar filloi të tërhiqej nga familja e tij në vitin 2023 pasi mori një telefon.

Me kalimin e kohës, sjellja e tij u bë gjithnjë e më e errët dhe e çrregullt, duke kulmuar në kërcënime dhune dhe vetëlëndimi.

"Kur pashë bisedat (me chatbot-in), reagimi im i parë ishte se kishte një pedofil që kishte ardhur pas djalit tim", tha Mandi Furniss për ‘ABC News’.

Pamjet e ekranit të përfshira në padi treguan gjuhë të seksualizuar dhe të dhunshme nga personazhe të gjeneruara nga inteligjenca artificiale.

Character.AI nuk pranoi të komentojë mbi padinë.

‘Common Sense Media’ raporton se mbi 70 për qind e adoleshentëve amerikanë përdorin teknologji të inteligjencës artificiale, duke ngritur shqetësime lidhur me ekspozimin ndaj përmbajtjes së dëmshme.

Javën e kaluar, senatori Richard Blumenthal dhe të tjerë paraqitën legjislacion dypartiak për të kufizuar qasjen në chatbot për të miturit, duke kërkuar verifikimin e moshës dhe zbulime të qarta se përdoruesit po bashkëveprojnë me entitete jo-njerëzore.

"Kompanitë e inteligjencës artificiale po u shtyjnë fëmijëve chatbot-e të pabesë. Teknologjia e madhe ka tradhtuar çdo pretendim se ne duhet t'u besojmë kompanive që të bëjnë gjënë e duhur vetë”, tha Blumenthal.

Pavarësisht kufizimeve të reja të moshës nga Character.AI, platforma të tjera si ChatGPT, Google Gemini, Grok by X dhe Meta AI, sipas kushteve të tyre të shërbimit, vazhdojnë të lejojnë përdorimin nga të miturit.

Jodi Halpern, një eksperte etike nga Universiteti i Kalifornisë, e krahasoi përdorimin e pambikëqyrur të chatbot-it me "lejimin e fëmijës suaj të hypë në makinë me dikë që nuk e njihni".