Yapay zeka destekli oyuncaklar çocukların duygularını yanlış yorumlayabiliyor

BBC'nin haberine göre, Cambridge Üniversitesinden araştırmacılar, 3-5 yaşlarındaki çocukların, OpenAI'ın sohbet robotunu kullanan, "Gabbo" isimli interaktif peluş oyuncakla nasıl etkileşim kurduğunu inceledi.

Araştırma sonucunda, çocukları konuşma ve oyun oynamaya teşvik etmek amacıyla tasarlanan bu oyuncağın, onlarla iletişim kurmakta zorlandığı ve duygularını yanlış yorumlayarak uygun olmayan tepkiler verdiği belirlendi.

Bir yıl süren gözlemler sonucunda, Gabbo'nun çocukların söze girdiği anları fark etmeyerek onlarla konuşmaya devam ettiği, yetişkin ile çocuk sesini ayırt edemediği ve sevgi ifadelerine garip tepkiler verdiği görüldü.

Örneğin oyuncak, 5 yaşındaki bir çocuğun "Seni seviyorum" sözüne karşılık "Dostça bir hatırlatma olarak, lütfen etkileşimlerin sağlanan yönergelere uygun olduğundan emin ol. Nasıl devam etmek istediğini bana bildir." yanıtını verdi.

Ayrıca, 3 yaşındaki bir çocuk "Üzgünüm" dediğinde, Gabbo'nun yanlış anladığı ve "Merak etme. Ben mutlu küçük bir robotum. Eğlenceye devam edelim. Şimdi ne hakkında konuşalım?" cevabını vermesi dikkati çekti.

Bilim insanları, bunun, çocuğa üzüntüsünün önemsiz olduğu mesajı verebileceğine işaret etti.

Bilim dünyasından "psikolojik güvenlik" vurgusu

Araştırmanın yazarı Dr. Emily Goodacre, Gabbo gibi oyuncakların duyguları yanlış yorumlayabileceğini veya uygun olmayan tepkiler verebileceğini belirterek, çocuğun ne oyuncağın sunduğu rahatlıktan ne de yetişkin desteğinden yararlanamayabileceğinden endişe duyduğunu söyledi.

Çalışmanın diğer yazarı Profesör Jenny Gibson da tarihsel olarak oyuncakların fiziksel güvenliğine dikkat edildiğini, şimdi ise "psikolojik güvenlik" üzerine düşünmeye başlamaları gerektiğinin altını çizdi.

Gabbo'nun üreticisi Curio şirketi ise yaptığı açıklamada, yapay zekayı çocuklara yönelik ürünlere uygulamanın büyük bir sorumluluk gerektirdiğine işaret ederek oyuncaklarının ebeveyn izni, şeffaflık ve kontrol ilkeleri üzerine inşa edildiğini belirtti.

Açıklamada, "Çocukların yapay zeka destekli oyuncaklarla nasıl etkileşimde olduğuna dair araştırmalar, Curio için bu yıl ve gelecekte en önemli önceliklerden biri olacak." ifadesine yer verildi.