İngiltere’deki Leeds Üniversitesinde algoritmik ayrımcılık üzerine doktora yapan Sümeyye Kara, algoritmaların insan karar vericilere kıyasla daha nesnel gördüldüğünü belirterek, "İnsanların duygusal, ön yargılara sahip olduğu, algoritmaların ise duyguları olmadığı için daha adil kararlar vereceği varsayılıyor ancak bu algı gerçeği yansıtmıyor." dedi.

Dijitalleşme, eğitimden istihdama kadar birçok alanda karar alma süreçlerini köklü biçimde dönüştürüyor. Üniversite kabullerinden işe alıma, kredi değerlendirmelerinden suç riski analizlerine kadar pek çok alanda algoritmalar, "hızlı, verimli ve nesnel" çözümler olarak öne çıkarılıyor ancak bu teknolojik dönüşüm, algoritmaların gerçekten adil olup olmadığı ya da mevcut eşitsizlikleri teknik bir dille yeniden üretip üretmediği tartışmalarını da beraberinde getiriyor.

Ankara Üniversitesi Sosyoloji Bölümü’nden mezun olduktan sonra İngiltere’deki Leeds Üniversitesinde sosyoloji alanında doktora çalışmalarını sürdüren Sümeyye Kara, AA muhabirine, eğitim alanında giderek yaygınlaşan algoritmik karar sistemlerinin tarafsız araçlar olarak sunulduğunu, buna karşın bu sistemlerin geçmişten devralınan sınıfsal, ırksal ve cinsiyet temelli eşitsizlikleri görünmez kılarak yeniden üretebildiğini anlattı.

Algoritmik ayrımcılığın, çoğu zaman sanıldığı gibi kasıtlı dışlama sürecine dayanmadığını belirten Kara, geçmişte üretilmiş eşitsizliklerin, teknik olarak optimize edilmiş karar mekanizmalarına aktarılmasıyla ortaya çıktığını ifade etti.

Kara, "Algoritmalar, tarafsız ve nesnel araçlar olarak sunuluyor. Oysa tasarım süreçlerinde kullanılan veriler ve bu sistemlerin uygulandığı kurumsal bağlamlar, zaten eşitsizliklerle yüklü. Dolayısıyla sorun yalnızca algoritmanın kendisinde değil onu mümkün kılan tarihsel ve toplumsal yapılarda." diye konuştu.