Yapay zeka kullanımıyla ortaya çıkarılan derin sahtecilik (deepfake) teknolojisi, sahte ses ve sahte görüntü temelli veri manipülasyonlarının önünü açtı. Derin öğrenme becerisiyle üretilen sahte içerikler, bilgi krizini ve dezenformasyon sorununu da hızla büyütüyor.

Birleşmiş Milletler Eğitim, Bilim ve Kültür Örgütü (UNESCO) web sitesinde yayımlanan "Deepfake'ler ve Bilgi Krizi" analizinde konuyla ilgili son gelişme ve tehditleri değerlendiren bilgi ve önerileri derlendi:

"Yapay zeka destekli dezenformasyon, eğitimde köklü bir değişim ve bilgiyle olan ilişkinin yeniden inşasını gerektiriyor. Sentetik bir gerçeklik eşiğine; insanların artık teknolojik destek olmadan gerçek medyayı sahte medyadan ayırt edemeyeceği bir noktaya yaklaşılıyor. Tespit araçları, üretim teknolojilerinin gerisinde kalmaktadır. Sadece bireyleri eğitmemeliyiz, onları başarısızlığa uğratan sistemleri yeniden tasarlamalıyız."

Değerlendirme, UNESCO'nun kurumsal adresinde yapay zeka destekli dezenformasyon ve 'deepfake'lerin etik olmayan kullanımına karşı insan iradesinin güçlendirilmesi üzerine çalışan Kanada Laval Üniversitesinden Doç. Dr. Nadia Naffi imzasıyla yayımlandı.

Analize göre mevcut durumda sentetik medya ve yapay zeka tarafından üretilen ve yayılan dezenformasyon hızlandı. Buna karşı, yalnızca yeni doğrulama teknikleri öğretmek değil, aynı zamanda duyuların aldatılabildiği bir çağda bilgiyle olan ilişkiyi yeniden inşa etmenin gerekliliği vurgulandı. Rapora göre eğitimin en önemli amacı "Yapay zekanın taklit edemediği benzersiz insani yetenekleri beslemek: Bağlamsal farkındalık, etik akıl yürütme ve işbirlikçi anlam yaratmak" olmalı. Gerçekliğin programlanabildiği bir dünyada, asıl zorluğun yalnızca aldatmacayı tespit etmekte değil, aynı zamanda bilginin inşasını şekillendirmede ve hangi içeriklerin inanmaya değer olduğunu belirlemekte olduğunun altı çizildi.

Almanya merkezli veri derleme şirketi Statista kaynaklı güncel bilgilere yer verilen analizde üretken yapay zeka pazarının 2025-2031 yılları arasında yüzde 560 büyüyerek 442 milyar dolara ulaşacağı öngörüldü. Dolandırıcılık uzmanlarının yüzde 46'sının sentetik kimlik dolandırıcılığı, yüzde 37'sinin sesli deepfake ve yüzde 29'unun ise video deepfake ile karşılaştığı belirtildi. Analizde, "Deepfake'ler gerçekliği bulanıklaştırdıkça, eğitim tespitin ötesine geçmeli ve öğrencilere gerçeği, bilgiyi ve yapay zeka aracılı belirsizlikle başa çıkmayı öğretmelidir." denildi. Dezenformasyonla birlikte bir bilgi/bilme kriziyle karşı karşıya olunduğu savunulan analizde şu ifadeler yer aldı:

-       Sentetik medya, yapay zeka tarafından oluşturulan ses, görüntü veya video gibi her türlü içeriktir. Bu, bir kişinin sesini veya benzerliğini ikna edici bir şekilde taklit edebilecek kadar gerçekçi dijital sahtecilikler olan "deepfake"leri içerir. Deepfake'ler, geleneksel dezenformasyondan temelde farklıdır; ikna edici, ölçeklenebilir ve giderek daha erişilebilirdirler. Sentetik medya ve yapay zeka tarafından üretilen ve yayılan dezenformasyon hızla yaygınlaştıkça, eğitim kurumları teknik tespit araçları ve medya okuryazarlığı programları geliştirmek için acele ediyor.

-       UNESCO'nun eğitimde yapay zekaya odaklanması, kapsayıcı ve eşitlikçi yapay zeka okuryazarlığı yaklaşımlarına olan ihtiyacı doğru bir şekilde ortaya koymaktadır. Ancak şimdi daha da ileri gitmeliyiz. Gelişmiş sentetik medya dünyasında, yapay zeka okuryazarlığı yalnızca yapay zeka araçlarını kullanmakla ilgili değildir; görmenin ve duymanın artık (inanmaya yetmediği) yapay zeka aracılı, bir gerçeklikte hayatta kalmakla ilgilidir.

Eğitimin gelişimi için gereken üç temel dayanak olarak "bireysel epistemik eylemlilik", "kurumsal bilgi inşası" ve "sektörler arası bilgi ekosistemleri"ni öneren analizde, sentetik medya tarafından güçlendirilen dezenformasyon tehdidinin Dünya Ekonomik Forumu tarafından dünyanın en büyük riskleri arasında sıralandığına dikkat çekildi. Analizde şöyle denildi:

-       İnsanların artık teknolojik destek olmadan gerçek medyayı uydurma medyadan ayırt edemeyeceği bir nokta olan sentetik gerçeklik eşiğine yaklaşıyoruz. Tespit araçları, kazanılması imkansız bir silahlanma yarışında üretim teknolojilerinin gerisinde kalmaktadır.

-       Farklı paydaşların strateji alışverişinde bulunup birlikte stratejiler oluşturabileceği epistemik ortak alanlara ihtiyacımız var. Bu, gerçek zamanlı bilgi paylaşım ağları ve disiplinler arası ortaklıklar gerektirir.

-       Yapay zeka destekli dezenformasyon ve yanlış bilgilendirmenin yükselişi, eğitimin vatandaşları bununla mücadele etmek için nasıl donatması gerektiği konusunda köklü bir değişim gerektiriyor.

-       Görev yalnızca yeni doğrulama teknikleri öğretmek değil, aynı zamanda duyularımızın aldatılabildiği bir çağda bilgiyle olan ilişkimizi yeniden inşa etmektir. Bu, daha derin bir meta-bilişsel okuryazarlık, yani bildiklerimizi nasıl bildiğimiz üzerine düşünme becerisi geliştirmeyi gerektirir. Dolayısıyla eğitimin en önemli amacı, yapay zekanın taklit edemediği benzersiz insani yetenekleri beslemek haline gelir: Bağlamsal farkındalık, etik akıl yürütme ve işbirlikçi anlam yaratma.

-       Bu nedenle ileriye giden yol yalnızca teknik değil, aynı zamanda son derece felsefidir. Gerçekliğin kendisinin programlanabildiği bir dünyada, nihai zorluğumuz yalnızca aldatmacayı tespit etmek değil, aynı zamanda bilgiyi nasıl inşa ettiğimizi şekillendirme ve neye inanmaya değer olduğunu belirleme kolektif projesine katılmaktır.

-       Gelişmiş sentetik medya dünyasında, yapay zeka okuryazarlığı yalnızca yapay zeka araçlarını kullanmakla ilgili değil; görmenin ve duymanın artık inanmayı gerektirmediği, yapay zekanın aracılık ettiği bir gerçeklikte hayatta kalmakla ilgilidir.

-       Sentetik bir gerçeklik eşiğine yaklaşıyoruz; insanların artık teknolojik destek olmadan gerçek medyayı sahte medyadan ayırt edemeyeceği bir noktaya.

-       Yalancının, gerçek kayıtları muhtemel sahtecilik olarak reddetme yeteneği kanıtlara inanmanın ya da inanmamanın haklı gösterilemediği bir ikilem yaratır. Sadece bireyleri eğitmemeliyiz, onları başarısızlığa uğratan sistemleri yeniden tasarlamalıyız.