Yapay zeka muharebe sahasında dengeleri değiştiriyor

Boğaziçi Üniversitesi Yönetim Bilişim Sistemleri Bölümü Öğretim Üyesi ve Boğaziçi Üniversitesi Siber Güvenlik Merkezi (BÜSİBER) Kurucusu Prof. Dr. Bilgin Metin, İran saldırısı öncesi ABD Savunma Bakanlığı (Pentagon) ile yapay zeka şirketleri arasında yoğunlaşan müzakereler, askeri amaçlarla yapay zeka kullanımı, etik sınırlar ve siber güvenlik konularında AA muhabirinin sorularını yanıtladı.

Saldırının aylardır planlanan bir harekat olup altyapı hazırlıklarının tamamlandığına işaret eden Metin, yapay zeka şirketlerinin onay vermemesinin operasyonu bekletmediğini, müzakerelerin ayrı bir süreç olarak ilerlediğini söyledi. Metin, Pentagon'un aylardır süren "sınırsız kullanım" talebinin, bu müzakerelerde belirleyici bir gerilim noktası olduğunu vurguladı.

Teknoloji şirketi Anthropic'in, Savunma Bakanlığı karşısında tam otonom silah sistemlerinde ve kitlesel iç gözetimde yapay zeka kullanılmaması şeklinde iki temel kırmızı çizgisi bulunduğuna değinen Metin, şu değerlendirmelerde bulundu:

"Bu tutum, savaşlarda sivil can kayıplarının sorumluluğunu üstlenmek istememekle açıklanabilir. 1984 romanındaki Büyük Birader aklımıza geliyor, kitlesel gözetimde yapay zekanın kullanılması, bireysel özgürlükleri tehdit eden bir distopyaya kapı açabilir diye düşünüyorlar.

Pentagon yıllardır uydu görüntüleri ve harita verileri gibi kaynakları yapay zekaya uygun formata dönüştürüyor. Palantir gibi şirketler de farklı formatlardaki askeri bilgileri bu modellere beslenebilir hale getiriyor. Tıpkı bir arama motorunun milyarlarca sayfayı önceden indekslemesi gibi, askeri veriler de önceden işlenip 'yapay zekanın hızlıca arayabileceği' bir kütüphaneye dönüştürülüyor. Bu sayede operasyon sırasında statik bilgilere erişim çok hızlı gerçekleşiyor. Ama işin zor kısmı şu: Bir dronun anlık görüntüsü, radar sinyalleri gibi sürekli değişen verileri aynı hızda işlemek çok daha karmaşık ve hata riski taşıyan bir iş. Bu yüzden 'anlaşma imzalanır imzalanmaz yapay zeka savaş alanında devreye girdi' söylemi gerçeği yansıtmıyor. Strateji geliştirme ve istihbarat sentezi gibi alanlarda zaten kullanılıyordu, anlaşmazlık yalnızca sınırsız kullanım talebinde düğümlendi."

Füze misillemelerine karşı hızlı yanıt vermeyi sağlıyor

ABD'nin halihazırda kullandığı yapay zekanın, istihbarat sentezi ve hedef tespitini hızlandırarak İran'ın hareketli hedeflerini (füze rampaları, komuta merkezleri) daha isabetli ve hızlı belirlemeyi sağladığını dile getiren Metin, sözlerini şöyle sürdürdü:

"Gerçek zamanlı karar desteği sayesinde füze misillemelerine karşı savunma koordinasyonu çok daha hızlı optimize edilebiliyor, bu da kayıpları azaltırken operasyonel üstünlük sağlıyor.

Veriler doğru formata getirilmeden yüksek doğruluklu sonuç almak mümkün olmuyor. Yani iş göründüğü kadar basit değil. Stratejik düzeyde yapay zeka son derece güçlü bir araçken, canlı veri işleme ya da otonom silah sistemlerinde hata riski ciddi biçimde artıyor. Anthropic'in temel kaygısı da kamuoyuna ve basına bu yönde yansıdı.

Şöyle bir örnek vereyim: Araçla giderken arkadaşınızdan rota sorarsanız ve trafiğe takılırsanız ona kızarsınız. Ama telefondaki harita uygulaması aynı rotayı önerip trafiğe girseniz, uygulamaya kızamazsınız. İşte Pentagon'un hesabı da buna benziyor: Olası sivil can kayıpları gibi hassas kararların sorumluluğunu paylaşacak bir mekanizma olarak yapay zekanın cazip bir araç haline geldiği görülüyor. Anthropic ise bu sorumluluk zincirinin içinde yer almak istemedi."

"Tartışma yeni başlıyor"

Anthropic'in bu kararıyla Pentagon'dan gelen cazip bir iş teklifini reddettiğini belirten Metin, ama ilginç bir şey olduğunu ve sosyal medyada pek çok kullanıcının Pentagon ile anlaşma imzalayan OpenAI aboneliğini sonlandırıp etik yapay zeka prensiplerini savunan Anthropic Claude'a geçtiğini duyurduğunu ifade etti.

Bilgin Metin, "Yapay zeka tek başına iyi ya da kötü değil, onu kimin, hangi amaçla kullandığı belirleyici oluyor. Bu sebeple etik filtrelerle birlikte sunuluyor. Hiç etik filtresi olmayan sınırsız bir yapay zeka kullanımı istemek, yapay zekayı basında üzülerek okuduğumuz töre cinayeti işletilen çocuklar konumuna itiyor. Ne yaptığının tam farkında değil, sorumluluğu üstlenemez ama sonuçları gerçek ve ağır. Bu tartışma daha bitmedi, yeni başlıyor." dedi.

İranlılara ABD SMS'leri

Siber uzayın kara, deniz, hava ve uzaydan sonra artık beşinci savaş boyutu olarak kabul gördüğünü vurgulayan Metin, bunun sadece bir metafor olmadığını, NATO başta olmak üzere pek çok savunma doktrininin siber alanı resmi olarak savaş alanı ilan ettiğini aktardı.

Kritik altyapıların, bu boyutun en kırılgan halkasını oluşturduğuna işaret eden Metin, "Sağlık sistemleri, enerji şebekeleri ve finansal altyapılar hedef alındığında etki doğrudan sivillere yansıyor. Bir hastane sisteminin çökmesi ya da elektrik şebekesinin devre dışı bırakılması, geleneksel bir saldırıdan çok daha sessiz ama bir o kadar yıkıcı olabiliyor. Yaşanan son çatışmada iletişim kanallarının hedef alındığını somut olarak gördük. İran'da reklam amaçlı toplu SMS gönderen sistemlerin ele geçirilip ABD propagandası içeren mesajlar iletmek için kullanıldığı haberleri geldi. Yani siber savaş artık sadece sistemleri çökertmiyor, propaganda yapılabilecek kanallardan zihinleri de hedef alıyor." diye konuştu.

Boğaziçi Üniversitesi Siber Güvenlik Merkezi BÜSİBER'i 2017 yılında kurduklarına değinen Metin, geçen 8 yılda 15 siber kampla yaklaşık 2000 üniversite öğrencisine ücretsiz siber güvenlik eğitimi verdiklerini bildirdi. Metin, bu alanda farkındalığı artırmak ve Türkiye'nin siber güvenlik kapasitesine katkı sağlayacak yetkin gençlere destek vermeyi amaçladıklarını kaydetti.