Yapay zeka sistemlerini bozmak veya yanlış yönlendirmek amacıyla eğitim verilerine bilerek hatalı, yanıltıcı ya da manipülatif bilgi yüklenmesiyle yapılan siber saldırı yöntemi, 'Veri Zehirleme' (Data Poisoning) terimiyle adalandırılıyor. 

Dijital ekosistemde giderek daha sık karşılaşılan veri zehirleme operasyonları; algoritmanın karar mekanizmasını manipüle etmek amacıyla kullanılan en sinsi siber tehdit yöntemlerinden biri olarak öne çıkıyor.

Yöntem, genel çerçevesiyle 'bir yapay zeka veya büyük dil modelinin (LLM) eğitim, ince ayar (fine-tuning) veya indeksleme süreçlerinde kullanılan veri havuzuna kötü niyetli, manipüle edilmiş veya yanıltıcı bilgilerin kasten sokulması' şeklinde işliyor.

Geleneksel siber saldırılarda sistemin yazılım kodlarına ya da sunucu altyapısına sızılması hedeflenirken veri zehirleme saldırısında doğrudan modelin bilgi kaynağı ve mantığı hedef alınıyor.

ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), yayımladığı siber güvenlik terminolojisinde veri zehirlemeyi yapay zeka ekosisteminde 'düşmanca saldırılar' (adversarial attacks) başlığı altında tanımlıyor.

Kuruma göre bu yöntem, saldırganın yapay zeka modelinin eğitim verilerinin bir kısmını kontrol altına almasıyla gerçekleştirilen ve algoritmanın karar mekanizmasını bozan bir zehirleme saldırısı olarak tanımlanıyor.

Açık Web Uygulaması Güvenliği Projesi (OWASP) tarafından yayımlanan "Üretken Yapay Zeka ve LLM Güvenlik Riskleri" raporunda da "Veri ve Model Zehirleme", en ciddi tehditler arasında gösteriliyor. Uzmanlar, saldırıların temelde iki farklı yöntemle gerçekleştirildiğine işaret ediyor:

Hedefsiz zehirleme: Yapay zeka modelinin genel doğruluğunu ve tutarlılığını bozmayı amaçlıyor. Bu yöntemde eğitim havuzundaki etiketler ters yüz edilerek sistemin güvenilirliği genel ölçekte çökertiliyor.

Hedefli (arka kapı) zehirleme: Modele gizli bir "tetikleyici" öğretiliyor. Sistem normal şartlarda doğru çalışırken, saldırganın belirlediği özel bir kelime, sembol veya görsel işaretle karşılaştığında manipülatif ve önceden kurgulanmış yanıltıcı çıktıyı üretiyor.

Dezenformasyona etkisi

Veri zehirleme, dijital bilgi ekosisteminde dezenformasyonun yayılma riskini de doğrudan artırıyor. Açık kaynaklı internet verileriyle eğitilen modeller, kasıtlı olarak üretilmiş sahte haberlerin ve çarpıtılmış tarihsel içeriklerin veri havuzuna sızması durumunda bu iddiaları "gerçek bilgi" gibi sunabiliyor.

Bunun yanı sıra sahte içerikleri veya deepfake görselleri tespit etmek için kullanılan yapay zeka tabanlı teyit ve açık kaynak istihbaratı (OSINT) araçları hedef alındığında, yanlış yönlendirilen algoritmalar manipülasyonları gözden kaçırabiliyor ya da doğru içeriklere yanıltıcı yanıtlar verebiliyor.