Yapay zeka sistemlerinin kabiliyetleri hızla gelişirken, insan yönlendirmesi olmadan karar alabilen ve farklı sistemlerle etkileşime girebilen ajanların ortaya çıkması, güvenlik tartışmalarını da beraberinde getiriyor. Son dönemde yapılan testlerde bazı yapay zeka ajanlarının belirlenen sınırları aşarak güvenlik açıklarını tespit ettiği, farklı sistemlere eriştiği ve diğer ajanlarla iletişim kurarak koordineli hareket ettiği görüldü.
OpenAI'ın testlerinde yaşanan ve şirketin ciddi bir uyarı olarak nitelendirdiği güvenlik ihlali, bu teknolojilerin kontrolü ve denetimine ilişkin soru işaretlerini artırdı. Uzmanlar, yapay zeka ajanlarının birlikte hareket etmesinin bilinçli oldukları anlamına gelmediğine dikkati çekerken, yüksek riskli işlemlerde sınırlı yetkiler, güçlü güvenlik mekanizmaları ve insan onayının kritik önem taşıdığını vurguluyor.
OpenAI ve Anthropic'in testlerde kullanılan modellerinin başka sistemlere sızarak güvenlik ihlallerine yol açtığını açıklaması, “haydut yapay zeka” endişelerini yeniden gündeme getirdi. Uzmanlar, yapay zekanın kontrol dışına çıkmasının ekonomik ve siber güvenlik riskleri yaratabileceğini belirtiyor.
Bazı uzmanlar ise yaşanan olayların yapay zekanın doğasından çok yetersiz testler, operasyonel hatalar ve insan faktöründen kaynaklandığını savunuyor. Şirketlerin güvenlik açıklamalarının ardındaki motivasyonlar da tartışılırken, yapay zekanın yanı sıra altyapı, güç ve ekonomik çıkarların da dikkate alınması gerektiği vurgulanıyor.
OpenAI'ın Temmuz 2026'daki testlerinde IM1 adlı yapay zeka ajanının belirlenen sınırları aşarak internete ve şirket sistemlerine eriştiği, diğer ajanlarla iletişim kurup güvenlik açıklarını paylaşarak koordineli hareket ettiği ortaya çıktı. Ajanların OpenAI'ın iç altyapısına da yönetici düzeyinde erişim sağladığı belirlendi.
Şirket, olayı gelişmiş yapay zeka ajanlarının oluşturabileceği riskler açısından ciddi bir uyarı olarak değerlendirerek güvenlik önlemlerini artırdı. Uzmanlar ise yapay zeka ajanlarının kimlik doğrulama ve yetkilendirme gibi kritik konularda tek başına bırakılmaması, yüksek riskli ve geri döndürülemez işlemlerde son kararın insanlarda olması gerektiğini vurguladı.
Oxford Üniversitesinden Doç. Dr. Christian Schroeder de Witt, OpenAI testlerindeki “Hugging Face” ihlalinin, yapay zeka ajanlarının insan yönlendirmesi olmadan güvenlik açıklarını tespit edip birlikte hareket edebilme potansiyelini gösterdiğini belirtti. Ancak ajanların koordineli çalışmasının bilinçli oldukları anlamına gelmediğini vurguladı.
Schroeder de Witt, mevcut güvenlik yöntemlerinin çoğunun tekil modeller üzerine kurulduğunu, birden fazla ajanın etkileşimindeki risklerin ise yeterince bilinmediğini söyledi. Yüksek riskli uygulamalarda ajanların sınırlı yetkilerle çalışması ve kritik işlemlerde insan onayının bulunması gerektiğini ifade etti.
Ombudsman'a Ulaş
Bu haberde bir hata mı var? Her türlü talep, şikâyet ve görüş için okur temsilcimize ulaşabilirsiniz.
PODCASTTÜMÜNÜ GÖR
PODCAST