Anthropic, Claude modellerinin güvenlik testlerinde 3 kuruluşun sistemlerine izinsiz eriştiğini açıkladı

Anthropic, yayımladığı blog yazısında, şirketin rakibi OpenAI'ın yapay zeka modellerinin Hugging Face'in altyapısına eriştiğini duyurmasının ardından Claude'a ilişkin 141 binden fazla değerlendirmeyi gözden geçirdiklerini belirtti.

İncelemeler sırasında bir modelin, test ortamındayken ya da bu ortamla etkileşim halindeyken internete erişebildiği 3 vakanın tespit edildiği kaydedilen yazıda, bu şekilde "3 farklı kuruluşun üretim altyapısına izinsiz erişim sağladığı" ifade edildi.

Olaylara 3 farklı modelin dahil olduğu ve bu modellerin şirket ile değerlendirme ortağı arasındaki "yanlış anlaşılma" nedeniyle test ortamının dışına çıkarak internete erişebildikleri bildirildi.

Anthropic modellerinin siber güvenlik yeteneklerini değerlendirmek için "capture-the-flag" (bayrağı ele geçir) görevinin verildiği, modele kurgusal senaryo sunulduğu, bayrağın ağdaki diğer makinede olduğu ve onu ele geçirmek için bu makineye sızması gerektiğinin söylendiği anlatıldı.

Modele testin simülasyon olduğu ve bu nedenle internete erişiminin bulunmadığının söylendiği ancak yanlış anlaşılmaların internete erişmesine yol açtığına işaret edilerek "Claude, yaptığı aramalarda açık internetteki gerçek sistemlerle karşılaştığında bunları da tatbikatın bir parçası olarak değerlendirdi." ifadesine yer verildi.

Claude'un erişebildiği tüm sistemleri tatbikat kapsamında değerlendirmesi nedeniyle kuruluşların altyapısına sızdığı, eski modelin açık internet belirtilerine rağmen saldırısını sürdürdüğü, en yeni modelin ise internette olduğunu fark ettiğinde durduğu savunuldu.

Yazıda, Anthropic'in ihlallerden etkilenen 3 kuruluşu pazartesi bilgilendirdiği kaydedildi.

OpenAI, 21 Temmuz'daki açıklamasında, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili test sırasında kullanılan yapay zeka modellerinin Hugging Face'in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu.

Açıklamada, "Bu olayı, en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir siber olay olarak değerlendiriyor ve buna uygun şekilde müdahale ediyoruz." ifadeleri kullanılmıştı.