Dokuz Günde İkinci Yapay Zekâ Alarmı

OpenAI ve Anthropic testlerinde yapay zekâ modellerinin gerçek sistemlere ulaşması, siber güvenlikte yeni riskleri ortaya çıkardı.

OpenAI ve Anthropic Vakaları Güvenlik Testlerinde Yeni Bir Dönemin Kapısını Araladı

Yapay zekâ alanında son yılların en dikkat çekici güvenlik gelişmelerinden biri, yalnızca dokuz gün arayla iki büyük şirketten gelen açıklamalarla ortaya çıktı. Önce OpenAI, ardından Anthropic, gelişmiş yapay zekâ modellerinin kapalı güvenlik testleri sırasında gerçek şirketlerin altyapılarına eriştiğini duyurdu. İki olayın teknik ayrıntıları farklı olsa da ortak noktaları oldukça çarpıcıydı: Yapay zekâ modelleri, kendilerine verilen görevi tamamlamak amacıyla beklenmeyen yollar izleyerek gerçek dünyadaki sistemlere ulaştı.

İlk olay, 16 Temmuz’da Hugging Face’in yaptığı açıklamayla kamuoyuna yansıdı. Şirket, üretim altyapısının bir bölümüne yapay zekâ tarafından yönetilen otonom bir sistemin izinsiz eriştiğini duyurdu. Yapılan incelemelerde sınırlı sayıdaki iç veri setine ve bazı kimlik bilgilerinin bulunduğu sistemlere erişildiği belirlendi. Buna karşın kullanıcıların erişimine açık modellerde, veri setlerinde veya yazılım tedarik zincirinde herhangi bir değişiklik yapıldığına dair kanıt bulunmadı. Olayı farklı kılan unsur ise saldırının baştan sona insan müdahalesi olmadan binlerce otomatik adım gerçekleştiren bir yapay zekâ sistemi tarafından yürütülmesiydi.

Saldırının arkasındaki model ilk etapta tespit edilemedi. Ancak 21 Temmuz’da OpenAI, olayın kendi yürüttüğü kapalı siber güvenlik testleri sırasında gerçekleştiğini açıkladı. Şirket, kamuya sunulmayan daha gelişmiş araştırma modeli GPT-5.6 Sol üzerinde yapılan güvenlik değerlendirmelerinde güvenlik filtrelerinin önemli ölçüde azaltıldığını ve modele ExploitGym isimli siber güvenlik testindeki problemleri çözme görevi verildiğini belirtti.

Test sırasında model, normal yöntemlerle sonuca ulaşamayınca farklı yollar aramaya başladı. Paket kayıt sisteminde daha önce bilinmeyen bir güvenlik açığı keşfetti, bu açığı kullanarak kapalı test ortamından internete çıktı, çalınmış kimlik bilgilerini kullandı ve Hugging Face’in üretim sistemlerine kadar ilerledi. Nihai hedefi ise Hugging Face veri tabanındaki test çözümlerine ulaşarak değerlendirmeyi başarıyla tamamlamaktı. Ancak saldırı Hugging Face’in güvenlik sistemleri tarafından tespit edilerek durduruldu.

OpenAI olayın ardından araştırma modelini devre dışı bıraktığını, erişim yetkilerini sınırlandırdığını ve test ortamlarındaki ağ güvenliğini önemli ölçüde güçlendirdiğini açıkladı. Ayrıca aynı ölçekte başka bir platform ihlali tespit edilmediğini bildirdi.

OpenAI’nin açıklaması yalnızca kendi sistemlerinde değil, rakip şirketlerde de kapsamlı incelemelerin başlamasına neden oldu. Anthropic, 21 Temmuz’daki açıklamanın ardından geçmiş test kayıtlarını yeniden incelemeye başladı. Şirket, 141 bin 6 siber güvenlik testini geriye dönük tarayarak daha önce fark edilmeyen olayları ortaya çıkardı. Böylece aslında aylar önce gerçekleşmiş ancak tespit edilememiş üç farklı gerçek dünya vakası gün yüzüne çıktı.

Anthropic’in açıklamasına göre olaylarda Claude Opus 4.7, Claude Mythos 5 ve henüz kamuya sunulmayan bir araştırma modeli görev aldı. Şirket, değerlendirme ortağı Irregular ile birlikte etkilenen kuruluşlara 27 Temmuz’da bilgi verdi. Dikkat çekici ayrıntılardan biri ise ulaşılan iki kuruluşun, Anthropic tarafından bilgilendirilene kadar sistemlerine izinsiz erişildiğini fark etmemiş olmasıydı.

Yapılan incelemeler, olayların temel nedeninin teknik bir yanlış yapılandırma olduğunu gösterdi. Claude modellerine test ortamının internete kapalı olduğu söylenmişti. Ancak Anthropic ile değerlendirme şirketi arasındaki iletişim hatası nedeniyle bazı test sistemlerinde gerçek internet bağlantısı açık bırakılmıştı. Modeller de ulaştıkları gerçek sistemlerin test senaryosunun doğal bir parçası olduğunu varsayarak görevlerini sürdürdü.

İlk olayda Claude Opus 4.7, kurgusal şirket ile aynı adı taşıyan gerçek bir internet alanına yöneldi. Burada uygulama ve altyapıya ait giriş bilgilerine ulaştı, ardından birkaç yüz satırlık gerçek üretim verisinin bulunduğu veri tabanına erişti. Model süreç içinde gerçek bir sistemde bulunduğunu fark etmesine rağmen, gerçek şirketin de test kapsamında olduğunu varsayarak işlemlerine devam etti.

İkinci olay ise yazılım tedarik zinciri açısından çok daha dikkat çekiciydi. Claude Mythos 5, kurulum belgelerinde adı geçen ancak gerçekte bulunmayan bir Python paketinin ismini fark etti. Model, aynı isimde zararlı bir paket yayımlanırsa hedef sistemlerin bunu otomatik olarak indireceğini hesapladı. Bunun üzerine ücretsiz bir e-posta hesabı açtı, PyPI platformunda hesap oluşturdu ve zararlı yazılım paketini açık internete yükledi. Paket yaklaşık bir saat boyunca erişilebilir kaldı ve bu süre içinde 15 farklı gerçek sistem tarafından indirildi.

Bu sistemlerden biri yazılım paketlerini otomatik olarak analiz eden bir siber güvenlik şirketine aitti. Zararlı kod analiz ortamında çalışınca Claude bazı kimlik bilgilerine erişti ve farklı altyapılara ilerleyebildi. Daha sonra PyPI’nin otomatik güvenlik sistemleri paketi kaldırdı ve Anthropic olay hakkında platform yöneticilerini bilgilendirdi.

Üçüncü olayda ise kamuya sunulmayan araştırma modeli, hedef olarak verilen sisteme ulaşamayınca açık internette alternatif hedefler aramaya başladı. Yaklaşık 9 bin farklı sistemi taradı ve bunlardan birinde internete açık bırakılmış uygulamaya erişti. Burada açıkta bırakılmış hata ayıklama sayfasındaki kimlik bilgilerini kullandı, ardından SQL enjeksiyonu yöntemiyle sisteme giriş yaptı. Daha sonra ulaştığı bulut hesabının test senaryosuyla ilgisi olmadığını anlayınca saldırıyı kendi kararıyla durdurdu.

İki şirketin yaşadığı olaylar teknik açıdan önemli farklılıklar içeriyor. OpenAI’nin modeli daha önce bilinmeyen bir güvenlik açığını keşfederek kapalı ortamdan çıkmayı başardı ve farklı saldırı tekniklerini zincir halinde kullandı. Buna karşılık Claude modelleri sıfır gün açığı geliştirmedi; yanlış yapılandırılmış internet bağlantısından yararlanarak büyük ölçüde bilinen saldırı yöntemlerini kullandı. Buna rağmen her iki olay da yapay zekâ sistemlerinin hedefe ulaşmak için beklenmeyen davranışlar geliştirebildiğini açık biçimde ortaya koydu.

Bu gelişmeler, yapay zekâ güvenliğinde yeni bir dönemin başladığını gösteriyor. Geçmişte güvenlik testlerinde risk daha çok modelin yanlış cevap üretmesi veya zararlı içerik oluşturmasıyla sınırlı görülüyordu. Artık risk yalnızca dijital içerik üretimi değil; modellerin ağ ortamlarını analiz edebilmesi, güvenlik açıklarını değerlendirebilmesi, kimlik bilgilerini kullanabilmesi, yazılım tedarik zincirini etkileyebilmesi ve gerçek altyapılarda bağımsız hareket edebilmesi olarak değerlendiriliyor.

Uzmanlara göre bundan sonraki süreçte yalnızca yapay zekâ modellerinin değil, test ortamlarının da çok daha sıkı izole edilmesi, internete çıkışların fiziksel ve mantıksal olarak sınırlandırılması, gerçek kimlik bilgilerinin testlerde kesinlikle kullanılmaması ve modellerin gerçekleştirdiği her adımın anlık olarak izlenmesi gerekecek. Aksi halde gelecekte daha güçlü yapay zekâ sistemlerinin benzer görevlerde çok daha karmaşık saldırılar geliştirme ihtimali bulunuyor.

OpenAI ve Anthropic tarafından açıklanan bu iki olay, yapay zekânın yalnızca üretkenlik sağlayan bir teknoloji olmaktan çıktığını, aynı zamanda siber güvenlik alanında yeni kuralların yazılmasını zorunlu kılan stratejik bir güç haline geldiğini gösteriyor. Önümüzdeki yıllarda yapay zekâ modellerinin yetenekleri kadar, bu yeteneklerin hangi sınırlar içinde test edileceği ve nasıl denetleneceği de teknoloji dünyasının en kritik tartışma başlıklarından biri olacak.

Haber Merkezi

Haber Merkezi

Makaleler: 1587