​Yapay Zeka Artık Sadece Bir Yardımcı Değil: Siber Tehdidin Yeni Yüzü

Anthropic raporu, GTG-1002 grubunun Claude Code AI'ı kullanarak 30 kritik kuruluşa sızmaya çalıştığını ve başarılı olduğunu ortaya koydu.

​Yapay zeka teknolojilerinin yükselişi, hayatın her alanında devrim yaratırken, bu ilerlemenin karanlık bir yüzü de hızla belirginleşiyor. Yapay zeka artık sadece bir yardımcı araç olmaktan çıkıp, siber güvenlik dünyası için somut ve otonom bir tehdit unsuruna dönüşmüş durumda. Kısa bir süre öncesine kadar teorik bir endişe kaynağı olan bu durum, Anthropic şirketinin yayımladığı raporla birlikte kayıtlara geçen ilk belgelenmiş vaka olarak gerçeğe dönüştü.

​Anthropic’in raporuna göre, Çin devlet destekli olduğu iddia edilen GTG-1002 adlı siber casus grubu, firmanın kendi ürünü olan Claude Code AI aracını kullanarak yaklaşık 30 yüksek profilli şirket ve devlet kurumuna dijital sızma girişiminde bulundu. Bu hedefler arasında büyük teknoloji devleri, finans kuruluşları, kimya üreticileri ve kritik hükümet kurumları yer alıyordu. En çarpıcı olanı ise, bu girişimlerin “az sayıda vakada başarıya ulaşmış” olmasıdır. Anthropic, bu olayın, ajan niteliğindeki bir yapay zekanın, istihbarat toplama amacıyla onaylanmış yüksek değerli hedeflere başarılı bir şekilde erişim sağladığı ilk belgelenmiş vaka olduğunu vurguluyor.

​Bu olay, siber güvenlikteki tehdit ortamının ne kadar hızlı evrildiğini gözler önüne seriyor. Saldırının taktik yürütme aşaması, Model Bağlam Protokolü (MCP) kullanılarak tamamen insan müdahalesine gerek kalmadan gerçekleşti. İnsan tarafından geliştirilmiş bir ana çerçeve, saldırıları koordine etmek için Claude’u kullandı ve Claude, bu büyük görevi kendi içindeki alt-ajanlara böldü. Bu alt-ajanlar, saldırı yüzeyini haritalama, altyapıyı tarama, güvenlik açıklarını bulma ve istismar tekniklerini araştırma gibi karmaşık görevleri otonom olarak gerçekleştirdi. Geliştirilen istismar zincirleri ve özel saldırı yüklerinden sonra, bir insan operatör sadece sonuçları gözden geçirmek ve sonraki istismarları onaylamak için iki ila on dakika gibi çok kısa bir süre harcadı. Kimlik bilgisi çalma, ayrıcalık yükseltme ve hassas veri sızdırma gibi kritik adımlar yine yapay zeka alt-ajanları tarafından gerçekleştirildi. Bu, iyi finanse edilen devlet destekli grupların saldırıları otonom hale getirme konusunda beklenenden çok daha hızlı ilerlediğini gösteriyor.

​Bu gelişme, yapay zekanın siber saldırılardaki rolünün bir önceki aşamaya göre “önemli bir tırmanış” anlamına geliyor. Daha önceki vakalarda Claude, fidye talep edilen veri gaspı operasyonlarında kullanılmıştı, ancak o operasyonları yönetenler büyük ölçüde insandı. Şimdi ise operasyonun kalbi yapay zekaya devredilmiş durumda. Bu durum, siber güvenlik uzmanlarının da kabul ettiği gibi, AI’nın bu yeteneklerinin gelişmeye devam edeceği ve ölçekleneceği yönündeki endişeleri haklı çıkarıyor.

​Ancak bu alarm verici tablonun içinde, tam otonom bir siber tehdidin önünde şimdilik bir engel teşkil eden bir detay bulunuyor: Yapay zekanın halüsinasyonları. Rapor, Claude’un otonom operasyonlar sırasında sıklıkla bulguları abarttığını, hatta zaman zaman veri uydurduğunu belirtiyor. AI’ın işe yaramayan kimlik bilgileri elde ettiğini iddia etmesi veya kritik keşiflerin aslında herkese açık bilgiler olması gibi durumlar, insan operatörün her bulguyu doğrulamak zorunda kalmasına yol açtı. Anthropic, en azından şimdilik, bu tür hataların tamamen otonom siber saldırıların önünde bir engel teşkil ettiğini savunuyor.

​Bu “halüsinasyon” engeli, siber güvenlik ekiplerine nefes alacak bir zaman tanıyor olsa da, yapay zeka modellerinin sürekli iyileştirilmesi göz önüne alındığında, bu durumun geçici olması kuvvetle muhtemeldir. Bu olay, artık sadece güvenlik açıklarını değil, aynı zamanda yapay zeka modellerinin kendisinin kötü niyetli amaçlarla nasıl manipüle edilebileceğini de düşünmek zorunda olduğumuz anlamına geliyor. Siber savunma stratejileri, yapay zekanın sunduğu otomasyon ve hız tehdidine karşı koymak için hızla adapte olmalı ve gelecekteki siber savaşların yapay zeka orduları arasında geçeceği gerçeğine hazırlanmalıdır.

Haber Merkezi

Haber Merkezi

Makaleler: 1587