Hackerlar Gemini’yi Kopyalamaya Çalıştı: 100 Bin Soruluk Yapay Zekâ Saldırısı

Hackerlar, Gemini’yi 100 binden fazla soruyla test ederek modeli kopyalamaya çalıştı; Google şüpheli hesapları engelledi.

Google’ın gelişmiş yapay zekâ modeli Gemini, son dönemde hem siber suçluların hem de devlet destekli grupların hedefi haline geldi. Ortaya çıkan bilgilere göre bazı aktörler, Gemini’yi 100.000’den fazla farklı dil ve formatta soruyla bombardımana tutarak modelin çalışma mantığını çözmeye ve kendi benzer sürümlerini oluşturmaya çalıştı. “Bilgi damıtma” (knowledge distillation) olarak bilinen bu yöntemle saldırganlar, doğrudan kaynak kodu çalmak yerine modelin verdiği yanıtları analiz ederek davranış kalıplarını taklit etmeyi hedefledi. Bu teknik, modern yapay zekâ güvenliğinde giderek daha kritik bir tehdit başlığı olarak öne çıkıyor.

Bilgi damıtma sürecinde saldırganlar, hedef modeli çok sayıda farklı ve sistematik soruyla test ederek yanıtlarını kaydediyor. Ardından bu çıktılar, daha küçük veya farklı bir modele öğretilerek benzer performans elde edilmeye çalışılıyor. Böylece yüksek maliyetle eğitilmiş bir yapay zekâ modelinin “düşünme biçimi” dolaylı yoldan yeniden inşa edilebiliyor. Uzmanlara göre bu yöntem, doğrudan veri ihlali içermediği için hukuki ve teknik açıdan gri alanlar barındırıyor. Ancak ticari değeri milyarlarca doları bulan modeller için ciddi bir fikri mülkiyet riski oluşturuyor.

Tehdit yalnızca model kopyalama girişimleriyle sınırlı kalmadı. Bazı devlet destekli grupların, Gemini’yi doğrudan siber operasyonlarında kullandığı bildirildi. Çin bağlantılı APT31 grubunun, ABD merkezli kuruluşlardaki sistem açıklarını tespit etmek için Gemini destekli araçlardan yararlandığı; İran bağlantılı APT42’nin yapay zekâ yardımıyla daha ikna edici kimlik avı e-postaları hazırladığı; Kuzey Kore bağlantılı UNC2970 grubunun ise savunma sektörü çalışanlarını analiz etmek ve hedef belirlemek için yapay zekâdan faydalandığı belirtildi. Bu gelişmeler, yapay zekânın yalnızca hedef değil aynı zamanda saldırı aracı olarak da kullanıldığını gösteriyor.

Google ise bu girişimlere karşı güvenlik önlemlerini artırdı. Şirket, model çıkarımı (model extraction) ile bağlantılı olağandışı sorgu davranışlarını tespit etmek için gelişmiş izleme sistemleri devreye aldı ve şüpheli hesapları engellemeye başladı. Aşırı hacimde ve sistematik biçimde sorgu gönderen hesapların otomatik olarak işaretlendiği ifade ediliyor. İlginç olan ise girişimlerin yalnızca devlet destekli hacker gruplarından gelmemesi. Dünya genelindeki bazı özel şirketler ve araştırma ekiplerinin de benzer yöntemlerle model performansını taklit etmeye çalıştığı belirtiliyor.

Yapay zekâ alanında rekabetin hızlanması, büyük dil modellerinin korunmasını stratejik bir mesele haline getiriyor. Bu modellerin geliştirilmesi milyarlarca dolarlık altyapı yatırımı, devasa veri kümeleri ve yüksek işlem gücü gerektiriyor. Model kopyalamanın görece daha düşük maliyetle mümkün hale gelmesi, teknoloji devleri için hem ticari hem de ulusal güvenlik boyutunda risk oluşturuyor. Uzmanlar, önümüzdeki dönemde model güvenliği, erişim sınırlamaları ve çıktı su işaretleme tekniklerinin daha da yaygınlaşacağını öngörüyor.

Sonuç olarak Gemini’ye yönelik 100 bin soruluk saldırı girişimi, yapay zekâ çağında siber güvenliğin yeni sınırlarını gözler önüne seriyor. Artık yalnızca veriler değil, modellerin kendisi de korunması gereken kritik varlıklar arasında yer alıyor. Yapay zekâ kopyalamanın daha ucuz ve erişilebilir hale gelmesi, hem teknoloji şirketlerini hem de hükümetleri daha sıkı güvenlik önlemleri almaya zorluyor. Gemini vakası, yapay zekâ rekabetinin yalnızca inovasyon değil, aynı zamanda güvenlik yarışı olduğunu da ortaya koyuyor.

Haber Merkezi

Haber Merkezi

Makaleler: 1587