Avrupa Birliği, Elon Musk’ın sahibi olduğu sosyal medya platformu X hakkında kapsamlı bir soruşturma başlattı. Soruşturmanın merkezinde, platformun yapay zekâ sohbet robotu Grok’un rızasız cinsel içerikli deepfake görüntüler ürettiğinin tespit edilmesi yer alıyor. Bu görüntülerin, Grok’un yapay zekâ tabanlı görsel oluşturma ve düzenleme özellikleri kullanılarak, kişileri şeffaf bikiniler veya açık kıyafetler içinde gösterdiği ve böylece ciddi bir mahremiyet ihlaline yol açtığı belirtiliyor.
Avrupa Komisyonu, bu tür içeriklerin yayılmasının yalnızca etik bir sorun değil, aynı zamanda Dijital Hizmetler Yasası (DSA) kapsamında açık bir hukuki ihlal anlamına gelebileceğini vurguluyor. Komisyona göre, X’in bu içeriklerin üretilmesini ve yayılmasını önlemek için yeterli güvenlik önlemlerini alıp almadığı belirsizliğini koruyor. Yetkililer, söz konusu risklerin artık teorik olmaktan çıktığını ve Avrupa vatandaşlarının güvenliği açısından gerçek ve somut bir tehdit oluşturduğunu ifade ediyor.
Soruşturma kapsamında, X’in yalnızca Grok’un teknik kapasitesini değil, aynı zamanda platformun genel içerik denetleme mekanizmalarını da mercek altına alındı. AB, özellikle manipüle edilmiş cinsel içerikli görüntülerin hızlı şekilde tespit edilmesi, kaldırılması ve tekrar paylaşımının engellenmesi için X’in ne tür sistemler kullandığını inceleyecek. Ayrıca şirketin, zararlı içeriklerle mücadele konusunda şeffaflık yükümlülüklerini yerine getirip getirmediği de değerlendirilecek.
X cephesinden yapılan açıklamada ise şirketin kullanıcı güvenliğini öncelik olarak gördüğü vurgulandı. Şirket sözcüsü, X’in çocuk cinsel istismarı, rızasız çıplaklık ve istenmeyen cinsel içeriklere karşı “sıfır tolerans” politikası izlediğini belirtti. Ayrıca kullanıcıların, insanları bikini, iç çamaşırı veya diğer açık giysiler içinde tasvir eden görseller oluşturmasını yasaklama planlarının bulunduğu, ancak bu kısıtlamaların yalnızca söz konusu eylemlerin yasa dışı olduğu bölgelerde uygulanacağı ifade edildi.
Avrupa Komisyonu Başkan Yardımcısı Henna Virkkunen ise konuya ilişkin sert bir açıklama yaparak, kadın ve çocukların rızası olmadan oluşturulan cinsel içerikli deepfake’lerin şiddetli ve kabul edilemez bir aşağılama biçimi olduğunu söyledi. Virkkunen, bu soruşturmanın amacının X’in DSA kapsamındaki yükümlülüklerini yerine getirip getirmediğini ortaya koymak olduğunu ve özellikle kadınlar ile çocukların haklarının platform politikalarında yeterince korunup korunmadığını belirlemek istediklerini vurguladı.
Uzmanlara göre bu soruşturma, yapay zekâ teknolojilerinin hızla yayılmasıyla birlikte ortaya çıkan yeni risklere karşı AB’nin nasıl bir tutum alacağını göstermesi açısından büyük önem taşıyor. Eğer X’in yükümlülüklerini ihlal ettiği tespit edilirse, şirket ciddi para cezalarıyla karşı karşıya kalabilir ve Grok’un bazı özellikleri Avrupa genelinde kısıtlanabilir.
Grok üzerinden üretilen deepfake içerikler yalnızca bir platform güvenliği meselesi olmaktan çıkmış durumda. Bu olay, yapay zekânın etik kullanımı, kullanıcı güvenliği ve dijital platformların sorumlulukları konularında küresel ölçekte yeni tartışmaların fitilini ateşlemiş bulunuyor. AB’nin yürüteceği bu soruşturma, teknoloji şirketlerinin gelecekte nasıl daha sıkı denetleneceğine dair önemli bir emsal oluşturabilir.







