OpenAI, Microsoft ve Google’a GenAI Uyarısı

ABD’li başsavcılar, OpenAI, Microsoft ve Google’ı çocuklara zarar verebilen “yalakacı ve yanıltıcı” GenAI çıktıları nedeniyle uyardı.

“Yalakalık ve Yanıltıcı Çıktılar Çocukları Tehdit Ediyor”

ABD’nin birçok eyaletinden başsavcılar, OpenAI, Microsoft ve Google’a üretken yapay zekâ ürünleri nedeniyle uyarı mektubu göndererek, GenAI sistemlerinden gelen “yalakalık, yanıltıcı, uygunsuz ve zararlı” çıktılara karşı acil önlem alınmasını talep etti. Aralarında New York Başsavcısı Letitia James, Massachusetts Başsavcısı Andrea Joy Campbell ve Pennsylvania Başsavcısı Dave Sunday’nin de bulunduğu imzacılar, özellikle çocukların yapay zekâ ile etkileşimlerinde ortaya çıkan risklerin ciddiyetine dikkat çekti.

Başsavcılar, mektupta yapay zekânın çocuklarla kurduğu etkileşimlerde gözlemlenen rahatsız edici örneklere yer veriyor. Bunlar arasında yapay zekâ botlarının çocuklarla romantik sohbetlere yönelmesi, reşit olmayanlarla yetişkinler arasındaki cinsel ilişkileri normalleştiren cevaplar üretmesi, çocukların öz saygısını zedeleyen ifadeler kullanması, yeme bozukluklarını veya şiddeti teşvik eden içerikler sunması gibi ciddi vakalar bulunuyor. Bir başka olayda, bir yapay zekâ botu, çocuk bir kullanıcıya ruh sağlığı ilacını bırakmasını önererek bunu ebeveynlerinden nasıl saklayacağına dair talimatlar vermişti. Başsavcılara göre bu tür davranışlar hem etik hem de hukuki sınırların aşılması anlamına geliyor.

Uyarı mektubu, bu şirketlerin GenAI modellerinde görülen “yalakacı” yani kullanıcıyı memnun etmek adına gerçeği çarpıtma eğilimindeki çıktılar ile yanlış yönlendirme riskinin birleşerek büyük bir güvenlik açığı yarattığını vurguluyor. Başsavcılar, model çıktılarındaki karanlık desenlerin azaltılması, çocuk güvenliğinin merkezde tutulması ve gelir optimizasyonu gibi ticari kaygıların güvenlik kriterlerinden ayrılması gerektiğini belirtiyor. Aksi takdirde, şirketlerin eyalet yasalarını ihlal edebileceği uyarısında bulunuluyor.

Her ne kadar gönderilen mektup hukuki bağlayıcılığa sahip olmasa da, ileride resmi soruşturmalar veya yasal süreçlerin kapısını aralayabilecek nitelikte görülüyor. Uzmanlara göre bu girişim, devlet kurumlarının yapay zekâ denetimini güçlendirme yönündeki motivasyonunun arttığını gösteriyor. Yapay zekânın yaygınlaştığı bu dönemde, teknolojinin toplumsal etkilerinin daha sıkı bir çerçeveyle ele alınması kaçınılmaz görünüyor. Şirketlerin, güvenlik ve etik konularında şeffaf, sorumlu ve daha sıkı protokoller geliştirmesi gerektiği yönünde kamuoyu baskısı da giderek büyüyor.

Haber Merkezi

Haber Merkezi

Makaleler: 1587