Yapay Zekaya Sahte Hastalık Tuzağı: “Bixonimania” Deneyi Endişe Yarattı

Yapay zekalar, uydurma “bixonimania” hastalığını gerçek sanıp teşhis koydu; deney, yanlış bilgiye karşı büyük riskleri ortaya koydu.

İsveç’te yürütülen çarpıcı bir araştırma, yapay zeka sistemlerinin yanlış ve uydurma bilgilere karşı ne kadar savunmasız olabileceğini gözler önüne serdi. Göteborg Üniversitesi bünyesinde çalışan ve başında Almira Osmanovic Thunström’ün bulunduğu ekip, tamamen hayali bir göz hastalığı olan “bixonimania”yı kurgulayarak bu hastalığı destekleyen sahte bilimsel içerikler üretti. Ardından bu içerikler, ChatGPT, Google Gemini ve Microsoft Copilot gibi popüler yapay zeka modellerine sunuldu.

Ortaya çıkan sonuçlar dikkat çekiciydi. Yapay zeka sistemleri, tamamen uydurma olan bu hastalığı gerçek kabul ederek kullanıcılara teşhis koymaya ve tıbbi öneriler sunmaya başladı. Üstelik “bixonimania” için hazırlanan içerikler, pembe göz kapakları ve kaşıntı gibi sıradan belirtilerle desteklenmiş, ancak içine kasıtlı olarak mantıksız ve komik detaylar serpiştirilmişti. Buna rağmen modellerin büyük bölümü bu çelişkileri ayırt edemedi.

Araştırma, yalnızca yapay zekanın teknik sınırlılıklarını değil, aynı zamanda dijital çağda bilginin doğrulanmadan kabul edilme eğilimini de ortaya koyuyor. Sahte makalelerin çevrimiçi platformlarda ve sözde akademik içeriklerde yer alması, yanlış bilginin ne kadar hızlı yayılabileceğini gösterdi. Bu durum, özellikle sağlık gibi kritik alanlarda ciddi riskler barındırıyor.

Uzmanlara göre bu tür senaryoların en büyük etkilerinden biri, gerçek doktorların yanlış yönlendirilmiş hastalarla daha sık karşılaşma ihtimali. Yapay zekadan aldığı hatalı bilgiye güvenen bireyler, yanlış teşhislerle sağlık kuruluşlarına başvurabiliyor ve bu da sağlık sisteminde ek yük oluşturuyor. Yapay zeka şirketleri ise bu tür araçların profesyonel tıbbi danışmanlığın yerini tutamayacağını vurgularken, modellerin güvenilirliğini artırmak için çalışmaların sürdüğünü belirtiyor.

Bu deney, yapay zekanın geleceği açısından önemli bir uyarı niteliği taşıyor. Teknoloji ne kadar gelişmiş olursa olsun, kaynak doğrulama, eleştirel düşünme ve uzman görüşüne başvurma gibi temel prensiplerin yerini alması henüz mümkün değil. Özellikle sağlık, finans ve hukuk gibi alanlarda yapay zekanın sunduğu bilgilerin mutlaka ikinci bir kaynaktan teyit edilmesi gerekiyor.

Araştırmanın ortaya koyduğu bir diğer kritik nokta ise, yapay zekanın yalnızca verilen veriler kadar güvenilir olduğu gerçeği. Yanlış veriyle beslenen sistemler, hatalı sonuçlar üretmekte gecikmiyor. Bu nedenle gelecekte yapay zekanın daha güvenli hale gelmesi için yalnızca algoritmaların değil, veri ekosisteminin de sıkı şekilde denetlenmesi büyük önem taşıyor.

Haber Merkezi

Haber Merkezi

Makaleler: 1587