Google, sağlık konularında kullanıcılarına hızlı bilgi sunmak amacıyla devreye aldığı yapay zekâ destekli “Genel Bakışlar” özelliğinde ciddi hatalar tespit edilmesi üzerine bazı özetleri kaldırma kararı aldı. The Guardian’ın yaptığı araştırma sonrası gündeme gelen bu adım, yanlış ve yanıltıcı sağlık bilgilerinin kullanıcılar için ciddi riskler oluşturabileceğini bir kez daha ortaya koydu.
Araştırmaya göre, Google’ın üretken yapay zekâ ile oluşturduğu bazı sağlık özetleri, özellikle laboratuvar testleri ve tıbbi değerlendirmeler konusunda eksik bağlam içeriyor. En dikkat çekici örneklerden biri, karaciğer fonksiyon testleri ile ilgiliydi. Yapay zekâ tarafından sunulan “normal değer aralıkları”, hastanın yaşı, cinsiyeti, etnik kökeni veya tıbbi geçmişi gibi hayati faktörleri dikkate almadan genel rakamlar üzerinden aktarılıyordu. Bu durum, ciddi sağlık sorunları olan kişilerin test sonuçlarını yanlış yorumlamasına, hatta takip randevularını iptal etmesine veya doktora başvurmamasına yol açabilecek kadar tehlikeli sonuçlar doğurabiliyor.
Ortaya çıkan riskler üzerine Google, “karaciğer kan testleri için normal aralık nedir” ve “karaciğer fonksiyon testleri için normal aralık nedir” gibi belirli arama sorguları için yapay zekâ özetlerini tamamen kaldırdı. Şirket, tek tek kaldırma kararları hakkında detay vermekten kaçınırken, bağlamın yeterince sağlanamadığı durumlarda sistem genelinde iyileştirmeler yapıldığını ve gerekli hallerde politika gereği müdahalede bulunulduğunu açıkladı.
Buna rağmen endişeler sona ermiş değil. Uzmanlar, aynı soruların farklı kelimelerle sorulması durumunda hâlâ yanıltıcı yapay zekâ özetlerinin gösterilebileceğine dikkat çekiyor. İngiliz Karaciğer Vakfı yetkilileri, Google’ın attığı adımı olumlu bulduklarını belirtirken, diğer hastalıklar ve testler hakkında sunulan yapay zekâ kaynaklı bilgilerin de yanlış veya kafa karıştırıcı olabileceği uyarısında bulundu.
Öte yandan Google’ın yapay zekâ özetleri, kanser ve ruh sağlığı gibi son derece hassas alanlarda da eleştirilmeye devam ediyor. Bazı özetler uzmanlar tarafından “tamamen yanlış” ve “gerçekten tehlikeli” olarak nitelendirilirken, Google bu içeriklerin kaldırılmamasını, saygın kaynaklara yönlendirme yapılması ve kullanıcıların uzman görüşü almaya teşvik edilmesi ile savunuyor.
Bu gelişmeler, yapay zekânın bilgiye hızlı erişim sağlama potansiyelinin yanında, özellikle sağlık gibi alanlarda yanlış bilginin hayati sonuçlar doğurabileceğini gösteriyor. Uzmanlar, yapay zekâ özetlerinin doktor tavsiyesinin yerine geçmemesi gerektiğini, kullanıcıların bu bilgileri yalnızca genel bilgilendirme olarak görmesi gerektiğini vurguluyor.
