Google’ın Yapay Zekâ Genel Bakışları Sağlığınızı Riske Atıyor mu?

Google’ın Yapay Zekâ Özetleri, sağlık aramalarında uyarıları geri planda bırakarak yanlış bilgi riskini artırıyor.

Google, arama sonuçlarının üst kısmında sunduğu Yapay Zekâ Genel Bakışları (AI Overviews) özelliği nedeniyle sağlık alanında ciddi eleştirilerle karşı karşıya. Özellikle tıbbi sorulara verilen yanıtların, kullanıcıları yeterince güçlü ve görünür şekilde profesyonel yardım almaya yönlendirmediği iddiaları, teknoloji devinin sorumluluğunu yeniden tartışmaya açtı. İngiliz gazetesi The Guardian tarafından yayımlanan bir araştırma, sistemin sağlıkla ilgili hassas sorgularda sunduğu güvenlik uyarılarının ilk aşamada belirgin biçimde gösterilmediğini ortaya koydu.

Google’ın Yapay Zekâ Özetleri, kullanıcıların arama sonuçlarının en üstünde, farklı kaynaklardan derlenmiş ve yapay zekâ tarafından oluşturulmuş kısa açıklamalar görmesini sağlıyor. Amaç, bilgiye daha hızlı erişim sunmak. Ancak söz konusu içerik tıbbi tavsiye olduğunda hız ve kolaylık, potansiyel olarak riskli bir avantaja dönüşebiliyor. Araştırmaya göre, sistemin sunduğu “Bu yalnızca bilgilendirme amaçlıdır. Tıbbi tavsiye veya teşhis için bir uzmana danışın. Yapay zeka yanıtları hatalar içerebilir.” şeklindeki uyarı, ancak kullanıcı “Daha fazla göster” seçeneğine tıkladığında görünür hale geliyor. Üstelik bu uyarı, genişletilmiş metnin altında ve daha küçük, soluk bir yazı karakteriyle yer alıyor. Bu durum, özellikle acil veya endişe verici sağlık sorunları hakkında bilgi arayan kullanıcıların, ilk gördükleri özetle yetinme ihtimalini artırıyor.

Google cephesi ise eleştirileri kabul etmiyor. Şirket sözcüleri, yapay zekâ özetlerinin kullanıcıları profesyonel yardım almaktan caydırmadığını, aksine uygun durumlarda doğrudan özet içinde doktora başvurulması gerektiğini belirttiğini savunuyor. Ancak eleştirmenler, asıl sorunun uyarının varlığı değil, zamanlaması ve görünürlüğü olduğunu vurguluyor. Sağlık gibi kritik bir alanda, uyarının ikincil bir detay gibi sunulması, kullanıcı algısını etkileyebilir.

Massachusetts Institute of Technology bünyesinde çalışmalar yürüten yapay zekâ uzmanı Pat Pataranutaporn, mevcut en gelişmiş yapay zekâ modellerinin bile zaman zaman yanlış bilgi üretebildiğini veya kullanıcıyı memnun etmeye yönelik “dalkavukça” yanıtlar verebildiğini belirtiyor. Ona göre sağlık bağlamında bu durum son derece riskli; çünkü kullanıcılar semptomlarını eksik ya da yanlış aktarabilir ve sistem de bu eksik bilgi üzerinden hatalı yönlendirmelerde bulunabilir. Yapay zekâ, klinik değerlendirme yapabilecek bir doktorun yerini tutamaz; buna rağmen tasarım dili, çoğu kullanıcı için yeterince güvenilir bir otorite izlenimi yaratabiliyor.

Benzer şekilde Queen Mary University of London profesörlerinden Gina Neff, tasarım tercihlerini eleştirerek hız ve kullanıcı deneyiminin doğruluk ve güvenliğin önüne geçtiğini savunuyor. Arama sonuçlarının en üstünde yer alan bir yapay zekâ özetinin, birçok kullanıcı tarafından “en doğru bilgi” olarak algılanabileceğini belirten Neff’e göre, bu tasarım yaklaşımı özellikle sağlık alanında ciddi sonuçlar doğurabilir.

Sorunun temelinde, algısal otorite yer alıyor. Kullanıcılar, arama motorlarının sunduğu üst sıradaki bilgileri genellikle daha güvenilir kabul eder. Yapay zekâ tarafından üretilmiş bir özetin bu konumda sunulması, içeriğin doğruluğuna dair otomatik bir güven oluşturabiliyor. Oysa yapay zekâ modelleri, istatistiksel tahminler üzerinden metin üretir; gerçek zamanlı klinik doğrulama yapmaz ve kişisel sağlık geçmişini bilmez. Yanlış veya eksik bir öneri, gereksiz panik yaratabileceği gibi, tam tersine ciddi bir durumun hafife alınmasına da yol açabilir.

Bu tartışma, yalnızca Google’a özgü bir mesele değil; genel olarak üretken yapay zekâ sistemlerinin sağlık, hukuk ve finans gibi yüksek riskli alanlarda nasıl konumlandırılması gerektiğine dair daha geniş bir etik ve düzenleyici sorunun parçası. Uzmanlara göre çözüm, uyarı metinlerini sayfanın altına gizlemek değil; ilk temas anında açık, net ve güçlü bir yönlendirme yapmak. Ayrıca sağlık içeriklerinin daha sıkı denetimden geçirilmesi, kaynak şeffaflığının artırılması ve kullanıcıya alternatif güvenilir kaynakların açıkça sunulması öneriliyor.

Sonuç olarak, Yapay Zekâ Genel Bakışları bilgiye erişimi hızlandırsa da, sağlık söz konusu olduğunda hız her zaman güvenlik anlamına gelmiyor. Kullanıcıların, özellikle tıbbi konularda yapay zekâ tarafından sunulan özetleri nihai otorite olarak görmemesi; belirtiler, teşhis ve tedavi konularında mutlaka bir sağlık profesyoneline başvurması büyük önem taşıyor. Teknoloji şirketlerinin ise yenilik ile sorumluluk arasındaki dengeyi, özellikle insan sağlığı gibi hassas alanlarda çok daha dikkatli kurması gerekiyor.

Çağdaş

Çağdaş

Dijital strateji ve girişimcilik danışmanı, dijital içerik üretici ve yazılımcı.

Makaleler: 852