Kanada Bağımlılık ve Ruh Sağlığı Merkezi (CAMH) tarafından yürütülen yeni bir araştırma, psikiyatrik bakımda saldırganlık riskini tahmin etmek için kullanılan yapay zeka modellerinin ciddi etik ve toplumsal sorunlara yol açabileceğini ortaya koydu. npj Mental Health Research dergisinde yayımlanan çalışma, bu sistemlerin özellikle zaten dezavantajlı konumda bulunan gruplar üzerinde yanlı ve abartılı risk tahminleri ürettiğini göstererek dikkat çekici bulgular sundu.
Araştırma kapsamında 17.000’den fazla hastaya ait elektronik sağlık kayıtları analiz edildi. Elde edilen sonuçlara göre yapay zeka modelleri; siyahi ve Orta Doğulu bireyler, erkekler ve sosyoekonomik açıdan dezavantajlı gruplar için daha yüksek oranlarda “yanlış pozitif” sonuçlar üretiyor. Bu durum, gerçekte saldırganlık riski düşük olan bireylerin yüksek riskli olarak etiketlenmesine neden oluyor. Uzmanlara göre bu tür hatalı sınıflandırmalar, klinik karar süreçlerini doğrudan etkileyerek hastalara yönelik gereksiz kısıtlamalara, yanlış tedavilere ve hatta damgalanmaya yol açabilir.
Çalışmada dikkat çekilen en önemli nedenlerden biri, yapay zekanın eğitildiği verilerin doğası. Klinik kayıtların büyük ölçüde insan gözlemlerine ve subjektif değerlendirmelere dayanması, algoritmaların bu önyargıları öğrenmesine ve yeniden üretmesine sebep oluyor. Yani yapay zeka tarafsız bir karar verici olmak yerine, geçmişteki insan hatalarını ve önyargılarını büyüterek tekrar edebiliyor.
Araştırmacılar, bu durumun yalnızca teknik bir problem olmadığını, aynı zamanda sağlık sistemlerinde zaten var olan eşitsizlikleri daha da derinleştirebileceğini vurguluyor. Yapay zekanın sağlık alanında giderek daha fazla kullanıldığı düşünüldüğünde, bu tür sistemlerin kontrolsüz şekilde uygulanmasının adaletsiz ve zararlı sonuçlar doğurma riski oldukça yüksek.
CAMH, bu sorunu çözmek amacıyla FARE+ adlı yeni bir yapay zeka aracı geliştirme çalışmalarını sürdürüyor. Bu sistemin amacı, önyargılı tahminlerin kökenlerini analiz ederek daha dengeli ve adil sonuçlar üretmek. Ancak uzmanlar, tek başına yeni bir model geliştirmenin yeterli olmayacağını, aynı zamanda veri toplama süreçlerinin iyileştirilmesi, algoritmaların şeffaf hale getirilmesi ve klinik kararların mutlaka insan denetiminde kalması gerektiğini belirtiyor.
Bu gelişmeler, yapay zekanın sağlık sektöründeki rolüne dair daha geniş bir tartışmayı da beraberinde getiriyor. Yapay zeka sistemleri doğru şekilde tasarlandığında büyük faydalar sağlayabilirken, önyargılı veri ve kontrol eksikliği durumunda toplumsal eşitsizlikleri derinleştiren bir araca dönüşebiliyor. Bu nedenle uzmanlar, “teknoloji ne kadar gelişirse gelişsin, etik ve denetim mekanizmalarının aynı hızda ilerlemesi gerektiği” konusunda hemfikir.








