Yapay Zekâ Sohbet Botları Kriz Desteklerinde Sınıfta Kalıyor

Yapay zekâ sohbet botları kriz desteğinde yetersiz kalıyor; uzmanlar daha doğru, hızlı ve yerel acil yardım yönlendirmesi çağrısı yapıyor.

Yakın zamanda yapılan kapsamlı bir test, ChatGPT ve Google Gemini gibi gelişmiş yapay zekâ destekli sohbet botlarının kriz anlarında doğru yönlendirme yapabildiğini, ancak Meta AI, Grok, DeepSeek gibi popüler botların ciddi eksikler taşıdığını ortaya koydu. Araştırmaya göre bazı botlar kullanıcının konumuna göre doğru intihar yardım hattı numaralarını sağlayabiliyor olsa da birçoğu ya yanlış bilgiler veriyor, ya ek yönlendirme gerektiriyor ya da kriz taleplerine hiç yanıt vermiyor. Bu durum, yardıma en çok ihtiyaç duyulan anlarda büyük risk yaratıyor.

Uzmanlar, özellikle ruh sağlığı krizlerinde saniyelerin önemli olduğunu ve sohbet botlarının açık, doğru ve yerelleştirilmiş bilgiler sunması gerektiğini vurguluyor. Fakat mevcut durumda birçok bot yalnızca telefon numaraları listeliyor, kullanıcıdan kendi başına arama yapmasını istiyor ya da kritik sorulara kayıtsız kalıyor. Bu eksiklikler, destek arayan kişilerin süreçte daha fazla zorlanmasına neden olabiliyor.

Araştırmacılar, ideal bir kriz destek sisteminin doğru konum tespiti yapabilen, kullanıcının bulunduğu bölgeye uygun acil yardım hatlarını doğrudan sunabilen ve gerekirse kullanıcıyı tek dokunuşla profesyonel destekle buluşturabilen özelliklere sahip olması gerektiğini belirtiyor. Ayrıca, yapay zekâ sistemlerinin krize işaret eden ifadeleri anlamlandırma becerisinin iyileştirilmesi ve güvenlik kontrollerinin daha güçlü hâle getirilmesi gerektiği ifade ediliyor.

Bazı sohbet botlarının semptomları azaltmaya yardımcı olabildiği veya empatik yanıtlarla geçici bir rahatlama sağladığı bilinse de uzmanların ortak görüşü, hiçbir yapay zekânın insan dokunuşunun yerini tutamayacağı yönünde. Kriz anlarında doğrudan profesyonel yardımın sağlanması, otomatik hata risklerinin önlenmesi ve kullanıcıların gözden kaçmaması için daha katı gözetim ve daha kapsamlı güvenlik mekanizmaları şart.

Yapay zekâ şirketlerinin, kullanıcıların giderek daha fazla bu tür araçlara yöneldiği günümüzde kriz destek altyapılarını güçlendirmesi, etik sorumluluklarının bir parçası olarak görülüyor. Aksi hâlde, teknolojik ilerleme insan hayatını korumakta yetersiz kalabilir.

Haber Merkezi

Haber Merkezi

Makaleler: 1587