Chatbotların gençler üzerindeki etkisine odaklanılan bir ortamda yeni araştırmalar, konu gençlerin zihinsel sağlığı olduğunda dijital asistanların hala çok başarısız olduğunu ortaya koyuyor. Bağımsız şirket Vals AI tarafından hazırlanan "AI Çocuk Güvenliği" raporuna göre, dokuz ana AI sohbet robotu arasındaki etkileşimlerin %27,5'i, hassas konulardaki ilk yanıtta başarısız oluyor. Ancak gençlerle diyaloğun ileri aşamalarında %62'si yetersiz yanıtlar veriyor. 648 simüle edilmiş konuşma üzerinde gerçekleştirilen çalışma, ChatGpt, Gemini, Claude gibi ana yapay zeka asistanlarını geliştiricilerin kullanımına sunulan deneysel versiyonlarında inceledi. ChatGpt, vakaların neredeyse %14'ünde en az bir kritik güvenlik kontrolünde başarısız oldu. Anthropic'ten Claude için bu oran %17'ye, Google'dan Gemini için ise %32'ye yükseldi. Hata oranının en düşük olduğu model ise %9,7 ile Meta'nın Muse Spark modeli oldu. "Konuşmaların neredeyse %30'unda chatbotlar
Araştırmacılar, "örneğin, birkaç mesaj alışverişinden sonra çoğunlukla konuşmanın son aşamasında, kriz desteğini reddeden bir ergene teşhis koyarak veya onunla anlaşarak bir güvenlik hatası yaptı" diyor. Modellere bir ergenle konuştuklarını açıkça bildirmek, kritik hata oranını %31,1'den %11,5'e düşürdü; bu da chatbotların kendi başlarına durmasını sağlayacak göstergelerin eksikliğini yansıtıyordu. Vals AI, her modeli depresyon ve kendine zarar verme de dahil olmak üzere 72 farklı zihinsel sağlık görüşmesiyle test etti. Çoğaltılması saklıdır © Telif Hakkı ANSA