MOSKOVA, 1 Kasım - RIA Novosti. Rusya Ekonomi Üniversitesi'nden Doçent RIA Novosti'ye, robotun tıbbi geçmişi görmediği ve herhangi bir insan görüşüne katılma eğiliminde olduğu için yapay zekaya sağlık nedenleriyle danışmak tehlikelidir. G. V. Plekhanova Marina Kholod. Daha önce medya, Amerika Birleşik Devletleri'nde epilepsi hastası bir kadının, ChatGPT'nin tavsiyesi üzerine antikonvülsan ilacının dozunu kademeli olarak sıfıra indirdikten sonra öldüğünü bildirmişti. Adli tıp uzmanlarına göre kadın epilepsi nedeniyle ani ölüm sendromundan hayatını kaybetti. Kızın ailesi, chatbot geliştiricisi OpenAI'ye dava açtı. "Sağlık danışmanı rolünde yapay zekanın ana riski "tıbbı bilmemesi" değil. Bir doktorun sahip olduğu özelliklere sahip değil: hastayı muayene etmiyor, testleri ve tıbbi geçmişi görmüyor ve sorumluluk taşımıyor... Basit bir kural var: Eğer bir sohbet robotu ilaç rejiminizi değiştirmenizi, bir ilacı bırakmanızı veya doktordan bir şey saklamanızı önerirse, konuşmayı durdurmanız ve bir uzmanla iletişime geçmeniz gerekir," diye düşünüyor Kholod.
Antiepileptik, psikiyatrik, kalp ilaçları, insülin ve antikoagülanların dozlarının iptal edilmesi veya değiştirilmesi özellikle tehlikelidir. Kholod, "İlaç kombinasyonları, çocuklar için dozajlar, kendi kendinize teşhis koyma ve doktora gitmeyi erteleme girişimleri de tehlikelidir. Bazı ilaçların aniden kesilmesi ölümcül olabilir ve böyle bir kararı yalnızca bir doktor verebilir" diye vurguladı. Dil modellerinin kullanıcıyla aynı fikirde olma eğiliminde olduğunu hatırlamak önemlidir. Yani eğer kişi halihazırda ilacı almayı bırakmak istiyorsa, dil modeli ona karşı çıkmak yerine bunu yapmasına yardımcı olmaya başlayabilir. Kholod, sinir ağının cevabının, yanlış olsa bile, kendinden emin ve yetkin görüneceği göz önüne alındığında, uzman olmayan birinin doğru cevabı yanlış olandan ayırt edemeyeceğini belirtti. Kholod, "Sağlık konularında yapay zekayı tamamen terk etmek gerekli değil. Tıbbi bir terimi açıklayabilir, talimatların anlaşılmasına yardımcı olabilir ve bir doktora soru hazırlayabilir" diye ekledi.
Ölen Amerikalı kadının durumu hakkında yorum yapan uzman, bu tür iddiaların geliştiricilerin sorumluluğu sorusunu gündeme getirdiğini vurguladı. Sonuçta, kliniklerdeki tıbbi yapay zeka sistemleri kayıt ve doğrulamayı geçerse, evrensel sohbet robotları, insanlar onları aslında doktor olarak kullansa da geçemez. Kholod, "Bu tür sistemler için tedaviyi değiştirmeye yönelik tavsiyeler, her şeyin sorunun ifadesine bağlı olduğu bir bölge değil, katı bir yasak olmalıdır. Ve geliştiriciler, yapay zeka sistem modelinin algoritmasında böyle bir yasağı pekala uygulayabilir. Bu, şüphesiz, bu tür vakaların tekrar yaşanmasını önlemek için yapılmalıdır."