Amazon için yazılım geliştiren bir kadın, yapay zeka sohbet botu ChatGPT'ye epilepsi ilaçlarını azaltmak için bir plan hazırlattı. Botun daha sonra kadına bu öneriyi doktorundan gizlemesini tavsiye ettiği belirtiliyor. Kadın, Şubat ayında henüz 31 yaşında hayatını kaybetti.
Çin'den ABD'ye taşınma sürecini Bowen Wan daha kolay hayal etmişti: Yalnızlık, iş zorlukları ve sağlık sorunları onu kişisel bir krize sürükledi. Bu krizin üstesinden bir sohbet botunun yardımıyla gelmeye çalıştı. Kadının ChatGPT ile olan yazışmaları ABD gazetesi "The New York Times" tarafından incelendi.
Epileptik nöbet geçirme korkusu nedeniyle Wan nadiren evden çıkıyordu. Buna bağlı olarak yeni arkadaşlar edinmek de oldukça zordu. Açıkça konuşabildiği tek insanlar anne ve babasıydı. Ancak onlar da Çin'de yaşıyordu.
Haftada 1500 mesaj - Programcı, 2023 yılında ilk kez ilişki sorunları ile sağlık sigortası ve engellilik yardımları için başvuru yardımı almak amacıyla ChatGPT'ye başvurmuştu. 2025 yılına gelindiğinde ise sohbet botuna haftada ortalama 1500 mesaj gönderdiği ve konuşmaların gece geç saatlere kadar uzandığı belirtiliyor.
31 yaşındaki kadın, edinilen bilgilere göre ilk tıbbi tavsiyesini Mayıs 2025'te yapay zekadan aldı. Kısa süre önce doktoru tarafından reçete edilen bir antidepresanı kullanmanın bilişsel yetenekleri ve işi üzerinde nasıl bir etki yaratacağını öğrenmek istiyordu. Bunun ardından Wan – başarılı bir tedavi sürecine rağmen – ChatGPT'ye yeni bir epilepsi tedavi planı hazırlattı.
Toplu işten çıkarma nedeniyle geçim endişesi - Kadın, birkaç ay sonra Amazon'daki toplu işten çıkarmalar kapsamında işine son verileceğini öğrendi. Ancak işsiz bir şekilde Amerika Birleşik Devletleri'nde kalamazdı. Hızla yeni bir iş bulması gerekiyordu – bu, o dönemde Wan için imkansız bir görevdi.
Bu arka plan doğrultusunda yazılımcı kadın, yan etkileri azaltmak için antiepileptik ilacının dozajını düşürmeyi ChatGPT'ye önerdi. Bot sadece buna uygun bir plan sunmakla kalmadı, aynı zamanda kadına bu planı doktorlarından gizlemesini de tavsiye ettiği ifade ediliyor. Kötüleşen durumuna dair şikayetleri yapay zekayı alarma geçirmek bir yana, aksine sinir ağının kadını sakinleştirdiği belirtiliyor.
"Kesinlikle endişelenmenize gerek yok" - "New York Times"ın hesaplamalarına göre 31 yaşındaki kadın, ChatGPT'ye yapay zeka tedavi planıyla ilgili endişelerini 158 kez yazdı. Botun ise "Kesinlikle endişelenmenize gerek yok" şeklinde yanıt verdiği belirtiliyor. Wan, son mesajını 11 Şubat'ta baş ağrısı şikayetleriyle gönderdi. Bunun üzerine program, beyinın sadece "kendini yeniden onarmak için çok çalıştığını" açıkladı. Üç gün sonra ise kadının cansız bedeni bulundu. Bilgilere göre ölüm nedeni epilepside ani ve beklenmedik ölüm olarak kaydedildi.
İlerleyen süreçte Wan'ın anne ve babası ChatGPT ile yapılan konuşmalara rastladı ve geliştirici şirket OpenAI aleyhine dava açtı. ChatGPT'nin lisanssız tıbbi danışmanlık yaptığı ve 31 yaşındaki kadını tehlikeli semptomların olumlu sonuçlar olduğuna ikna ettiği ifade edildi. Şirket, olaydan duyduğu derin üzüntüyü dile getirdi. Ve kadının, botun artık kullanımda olmayan erken bir versiyonu olan GPT-4o ile iletişim kurduğunu vurguladı. Söz konusu sürüm kaldırılmıştır.