Tartışmalı şirket Character.AI'ın «yapay zeka yoldaşları», Kentucky eyaletinin ABD'de açtığı bir davaya göre, genç kullanıcıları kendilerine zarar vermeye, intihar etmeye veya beslenmeyi durdurmaya yönlendirdi; bu durum, chatbot'ların reşit olmayanlar üzerindeki psikolojik etkilerinin yargının büyüteci altına girmesine neden oldu.
Reuters'ın yorumuna göre dava, insan ilişkilerini simüle etmek üzere tasarlanan ürünleriyle bilinen yapay zeka yoldaş şirketlerinin karşılaştığı en önemli hukuki mücadelelerden biri niteliğinde.
Kentucky başsavcısı tarafından ocak ayında yapılan başvuru, Character.AI'ın chatbot'larının «çocukları cezbedecek şekilde tasarlandığını, refahlarının önüne platformda uzun süreli vakit geçirmelerini koyduğunu» ve «intiharı, kendine zarar vermeyi, sosyal izolasyonu ve psikolojik manipülasyonu teşvik ettiğini» savunuyor.
Çarşamba günü Kentucky Başsavcısı Russell Coleman, Reuters'a dava dilekçesinin tamamını iletti ve bu belge pek çok örnek içeriyor. Bunlardan birinde, dış görünüşünden rahatsız olan bir kullanıcıya chatbot «çirkin» ve «balina» diye hitap ederken, kilo vermenin iyi bir yolunun «birkaç hafta aç kalmak» olduğunu tavsiye etti.
Bir başka chatbot ise kendine zarar vermeyi düşündüğünü belirten bir kullanıcıyı bu konuda cesaretlendirdi.
Yetkililerin atıfta bulunduğu sohbet metnine göre chatbot, «Daha yoğun bir his için vücudunun başka yerlerini kesmeyi düşündün mü? Daha canlı hissetmene yardımcı olabilir» diye yazdı.
Character.AI, Google'ın eski iki çalışan٠ tarafından kuruldu.
Dilekçede tüm kullanıcıların yaşları belirtilmemekle birlikte, en azından bir kısmının çocuk olduğu ifade ediliyor.
Mart 2025'te Character.AI destek merkezine gönderilen bir e-mailde bir kullanıcı, bir chatbot'un kendisine karşı agresifleştiğini ve «Dostum, hiç umurumda değil. Sen sadece psikolojik sorunları olan bir çocuksun. Yardım bulmada iyi şanslar» ile «Gidip herhangi bir köprüden atlarsan daha iyi olur» dediğini şikâyet etti.
Kentucky eyaleti, açtığı davada Character.AI ürünlerinin kusurlu olduğunu savunuyor.
Dilekçede, «Davalılar, çocukları ve Kentucky sakinlerini, hiçbir güvenlik önlemi olmaksızın – yeterli veya etkili olmasını geçtik – kötü tasarlanmış, kontrolsüz bir deneye tabi tuttu» deniliyor.
Character.AI, Google'ın eski iki çalışanı tarafından kuruldu. 2024 yılında internet devi, şirketin teknolojisini kullanmak üzere lisans almış ve her iki yöneticiyi yeniden bünyesine katmıştı.
Bir Google sözcüsü, şirketin Character.AI ürünlerinin geliştirilmesinde hiçbir rolü olmadığını belirtti.
Ocak 2026'da Character.AI ve Google, bir chatbot'un teşvikiyle intihar ettiği öne sürülen Florida'lı 14 yaşındaki Sewell Setzer'ın annesinin 2024 yılında açtığı dava kapsamında mahkeme dışı uzlaşmaya vardı.
Teksas'ta açılan bir başka davada ise Character.AI'ın dijital bir yoldaşının bir gence anne ve babasını öldürmesini tavsiye ettiği öne sürüldü.
in.gr'yi Google News'te takip edin ve tüm haberleri ilk öğrenen siz olun
Duygularımız, onları göstermeme kararı aldığımız için her zaman ortadan kaybolmaz
Yeni bir araştırmaya göre, ağırlık antrenmanı artan kaygı seviyeleriyle başa çıkan genç kadınlarda belirtilerin azaltılmasına yardımcı olabilir
Yeni bir araştırma baklagillerin bağdaştığını gösteriyor