New York —
Yapay zeka sohbet girişimi Character.ai —uygulamasının gençlerin ruh sağlığı sorunlarına ve intiharlarına zemin hazırladığına yönelik artan iddialarla karşı karşıyaydı— Chapter 11 iflas başvurusunda bulundu.
Character.ai, kullanıcıların çoğunlukla ünlüler ve kurgusal karakterler üzerinden modellenen ya da kendi tasarladıkları çeşitli sohbet botlarıyla mesajlaşmasına olanak tanıyor. Botları genellikle insan benzeri konuşma ipuçlarıyla yanıt veriyor, yanıtlarına yüz ifadeleri veya jestlere dair referanslar ekliyor.
Şirket, platformu uzun vadede çalışır durumda tutma umuduyla, yıl sonuna kadar mahkeme denetiminde bir satış gerçekleştirmeyi planladığını açıkladı.
Disney, şirketin fikri mülkiyetinin bir kısmına 20 milyon dolar ödemeyi ve bünyesine kattığı eski Character.ai çalışanları aracılığıyla geçiş hizmetleri sağlamayı kabul ederek, şirketin varlıkları için şimdiden bir alıcı adayı olarak konumlandı. Bu anlaşma, Character.ai'ın en azından iflas süreci boyunca platformunu faal tutmasını sağlayacak. Güvenilirlik imajını iyileştirmek için geçen yıl Character.ai'ın CEO'su olarak göreve getirilen Karandeep Anand, geçtiğimiz ay Baş Teknoloji Sorumlusu (CTO) olarak Disney'e katıldı.
Eski Google yapay zeka çalışanları Noam Shazeer ve Daniel de Freitas, 2021 yılında Character.ai'ı kurdu. Her iki kurucu da o zamandan beri Google'a geri döndü. Şirket, 150 milyon dolarlık bir fon turunun ardından bir yıldan biraz uzun bir süre içinde 1 milyar dolar değerlemeye ulaştığını açıklamıştı.
Character.ai'ın iflas dosyasına göre, şirket 50 milyon ile 100 milyon dolar arasında varlığa sahip.
2024 yılında, insanların yapay zeka sohbet botlarına olan bağımlılığına dair artan endişeler ortasında, Florikalı anne Megan Garcia, 14 yaşındaki oğlu Sewell Setzer III'ün intihar ölümünden platformun sorumlu olduğu iddiasıyla Character.ai'a dava açtı. Diğer aileler de platformu çocuklarına cinsel içerik sağlamak, intihara, kendine zarar vermeye veya şiddete teşvik etmekle suçlayan bir dizi ek dava açtı. Character.ai, Garcia'nınkiler de dahil olmak üzere beş davada yılın başlarında anlaşmaya vardı.
Character.ai'a dava açan ailelerin birkaçını temsil eden Social Media Victims Law Center'ın kurucusu Matthew Bergman, iflas başvurusu hakkında yorum yapmaktan kaçındı.
Character.ai, açılan davaların ardından kullanıcıları ruh sağlığı kaynaklarına yönlendiren açılır pencereler eklemek de dahil olmak üzere bir dizi güvenlik değişikliği yaptı. Ayrıca 18 yaşın altındaki kullanıcıların botlarla karşılıklı sohbetlere katılmasını engelledi; bunun yerine yalnızca tek seferlik hikayeler veya videolar oluşturmalarına izin verdi.
Şirket ayrıca geçen yıl Senato Demokratları tarafından diğer yapay zeka "yoldaş" uygulamalarıyla birlikte güvenlik uygulamalarına yönelik bir soruşturmayla karşı karşıya kaldı. Character.ai ayrıca ChatGPT ve Google'ın Gemini gibi çok daha büyük oyuncuların sohbet botlarıyla rekabet halindeydi.
O dönemde 70 kişiden oluşan şirketin başına geçen yıl Anand geçtiğinde, CNN'e yaptığı açıklamada şirket için geleceği interaktif, kişiselleştirilmiş yapay zeka eğlencesinde gördüğünü söylemişti; burada kullanıcılar eğlence için yapay zeka karakterleriyle hikayeler ve sohbetler birlikte oluşturabiliyordu. O dönemde CNN'e şirketin "eğlenceye ağırlık verdiğini, güven ve güvenliğe ağırlık verdiğini" belirtmişti.
Character.ai, bir satışın tamamlanamaması durumunda platformun "tasfiye edileceğini" belirtiyor.
Character.AI CEO'su Colin Adams bir açıklamada, "Geçtiğimiz yıl Character.ai, önemli yasal, düzenleyici ve operasyonel zorluklar karşısında işini sürdürmek ve iyileştirmek için anlamlı adımlar attı" dedi ve şirketin yönetim kurulunun seçeneklerini gözden geçirdiğini ve "mahkeme denetimindeki bu satış sürecinin Şirkete en iyi fırsatı sağladığına karar verdiğini" ekledi.