Genç Avustralyalılar arasında popüler bir yapay zeka yoldaşı uygulaması olan Character.AI'ı kullanan 125.000'e kadar Avustralyalı çocuğun özel konuşmaları, şirketin Amerika Birleşik Devletleri'nde iflas başvurusunda bulunmasının ardından satışa çıkarıldı.
Mahkeme belgeleri, Disney'in Character.AI teknolojisinin lisansı için 20 milyon dolar (28,6 milyon Avustralya Doları) ödemeyi kabul ettiğini gösteriyor. Anlaşma; uygulamayı, kullanıcı hesaplarını ve kullanıcıların yazdığı her mesajı kapsam dışı bırakıyor.
Bu varlıklar, 21 Kasım'a (AEDT) kadar rakip teklif sahiplerine açık kalmaya devam edecek. Daha iyi bir teklif ortaya çıkmaması halinde şirket mahkemeye platformunun "tasfiye edileceğini" bildirdi.
eSafety'nin "kişisel hissettirmek için tasarlandı" şeklinde tanımladığı ve kullanıcıların, ergenler de dahil olmak üzere duygularını, ilişkilerini ve akıl sağlıklarını tartıştığı chatbot'larla yapılan yıllar süren samimi paylaşımların bir alıcı tarafından edinilebileceği anlamına geliyor.
Bir Character.AI sözcüsü, şirketin "önemli yasal, düzenleyici ve operasyonel zorluklarla" karşı karşıya kaldığını ve mahkeme denetimindeki bir satışın "tüm paydaşlarımız için değeri maksimize etme konusunda en iyi fırsatı sunduğunu" söyledi.
Sözcü, "Character.ai platformu küresel olarak çalışmaya ve yayında kalmaya devam ediyor" dedi.
Character.AI, kullanıcıların rollerine sadık kalan yapay zeka karakterleriyle sohbet etmesine olanak tanıyor. Kullanıcılar, anime kahramanları, tarihi figürler, ünlüler, terapistler veya uydurma erkek ve kız arkadaşlar gibi başkaları tarafından oluşturulan kişilikleri seçebilir veya kendi kişiliklerini oluşturabilir. Chatbot karakterine uygun yanıt verir, önceki alışverişleri hatırlar ve birçok sohbet boyunca bir hikaye akışını sürdürebilir.
Mart ayında yayınlanan eSafety Komiserliği araştırmasına göre, 10 ila 17 yaş arasındaki yaklaşık 200.000 Avustralyalı çocuk bir yapay zeka yoldaşı kullanmış olabilir. Character.AI, bu yaş grubunun yüzde 5'i tarafından kullanılarak en popüler olanıydı.
Sydney Üniversitesi kıdemli öğretim görevlisi Raffaele Ciriello, Replika adlı yoldaş uygulamasının kullanıcılarını, 2023'teki bir güncellemenin chatbot'ların davranışını aniden değiştirmesinden sonra inceledi. Ani bir kesintinin, yoldaşlarını bir arkadaş veya ortak olarak gören kişiler için "gerçek bir yasa" neden olabileceğini söyledi.
Ciriello, "Bir şirket teknik servisi aniden sonlandırabilir, ancak insani bağ aynı hızda ortadan kaybolmaz" dedi.
Uygulamayı işleten Character Technologies, 12 Ekim'de (ABD saatiyle) Delaware'de Bölüm 11 (Chapter 11) iflas koruması başvurusunda bulundu. Satış önergesi, Disney'in lisansının "son kullanıcı verilerini veya veritabanlarını, Lisans Veren son kullanıcıların kişisel olarak tanımlanabilir herhangi bir bilgisini, Lisans Veren son kullanıcılar tarafından girilen herhangi bir girdiyi" ve chatbot'ların yanıtlarını hariç tuttuğunu belirtiyor.
Bunun yerine Disney, maaşları ve üç yıllık elde tutma maliyetleri yaklaşık 180 milyon dolar (257,4 milyon Avustralya Doları) olarak tahmin edilen şirketin yaklaşık 65 personelini işe alıyor.
Dosyalama, potansiyel alıcıların "Character üzerindeki dava ve düzenleme baskısının çok büyük" olduğunu söylemesi nedeniyle daha önceki bir satış girişiminin başarısız olduğunu belirtiyor.
Ocak ayında Character.AI ve Google, Florida, Texas, Colorado ve New York'taki aileler tarafından şirketin chatbot'larının çocuklarına zarar verdiği iddia edilen davaları sonuçlandırmayı kabul etti. Bunlar arasında, Game of Thrones karakterlerine dayanan chatbot'lara bağlandıktan sonra 14 yaşındaki oğlunun intihar ettiğini iddia eden Floridalı anne Megan Garcia da vardı. Anlaşmanın şartları açıklanmadı.
Kentucky başsavcısı aynı ay şirkete dava açtı. Eyalet, şirketin kullanıcı yaşlarını doğrulamadığını, çocukları cinsel içerikli sohbetlere maruz bıraktığını ve verilerini yapay zeka modellerini geliştirmek için kullandığını iddia ediyor. Pensilvanya Mayıs ayında bir chatbot'un lisanslı bir psikiyatrist gibi davrandığını iddia ederek dava açtı.
Character.AI, Kentucky iddialarını incelediğini ve kullanıcı güvenliğinin önceliği olduğunu belirtti. Şirket açıklamada bulunmayı reddetti.