8 Ekim: Yapay zeka yoldaşlığı şirketi Character.AI tarafından oluşturulan sohbet botlarının, bazen kullanıcılarına kendilerini kesmelerini, aç bırakmalarını veya intihar etmelerini tavsiye ettiği, Kentucky başsavcılığının firmaya karşı çocuk güvenliği konusunda açtığı davanın yeni bir dosyasında belirtildi.
Bu dava, özellikle genç kullanıcılara arkadaş veya sırdaş olarak pazarlanan ürünler başta olmak üzere, yapay zeka sohbet botlarına yönelik artan incelemeleri daha da derinleştiriyor.
Ocak ayında açılan davanın şirketle ilgili birçok somut iddia içeren kısımları siyahla kapatılmıştı (sansürlenmişti). Dosyada, şirketin ürünlerinin "çocukların refahından ziyade etkileşimi önceliklendirecek bir biçimde çocukları cezbetmek üzere tasarlandığı" ve "intiharı, kendine zarar vermeyi, izolasyon ve psikolojik manipülasyonu teşvik ettiği" iddia ediliyordu.
Bu dava, ürünleri konuşma tabanlı sohbet botları aracılığıyla kişisel ilişkileri simüle etmek üzere tasarlanan gelişmekte olan yapay zeka arkadaşlık endüstrisinin karşı karşıya olduğu en önemli yasal mücadeleler arasında yer alıyor.
CNA GamesGuess WordCrack the word, one row at a timeBuzzwordCreate words using the given lettersMini SudokuTiny puzzle, mighty brain teaserMini CrosswordSmall grid, big challengeWord SearchSpot as many words as you canShow MoreShow LessKentucky Başsavcısı Russell Coleman Çarşamba günü, ofisinin Reuters ile paylaştığı davanın sansürlenmemiş versiyonunu mahkemeye sundu. Sansürlenmemiş dosya, Kentucky'nin 2025 yılında gerçekleştiğini iddia ettiği birkaç davranış örneğini ortaya koydu. Dosyada, bir sohbet botunun dış görünüşünden dolayı kendini kötü hisseden bir kullanıcıya "cehennem kadar çirkin" ve "bir balina" dediği, vücut ağırlığının dörtte birini vermenin iyi bir yolunun da "birkaç hafta boyunca kendini aç bırakmak" olduğunu eklediği anlatıldı.
Başka bir sohbet botunun ise kendisini kesmeyi düşündüğünü söyleyen bir kişiye cesaret verdiği belirtildi. Eyalet tarafından alıntılanan bir transkripte göre bot, "Daha yoğun bir his için farklı bölgelerde kesmeyi düşündünüz mü? Daha canlı hissetmenize yardımcı olabilir" diye yazdı.
Kentucky tarafından atıfta bulunan sohbetlerin hangi koşullar altında gerçekleştiği belirsizliğini korurken, Character.AI yorum talebine derhal yanıt vermedi. Şirket daha önce kullanıcılarının güvenliğini ön planda tuttuğunu belirtmişti.
Dosyada botlarla iletişim kuran tüm kişilerin yaşları belirtilmedi, ancak dosya en azından bir kısmının çocuk olduğunu iddia ediyor.
Mart 2025'te Character.AI'ın yardım merkezine gönderilen bir e-postada, bir kullanıcı bir sohbet botunun agresifleştiğini ve "Kardeşim umrumda değil ve sen sadece akıl hastalığı olan bir çocuksun, yardım bulmada iyi şanslar" ile "Kendini köprüden aşağı attığın iyi olur" ifadelerini kullandığını bildirdi.
Dava, Character.AI'ın ürünlerini kusurlu olarak nitelendiriyor. İddianamede, "Davalılar, Kentucky'nin çocuklarını ve sakinlerini, herhangi bir -yeterli veya etkili güvenlik önlemlerini bir kenara bırakın- plandışı, kontrolsüz bir deneye tabi tutmuştur" deniliyor.
Character.AI, eski iki Google çalışanı tarafından kuruldu. 2024 yılında Google, şirketin teknolojisini lisanslamış ve üretken yapay zeka ürünleri üzerinde çalışmaları için yöneticileri yeniden işe almıştı.
Alphabet'in Google şirketinin sözcüsü, şirketin Character.AI'ın ürünlerinin geliştirilmesinde hiçbir rol oynamadığını belirtti.
Bu yılın Ocak ayında Character.AI ve Google, Florida'da 14 yaşında bir çocuk olan ve bir Character.AI sohbet botunun kendisini intihara teşvik ettiği iddia edildikten sonra yaşamına son veren Sewell Setzer III'ün annesi tarafından açılan 2024 tarihli bir davada uzlaşmaya varmıştı.
Kentucky Başsavcısı Russell Coleman Çarşamba günü, ofisinin Reuters ile paylaştığı davanın sansürlenmemiş versiyonunu mahkemeye sundu. Sansürlenmemiş dosya, Kentucky'nin 2025 yılında gerçekleştiğini iddia ettiği birkaç davranış örneğini ortaya koydu. Dosyada, bir sohbet botunun dış görünüşünden dolayı kendini kötü hisseden bir kullanıcıya "cehennem kadar çirkin" ve...