2024 yılının başlarında, güneydoğu Çin'in Huangshi şehrinde genç bir adamın, Çin'in TikTok versiyonu olan Douyin'de bir mesaj paylaştığı bildirildi. Paylaşımın başlığı şuydu: "Bu dünyaya elveda."
Birkaç dakika içinde Douyin'in intihar önleme ekibi harekete geçti. Günün 24 saati görev yapan bu ekip, adamın paylaşımlarını Huangshi'deki beş karakol ile paylaştı.
Videolarından birinin yerini yerel bir park olarak tespit eden polis, genci duygusal sıkıntı içinde buldu ve o, kendi hayatına son vermeden önce müdahale etti.
Bu hikâye, Douyin tarafından hazırlanan ve geçen yıl Çin devlet medyasında yayımlanan bir belgeselin parçasıydı. Belgeselde, Douyin'in intihar önleme ekibinin sadece 2025'in ilk yarısında 400 intihar girişimi vakasına başarıyla müdahale ettiği iddia edildi.
Bu olay, Çinli teknoloji şirketleri ile hükümet arasındaki iş birliği düzeyine dair bir içgörü sundu. Aynı zamanda, Çin'in insanların teknolojiyi nasıl kullandığını izlemek ve kontrol etmek için kurduğu gözetim mimarisine açılan bir pencere görevi görüyor.
Bu yıl 15 Temmuz'da bu kontrol, Çin'in "insan benzeri" yapay zekâ sohbet botları konusunda dünyadaki en kapsamlı düzenlemeleri yürürlüğe koymasıyla ilişki alanına da genişletildi.
Çin'in yeni düzenlemesi, bir insanla "sürekli duygusal etkileşim" kurabilen tüm yapay zekâ sistemlerine katı sınırlamalar getiriyor.
ABD Başkanı Donald Trump ve Çinli mevkidaşı Xi Jinping, yapay zekânın insanlığın sonunu getirebileceğine dair korkunç uyarılar eşliğinde geçen hafta bir araya geldi. Pekin yönetimi, bu görüşmenin ardından Kasım ayı sonlarında yapılması planlanan ek görüşmelerle birlikte yeni bir yapay zekâ diyaloğu başlatma konusunda mutabık kaldıklarını açıkladı.
Ancak görünüşe göre Çin, insanlığın sonunun o kadar acil olmadığını gösteren bir başka varoluşsal riskin farkına çoktan vardı: Yapay zekânın insan ilişkilerinin yerini alma gücü.
Çin, halkını insan etkileşimini sonsuza dek değiştirme gücüne sahip manipülatif ve tehlikeli bir teknolojiden koruma konusunda liderliği ele mi geçirdi? Yoksa Çin Komünist Partisi, nüfus üzerinde daha büyük bir kontrol sağlama çabasıyla insanların kişisel hayatlarına fazlasıyla mı müdahale ediyor?
Bu düzenleme yürürlüğe girene kadar, Çin'deki yapay zekâ arkadaşlarının etki alanı oldukça lütuftu.
Piyasa istihbarat firması Sensor Tower'a göre, Çin dışında yapay zekâ arkadaş uygulamalarının aylık yaklaşık 128 milyon aktif kullanıcısı bulunuyor. Çoğu tahmin, Çin içindeki bu sayının 29 ila 70 milyon arasında değiştiğini gösteriyor.
Oxford Çin Politika Laboratuvarı düşünce kuruluşundan yapay zekâ araştırmacısı Zilan Qian, hükümet tarafından taslak düzenlemenin geçen yılın sonunda paylaşıldığı dönemde "sosyal medyada büyük bir tartışma yaşandığını" belirtiyor ve ekliyor: "İnsanların ilk kez bir düzenlemeyi bu kadar çok önemserdiğini gördüm."
Çin'in yeni kuralları, özel olarak yapay zekâ arkadaş, erkek veya kız arkadaş olarak tasarlanmış uygulamaları kapsamakla birlikte, insan etkileşimini taklit eden her türlü büyük dil modeline de uygulanıyor.
Düzenlemenin ifade ediliş biçimi belirsiz. Teoride, Copilot veya ChatGPT gibi genel amaçlı yapay zekâların Çin'deki benzerleri, bir kişinin onlarla arkadaş veya sevgilisi gibi etkileşime girmesi ve duygusal destek araması durumunda bu kuralların kapsamına girebilir. Ve pek çok insan bunu yapıyor.
Ancak gerçek hedefin, sahte bir ilişki olarak kullanılmak üzere özel olarak tasarlanmış karakter sohbet botları olduğu anlaşılıyor. İnsanların bir yapay zekâ erkek arkadaşı, kız arkadaşı, arkadaşı ve hatta bir aile üyesi yaratmasına olanak tanıyan yüzlerce bu tür uygulama bulunuyor.
Kurallar, müşteri hizmetleri botları veya eğitim amaçlı yapay zekâlar gibi, "bakım, yoldaşlık, destek" sağlamadıkları sürece bu tür unsurları barındırmayan uygulamalara uygulanmamaktadır.