Yapay zeka tarafından üretilen "hüzünlü hikaye çocukları" yakın zamanda Çin'deki kısa video platformlarını kasıp kavurdu ve iddiaya göre yaşlı izleyicileri birikimlerinden mahrum etmek için duygusal manipülasyon kullandıkları iddia ediliyor. Toplu olarak "Xiaohai" olarak bilinen bu dijital avatarlar, genellikle okul üniforması veya düz beyaz gömlek giyen genç erkekler olarak görünüyor ve yoksullukla boğuşan hayatlarını kamera karşısında gözyaşları içinde anlatıyor. Bir videoda, bir Xiaohai avatarı buharda pişirilmiş bir çörek tutuyor ve "teyzeler ve anneler" diye hitap ettiği izleyicilere ağıt yakıyor: "Bütün sınıf arkadaşlarım öğle yemeğine gitti. Ben bunu yemek için sınıfta saklanıyorum." Bir başkasında, yağmur altında ödenmemiş öğrenim ücreti nedeniyle "zorbalığa" maruz kaldığı gösteriliyor. Satış hedefine ulaşabilmek ve alay edilmekten kaçınmak için izleyicilere karabuğday gevreği almaları için yalvarıyor. Xiaohai avatarları ayrıca bekar babalarına destek olmaları gerektiğini iddia ederek sağlık takviyeleri ve ev eşyalarının tanıtımını yapıyor. Ürünler genellikle yüksek fiyat artışları taşıyor: Xiaohai tarafından 99 yuan'a (15 ABD Doları) satılan bir şişe yemeklik yağın başka yerlerde sadece 60 yuan'a satıldığı bildiriliyor.
Yüzde 55'e varan komisyonlarla operatörler önemli miktarda kar elde edebiliyor. Sektörden bir kişi The Beijing News'e, Xiaohai videoları üretmek için halka açık yapay zeka komutlarını kullanan içerik oluşturucuların günde 2.000 ila 3.000 yuan kazanabileceğini söyledi. Bu trend, Xiaohai ile ilgili konuların 600 milyondan fazla izlendiği Çin kısa video platformlarında da artış gösterdi. Takipçilerin çoğu, yorum bölümlerini anne sevgisi ifadeleriyle dolduran orta yaşlı veya yaşlı kullanıcılardır. Bir sesli yorumda "Neden sadece çörek yiyorsun? Teyze-annenin kalbi senin için kırılıyor" dedi. Başka bir kullanıcı sipariş verdikten sonra şunu yazdı: "Sevgili oğlum, anneciğim dört ürün sipariş etti. Seni sonsuza kadar seveceğim." Bazı yaşlı hayranlar aşırıya kaçtı. Mayıs ayında Urumçi'de polis, trenle tek başına seyahat eden 79 yaşındaki okuma yazma bilmeyen bir kadını yakaladı. Canlı yayın sırasında kendisini mantar yemeye ve çiçeklere hayranlık duymaya davet eden Xiaohai ile tanışmak için kuzey Çin'deki Shanxi eyaletine gideceği konusunda ısrar etti.
Memurlar, çocuğun sahte olduğunu açıkladıktan sonra ailesiyle temasa geçerek onu evine gönderdi. Hukuk uzmanları, e-ticaret satışlarını artırmak için kasıtlı olarak hikayeler uydurmanın dolandırıcılık teşkil edebileceği konusunda uyarıyor. Bu arada Pekin Üniversitesi profesörü Ma Liang, daha derin bir sosyal krize işaret ediyor. Ma, China Newsweek'e şunları söyledi: "Birçok yaşlı insan çevrimdışıyken aşırı yalnızlıkla karşı karşıya kalıyor. Duygusal boşluğu doldurmak için dijital tüketime yöneliyorlar." Bu yazının yazıldığı sırada, iddia edilen dolandırıcılığın toplam değerine ilişkin hiçbir ayrıntı açıklanmamıştı. Çin ana karasındaki kısa video platformlarındaki Xiaohai ile ilgili videoların çoğu yayından kaldırıldı. Buna karşılık, bazı teknoloji meraklısı netizenler, ebeveynlerini uyarmak ve onları gerçekliğe geri döndürmek için "Kötü Xiaohai" videoları oluşturmak için yapay zekayı kullanıyor. Bu parodilerde Xiaohai hapishane kıyafetleriyle görünüyor, hayranlarından özür diliyor ya da lüks kıyafetler giyip sigara içiyor ve "teyzelerini ve annelerini" sömürmekle övünüyor.
Ancak çevrimiçi bir yorumun gözlemlediği gibi, altta yatan sorun daha da derinlere uzanıyor: "Bazı yalnız yaşlılar bunun sahte olduğunu biliyor; sadece gerçek olduğuna inanmayı tercih ediyorlar."