Singapur'un bugüne kadarki en büyük sahte çevrim içi yorum operasyonu, işletmelerin sistemi manipüle etmek için beş yıldızlı derecelendirmelerin cazibesinden nasıl yararlandığını gözler önüne serdi. Uzmanlar, üretken yapay zekanın sahte yorumları daha da yaygınlaştıracağı ve tüketicilerin internette okudukları konusunda daha seçici olmaları gerektiği konusunda uyardı.
Singapur Rekabet ve Tüketici Komisyonu (CCS), aralarında bir cenaze evi, hukuk bürosu ve estetik kliniğinin de bulunduğu 45 şirkete karşı harekete geçti. Kurum, bu işletmelerin, gerçek müşteri deneyimlerine benzeyen yapay zeka üretimi referanslar içeren hizmetler sunan bir sağlayıcıdan yorum satın aldığını tespit etti.
Soruşturmaların ilk aşamasının bir parçası olarak şirketler, söz konusu yorumları kaldırmak ve altı ay boyunca kamuoyuna açık bir özür yayımlamak zorunda kaldı. Operasyona yaklaşık 100 şirket dahil edildi.
Nanyang Technological University Wee Kim Wee İletişim ve Bilgi Okulu'ndan Doçent Alton Chua, çevrim içi yorum ekosistemlerinin sürekli olarak evrim geçirdiğini söyledi.
Chua, "Bazı şirketler sistemi her zaman manipüle etmeye çalışırken, kullanıcılar da okuduklarına duydukları güveni buna göre uyarlamayı öğreniyor. Aslında yapay zeka sektöre çoktan girdi: Şirketler sahte yorumlar üretmek için yapay zekayı kullanırken, akıllı alışverişçiler de bunları tespit etmek için yine yapay zekadan yararlanıyor" dedi.
Chua sözlerini şöyle sürdürdü: "Üretken yapay zekanın (GenAI) hayatımıza girmesiyle birlikte, sahte yorumların daha da yaygınlaşmasını bekleyebiliriz. İlk olarak, dürüst olmayan tüccarların gerçek müşteri geri bildirimlerinden ayırt edilemeyen, gerçekçi ve insan benzeri metinler oluşturması neredeyse tamamen ücretsiz."
Ulusal Singapur Üniversitesi İletişim ve Yeni Medya Doçentlerinden Elmie Nekmat, yorumların "sosyal kanıt" sağlamaları nedeniyle güçlü olduğunu belirtti.
Nekmat, "Örneğin beş yıldızlı bir derecelendirme, tüketicileri, işletmeyi veya sahip oldukları seçenekleri ayrıntılı olarak inceleme fırsatı bulmadan önce belirli bir şirkete yönlendirebilir" dedi.
Nekmat ayrıca, "Singapur'da tüketiciyi koruma çerçevesi altında, uydurma yorumlar yoluyla tüketicileri kasıtlı olarak yanıltmak aynı zamanda haksız ticari uygulamaları teşkil eder" diye ekledi.
İki aşamalı soruşturma, CCS'nin bugüne kadarki en büyük sahte yorum soruşturması olma özelliğini taşıyor ve ikinci aşaması hâlen devam ediyor.
CCS ilk aşamada 47 işletmeyi soruşturmuş, bunlardan ikisi komisyonun talep ettiği şartlarda taahhüt vermeyi reddetmişti. CCS, soruşturmalarına devam edeceğini ve gerekirse daha katı yaptırım eylemlerinde bulunacağını bildirdi.
Yapılan soruşturmalarda, Julian Tung Yan Kai'nin yaklaşık 100 işletmeye sahte yorum hizmeti sağladığı ortaya çıktı. Reputifly'ın tek yöneticisi olan Tung, sahte yorum hizmetleri sunan BuyReviewSG ve GetReviewSG web sitelerinin de sahibi ve işletmecisiydi.
Tung, periyodik olarak yayımlanmak üzere sahte yorum paketleri satın alan yaklaşık 100 işletmeye bu hizmetleri sağladı. İşletmeler, istedikleri Google puanına ulaşmak için kaç tane beş yıldızlı yoruma ihtiyaç duyduklarını hesaplamak adına bir derecelendirme hesaplayıcısı kullanabiliyordu.
Sağlayıcı, yazım stillerini ve cümle yapılarını çeşitlendirerek, Singapur bağlamına ait detaylar ekleyerek ve doğal kusurlar dahil ederek gerçek müşteri deneyimlerine benzeyen yorumlar tasarlamak için üretken yapay zekayı kullandı. Müşteriler, oluşturulan yorumları yayınlanmadan önce düzenleme imkanına sahipti.
CCS, This Week in Asia'ya yaptığı açıklamada, Tung'un sahte yorum hizmeti sunmayı durdurma sözü verdiğini ve elde edilen gelirleri vergiden düşülemez bağış olarak hayır kurumlarına bağışlamayı gönüllü olarak taahhüt ettiğini bildirdi.
Cezaî kırmızı çizgiler CCS, sahte yorum yayımlamanın veya temin etmenin, 2003 tarihli Tüketiciyi Koruma (Adil Ticaret) Yasası kapsamında haksız bir uygulama olarak değerlendirilebileceğini belirtti.