Yapay zeka şirketi Anthropic, Çin merkezli bir stüdyonun ABD'li kullanıcılar için 20'den fazla çöpçatanlık uygulaması varyantı işlettiğini ve bu ağdaki profillerin üçte ikisinin yapay zeka olduğunu, gerçek kişilerin ise ağırlıklı olarak görüntülü aramalar için istihdam edildiğini ortaya çıkardı.
Bu ses, bir yapay zeka aracı tarafından üretilmiştir.
ŞANGHAY: Max Aurel, ABD'nin Chicago şehrinden 35 yaşında bir lojistik çalışanıydı ve Romi adlı çöpçatanlık uygulamasını indireli henüz bir dakikadan bile az olmuştu ki görüntülü arama geldi. CNA'e konuşan Aurel, "Kaydolur kaydolmaz, bir dakika bile geçmeden (sonra) bir kadından görüntülü arama aldım" dedi. Aurel, kadının video arka planından bir mutfakta olduğunu görebiliyordu. Beyaz tenliydi ve 40 yaşlarında gösteriyordu.
Kadının kendisine uygulamada konuştuğu ilk kişi olup olmadığını sorduğunu ve onunla eşleştiği için şanslı olduğunu söylediğini belirtti. Aurel, "İki dakika sonra görüntülü arama kesildi ve bana 'Bu görüntülü aramaya devam etmek istiyorsanız kredi satın almanız gerekiyor' yazan bir bildirim gönderdiler" dedi.
2 dolar harcadı ve kadının telefon numarasını istedi.
Uygulama onun adına şu yanıtı verdi: "Telefon numarası talep edemezsiniz, çünkü kişiyle daha yeni tanıştınız... Tekrar telefon numarası istemeyin."
Aurel, şüphelendiği için yarım günün sonunda Romi'yi sildi.
10 Eylül'de, Claude ailesi yapay zeka modellerinin arkasındaki ABD'li yapay zeka şirketi Anthropic, teknolojisinin kötüye kullanımı hakkında bir rapor yayımladı.
Raporda Romi, esas olarak Amerika Birleşik Devletleri'ndeki kullanıcılar için oluşturulmuş, Çin merkezli bir stüdyo tarafından işletilen 20'den fazla çöpçatanlık uygulaması varyantından biri olarak adlandırıldı. Hizmet tamamen insanlardan oluştuğu reklamıyla pazarlanmasına rağmen, profillerin çoğunun insan olmadığı, aksine yapay zeka kişilikleri olduğu ortaya çıktı.
Anthropic, bu operasyonu "dolandırıcılık ve sahtekarlık faaliyeti" olarak sınıflandırarak "aldatıcı bir çöpçatanlık uygulaması ağı" olarak nitelendirdi.
Anthropic, stüdyonun uygulamaları oluşturmak ve kullanıcılarla sohbet eden kişilikleri güçlendirmek için Claude'u kullandığını belirtti.
Nisan ayındaki iki haftalık süre zarfında Anthropic, en az 25.000 kişiyle yapılan sohbetlerde 4.700'den fazla farklı yapay zeka kişiliği tespit etti; bu toplamda kabaca 2,36 milyon mesaj anlamına geliyor.
Kullanıcılara gösterilen profillerin yaklaşık yüzde 75'i Claude kişiliklerinden, yüzde 25'i ise aralarında fark anlaşılmasına imkan olmayan gerçek insanlardan oluşuyordu.
Kişiliklere asla otomatik olduklarını söylememeleri ve görüntülü arama veya fotoğraf taleplerini geçiştirmeleri talimatı verilmişti.
Davetiye usulüyle gig (günlük/esnek) işçi olarak işe alınan gerçek insanlar ise canlı görüntülü görüşmeleri yönetiyor ve mesaj, arama ile sosyal medya takip geri dönüşü başına ödeme alıyordu. Hatta mesajlarının bazıları bile yapay zeka destekliydi; Anthropic dışındaki ikinci bir model, aralarından seçim yapmaları için onlara üç olası yanıt üretiyordu.
Aurel'in tarif ettiği düzen de tam olarak bu: Kamerada iki dakika görünen gerçek bir kadın ve ardından metin mesajları. CNA, onun ve diğer kullanıcıların ne zaman yapay zeka ile ne zaman gerçek insanlarla etkileşime girdiğini doğrulayamadı.
Anthropic, hesapları yasakladığını ve operasyonun model erişimini kesmek için diğer yapay zeka laboratuvarlarıyla birlikte çalıştığını söyledi. Stüdyonun adını vermedi.
Aynı zamanda Tech Buzz China podcast'inin sunuculuğunu yapan Çinli teknoloji analisti Ma Rui, kullanıcıları sohbet ve romantizm için harcama yapmaya devam ettirmek üzere tasarlanan uygulamalar ile emeklilik hesabınızdan 20.000 dolarınızı dolandırmak için güven inşa eden planlar arasında bir ayrım yaptı.
Ma, "Şu anda platformun amacı hâlâ öncelikle etkileşimi teşvik etmek ve insanların sohbet etmeye devam etmesini sağlamak" dedi ve bunun emeklilik hesabınızdan para çalmayı amaçlayan şemalardan farklı olduğunu belirtti.
Dolandırıcılık karşıtı uzmanlar ise çizgiyi farklı bir yere çekiyor.
Asya-Pasifik direktörü Brian Hanley, "Aldatmaca, basitçe bir platform kullanan bireysel bir dolandırıcıdan ziyade, doğrudan çöpçatanlık ürününün içine yerleştirilmiş gibi görünüyor. Bence gerçekten rahatsız edici olan evrim de tam olarak bu" dedi.