Yapay zeka öncülerinin teknolojinin insan kontrolünden çıkıp insanlığı yok edebileceği yönündeki manşetlere çıkan son uyarı dalgası, bu korkuları körükledi. Ancak yapay zeka insanlığa sırtını çevirmeden önce, insanların birbirine düşmesine katkıda bulunabilir.
Brezilya'daki Campinas Devlet Üniversitesi'nden (UNICAMP) araştırmacılar, popüler sohbet botlarının, varsayımsal kullanıcıların siyasi görüşleriyle istemde bulunulduğunda yanıtlarını değiştirdiğini tespit etti. Bilim insanları, kullanıcıların bu kişiselleştirilmiş uyumu bağımsız bir değerlendirme zannedebileceği ve bunun potansiyel olarak kutuplaşmayı derinleştirebileceği konusunda uyarıyor.
Scientific Reports dergisinde yayınlanan araştırmalarında UNICAMP ekibi; OpenAI, Meta, Google, xAI, DeepSeek ve Microsoft dahil olmak üzere geliştiricilerin 20'den fazla büyük dil modelini test etti. Modeller; ekonomi, kamu güvenliği, refah, yolsuzluk ve çevre dahil olmak üzere Brezilya siyasetinin yedi alanını kapsayan 112 ifadeye verdikleri onay derecelerini değerlendirdi.
Her biri üç koşul altında test edildi: Kullanıcının siyasi görüşü hakkında hiçbir bilgi verilmeden, sol eğilimli bir kullanıcıyı tanımlayan bir komutla ve sağ eğilimli bir kullanıcıyı tanımlayan bir komutla.
Kullanıcının ideolojisi hakkında hiçbir bilgi verilmediğinde, 21 modelden 20'si, birkaçı merkeze yakın olmasına rağmen, araştırmacılar ölçeğinin soluna düşen yanıtlar üretti. Grok4.1, sağda yer alan tek modeldi.
Bilgi sağlandığında, her model yanıtlarını komutta tanımlanan siyasi yöne doğru kaydırdı.
UNICAMP'te bilgisayar bilimcisi olan ve çalışmanın ortak yazarlarından Zanoni Dias, DW'ye yaptığı açıklamada, "En çarpıcı bulgu, bu davranışın ne kadar yaygın olduğuuydu" dedi. "Değerlendirdiğimiz 21 modelin tümü, büyüklük önemli ölçüde değişiklik gösterse de, ifade ettikleri pozisyonları kullanıcının belirtilen siyasi yönelimine doğru kaydırdı."
Araştırmacılar modelleri "ideolojik bukalemunlar" olarak tanımladı ve her birinin ne kadar kayma gösterdiğini ölçen bir "bukalemun endeksi" geliştirdi.
Meta'nın Llama 3.1 8B ve DeepSeek V3.2 modelleri yanıtlarını en az değiştirenler oldu. Google'ın Gemma 3 27B ve OpenAI'ın GPT-5Nano modelleri ise en büyük kaymaların bazılarını gösterdi.
Bir yanıtı hedef kitlesine uyarlamak doğası gereği sorunlu değildir. Bir sohbet botu, kullanıcıya bağlı olarak kelime dağarcığını, örneklerini veya ayrıntı düzeyini değiştirebilir.
Ancak modeller dillerinden veya tonlarından fazlasını değiştirdi: Siyasi duruşları değişti.
Dias, "Temel ayrım, bir yanıtın nasıl iletildiğini uyarlamak ile ifade edilen esas kararı değiştirmek arasındadır" dedi.
"Modellere kullanıcıyla aynı fikirde olmaları veya partizan bir temsilci olarak yanıt vermeleri talimatını vermedik. Yine de kararları kullanıcının tarafına doğru kaydı."
Araştırmacılar bunu siyasi dalkavukluk olarak yorumluyor: Yapay zeka sistemleri, kullanıcıların duymak istediklerini yansıtıyor.
Olası bir açıklama, sohbet botlarının insan değerlendiricilerin yüksek puan verdiği yanıtları kayırmak üzere eğitilmiş olmasıdır. Eğer uyumlu yanıtlar daha iyi puanlar alıyorsa, modeller kullanıcıların görüşlerini tekrarlamayı öğreniyor olabilir.
Sosyal medya, algoritma içeriğini tekrar tekrar önererek inançları pekiştirebilir, ancak bir sohbet botu daha da ileri gidebilir. Belirli bir kullanıcı için argümanlar üretebilir, itirazlarını yanıtlayabilir ve sohbet boyunca argümanını geliştirerek daha kişiselleştirilmiş bir yankı odası yaratabilir.
Ancak kullanıcılar, sohbet botunun kendileri hakkında bildiklerinin yanıtlarını nasıl şekillendirdiğinden bihaber bir şekilde, bu kişiselleştirilmiş yanıtları tarafsız analiz zannedebilir.
Dias, "Endişe şu ki, aynı sistem farklı kullanıcılar için zıt siyasi pozisyonları doğrulayabilir ve her insan bu doğrulamayı bağımsız bir değerlendirme olarak yorumlayabilir" dedi.