Tarihimizde hiçbir zaman bir teknolojiyle bu kadar çok sohbet etmemiştik ve hiçbir teknoloji bize bu kadar insani bir şekilde yanıt vermemişti. Sınır teknolojilerindeki kamusal tartışmaların büyük bir kısmı yapay zekanın bilinç kazanıp kazanamayacağı etrafında dönerken, demokratik toplumlar üzerindeki etkisine dair daha acil bir endişe, büyük dil modellerinin ne düşündüğümüzü şekillendirme kapasitesi üzerinde yoğunlaşıyor.
Birkaç ay önce, prestijli bilim dergisi Nature, yönetim sistemlerindeki aktörleri büyüleyen bir soruyu ele alan en kapsamlı çalışmalardan birini yayınladı: Yapay zeka siyasi görüşlerimizi değiştirebilir mi? MIT araştırmacılarının öncülük ettiği disiplinler arası bir ekip, gerçek seçimler bağlamında, farklı ülkelerden binlerce kişinin katıldığı deneylerde katılımcıları bir ya da diğer adayları savunmak üzere talimatlandırılmış dil modelleriyle konuşturdu. Kişisel tercihler üzerindeki etki anlamlı çıktı; hatta bu etki, geleneksel seçim reklamcılığında ölçülenden bile daha yüksekti. Birkaç dakikalık sohbet içinde, katılımcıların görüşleri her sistemin savunduğu yöne doğru kaydı.
Ancak en çok dikkat çeken şey, sistemlerin duygusal manipülasyon teknikleri veya sofistike psikolojik numaralarla değil, ilgili olgu ve kanıtları sunarak ikna etmesiydi. Bu haber, ilk bakışta iç rahatlatıcıdır. Çünkü eğer makine bilgiyle ikna ediyorsa, müzakereci demokrasinin eski bir özlemini endüstriyel ölçekte gerçekleştirmiş oluyoruz demektir. Filozof Jürgen Habermas bunu ünlü bir ifadeyle dile getirmişti: Gerçek bir sohbette, en iyi argümanın gücü galip gelmelidir. Acaba bu sistemlerin yaptığı da tam olarak bu değil mi?
Cornell Üniversitesi Bilgi Bilimleri Laboratuvarı tarafından yürütülen bir diğer son çalışma ise olgunun sessiz yüzünü gösterdi. Bu deneyde katılımcılardan, tasarımında kasıtlı olarak bir yanlıllık yerleştirilmiş otomatik tamamlama önerileri sunan bir yapay zeka yazma asistanının yardımıyla, sosyal açıdan tartışmalı konular hakkında kısa bir fikir denemesi kaleme almaları istendi. Deneme bittiğinde, her bir konudaki görüşler sistemin pozisyonuna doğru kaymıştı. Katılımcıların çoğu, önerilerin yanlıllığını veya bunun üzerlerindeki etkisini fark etmedi.
Önceki deneyin aksine, sohbette ne bir tartışma ne de karşı karşıya gelen argümanlar vardı; bunun yerine, kelime kelime kullanıcıların bakış açısını kaydıran yanlı bir asistan vardı. Hiç kimse ikna edildiğini hissetmedi. Ve mesele de tam olarak budur. Asıl sorun, argümanın makineden gelmesi değildir; bir dizi algoritmadan geliyor diye değeri daha az olmaz. Problem, farkına varmadan, doğru kabul ettiğimiz şeyler hakkında son sözü ona vermeye başlamamızdır. Böylece, bize anında ve tutarlı, genellikle de ölçümüze göre yapılmış bir yanıt sunduğu için onu bir tür epistemik otoriteye dönüştürüyoruz.
Yavaş yavaş ve farkına varmadan, yargı yetkimizi devrediyor ve UBA'daki Yapay Zeka Laboratuvarı araştırmacılarının bilişsel sedentarizm (zihinsel uyuşukluk) olarak tanımladıkları duruma giriyoruz. Buradaki yenilik, bu otomatizm biçiminin demokratik yaşamın kalbine, yani kamuoyunun oluşumuna ulaşabilmesidir. Çünkü düşünmek, sedentarizmin zıddıdır; sürtünmeyi, durmayı, şüphe etmeyi ve aramayı gerektirir.