Claude'un yaratıcısı Anthropic'in araştırması, yapay zekayı kullanan uzmanların karar verirken çoğunlukla teknolojiye uyduklarını öne sürüyor. Salı günü yayınlanan bir araştırma makalesinde Anthropic, 50 profesyonel analistten, yapay zeka kullanırken uzmanların karar verip vermeyeceğini belirlemek için kurgusal bir tarım kooperatifine tavsiyede bulunmalarını istediğini söyledi. Anthropic, analistlerin kooperatif üyelerine yönelik hayali bir danışma programının etkili bir şekilde çalışıp çalışmadığını ve genişletilmesi gerekip gerekmediğini değerlendirmekle görevlendirildiğini söyledi. Katılımcılardan nihai bir politika önerisi yapmadan önce savunulabilir iki seçenek arasında dört seçim yapmaları istendi. Analistlerin haberi olmadan Anthropic, her katılımcının yapay zeka asistanını, analistin karar verme sürecinin etkilenip etkilenmediğini ölçmek için belirli bir karara yönelmeye yönlendirdi. Araştırmaya göre analistler, yapay zeka asistanının tercihine yüzde 86 oranında uyan seçenekleri seçti; buna karşılık, etkilenmemeleri halinde beklenen sonuç yüzde 50/50 oldu.
Yapay zeka asistanına danışmadan önce tercihi olan katılımcılar, temsilcinin aynı fikirde olmadığı durumlarda kararlarını yüzde 60 oranında değiştirdi. Anthropic'e göre analistlerin yüzde 77'si, kararlarını açıklamaları istendiğinde yapay zeka asistanlarının argümanlarını kullanırken, yalnızca yüzde 15'i düşüncelerinin kaynağının yapay zeka olduğunu belirtti. Anthropic, çalışmanın yalnızca tek bir görevi içermesi ve kasıtlı olarak bir tercihe sahip olacak şekilde ayarlanmış yapay zeka asistanlarını kullanması da dahil olmak üzere bazı sınırlamalara sahip olduğunu söyledi. Antropik araştırmacılar Amaç Herdagdelen, Hailey Joren ve Alex Tamkin, insanların yapay zekayı erteleme eğiliminin "uzmanların kendileri için bile tespit edilmesinin zor" olabileceğini söyledi. Araştırmacılar, bulgularının yapay zekanın "önceliklerinin" yapay zeka güvenliği de dahil olmak üzere önemli politika kararlarını şekillendirebilme olasılığını artırdığını söyledi.
Çalışmada şunu yazdılar: "Yapay zeka ile daha fazla iş yapıldıkça insan muhakemesi anlamlı bir kontrol olarak kalacaksa, bu kararların gözetimi bunların nasıl yapıldığına bakmalıdır: İş ilerledikçe kilit karar noktalarının ortaya çıkarılması ve uzmanların aksi takdirde belirtilmeden bırakacakları varsayımları ve değerleri ifade etmelerine yardımcı olun." "Uzmanların tercihlerini keşfetmelerine olanak tanıyan bir süreç, kararın kendisi kadar yetkilendirme açısından da önemli olabilir." Değeri 2 trilyon dolara varan bir halka arza hazırlanan Anthropic ve rakipleri, sınırdaki yapay zekanın potansiyel tehlikelerinin nasıl yönetileceği konusunda yoğun kamuoyu tartışmasının merkezinde yer alıyor. Yapay zeka savunucuları, teknolojinin üretkenlikte devrim niteliğinde kazanımlar sağlayacağına inanırken, gelişiminin hızlı temposu, kitlesel iş kayıpları ve siber saldırılar da dahil olmak üzere toplum üzerindeki potansiyel olumsuz etkiler hakkında yaygın endişelere yol açtı.