2 trilyon dolarlık bir değerlemeye ulaşabilecek halka arzına hazırlanan Anthropic, bu yaz dini liderlerle gerçekleştirdiği toplantılar nedeniyle dikkatleri üzerine çekiyor. The Washington Post, nisan ayında şirketin, Dil Modeli (LLM) giderek daha karmaşık etik sorularla karşılaştıkça Claude’un "ahlaki ve manevi gelişimine" rehberlik etmeleri için 15 Katolik ve Protestan lideri davet ettiğini bildirmişti. Haftalar sonra Anthropic'in kurucu ortaklarından Christopher Olah, Papa Leo'nun yapay zekâya ilişkin, yapay zekânın körü körüne benimsenmesine karşı uyarıda bulunan, insanın öncelliğini vurgulayan ve yapay zekânın insanlığın yerini alabileceği ya da onu geçebileceği fikrini reddeden "Magnifica Humanitas" adlı genelgesini açıkladığı sırada hazır bulundu.
The New York Times geçen hafta bu temasların ve daha pek çoğunun, Anthropic tarafından yürütülen daha geniş kapsamlı bir çabanın parçası olduğunu bildirdi: Bu çaba iki farklı amaç taşıyordu: Claude’un ahlaki karakterini şekillendirmek için dini ve felsefi geleneklerden yararlanmak ve katılımcıları, yapay zekâ sistemlerinin kendilerinin bilinçli olup olamayacağı ve ahlaki değerlendirmeyi hak edip etmediği konusunda ciddi şekilde düşünmeye ikna etmek.
Hafta sonu OpenAI CEO'su Sam Altman, yapay zekâ modellerine dini bir güç atfedilmesinden "ciddî şekilde rahatsız olduğunu" belirtirken, Google DeepMind araştırmacısı Jon Barron ise araştırmacıları yapay zekâ sistemlerinin ahlaki statüsünü yükseltmek yerine "gerçek insanlara" odaklanmaya çağırdı.
Anthropic, sistemlerinin neye değer vermesi gerektiğini düşünmek için dini liderlere ve filozoflara giderek daha fazla başvuruyor; bununla birlikte sektörün en güçlü figürlerinden bazıları, yapay zekânın kendisinin ahlaki veya dini bir otorite kaynağı olarak görülmesine karşı uyarıda bulunuyor. Bu durum önem arz ediyor çünkü insanlar halihazırda tavsiye, bilgi ve hatta ahlaki veya manevi rehberlik için bu sistemlere başvuruyor. Onların içine yerleştirilen değerler, insanların aldığı yanıtları ve verdiği kararları şekillendirebilir. The Economist'e göre, dini sorgulamalar CEFE AI tarafından analiz edilen milyonlarca halka açık sohbet robotu konuşmasının yaklaşık %5'ini oluşturuyordu.
Anthropic neden dini düşünürlerle konuşuyor? Anthropic uzun süredir kendini güven odaklı yapay zekâ şirketi olarak konumlandırıyor. Claude'un davranışlarını şekillendirme çabaları, "Ruh Belgesi" adı verilen dahili bir nottan, bu ocak ayında yayınlanan ve Claude'un uyması beklenen ilkeleri belirleyen 84 sayfalık bir anayasaya kadar evrildi.
Ancak bir yapay zekâ sisteminin ne tür bir karaktere sahip olması gerektiğine ilişkin sorular, teknik güvenlik önlemlerinin çok ötesine geçmektedir. Bu sorular ahlak, kişilik, bilinç ve insan ilişkilerine temas etmekte olup, tüm bunlar dini ve felsefi geleneklerin yüzyıllardır tartıştığı konulardır.
Ayrıca Açıklamada | Papa Leo'nun yapay zekâ genelgesi, Anthropic'e halka arz hamlesi öncesinde bir meşruiyet desteği mi sağladı?
Viyana Üniversitesi'nde teknoloji filozofu ve profesör olan Mark Coeckelbergh, The Indian Express'e yaptığı açıklamada, bu hamlenin "insan benzeri" teknolojiye anlam verme girişimi olduğunu belirtti. "Bu, insan benzeri görünen veya bazılarına göre her şeyi bilme gibi giderek daha ilahi nitelikler kazanan ileri bir teknolojiye sahip olduğumuzda ne olacağını anlamaya çalışmanın daha geniş bir eğiliminin parçasıdır."
Vatikan da benzer sorularla mücadele etmiştir: Vatikan Dijital Kültür Merkezi ile çalışan akademisyenler tarafından hazırlanan 2023 tarihli bir cilt, yapay zekâyı kişilik, bilinç ve gelişmiş sistemlerle insan ilişkileri üzerinden incelemiştir.
Coeckelbergh ayrıca bu mesajın yapay zekâyı anlamanın ötesine geçebileceği ve bir şirketin belirli bir pazar pozisyonunu işgal etmesine yardımcı olabileceği konusunda uyardı. "Bunun sadece yapay zekâyı anlamakla ilgili bir soruşturma olmadığını görmek önemlidir. Bu aynı zamanda onların işine hizmet eden bir retoriktir."