San Francisco – Yapay zeka sistemlerinin bilinç sahibi olup olamayacağına dair artan felsefi tartışmaların ortasında Anthropic, Perşembe günü kullanıcıların Claude yapay zeka sistemine gereksiz bir zulümle yaklaşmasını engellemek için harekete geçti.
San Francisco merkezli yapay zeka laboratuvarı kullanım politikasını, "modellerimize yönelik sürekli ve gereksiz kötü muamele veya zalimce davranış yasağını" içerecek şekilde güncelledi.
Politikada, "Claude'un bu etkileşimleri sonlandırma yeteneği, birincil uygulama mekanizması olmaya devam edecektir" denildi.
Güncellenen politika, yapay zekaların genellikle canlılara mahsus koruma türlerini hak edebileceği fikri olan ve sözde "model refahı" kavramına açıkça atıfta bulunmasa da, Anthropic ve yöneticileri bu fikre açık kapı bırakıyor.
Anthropic, yorum talebine derhal yanıt vermedi.
Şirket, daha geçen yıl, "sürekli zararlı veya istismarcı kullanıcı etkileşimlerinin" nadir ve aşırı vakalarında Claude'a konuşmaları sonlandırma yeteneği verdiğini açıklamıştı.
Ardından Şubat ayında CEO Dario Amodei, The New York Times'a yapay zeka modellerinin bilinçli olup olamayacağından emin olmadığını söylemişti.
Amodei, "Modellerin bilinçli olup olmadığını bilmiyoruz... Ancak bunun olabileceği fikrine açığız" demişti.
Atlanta merkezli bir yapay zeka hizmetleri sağlayıcısı olan Sparq'ın genel müdürü Jackson Stakeman'a göre, bilim kurgu ve popüler kültür on yıllardır teknoloji ile insan zekası arasındaki sınırla büyülenmiş durumda, ancak yapay zekanın bilinçli olup olmadığını sormak yanlış bir soru olabilir.
Stakeman AFP'ye yaptığı açıklamada, "Bilinç bir tuzaktır. Bunu birbirimizde kanıtlayamayız. Yapay zeka için tartışırsanız kısır döngüye girersiniz" dedi.
Stakeman, "Ayna daha iyi bir metafor. Bu sistemler, içeriğe ne koyarsak onu ölçekli olarak yansıtır. Anthropic'teki politika değişikliği için bu bile tek başına yeterli bir nedendir" diye ekledi.
Papa Leo XIV ve Microsoft yapay zeka şefi Mustafa Süleyman da dahil olmak üzere bazıları makine bilinci fikrini tamamen reddetti.
Süleyman geçen ay yayınladığı bir makalede, "Yapay zekalar bilinçli değildir. Hissetmezler, deneyimlemezler veya acı çekmezler" diye yazdı.
Süleyman, "Teknolojik bir varlığa, bizden sismik olarak daha yetenekli ve zeki olma yolunda ilerleyen birine haklar ve ahlaki korumalar tanımak felaket reçetesidir" ifadelerini kullandı.
Katoliklerin ruhani lideri Papa, Perşembe günü Vatikan Şehri'ndeki Aziz Petrus Bazilikası'nda İtalyanca yaptığı vaazda makinelerin bir ruhtan yoksun olduğunu öne sürerek, onların yalnızca hızlı bir şekilde "veri derlediklerini" söyledi.
Papa, "Zihin, bir algoritmanın artık bizim yapabileceğimizden daha hızlı yaptığı gibi, sadece veri derlememelidir" dedi.
Papa, "Yalnızca insan ruhunun tanıyabileceği anlam derinlikleri içeren yaşanmış deneyimleri hatırlamalı ve bu deneyimlerin iyiliğiyle daha derinden bağlantı kurmalıdır" diye konuştu.