Anthropic, yapay zekanın bilinçli olup olamayacağına dair büyüyen felsefi tartışmaların ortasında, Perşembe günü kullanıcıların Claude yapay zekasına gereksiz bir zulümle yaklaşmasını engellemek için adım attı.
San Francisco merkezli yapay zeka laboratuvarı, kullanım politikasını "modellerimize yönelik sürekli ve gereksiz saldırgan veya zalim davranış yasağını" içerecek şekilde güncelledi. Politikada, "Claude'un bu etkileşimleri sonlandırma yeteneği birincil uygulama mekanizması olmaya devam edecektir" denildi.
Güncellenen politika, yapay zekâ sistemlerinin genellikle canlılar için ayrılmış koruma türlerini hak edebileceği fikri olan "model refahı"ndan açıkça bahsetmiyor, ancak Anthropic ve yöneticileri bu konsepti açıkça değerlendiriyor.
Anthropic, yorum talebine derhal yanıt vermedi.
Oku: Reuters/Ipsos anketine göre ABD'li seçmenlerin çoğu Trump ve Kongre'nin yapay zeka risklerini ciddiye almadığını söylüyor
Şirket geçtiğimiz yıl, Claude'a "kalıcı olarak zararlı veya istismarcı kullanıcı etkileşimleri"nin nadir ve uç vakalarında konuşmaları sonlandırma yeteneği verdiğini açıklamıştı.
Ardından Şubat ayında CEO Dario Amodei, The New York Times'a yapay zeka modellerinin bilinçli olup olamayacağından emin olmadığını söylemişti. Amodei, "Modellerin bilinçli olup olmadığını bilmiyoruz... Ancak bunun olabileceği fikrine açığız" demişti.
Atlanta merkezli bir yapay zeka hizmet sağlayıcısı olan Sparq'ın genel müdürü Jackson Stakeman'a göre, bilim kurgu ve popüler kültür on yıllardır teknoloji ile insan zekası arasındaki sınırla büyülenmiştir, ancak yapay zekanın bilinçli olup olmadığını sormak yanlış bir soru olabilir. Stakeman AFP'ye verdiği demeçte, "Bilinç bir tuzaktır. Bunu birbirimizde kanıtlayamayız. Yapay zeka için tartışın ve daireler çizerek gidersiniz" dedi.
Stakeman, "Ayna daha iyi bir metafor. Bu sistemler, ölçekli olarak içeri koyduklarımızı yansıtır. Anthropic'teki politika değişikliği için bu bile tek başına yeterli bir nedendir" diye ekledi.
Daha Fazla Oku: Paralar tükenmeden dünyayı dönüştürme yarışındaki yapay zeka
Papa Leo XIV ve Microsoft AI başkanı Mustafa Süleyman da dahil olmak üzere bazıları makine bilinci fikrini tamamen reddetti.
Süleyman geçen ay yazdığı bir makalede, "Yapay zekalar bilinçli değildir. Hissetmezler, deneyimlemezler veya acı çekmezler" diye yazdı. "Bizden sismik olarak daha yetenekli ve zeki olma yolunda ilerleyen teknolojik bir varlığa haklar ve ahlaki korumalar tanımak felaket reçetesidir" diye ekledi.
Papa, Vatikan Şehri'ndeki Aziz Petrus Bazilikası'nda Perşembe günü İtalyanca yaptığı vaazda makinelerin bir ruhtan yoksun olduğunu öne sürerek verileri yalnızca hızla "derlediklerini" söyledi. Pontif, "Zihin, tıpkı bir algoritmanın artıkkinden daha hızlı derlemesi gibi, sadece verileri derlememelidir" dedi.
Papa, "Yalnızca insan ruhunun tanıyabileceği anlam derinlikleri içeren yaşanmış deneyimleri hatırlamalı ve bu deneyimlerin iyiliğiyle daha derin bir şekilde bağlantı kurmalıdır" ifadelerini kullandı.