Daha sonra okumak veya başvurmak üzere favori makalelerinizi ve hikayelerinizi favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. Anthropic, yapay zekanın artan gücüne dair paniğin ortasında, dışarıdakilerin sistemlerine derinlemesine erişmesine izin vereceğini söylüyor. Şirket, üçüncü taraf araştırmacıların teknolojisini değerlendirmelerine olanak sağlamak için "çalışan benzeri erişime" sahip olmalarına izin verecek. Elon Musk'un SpaceX'i de dahil olmak üzere diğer şirketler artık aynısını yapabilir. Bu, yapay zeka şirketlerinin ve oluşturdukları sistemlerin gücünün arttığı ve bu riskleri azaltmak için yeterince çaba göstermediklerine dair endişelerin arttığı bir dönemde ortaya çıkıyor. Bu tehdide yanıt olarak hükümetlerden ve baskı gruplarından, yapay zeka şirketlerinin yaptıkları işler konusunda daha şeffaf olmaları yönünde giderek artan çağrılar yapılıyor.
Anthropic, bu çağrılara yanıt olarak AI değerlendirme enstitüsü METR'den araştırmacıların sistemlerine erişmesine izin vereceğini söyledi. Altı araştırmacıya, Anthropic'in kendi çalışanlarıyla aynı düzeyde ofis alanına ve iç sistemlere erişim izni verildiği ve personelinin, meslektaşlarıyla paylaşacakları şekilde bilgilerin çoğunu onlarla paylaşmaya teşvik edildiği belirtildi. METR ekibi bu erişimi, Anthropic'in sistemlerinin ne kadar risk oluşturduğunu düşündükleri de dahil olmak üzere buldukları hakkında bir rapor yayınlamak için kullanacak. Anthropic bu yayını durduramaz ancak müşterilerle ilgili veriler gibi hassas bilgilerin yer almamasını talep edebilir. Ayrıca farklı kuruluşlarla başka ortaklıklar üzerinde de çalışıldığı belirtildi. Buna, Anthropic'in, sistemlerinin örneğin insanların kimyasal ve biyolojik silahlar yapmasına izin vererek risk oluşturmamasını sağlamak için yaptığı çalışmaları değerlendiren SecureBio ile bir proje de dahildir.
Anthropic, "aldığımız kararlardan kamuya açık bir şekilde sorumlu olmak" istediği için dışarıdan araştırmacıların şirkete girmesine izin verdiğini söyledi. Ancak ilgili tüm bilgileri kamuya açık olarak paylaşamayacağını çünkü bunların "kötü niyetli aktörler için yararlı olabileceğini veya ticari açıdan hassas olabileceğini" belirtti. Bu sorunun üstesinden gelmek için daha fazla araştırmacıya erişim sağlamayı ve böylece bulduklarını paylaşabilmelerini amaçlıyor. "Değerlendiricilerin öncü bir yapay zeka şirketinin sistemleri hakkında anladıkları ile şirketin kendisinin anladıkları arasındaki boşluğu kapatmayı hedefliyoruz" dedi. Anthropic, diğer taahhütlerin yanı sıra, güvenli davrandıklarından emin olmak için dış denetçilerle birlikte çalışmalarını gerektiren Donald Trump'ın "Beyaz Saray Süper İstihbarat Anlaşması"na imza atan altı şirketten biriydi. Buna Google, Meta, OpenAI, Nvidia ve xAI katıldı.
Anthropic'in duyurusuna yanıt olarak, xAI'nin de parçası olduğu SpaceX'in genel müdürü Elon Musk, şirketinin takip edebileceğini söyledi. X'e "SpaceX muhtemelen aynısını yapacak" diye yazdı, ancak bunun nasıl olabileceğine dair daha fazla ayrıntı vermedi. Düşündürücü sohbetlere katılın, diğer Bağımsız okuyucuları takip edin ve yanıtlarını görün