Daha sonra okumak veya başvurmak üzere favori makalelerinizi ve hikayelerinizi favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. Bir yapay zeka güvenlik izleme grubu, Anthropicis'in sistemlerini bir yıl öncesine göre kabaca iki kat daha hızlı geliştirdiği konusunda uyardı; buna rağmen şirketin genel müdürü daha geniş endüstriyi yavaşlamaya çağırıyor. Analiz, perşembe günü METR olarak bilinen Berkeley, Kaliforniya merkezli kar amacı gütmeyen bir kuruluş olan Model Evaluation and Threat Research tarafından yayınlandı. Anthropic, yapay zeka modellerinin felaketle sonuçlanacak şekilde insan kontrolünden kaçıp kurtulamayacağına ilişkin tartışmaların ortasında gelen Wall Street'teki lansman öncesinde grubun araştırmacılarını dahili verilerini incelemeye ve personelle röportaj yapmaya davet etti. Rapordan önce teknoloji ve riskleriyle ilgili ayrıntılar şu ana kadar öncelikle yapay zeka şirketlerinin kendileri tarafından sağlanıyordu. Bu şirketler, Başkan Donald Trump yönetimi tarafından güvenlik konularında kendilerini denetlemeye teşvik edildi.
San Francisco merkezli Anthropic, bu ayın sonlarında şimdiye kadarki en büyük hisse senedi halka arzı olabilecek bir şekilde halka açılmayı planlıyor. Yeni rapor hakkında hemen yorum yapılmadı. Araştırma grubunun değerlendirme döneminde Anthropic CEO'su Dario Amodei, güvenlik önlemlerinin yetişebilmesi için yapay zeka endüstrisini çalışmalarını yavaşlatmaya çağırdı. Kontrolden çıkan yapay zekayla ilgili artan endişelere yanıt veren 12 Eylül tarihli makalesinde, yapay zeka dünyasını "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmaya" çağırdı. METR, Anthropic'in modellerinin "iyi tanımlanmış görevleri" bir yıl öncesine göre yaklaşık iki kat daha hızlı yapma yeteneklerini geliştirdiğini tahmin ediyor. Kâr amacı gütmeyen kuruluşun araştırmacıları, daha hızlı gelişmenin nedeninin çoğunun yapay zekanın yardımı olduğuna inandıklarını söyledi. Anthropic, Claude sohbet robotunun şirketin daha yeni, daha gelişmiş versiyonlarını geliştirmesine giderek daha fazla yardımcı olduğunu söyledi.
METR, yıllardır Antropik, OpenAI ve diğer laboratuvarlar için model yetenekleri üzerine değerlendirmeler yürütmektedir. Kâr amacı gütmeyen kuruluş bağışlarla finanse edilmektedir ve çalışmaları için tazminat kabul etmemektedir. Değerlendirmeler için ortaklık kurduğu yapay zeka şirketleri, METR'nin değerlendirmeler, araştırma ve mühendislik için kullandığı erişim ve belirteçleri sağlamıştır. İki raporundan biri, şirket tarafından Ağustos ortasından Ekim sonuna kadar yaklaşık 11 haftalık bir süre boyunca sağlanan Anthropic'in dahili verilerinin analizine ve çalışanlarla yapılan görüşmelere dayanıyordu. METR, değerlendirmesinin iki soruya odaklandığını söyledi: Anthropic'in dahili yeteneklerinin büyüme oranının hızlanıp hızlanmadığı ve bunun ne kadarının yapay zekaya atfedilebilir olduğu. Grup, Anthropic'in yapay zeka araştırma ve geliştirme sürecine ilişkin "dahili verilere benzeri görülmemiş erişim" verildiğini söyledi. Anthropic'in rapora ilişkin düzeltmeleri, METR'nin hızlanmaya ilişkin daha ayrıntılı tahminleri iletme biçimini sınırladı.
METR ekibi arasında da bazı iç anlaşmazlıklar ve belirsizlikler vardı ancak grup, şirketin gelişme oranının iki katına çıktığına inandığını söyledi. METR raporuna göre "Anthropic, geçen yıl kıyaslamalarda Ekim 2023 ile Ekim 2025 arasında olduğu kadar ilerleme kaydetmiş gibi görünüyor." METR, hızlanmanın tanımlanması daha zor olan "karmaşık" görevler yerine yalnızca otomatik olarak veya bir dil modeliyle notlandırılabilen "iyi tanımlanmış görevlerle" sınırlı olabileceğinden bulgularını abartıyor olabileceğini söyledi. Ya da Anthropic'in önceki ilerlemesini olduğundan az göstermesi, son rakamın daha büyük görünmesine neden olabilir. METR g'yi "güvenle" dışlayabildiğini söyledi