Daha sonra okumak veya başvurmak üzere favori makalelerinizi ve hikayelerinizi favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. Bağımsız bir izleme grubu tarafından Perşembe günü yayınlanan bir analize göre Anthropicis, CEO'nun teknolojinin ilerleme hızını yavaşlatma çağrıları arasında yapay zeka sistemlerini bir yıl öncesine göre yaklaşık iki kat daha hızlı geliştiriyor. Anthropic, Berkeley, Kaliforniya merkezli kar amacı gütmeyen Model Değerlendirme ve Tehdit Araştırması'ndan araştırmacıları, yapay zeka modellerinin felaketle sonuçlanacak şekilde insan kontrolünden kaçma potansiyeli üzerine dönen tartışmalarla Wall Street'teki ilk çıkışına hazırlanırken dahili verilerini incelemeye ve personelle görüşmeye davet etti. Bulgular önemli çünkü teknoloji ve riskleriyle ilgili ayrıntılar, öncelikle Başkan Donald Trump yönetimi tarafından güvenlik konularında kendilerini denetlemeye teşvik edilen yapay zeka şirketleri tarafından sağlanıyor.
AnthropicCEODario Amodei, araştırma grubunun değerlendirme döneminde güvenlik önlemlerinin yetişebilmesi için yapay zeka endüstrisine çalışmalarını yavaşlatma çağrısında bulundu. Kontrolden çıkan yapay zekayla ilgili artan endişelere yanıt veren 12 Eylül tarihli makalesinde, yapay zeka dünyasını "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmaya" çağırdı. Antropik, yorum isteyen mesajlara hemen yanıt vermedi. San Francisco merkezli şirket, bu ayın sonlarında şimdiye kadarki en büyük hisse senedi halka arzı olabilecek bir şekilde halka açılmayı planlıyor. Yapay zeka, kendi gelişiminde daha büyük bir rol oynuyor METR, Anthropic'in modellerinin "iyi tanımlanmış görevleri" bir yıl öncesine göre yaklaşık iki kat daha hızlı yapma yeteneklerini geliştirdiğini tahmin ediyor. Kâr amacı gütmeyen kuruluşun araştırmacıları, daha hızlı gelişmenin nedeninin çoğunun yapay zekanın yardımı olduğuna inandıklarını söyledi. Anthropic, Claude chatbot'unun şirketin daha yeni ve daha gelişmiş versiyonlarını geliştirmesine giderek daha fazla yardımcı olduğunu söyledi.
METR, yıllardır Antropik, OpenAI ve diğer laboratuvarlar için model yetenekleri üzerine değerlendirmeler yürütmektedir. Kâr amacı gütmeyen kuruluş bağışlarla finanse ediliyor ve çalışmaları için tazminat kabul etmiyor, ancak değerlendirmeler için ortaklık kurduğu yapay zeka şirketleri, METR'nin değerlendirmeler, araştırma ve mühendislik için kullandığı erişim ve belirteçleri sağladı. İki raporundan biri, şirket tarafından Ağustos ortasından Ekim sonuna kadar yaklaşık 11 haftalık bir süre boyunca sağlanan Anthropic'in dahili verilerinin analizine ve çalışanlarla yapılan görüşmelere dayanıyordu. METR, değerlendirmesinin iki soruya odaklandığını söyledi: Anthropic'in dahili yeteneklerinin büyüme oranının hızlanıp hızlanmadığı ve bunun ne kadarının yapay zekaya atfedilebilir olduğu. Grup, Anthropic'in yapay zeka araştırma ve geliştirme sürecine ilişkin "dahili verilere benzeri görülmemiş erişim" verildiğini söyledi.
Anthropic'in rapora ilişkin düzeltmeleri, METR'nin hızlanmaya ilişkin daha ayrıntılı tahminleri nasıl iletebileceğini sınırladı ve METR ekibi arasında bazı iç anlaşmazlıklar ve belirsizlikler vardı, ancak grup, şirketin iyileşme oranının iki katına çıktığına inandığını söyledi. METR raporuna göre "Anthropic, geçen yıl kıyaslamalarda Ekim 2023 ile Ekim 2025 arasında olduğu kadar ilerleme kaydetmiş gibi görünüyor." Değerlendiriciler yapay zekanın ilerlemesini engelleyen pek bir şey görmüyorlar Rapor, uyarılarla doluydu. METR, hızlanmanın tanımlanması daha zor olan "karmaşık" görevler yerine yalnızca otomatik olarak veya bir dil modeliyle notlandırılabilen "iyi tanımlanmış görevlerle" sınırlı olabileceğinden bulgularını abartıyor olabileceğini söyledi.