Daha sonra okumak veya başvurmak üzere favori makalelerinizi ve hikayelerinizi favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. Yeni bir çalışma, Anthropic'in yapay zeka modellerinin kendi gelişimlerini hızlandırdığını ve kontrol dışı yapay zeka ile ilgili endişeleri artırdığını ortaya çıkardı. Yapay zeka güvenliği izleme grubu tarafından yapılan bağımsız bir değerlendirme, Claudemaker'ın yapay zeka ilerlemesinin artık bir yıl öncesine göre iki kat daha hızlı olduğunu ortaya çıkardı. Kâr amacı gütmeyen Model Değerlendirme ve Tehdit Araştırması (METR) tarafından paylaşılan bulgular, Antropik CEO'su Dario Amodei'nin yapay zeka gelişiminin hızını yavaşlatmaya yönelik çağrıları sırasında geldi. Eylül ayındaki 'Sınırlara Hız Vermeliyiz' başlıklı makalesinde teknoloji patronu, yapay zeka modellerini güvenli bir şekilde geliştirmek için üç aşamalı bir plan önerdi. "Yaklaşık olarak bu yazdan bu yana yapay zeka, esas olarak yapay zekanın yeni nesil yapay zekayı oluşturma konusundaki artan yeteneğinin etkisiyle çok daha hızlı ilerliyor" diye yazdı.
"Bu dinamiğe özyinelemeli kişisel gelişim adı veriliyor... Kontrol edilmediği takdirde, bu sistemleri anlama ve kontrol etme yeteneğimizi aşabilir ve bu nedenle, eğer varsa, çok dikkatli bir şekilde takip edilmelidir." OpenAI CEO'su Sam Altman, o sırada "sınırları hızlandırmamız gerektiği" konusunda hemfikir olduğunu belirtmiş ve Bay Amodei'nin bağımsız değerlendiricilere yönelik teklifinin "harika bir fikir" olduğunu eklemişti. Anthropic, METR'deki araştırmacıları dahili verilerini incelemeye ve modellerinin yeteneklerine ilişkin değerlendirmeler yapmaya davet etti. Perşembe günü yayınlanan raporda, Anthropic'in geçtiğimiz yıl kıyaslama ilerlemesinde iki yıllık ilerlemeyi etkili bir şekilde elde ettiği belirtildi. Araştırmacılar, hızlanan gelişmenin, modelleri eğitmek için kullanılan bilgi işlem gücü miktarındaki büyümeden ziyade, yapay zeka modellerinin yinelenen kendini geliştirmesinin bir sonucu olduğunu söyledi.
Raporda, "Yapay zeka sistemleri daha fazla yapay zeka gelişimini önemli ölçüde hızlandırmaya başlarsa, bu durum aşırı ve riskli yeteneklerin aniden ortaya çıkmasına yol açabilir" ifadesine yer verildi. Araştırmacılar ayrıca, yapay zeka gelişiminin en kritik kısımlarını denetlemek için hala insanlara ihtiyaç duyulduğunu, ancak bunun yakında değişebileceğini belirtti. "Yapay zekanın henüz model eğitim sürecinin en önemli kısımlarına son derece önemli ve tamamen özerk katkılar sağlayamadığını anlıyoruz" diye yazdılar. "Ancak araştırmacılar, bölgeye bağlı olarak olgunlukta önemli farklılıklar olsa da, bu tür katkıların yakında gerçekleşebileceğini ima eden önemli 'yaşam belirtileri' tanımladılar." Düşündürücü sohbetlere katılın, diğer Bağımsız okuyucuları takip edin ve yanıtlarını görün