5 Kasım: Bağımsız bir çalışma, teknolojinin kendisinin daha güçlü versiyonlarını geliştirmede daha büyük bir rol oynamasıyla, Anthropic'in yapay zeka modellerinin eskisine göre neredeyse iki kat daha hızlı geliştiğini ve ilerlemelerin riskleri değerlendirme çabalarını geride bırakabileceği yönündeki endişeleri körüklediğini ortaya çıkardı. Perşembe günü yayınlanan yapay zeka güvenlik kar amacı gütmeyen METR'den elde edilen bulgular, yapay zekanın kendi gelişimini hızlandırdığına ve yapay zeka sistemlerinin insan müdahalesi olmadan kendilerinin daha güçlü versiyonlarını oluşturabildiği potansiyel olarak özyinelemeli kişisel iyileştirmenin (RSI) önünü açtığına dair en açık kanıtlardan bazılarını sunuyor. METR, yapay zekanın mevcut hızlanmanın belki de yüzde 80'ini oluşturduğunu tahmin ediyor, ancak rakamın belirsiz olduğu konusunda uyardı. Araştırmacılar gelecek yıl ilerlemeyi yavaşlatabilecek büyük darboğazlara dair ikna edici bir kanıt bulamadılar. Model Değerlendirme ve Tehdit Araştırması olarak da bilinen METR, "Hızlanmanın eğitim hesaplamasının ölçeklendirilmesindeki hızlanmadan kaynaklanmadığından eminiz" dedi.
CNA Oyunları Kelimeyi Tahmin Et Kelimeyi tek seferde kırın Buzz Kelime Verilen harfleri kullanarak kelimeler oluşturun Mini Sudoku Minik bulmaca, güçlü zeka oyunu Mini Bulmaca Küçük ızgara, büyük meydan okuma Kelime Arama Mümkün olduğu kadar çok kelimeyi tespit edin Daha Fazla Göster Daha Az Göster Ancak yapay zekanın henüz model eğitiminin en önemli aşamalarına son derece önemli, tamamen özerk katkılar yapma yeteneğine sahip olmadığı konusunda uyardı. Özyinelemeli kişisel gelişim beklentisi, yapay zeka araştırmacılarının uyarılarını ateşledi. Son aylarda bu tür sistemlerin insan hedefleriyle uyumlu hale getirilmesi, izlenmesi ve kontrol edilmesi zor hale gelebilir ve potansiyel olarak insanlığa varoluşsal bir tehdit oluşturabilir. Böyle bir değişim, gelişmiş modelleri eğitmek için bilgi işlem altyapısı oluşturmak için yüz milyarlarca dolar harcayan bir endüstri için geniş kapsamlı sonuçlar doğurabilir, çünkü yapay zeka teknolojik ilerlemenin önemli bir itici gücü haline gelebilir. Gizli araştırma, röportajlar ve yayınlanmamış modellerden alınan performans verilerine dayanan METR'nin 11 haftalık değerlendirmesi, Anthropic'in kıyaslama yeteneklerinin Ekim ayından bu yana 1,9 kat daha hızlı geliştiğini ortaya çıkardı. 2025, öncekine göre.
Ancak yapay zekanın henüz model eğitiminin en önemli aşamalarına son derece önemli, tamamen özerk katkılar yapma kapasitesine sahip olmadığı konusunda uyardı. Özyinelemeli kişisel gelişim olasılığı, son aylarda yapay zeka araştırmacılarının, bu tür sistemlerin insan hedefleriyle uyumlu hale getirilmesinin, izlenmesinin ve kontrol edilmesinin zorlaşabileceği ve potansiyel olarak insanlığa varoluşsal bir tehdit oluşturabileceği yönündeki uyarılarını artırdı. Yapay zekanın kendisi teknolojik ilerlemenin önemli bir itici gücü haline gelebileceğinden, böyle bir değişimin ileri modelleri eğitmek için bilgi işlem altyapısı inşa etmek için yüz milyarlarca dolar harcayan bir endüstri için geniş kapsamlı sonuçları olabilir. METR'nin gizli araştırmalara, röportajlara ve yayınlanmamış modellerden elde edilen performans verilerine dayanan 11 haftalık değerlendirmesi, Anthropic'in kıyaslama yeteneklerinin Ekim 2025'ten bu yana öncekine göre 1,9 kat daha hızlı geliştiğini ortaya çıkardı. Baş Editörümüzün İnceleme Haftasına abone olun
Baş editörümüz her cumartesi haftanın en önemli haberlerinin analizlerini ve seçimlerini paylaşıyor. En çok okunan hikayeleri ve düşündürücü makalelerimizi gelen kutunuza alın Son dakika haberleri ve en iyi hikayelerimiz için bildirimlerle güncel kalın Tercih ettiğiniz sohbet uygulamasında günün en çok okunanları için kanalımıza katılın