Anthropic, son finansal sonuçlar üzerine yayınladığı yeni güncellemede yapay zekasının kendisini geliştirmeye yakın olduğunu bildirdi. Şirket, SEC'e sunduğu belgede "otonom özyinelemeli iyileştirme"den bahsederek senaryoyu yapay zeka risk faktörleri arasına dahil etti. Bu, yazılım sonraki modelleri programlayacak ve eğitecek kadar gelişmiş hale geldiğinde meydana gelir ve teknolojinin gelişimini hızlandıran bir zincirleme reaksiyonu başlatır. Anthropic için bu bir güvenlik sorunu teşkil ediyor: Makineler çok hızlı ilerlerse uzmanlar sistemin davranışını doğrulamak ve onu kontrol altında tutmak için gerekli zamana sahip olamama riskiyle karşı karşıya kalır.
Mevcut modeller henüz bu eşiğe ulaşmamış olsa da şirket içi tahminlere göre gelecek nesiller yakında bunu başarabilir. Ancak Anthropic, yazılımının insan desteği olmadan yeni sürümler tasarlamasına izin vermeyeceğini garanti etti: araştırmacılar ve teknisyenler işin her aşamasında dümenin başında kalacak. Anthropic, "Sınır modellerinin geliştirilmesinde insan kontrolünü sürdürmek için sorumlu ölçeklendirme politikamızdaki güncellemeleri değerlendiriyoruz" dedi. Çoğaltılması saklıdır © Telif Hakkı ANSA