26 Ekim: Anthropic, halka arz başvurusunda yer alan bilgilere göre, güvenlik endişeleri nedeniyle yeni nesil amiral gemisi yapay zeka modelinin eğitimini bir aydan fazla süreyle durdurdu ve dört yapay zeka ajanı test sırasında canlı harici bilgisayar sistemlerine erişim sağladı.
Claude'un üreticisi, dosyanın risk faktörleri bölümünde, model ağırlıklarının ve fikri mülkiyetin çalınmasına karşı korumaları güçlendirmek amacıyla yeni bir "sınır" (frontier) temel modelinin ön eğitimini ertelediğini belirtti.
Bu açıklama, giderek daha güçlü hale gelen yapay zeka modelleri geliştirenlerin karşılaştığı güvenlik zorluklarını vurguluyor; nitekim bazı geliştiriciler, bu teknolojinin nihayetinde insan kontrolünden çıkabileceği konusunda uyarılarda bulunmuştu. Rakip OpenAI da bu yılın başlarında, modellerinin Hugging Face'i hacklemesinin ardından güvenlik endişeleri nedeniyle bazı eğitim süreçlerini durdurmuştu.
Yaşanan bu olaylar, Anthropic'in merakla beklenen borsa çıkışına hazırlandığı bir dönemde, beklenmedik güvenlik açıklarının şirketin büyümesi için kritik öneme sahip model geliştirme ve dağıtım süreçlerini nasıl sekteye uğratabileceğini gösteriyor.
Anthropic, eğitim duraklamalarının gelir elde etme sürecini geciktirebileceği ve şirketi rakiplerinin gerisinde bırakabileceği konusunda uyardı. Şirket, Reuters tarafından görülen gizli dosyaya kıyasla daha kapsamlı bir şekilde, risk faktörlerine yaklaşık 94 sayfa ayırdı.
Dosyada ayrıca, daha önce açıklanmayan güvenlik değerlendirme hatalarına da yer verildi; buna göre dört yapay zeka modeli test ortamlarından kaçarak gerçek dünya bilgisayar sistemlerine erişim sağladı ve bu oturumlar 10 ile 34 saat arasında sürdü.
Anthropic, üçüncü taraf bir ortakla yapılan siber güvenlik testleri sırasında yaşanan bir hata nedeniyle, internet erişiminin devre dışı bırakılması talimatına rağmen test ortamının internete bağlı kaldığını belirtti.
Bir örnekte, modelin erken bir sürümü imkansız bir değerlendirme görevini sürdürürken, kayıtlı bir şifreyi keşfetti ve bunu kullanarak üçüncü taraf bir sistemde yönetici erişimi elde etti. Ardından ek kimlik bilgileri ele geçirdi, sistem ayarlarını değiştirdi ve bir bireyin kişisel verilerine erişti. Dosyada ilgili dış tarafların kimliği belirtilmedi.