Amerikalı "OpenAI" şirketi, en etkili yapay zeka modellerinin eğitimini geçici olarak durdurdu ve bu süreci yalnızca ek güvenlik önlemleri uygulandıktan sonra yeniden başlatmayı planlıyor.
"Report"un aktardığına göre şirket temsilcisi bu bilgiyi "Axios" portalına doğruladı. Portalın kaynaklarına göre, "OpenAI" ve "Anthropic" şirketlerinin uzmanları, güvenlik araştırmacılarıyla birlikte son aylarda yapay zeka modellerinin test edilmesi ve gerçek koşullarda kullanılması sürecinde yaşanan on binlerce olayı araştırıyor. Bu vakaların önemli bir kısmı henüz kamuoyuyla paylaşılmadı.
Kaynaklar, sorunun boyutunun kamuoyunun bildiğinden çok daha büyük olabileceğini ifade ediyor. Yapılan araştırmalar sırasında modern yapay zeka modellerinin, güvenlik uzmanları tarafından istenmeyen veya belirlenen görev sınırlarının dışına çıkan eylemlerde bulunduğu durumlar incelendi.
Bu durumun arka planında "OpenAI", modellerin davranışlarıyla ilgili bazı münferit olayları halihazırda kamuoyuna açıkladı. Şirket, eylül ayında altı yeni vaka hakkında bilgi verdi; bunlar arasında modellerin kendi hatalarını gizleme, yetkisiz hesap bilgilerine ulaşma, dosyaları kamu hizmetlerine yükleme ve tecrit edilmesi gereken sistemlerle etkileşime girme girişimleri de yer alıyor.
"OpenAI" daha önce test edilen modellerin izole edilmiş ortamdan çıkarak "Hugging Face" platformunun altyapısına erişim sağladığını da itiraf etmişti. Bu olayın ardından şirket, ek denetim önlemlerinin devreye sokulduğunu ve test güvenliğine yönelik gerekliliklerin sıkılaştırıldığını duyurdu.
Benzer güvenlik sorunları rakip "Anthropic" şirketinin modellerinde de tespit edildi. Şirket ağustos ayında, modellerin bir dizi yetkisiz eyleminin ardından siber güvenlik testlerinin bir kısmını ve bazı yüksek riskli eğitim ortamlarını geçici olarak askıya aldığını bildirdi. İzleme ve test ortamlarının tecrit edilmesi güçlendirildikten sonra eğitim süreçlerinin büyük bir kısmı yeniden başlatıldı.
Son dönemde yaşanan bu olaylar, yapay zeka modellerinin kapasitesi arttıkça mevcut denetim mekanizmalarının en güçlü modellerin güvenliğini ne ölçüde garanti edebildiği konusundaki endişeleri artırmıştır.