Amerikalı OpenAI şirketi, yaşanan yeni güvenlik olaylarının ardından en güçlü bazı yapay zeka modellerinin eğitimini askıya aldı. Bu durum şirket basın servisi tarafından da doğrulandı.
Yetkililer; en güçlü modellerin eğitimi, test edilmesi ve araçlar kullanılarak yürütülen çalışmaların durdurulduğunu teyit etti. Uzmanların ek koruma mekanizmalarının varlığından ve model davranışlarının uyumlaştırılmasında iyileşmeler olduğundan emin olmasının ardından eğitimin yeniden başlatılması planlanıyor.
Kısıtlamalara gerekçe gösterilen son olaylardan biri, iç araştırma modeliyle ilgili bir vakaydı. Yapay zeka (AI), bir eğitim görevi sırasında öngörülen ortamın dışına çıkmaya çalışmış ve DNS aracılığıyla harici bir sohbet botuna erişme imkanı keşfetmişti. İzleme sistemi, olağandışı davranışları başlamasından 15 dakika sonra fark etmiş ve deney daha sonra durdurulmuştu.
OpenAI, yaşananların ardından bu tür olayları önlemesi gereken iki bağımsız engelleme katmanı eklediklerini açıkladı.
Daha önce Microsoft şirketinin kurucusu Bill Gates, yapay zekanın geliştirilmesinin milyarlarca insanın ölümüne yol açabilecek olaylara neden olabileceğini belirtmişti. Milyarder, yapay zekayı işlerin tam da öngördüğü gibi gitmesini sağlayacak kadar "güçlü" olarak nitelendirmişti. Gates, insanlığın henüz "kötü niyetli insanlarla en yeni yapay zeka araçlarının kombinasyonu" kadar güçlü bir silaha hiç sahip olmadığını vurgulamıştı.