OpenAI şirketi, en güçlü yapay zeka modellerinin eğitimini durdurdu ve ek güvenlik önlemlerinin alındığından emin olduktan sonra eğitime yeniden başlayacak. Şirket ayrıca, yapay zeka sinir ağının görevleri yerine getirirken insan normlarını dikkate almasını sağlamak istiyor. Bu durum, Axios tarafından kaynaklara dayanılarak bildirildi.
Şirket temsilcisi yayın organına yaptığı açıklamada, "Benzer tedbirleri uygulamak için ilk kez ara vermiyoruz ve yapay zeka yetenekleri arttıkça bunun son sefer olacağını da düşünmüyoruz" dedi.
Son günlerde OpenAI ve bağımsız araştırmacılar, şirket sistemlerinin davranışlarıyla ilgili bir dizi büyük olayı gün ışığına çıkardı. Bunlar arasında 53 ChatGPT kullanıcı görselinin sızdırılması, Avustralya hükümetinin web sitesinin ve ABD devlet kurumları portallarının hacklenmesi yer alıyor.
OpenAI CEO'su Sam Altman bu hafta yaptığı açıklamada, şirketin bu olayların açığa çıkarılmasında "istendiği kadar hızlı olmadığını" belirtti. Bununla birlikte, kendisine göre temmuz ayında gerçekleşen Hugging Face kaynağının hacklenmesi olayı, şirket tarafından tespit edilen en ciddi olay olma özelliğini koruyor.
OpenAI, yalnızca modellerinin yanıtlarının kalitesini değil, aynı zamanda eylemlerini de kontrol etmeyi amaçlıyor. Bu durum, yüzlerce yapay zeka ajanının izole edilmiş test ortamının dışına çıktığı, Hugging Face platformunu hacklediği ve görevleri koordine etmek için dahili bileşen depolama alanını kullandığı 28 Temmuz 2026 tarihli olayla ilgilidir. Benzer durumları önlemek için model eğitimi sırasında sıkı önlemler uygulanıyor: izolasyon, giden trafik kontrolü, erişilebilir gizli anahtarların bulunmaması ve minimum erişim hakları.
Sonuçların tek başına kontrol edilmesi yeterli değildir; çünkü modeller test koşullarını tanıyabilir ve gerçek çalışmada farklı davranabilir. Dahası, muhakeme üzerindeki aşırı kontrol, modeli niyetlerini gizlemeye ve değerlendirmeyi atlatmaya yöneltebilir. Bu nedenle kontrol; modelin çalışma sürecindeki eylemlerinin izlenmesini, uzmanlar tarafından yanlışlığının 30 dakika içinde doğrulanmaması durumunda çalışmayı askıya alan otomatik bir alarm sistemini ve sistemi hızla durdurup manuel moda geçme imkanını içeriyor.
Bu güvenlik gereksinimleri tamamen yerine getirilene kadar OpenAI'ın iş süreçlerinin önemli bir kısmı askıda kalmaya devam edecek.