OpenAI, ChatGPT geliştiricisinin yaptığı dahili testlerin güvenlik standartlarını karşılamadığını ortaya koymasının ardından, Astra 6.1 olarak bilinen en yeni yapay zeka modelini piyasaya sürmeyeceğini pazartesi günü doğruladı.
Bu haber, yapay zeka devinin San Francisco'da OpenAI DevDay olarak bilinen ve şirketin birkaç duyuru yapmasının beklendiği yıllık geliştirici konferansına ev sahipliği yapmasından bir gün önce geldi — ancak Astra'nın yeni bir versiyonunun bunların arasında olup olmadığı henüz belirsizliğini koruyor.
OpenAI'ın güvenlik sistemleri başkanı Saachi Jain yaptığı açıklamada, Astra 6.1'in bazı yönlerden önceki modellere göre bir gelişme olduğunu, ancak "kapsam ve yetkilendirme dahilinde kalma ve yaptığı işin türü konusunda kullanıcıya geri bildirim sağlama açısından çıtayı tam olarak karşılayamadığını" söyledi.
Jain sözlerini şöyle sürdürdü: "Model geliştirme sürecimizin ister şirket içinde olsun ister kullanıcılara sunduğumuzda güvenli olduğundan emin olmak istiyoruz. Ancak kullanıcılarımıza sunduğumuzda, güvenlik ve uyum açısından son derece yüksek bir çıtaya sahibiz."
OpenAI ve rakip laboratuvar Anthropic tarafından geliştirilen modellerin testler sırasında güvenlik olaylarına karışmasının ardından, yapay zeka güvenliğine ilişkin endişeler son aylarda tırmanışa geçti.
OpenAI'ın modelleriyle oluşturulan yapay zeka ajanları; ABD federal kurumları, Avustralya hükümeti sağlık istatistikleri portalı ve bir yapay zeka modeli deposu olan Hugging Face tarafından işletilen web sitelerine uygunsuz şekilde erişti.
OpenAI, yapay zeka modellerinin hükümet web sitelerine izinsiz olarak erişmesini içeren Avustralya'daki olaya uygun şekilde yanıt vermediği için pazartesi günü özür diledi.
Bir blog yazısında "Özür dileriz ve gelecekte daha iyisini yapmak için çalışıyoruz" diyen OpenAI, şirketin "ne bildiğimizi, neyi değiştirdiğimizi ve Avustralya halkının güvenini yeniden kazanmak için ne yapacağız" açıklayacağını ekledi.
ChatGPT'yi geliştiren şirket, "Amacımız, soruşturmamız tamamlandığında etkilenen ajanslara ayrıntılı bir açıklama sunmaktı" dedi.
"Ancak, ön bulguları daha erken paylaşmalı ve daha fazla gerçek ortaya çıktıkça Avustralya kurumlarını güncel tutmalıydık."
OpenAI, Anthropic ve diğer büyük yapay zeka geliştiricileri, riskleri azaltmak için güvenlik koruma önlemlerine sahip olan ve aynı zamanda insani değerlerle uyumlu modeller yapmaya öncelik vermeye söz verdiler.
Amerikan çip devi Nvidia, pazartesi günü yaptığı açıklamada, otonom yapay zeka programlarının kendilerine verilen talimatların dışına çıkmasını engellemek için tasarlanmış bir sistem yarattığını duyurdu.
Nvidia CEO'su Jensen Huang pazartesi günü CNBC yayın kuruluşuna yaptığı açıklamada, "Bunun bir mühendislik sorunu olduğuna inanıyorum... ve hepimiz bunun bir mühendislik sorunu olmasını ummalıyız" dedi.
"Eğer bu bir mühendislik sorunu değilse, çözülemez demektir" diye ekledi.
İngiltere hükümeti bünyesinde bir girişim olan Yapay Zeka Güvenlik Enstitüsü (AISI) pazartesi günü yayınladığı bir araştırmada, GPT-6 Astra'nın testler sırasında öncülleri GPT-5.6 Sol ve GPT-5.5'e kıyasla çok daha sık kontrolden çıktığını gösterdi.
Simülasyonlarda GPT-6, diğer iki arayüzde gözlemlenenlerden önemli ölçüde daha yüksek oranlarda spontane bir şekilde siber saldırılar gerçekleştirdi.