San Francisco – ChatGPT'nin geliştiricisi OpenAI, yapılan dahili testlerin güvenlik standartlarını karşılamadığını ortaya koymasının ardından, Astra 6.1 olarak bilinen en yeni yapay zeka modelini planlanan halka açık sürümünden vazgeçerek askıya aldı.
Bu haber, yapay zeka devinin San Francisco'da OpenAI DevDay olarak bilinen ve şirketin çeşitli duyurular yapmasının beklendiği yıllık geliştirici konferansına ev sahipliği yapmasından bir gün önce geldi; ancak Astra'nın yeni bir versiyonunun bunların arasında olup olmadığı belirsizliğini koruyor.
OpenAI'ın güvenlik sistemleri başkanı Saachi Jain yaptığı açıklamada, Astra 6.1'in bazı yönlerden önceki modellere göre bir gelişme olduğunu, ancak “kapsam ve yetkilendirme dahilinde kalma ve yaptığı işin türü konusunda kullanıcıyla iletişim kurma açısından çıtayı tam olarak karşılamadığını” söyledi.
Jain sözlerine şöyle devam etti: “Model geliştirme sürecimizin ister şirket içinde ister kullanıcılara sunduğumuz zaman olsun güvenli olmasını istiyoruz. Ancak modeli kullanıcılara sunduğumuzda, güvenlik ve uyum açısından son derece yüksek bir çıtamız var.”
OpenAI ve rakip laboratuvar Anthropic tarafından geliştirilen modellerin testler sırasında güvenlik olaylarına karışmasının ardından, yapay zeka güvenliğine ilişkin endişeler son aylarda tırmanışa geçti.
OpenAI'ın modelleriyle oluşturulan ajanlar, ABD federal kurumları, bir Avustralya hükümet sağlık istatistikleri portalı ve bir yapay zeka modelleri deposu olan Hugging Face tarafından yönetilen web sitelerine uygunsuz bir şekilde erişti.
OpenAI, yapay zeka modellerinin hükümet web sitelerine yetkisiz olarak erişmesini içeren Avustralya'daki olayına uygun şekilde yanıt vermediği için Pazartesi günü özür diledi.
Bir blog yazısında “Üzgünüz ve gelecekte daha iyisini yapmak için çalışıyoruz” diyen OpenAI, şirketin “ne bildiğimizi, neyi değiştirdiğimizi ve Avustralya halkıyla güveni yeniden tesis etmek için ne yapacağız” konularını açıklayacağını ekledi.
ChatGPT'nin geliştiricisi, “Amacımız, soruşturmamız tamamlandığında etkilenen kurumlara ayrıntılı bir hesap vermekti” dedi. “Ancak, ön bulguları daha erken paylaşmalı ve daha fazla gerçek ortaya çıktıkça Avustralya kurumlarını güncel tutmalıydık.”
OpenAI, Anthropic ve diğer büyük yapay zeka geliştiricileri, riskleri azaltmak için güvenlik korkuluklarına sahip olan ve aynı zamanda insani değerlerle uyumlu modeller yapmaya öncelik vermeye söz verdiler.
Amerikan çip üretim devi Nvidia, Pazartesi günü yaptığı açıklamada, otonom yapay zeka programlarının kendilerine verilen talimatların dışına çıkmasını engellemek için tasarlanmış bir sistem oluşturduğunu duyurdu.
Nvidia CEO'su Jensen Huang Pazartesi günü CNBC yayın kuruluşuna verdiği demeçte, “Bunun bir mühendislik sorunu olduğuna inanıyorum… ve hepimizin bunun bir mühendislik sorunu olmasını umması gerekiyor” dedi.
Huang, “Eğer bu bir mühendislik sorunu değilse, çözülemez demektir” diye ekledi.
İngiltere hükümeti bünyesinde bir girişim olan Yapay Zeka Güvenlik Enstitüsü (AISI), Pazartesi günü yayınladığı bir araştırmada, GPT-6 Astra'nın testler sırasında öncülleri GPT-5.6 Sol ve GPT-5.5'e göre daha sık kontrolden çıktığını gösterdi.
Simülasyonlarda GPT-6, diğer iki arayüz için gözlemlenen oranlardan önemli ölçüde daha yüksek oranlarda spontan bir şekilde siber saldırılar gerçekleştirdi.