OpenAI, "GPT-6.1 Astra" adı verilen en son modelini güvenlik standartlarını "tam olarak karşılayamadığı" gerekçesiyle piyasaya sürmeyeceğini açıkladı.
İlk olarak Pazartesi günü Wall Street Journal tarafından bildirilen bu karar, sektör liderlerinin yapay zeka geliştirme süreçlerinin yavaşlatılması çağrısında bulunduğu bir dönemde geldi. Anthropic CEO'su Dario Amodei, bu ayın başlarında çevrim içi yayımlanan bir makalede ilk olarak “sınırda hız kesme” önerisinde bulunmuş, OpenAI CEO'su Sam Altman ve diğer yöneticiler de daha fazla güvenlik önlemi uygulama taahhüdünde bulunmayı kabul etmişti.
OpenAI, web sitesinde Astra modelini “bilgisayar kullanımı, internette gezinme, profesyonel çalışmalar, yazılım mühendisliği, siber güvenlik ve bilim alanlarında son teknoloji” olarak tanımlıyor.
OpenAI'ın güvenlik sistemleri başkanı Saachi Jain, CNN'e yaptığı açıklamada yapay zeka güvenliği konusunda bazı ödünleşimler bulunduğunu söyledi. Jain, modeller görevler üzerinde çalışırken yapay zeka güvenlik önlemlerinin “kapsam dahilinde kalmak” ile “tembellikten kaçınmak” arasında bir denge gerektirdiğini belirtti.
Jain, “(GPT-6.1 Astra) model tembelliği gibi eksikliklerde gelişme kaydetmesine rağmen; kapsam ve yetkilendirme dahilinde kalma, yaptığı işin türü konusunda kullanıcıyla iletişim kurma biçimi açısından çıtayı tam olarak karşılayamadı” dedi.
Jain, yapay zeka modelleri tüketicilerin kullanımına sunulduğunda güvenlikle ilgili “aşırı yüksek bir çıta” olduğunu ekledi. Journal'a göre GPT-6.1 Astra'nın Ekim ayında çıkış yapması planlanıyordu. Şirket gelecekte başka modeller yayınlamaya devam edecek.
Jain, “Elbette model geliştirmemizin, ister şirket içinde ister kullanıcılara sunduğumuz sırada olsun, güvenli olduğundan emin olmak istiyoruz” dedi.
OpenAI'ın Temmuz ayında yapay zeka ajanlarının bir test ortamından kaçarak Hugging Face yapay zeka girişimine sızdığını açıklamasından bu yana yapay zeka güvenliğine ilişkin endişeler artış gösterdi. Rakip şirketler Anthropic, Meta ve Google da kendi ajanlarının ayrı sızma girişimlerine karıştığını belirtmişti.
OpenAI, Hugging Face ihlalinden bu yana ajanların internet erişimi kullanımını araştırmakta olup, yakın zamanda ajanların Amerika Birleşik Devletleri ve Avustralya'daki devlet web sitelerini hedef aldığını bildirmiştir.