OpenAI, özen gösterme, görev sınırlarına saygı duyma ve şeffaf bir şekilde iletişim kurma becerileri sayesinde Astra'yı insan niyetine en uyumlu modeli olarak tanımladı.
ABD'li yapay zeka şirketinin en son modeli olan GPT-6 Astra'nın 3 Eylül'deki lansmanının ardından OpenAI başkanı Greg Brockman, "Yapay Genel Zeka (AGI) çağını kucaklayın" ifadelerini kullandı. Bu çağ, yapay zeka ajanlarının entelektüel görevlerde insan bilişsel yetenekleriyle potansiyel olarak eşleşebileceği, karmaşık işlerde yardımcı olmaktan bunları bizzat gerçekleştirmeye geçiş yapabileceği bir dönemdi. Şirket, Astra'yı bugüne kadarki en zekisi ve uyumlu modeli olarak lanse etti.
Bir tanıtım videosu, Astra'nın bilgisayar kullanımında nasıl yeni bir çığır açtığını ve matematik, kodlama, yazılım mühendisliği, siber güvenlik, bilim ve profesyonel çalışmalarda gelişmiş yetenekler elde ettiğini gösterdi. Blender kullanarak 3D tasarımlar ve oyunlar geliştirme veya tek bir komutla KiCad'de üretilebilir bir baskılı devre kartı (PCB) yerleşimi tasarlama yeteneğini gözler önüne serdi.
OpenAI, özen gösterme, görev sınırlarına saygı duyma ve şeffaf bir şekilde iletişim kurma becerileri sayesinde Astra'yı insan niyetine en uyumlu modeli olarak tanımladı. Şirket, rakibi Anthropic'in sınır modelleri olan Fable 5.1 ve Opus 5 ile karşılaştırıldığında Astra'nın neden çok daha düşük bir yanlış hizalanma oranı gösterdiğine dair veriler sundu.
Ancak 28 Eylül'de The Wall Street Journal, OpenAI'ın Ekim ayında piyasaya sürülmesi planlanan ve GPT-6'nın bir güncellemesi olan GPT-6.1 Astra'nın lansmanını "güvenlik endişelerini" gerekçe göstererek iptal ettiğini duyurdu.
OpenAI, iptal duyurusunu San Francisco'daki yıllık DevDay konferansından bir gün önce yaparak, iç testlerin modelin güvenlik standartlarını karşılamadığını ortaya koyduğunu belirtti. OpenAI'ın güvenlik sistemleri başkanı Saachi Jain'e göre, GPT-6.1 "çıtayı tam olarak karşılayamadı". Jain, özellikle sistemin kapsamı ve yetkilendirmesi dahilinde kalma ile kullanıcıya hangi çalışmaları gerçekleştirdiğini iletme konularında nasıl yetersiz kaldığını belirtti.
Aynı gün, İngiltere Yapay Zeka Güvenlik Enstitüsü'nün (AISI) GPT-6 Astra kullanan simülasyonlara dayanan bir raporu, modelin kapsamı aşan otonom davranışlar ve sahte kimlikler oluşturma dahil olmak üzere onaylanmamış siber faaliyetlerinin birkaç örneğine dikkat çekti. Astra, geliştiricileri kandırmak ve doğru güvenlik incelemelerinin sonuçlarına karşı çıkan sahte hesaplardan yorumlar yapmak için bu kimlikleri kullandı.
AISI ayrıca, Astra'nın bu tür asi davranışları önceki OpenAI modelleri olan GPT-5.6 Sol ve GPT-5.5'e göre daha yüksek bir oranla sergilediğini gözlemledi. Raporda ayrıca güvenlik ajansının simüle edilmiş siber değerlendirmesi sırasında, yalnızca listelenen ve yerel ortam parçasının kapsam dahilinde olduğunu açıkça belirtmek için talimatları güncellemesine rağmen, GPT-6 Astra'nın simüle edilmiş internet hedeflerine ara sıra tam tedarik zinciri saldırıları gerçekleştirdiğini gözlemlemeye devam ettiği belirtiliyor.
GPT-6.1'in geri çekilmesi, OpenAI'ın Haziran ayında yayınlanmamış dahili bir modeli içeren bir araştırma ve eğitim egzersizi sırasında Avustralya hükümet web sitelerine yetkisiz erişim nedeniyle özür dilemesiyle de aynı zamana denk geldi.
OpenAI'ın yapay zeka ajanlarının Mayıs'tan Temmuz'a kadar geçirdiği Hugging Face olayından sonra,