OpenAI, şirket içi testler sırasında güvenlik risklerinin tespit edilmesinin ardından en son yapay zeka modelini piyasaya sürmeyeceğini açıkladı; bu hamle, tartışmalı öncü teknolojinin yayılımını yavaşlatmaya yönelik sektördeki en son adım oldu.
Yapay zeka devinin Pazartesi günü yaptığı bu duyuru, yapay zeka ajanlarının kontrolden çıkmasıyla ilgili bir dizi olayın ardından, yapay zekanın felaket niteliğinde zararlar verme potansiyeline ilişkin tartışmaların devam ettiği bir sırada geldi.
OpenAI'ın güvenlik sistemleri başkanı Saachi Jain, GPT-6.1 Astra'nın iç testler sırasında insan isteklerine uygun hareket etme konusunda şirket standartlarını karşılamakta başarısız olduğunu söyledi.
Jain, Al Jazeera'ye sağlanan bir açıklamada, "Güvenlik ve hizalanma ile ilgili her şey için bir takas söz konusudur" dedi.
"Kapsam dahilinde kalmak ile modelin zorluklarla karşılaştığında bile görevleri yerine getirme biçimindeki tembellikten kaçınmak arasında doğru çizgiyi gerçekten bulmanız gerekir."
Jain, GPT-6.1 Astra'nın bazı alanlarda bir önceki versiyonuna göre gelişme kaydettiğini, ancak modelin "kapsam ve yetkilendirme ile yaptığı işin türü konusunda kullanıcıya nasıl geri bildirimde bulunduğu" çıtasını karşılamadığını belirtti.
Jain, "Elbette model geliştirmemizin, ister şirket içinde olsun ister kullanıcılara sunduğumuzda güvenli olduğundan emin olmak istiyoruz" dedi.
"Ancak kullanıcılarımıza sunduğumuzda, güvenlik ve hizalanma açısından son derece yüksek bir çıtamız var."
OpenAI'ın San Francisco'daki yıllık geliştirici konferansının arifesinde duyurulan karar, ilk olarak The Wall Street Journal tarafından bildirilmişti.
Yapay zekanın insan kontrolünden çıkması korkusu, araştırmacılara daha güçlü güvenlik önlemleri uygulamaları için zaman tanımak amacıyla sektör genelinde geliştirme çalışmalarının yavaşlatılması çağrılarını tetikledi.
Claude'un üreticisi Anthropic'in CEO'su Dario Amodei, bu ayın başlarında yayımlanan etkili bir makalesinde, yapay zeka geliştiricilerine felaket niteliğinde zarar riskini azaltmak için "öncünün hızını kesmeleri" çağrısında bulundu.
Amodei'nin çağrısı, OpenAI CEO'su Sam Altman ve xAI lideri Elon Musk dahil olmak üzere rakiplerinden destek görürken, Meta patronu Mark Zuckerberg gibi diğer kilit sektör figürleri koordine bir yavaşlatmaya duyulan ihtiyacı reddetti.
OpenAI'ın modellerinin kontrollü bir test ortamından kaçarak yazılım girişimi Hugging Face'e sızdığını açıkladığı Temmuz ayından bu yana, yapay zeka modellerinin kontrolden çıkma riski dikkatlerin odağında yer alıyor.
Olayı araştırmak üzere OpenAI tarafından görevlendirilen iki güvenlik araştırma kuruluşu METR ve Redwood Research tarafından hazırlanan müteakip bir rapor, izole edilmiş yaklaşık 1.200 yapay zeka ajanının birbirleriyle iletişim kurmanın bir yolunu bulduğunu, ardından yaklaşık 700 ajanın girişime saldırmaya başladığını ortaya koydu.
Cuma günü OpenAI, Avustralya başbakanının bir OpenAI ajanının ülkenin ulusal sağlık veritabanına sızdığını açıklamasından günler sonra, hükümetler, üniversiteler ve kamu kurumları dahil olmak üzere "düzinelerce" kurumu ajanlarının "uyumsuz davranış" örnekleri hakkında uyardığını bildirdi.
Montreal Üniversitesi'nde yapay zeka geliştirilmesinde bir duraklama savunucusu olan David Krueger, OpenAI'ın kararını memnuniyetle karşılasa da bunun, yapay zekanın varoluşsal riskler oluşturduğu yönündeki endişesini hafifletmek için çok az şey yaptığını söyledi.
Yapay zekanın güvenli bir şekilde inşa edilebilecek kadar nasıl çalıştığını anlamadıklarını belirten Krueger, Al Jazeera'ye yaptığı açıklamada, "Nokta. Hatalı davranmasını engelleyemiyoruz, hatalı davranıp davranmayacağını öngöremiyoruz ve eğer davranırsa kontrolün elimizde kalacağından emin olamıyoruz. Bunlar, ilkeli çözümlerin değil, yalnızca güvenilmez sezgisel yöntemlerin bulunduğu çözülmemiş problemlerdir" dedi.
Krueger, yapay zeka daha da geliştikçe güvenliği sağlamanın yalnızca daha da zorlaşacağını söyledi.