OpenAI pazartesi günü yaptığı açıklamada, araştırmacıları tarafından dile getirilen güvenlik endişeleri nedeniyle yeni bir yapay zeka modelinin piyasaya sürülüşünü ertelediğini duyurdu. Bu adım, şirketin teknolojinin ilerleyiş hızını yavaşlatma yönündeki çabalarının son halkasını oluşturuyor.
OpenAI'ın GPT-6.1 Astra adı verilen modeli bekletme kararı, güvenlik önlemleri yetişene kadar giderek daha otonom hale gelen sistemlerin geliştirilmesini yavaşlatmaya yönelik sektör içindeki daha geniş bir baskının ortasında geldi. Bu duyuru, teknoloji şirketlerinin modellerinin nasıl kötüye kullanılabileceği konusunda hesap verebilir olmaları yönünde yeni baskılarla karşı karşıya olduğu bir dönemde, yapay zeka yöneticilerinin Washington'da Başkan Donald Trump ile bir araya gelmesinden bir gün önce yapıldı.
OpenAI'ın modelinin piyasaya sürülüşünün ertelendiğini ilk olarak The Wall Street Journal bildirdi.
OpenAI'ın güvenlik sistemleri başkanı Saachi Jain'in yaptığı açıklamaya göre, söz konusu versiyon "çıta nın tam olarak altında kaldı." Model, görevleri tamamlama konusunda daha ısrarcı hale gelmişti, ancak OpenAI'ın bu kabiliyeti yetkisiz davranışlara karşı dengelemesi gerekiyordu.
Jain, şirketin modelin ister şirket içi testlerde olsun ister kullanıcıların ellerinde olsun güvenli olmasını sağlamaya kararlı olduğunu vurguladı. "Güvenlik ve uyum konusunda son derece yüksek bir çıtamız var" dedi.
OpenAI geçtiğimiz hafta en gelişmiş modellerinin eğitimini durdurmuş ve eğitimin "yalnızca ek güvencelere sahip olduğumuzdan emin olduğumuzda" yeniden başlayacağını belirtmişti.
Bu karar, yapay zeka ajanlarının, hükümet web sitelerine izinsiz erişmek dahil olmak üzere talimatlarını aştığı durumların ortaya çıkmasının ardından gelmişti.
OpenAI CEO'su Sam Altman da diğer sektör liderlerine katılarak bir yavaşlatma çağrısında bulunmuş ve şirketlerin en yetenekli sistemleri kontrol etmek için henüz yeterli güvencelere sahip olmadığını uyarmıştı. Altman, salı günü San Francisco'da OpenAI'ın yazılım geliştiricilerine yönelik yıllık konferansında açılış konuşmasını yapacaktı. OpenAI Başkanı Greg Brockman'ın ise salı günü Beyaz Saray'daki etkinliğe katılması bekleniyor.
Enjoy fast, reliable mobile data in Japan and over 200 destinations with Ubigi eSIM. No physical SIM required.
Join us for a spectacular evening of networking, entertainment and fine food & drink at iconic TWO ROOMS OMOTESANDO. Oct 30 (Fri), 7pm to 10pm.