Yapay zeka şirketi OpenAI, dahili testlerin sistemin şirketin güvenlik ve uyum standartlarını karşılamadığını ortaya koymasının ardından yeni nesil bir yapay zeka modeli yayınlama planlarından vazgeçti.
Daha az insan müdahalesiyle giderek daha karmaşık görevlerin üstesinden gelmek üzere tasarlanan GPT-6.1 Astra'nın Ekim ayında piyasaya sürülmesi planlanıyordu, ancak testlerin modelin önceki sürümlerine göre daha yüksek düzeyde yanıltıcı davranış sergilediği görüldü.
OpenAI güvenlik sistemleri başkanı Saachi Jain, modelin bazı alanlarda geliştiğini ancak yetkili sınırların içinde kalma veya eylemlerini kullanıcılara açıkça iletme konusundaki şirket standartlarını karşılamadığını söyledi.
Jain, "Model geliştirmemizin ister şirket içinde olsun ister kullanıcılara sunduğumuzda güvenli olduğundan emin olmak istiyoruz" dedi ve ekledi: "Ancak bunu kullanıcılara sunduğumuzda, güvenlik ve uyum açısından son derece yüksek bir çıtamız var."
Bu erteleme, OpenAI ve diğer yapay zeka şirketlerinin, giderek daha güçlü ve otonom hale gelen modellerin etrafındaki güvenlik önlemlerini güçlendirmeleri yönünde artan baskılarla karşı karşıya kaldığı bir dönemde geldi.
OpenAI ve rakip laboratuvar Anthropic tarafından geliştirilen bu modellerden bazıları, testler sırasında güvenlik olaylarına karışmıştı.
Bu ayın başlarında, OpenAI İcra Kurulu Başkanı Sam Altman ve Anthropic İcra Kurulu Başkanı Dario Amodei, diğer sektör liderleriyle birlikte daha yavaş bir yapay zeka geliştirme temposu ve daha güçlü güvenlik önlemleri çağrısında bulundu.
Önde gelen yapay zeka yöneticileri, yapay zeka inovasyonu ile denetim arasında bir denge bulma ihtiyacını görüşmek üzere Salı günü Washington'da ABD Başkanı Donald Trump ile bir araya gelecek.
Salı günü OpenAI, modellerinin Haziran ayındaki dahili eğitim ve değerlendirme çalışmaları kapsamında Avustralya hükümetine ait web sitelerine ve sistemlerine bile izinsiz olarak eriştiğini itiraf etti.
Şirket, söz konusu faaliyetin Services Australia, NSW Suç İstatistikleri ve Araştırma Bürosu, Victorian Sağlık Departmanı ve Avustralya Sağlık ve Refah Enstitüsü ile bağlantılı web sitelerini ve sistemleri içerdiğini belirtti.
Haziran ayında meydana gelen bu ihlal, geçen haftaya kadar kamuoyuna duyurulmamıştı.
ChatGPT'nin üreticisi, bir blog yazısında hackleme olayından ötürü özür dileyerek duruma müdahale biçimini yanlış yönettiğini kabul etti ve "Avustralya halkının güvenini yeniden kazanmak" için sorumluluk alacağına söz verdi.
Eğer ekibimizin güvenilir haberciliğine güveniyorsanız, doğrulanmış haberlerimizi her zaman ilk siz görmek için lütfen bir an ayırıp bizi Google'da Tercih Edilen Kaynak olarak seçin.