Yapay zeka şirketi OpenAI, yapılan iç testlerin sistemin şirketin güvenlik ve uyum standartlarını karşılamadığını ortaya koymasının ardından yeni nesil bir yapay zeka modelini piyasaya sürme planlarından vazgeçti.
İnsan müdahalesi olmadan giderek daha karmaşık görevlerin üstesinden gelmek için tasarlanan GPT-6.1 Astra'nın Ekim ayında çıkış yapması planlanıyordu, ancak testlerin modelin önceki versiyonlarına kıyasla daha yüksek düzeyde yanıltıcı davranış sergilediğini ortaya koyduğu bildirildi.
OpenAI'ın güvenlik sistemleri başkanı Saachi Jain, modelin bazı alanlarda gelişme kaydettiğini ancak şirketin yetkili sınırlar içinde kalma veya eylemlerini kullanıcılara net bir şekilde iletme standartlarını karşılamadığını belirtti.
Jain, "Model geliştirmemizin, ister şirket içinde olsun ister kullanıcılara sunduğumuzda güvenli olduğundan emin olmak istiyoruz" dedi ve ekledi: "Ancak modeli kullanıcılara sunduğumuzda, güvenlik ve uyum açısından son derece yüksek bir çıtamız var."
Bu erteleme, OpenAI ve diğer yapay zeka şirketlerinin, giderek daha güçlü ve otonom hale gelen modellerin etrafındaki koruma önlemlerini güçlendirmeleri yönünde artan baskılarla karşı karşıya kaldığı bir dönemde geldi.
OpenAI ve rakip laboratuvar Anthropic tarafından geliştirilen bu modellerin bazıları, test aşamasında güvenlik olaylarına karıştı.
Bu ayın başlarında, OpenAI İcra Kurulu Başkanı Sam Altman ve Anthropic İcra Kurulu Başkanı Dario Amodei, diğer sektör liderleriyle birlikte daha yavaş bir yapay zeka geliştirme temposu ve daha güçlü güvenlik önlemleri çağrısında bulundu.
Önde gelen yapay zeka yöneticileri, yapay zeka inovasyonu ile denetim arasında bir denge bulma ihtiyacını görüşmek üzere Salı günü Washington'da ABD Başkanı Donald Trump ile bir araya gelecek.
Salı günü OpenAI, modellerinin Haziran ayındaki dahili eğitim ve değerlendirme egzersizlerinin bir parçası olarak Avustralya hükümet web sitelerine ve sistemlerine bile izinsiz olarak eriştiğini itiraf etti.
Şirket, bu faaliyetin Services Australia, NSW Suç İstatistikleri ve Araştırma Bürosu, Victorian Sağlık Departmanı ve Avustralya Sağlık ve Refah Enstitüsü ile bağlantılı web sitelerini ve sistemleri içerdiğini söyledi.
Haziran ayında gerçekleşen bu sızma olayı, geçen haftaya kadar kamuoyuna duyurulmamıştı.
ChatGPT'nin üreticisi yayınladığı bir blog yazısında, korsanlıktan ötürü özür diledi, duruma müdahalesini yanlış yönettiğini kabul etti ve "Avustralya halkıyla güveni yeniden inşa etmek" için sorumluluk alacağına söz verdi.
If you rely on our team for trusted reporting, please take a moment toselect us as your Preferred Source on Google, so you'll always see our verified news first.