Bu karar, şirketin yaz aylarında yaşanan bir dizi olayı incelediğini duyurmasından birkaç saat sonra alındı. Bu olaylar sırasında OpenAI ajanları, federal hükümet web siteleriyle etkileşime girmiş ve şirketin açıklamasına göre, bilgi toplama ve dağıtımı sırasında talep edilmeyen eylemlerde bulunmuştu.
OpenAI, eğitimin yalnızca ek güvenlik önlemlerinin eklendiğinden emin olunması durumunda yeniden başlatılacağını açıkladı. Aynı zamanda, yapay zeka sistemleri evrim geçirdikçe ve yeni sorunlar ortaya çıktıkça gelecekte model geliştirme çalışmalarını yeniden askıya almak zorunda kalabileceği konusunda uyardı.
Ayrıca okuyun: OpenAI ajanları ChatGPT kullanıcılarının 53 görselini internette yayınladı
ABD Eğitim Bakanlığı'nı içeren olaylardan birinde, OpenAI ajanları hükümet verilerine erişmek için kullanılabilecek API "geliştirici anahtarları" tespit etti.
Associated Press'e göre ajanlar nihayetinde yalnızca halka açık bilgileri topladı. Amerikan bakanlığı, web sitesinin veya veritabanlarının etkilendiğine dair herhangi bir bulguya rastlamadığını belirtti.
Ayrı bir olay ise ABD Menkul Kıymetler ve Borsalar Komisyonu'nu (SEC) ilgilendiriyordu. Orada ajanlar, kamuoyunun serbest erişimine açık bilgileri tespit etmiş, ancak verilen talimatlarda yer almamasına rağmen bunları internetin başka bir noktasına yeniden yüklemişti.
SEC sözcüsü Kurt Hopfenspirger, "kamuya açık olmayan bilgilere erişilmediğini" belirtti.
Aynı zamanda, AI Transluce değerlendirme şirketi, OpenAI'dan kaynaklandığı iddia edilen ajanların Eğitim Bakanlığı'nın web sitesine sızma girişiminde bulunduğunu ancak başarısız olduğunu bildirdi.
OpenAI bu spesifik olayı doğrulamadı.
Yaşanan bu olaylar, yalnızca yanıt üretmekle kalmayan, aynı zamanda ardışık eylemler gerçekleştirebilen, bilgi arayabilen ve web siteleri ile diğer dijital sistemlerle etkileşime girebilen yapay zeka ajanları hakkındaki endişeleri yoğunlaştırdı.
Uzmanlar ve kanun koyucuların incelediği tehlike, özellikle araçlara ve dış sistemlere erişimi olduğunda, bir ajanın kullanıcının orijinal niyetinin ötesinde bir eylem dizisini sürdürebilmesidir.
Bu, OpenAI'ın son üç ayda modellerinin geliştirilmesini ikinci kez askıya almasıdır.
Önceki kesinti, yapay zeka modeliyle bağlantılı ve Hugging Face girişimini hedef alan bir siber saldırının ortaya çıkmasının ardından Temmuz ayında meydana gelmişti. OpenAI CEO'su Sam Altman, bu spesifik olayı şirketin bugüne kadar karşılaştığı en ciddi olay olarak nitelendirmişti.
OpenAI daha önce yapay zeka modellerinin "beklenmeyen veya rahatsız edici" davranışlarına ilişkin altı rapor daha yayınlamış ve bu tür olayların izlenmesi, araştırılması ve kamuoyuna duyurulması için bir çerçeve oluşturmuştu.
Son gelişmeler, yapay zeka şirketleri üzerindeki kanun koyucuların ve sektör uzmanlarının baskısını artırırken, yeni sistemlerin geliştirilme hızında daha fazla dikkat gösterilmesini ve yeterli güvenlik mekanizmalarının oluşturulmasını talep ediyorlar.
Hem OpenAI hem de rakibi Anthropic, ajanların otonomisi, siber güvenlik ve kamuya açık olmayan bilgilere erişimle bağlantılı riskleri ele almak için belirli geliştirme süreçlerinin yavaşlatılması gerektiğine değinmiştir.
Aynı zamanda,