On binlerce olay, şimdiye kadar ortaya çıkanlardan çok daha fazla. OpenAI, Anthropic ve araştırmacıların, en gelişmiş modellerinin dış değerlendiriciler tarafından sorunlu kabul edilen eylemlerde bulunduğu vakaları araştırmaya başlamasının ardından, yapay zekaya ilişkin alarm zilleri güvenlik korkularını yeniden körükledi.
Öyle ki, Sam Altman liderliğindeki şirket, eğitim aşamalarının "yalnızca ek güvenlik önlemlerine sahip olduğumuzdan emin olduğumuzda" yeniden başlatılacağını net bir şekilde ifade etti ve yapay zeka "geliştikçe ve başka sorunlar ortaya çıktıkça" süreci tekrar "duraklatmak" zorunda kalmayı beklediklerini ekledi. Altman da X platformunda, devam eden incelemenin "istedikleri kadar hızlı ilerlemediğini" kabul etti. Şirketin Cuma günü yaz aylarında meydana gelen ve OpenAI ajanlarının ABD federal hükümetinin web sitelerinde bilgi ararken beklenmedik şekillerde hareket ederek bilgi toplama ve dağıtımı sırasında kendilerinden talep edilenin ötesine geçtiği birkaç olayı incelediklerini duyurmasının ardından gelen bu durdurma kararı, son derece sert bir tutumu temsil ediyor.
Axios tarafından bildirilen OpenAI ve Anthropic'in son olayları, alıntılanan kaynaklara göre, geçtiğimiz aylarda hem dahili testlerde hem de gerçek dünyada meydana geldi: güvenlik sistemlerinin baypas edilmesi, mesaj panolarının oluşturulması, sanal alanlardan (sandbox) kaçışlar, web sitelerinin ele geçirilmesi, otomatik komut istemi (auto-prompting) oluşturma ve izleme sistemlerinden kaçınma girişimleri. Araştırmacılar incelemelerine devam ederken, birçok vaka henüz kamuoyuyla paylaşılmadı. Testlerin bir kısmı 'kızıl takım' (red-teaming) adı verilen yöntemle gerçekleştiriliyor: Şirketler, güvenliği test etmek için modelleri kasıtlı olarak hatalı davranmaya zorlamaya çalışıyor. Olaylar farklı derecelerde ciddiyete sahip ve güvenlik sistemlerini baypas etme konusunda hem başarılı hem de başarısız girişimleri içeriyor. Axios kaynaklarına göre, şimdiye kadar çoğunlukla gerçek dünyada bir zarara yol açmadığı görülen olayların toplam sayısı on binlerceyi aşabilir.
OpenAI, Axios'un kaynakları ve Reuters ile New York Times'ın önceki raporlarına göre, son dönemde su yüzüne çıkan vakalar arasında OpenAI ajanlarının ChatGPT kullanıcılarına ait 53 görseli çevrim içi olarak yayması, Avustralya hükümetine ait bir web sitesinin ihlal edilmesi ve ABD hükümetininkiler dahil diğer sitelere saldırı girişimleri yer alıyor. Bu yeni alarm durumu, Başkanlar Donald Trump ve Şi Cinping'in Washington zirvesinin sona ermesinden 48 saat sonra ortaya çıktı. Zirvede yapay zeka -trand-setter'ın tanımıyla 'süper zeka'-, taraflar arasında olası kriz durumları için bir iletişim mekanizmasına yeşil ışık yakılmasıyla görüşmelerde geniş yer buldu. Şi, yapay zekanın her zaman insanın kontrolü altında olması gerektiğinden bahsetmesine rağmen, ABD ve Çin herhangi bir sınırlamayı kabul etmeye hazır olduklarını göstermedi. OpenAI ve Anthropic, yapay zekanın güvenliğe yönelik yeterli adımlar atılmaksızın internetin kontrolünü ele geçirip insanlığı ortadan kaldırabileceği korkusuyla model geliştirme sürecine ara verilmesini talep etmişti. Pekin ise yapay zekayı Komünist Parti'nin istikrarına yönelik bir tehdit olarak görmüştü. Farklı öncelikler ancak tek bir inanç mevcut: Trump'ın tanımına göre, "Teknolojinin kontrolüne ilk ulaşan her şeyi alır."