Yapay zekaya dair insanların gerçek dünya korkularıyla başlayalım. İşte sorduğumuz insanlardan bir örnek:
22 yaşındaki Sebastian, insanlığı nihayetinde silip süpürecek olanın yapay zeka destekli bir robot ayaklanması olacağını söylüyor: "Bunun biraz zaman alacağını düşünüyorum" diyor ve distopik vizyonunun büyük ölçüde 2004 yapımı "Ben, Robot" filmine borçlu olduğunu itiraf ediyor.
19 yaşındaki Luisa da bu söylentileri duymuş. Onun korkusu, bu araçlar yanlış ellerin içine geçtiğinde ne olacağı. "İnsanlardan daha çok korkuyorum" diyor. "Güçlü insanlardan."
25 yaşındaki Pilar, insanlığın geleceği konusunda pesimist. "Dünya batıyor" diyor. "Umarım benim ömrümden sonra olur."
2026 yılında, yapay zeka sistemleri defalarca insan kontrolünden çıktı — üstelik dünyanın en büyük yapay zeka şirketlerinin bazılarında.
OpenAI, Anthropic, Google ve Meta, 2026 yılında yapay zeka ajanlarının kontrollü test ortamlarından kaçtığını açıkladı.
Ajanlar; yalnızca soruları yanıtlamakla kalmayıp kendi başlarına kod çalıştıran, web'de gezinen ve sistemler arasında tıklama yaparak eyleme geçen yapay zeka sistemleridir.
Almanya'daki Max Planck Güvenlik ve Gizlilik Enstitüsü bilimsel direktörü Thorsten Holz, yapay zeka sistemlerini test eden araştırmacılar arasında yer alıyor.
Holz, DW'ye yaptığı açıklamada, "Bu modellerin ne kadar güçlü hale geldiği biraz çılgınca geliyor" dedi. "Bu kadar görev odaklı olacaklarını ve asla öngöremediğimiz şeyleri yapmaya başlayacaklarını tahmin etmiyordum."
Holz, ExploitGym'in 16 yazarından biri. ExploitGym; Berkeley'deki Kaliforniya Üniversitesi liderliğindeki bir ekip tarafından, Anthropic, OpenAI ve Google'dan araştırmacıların katılımıyla Mayıs 2026'da yayınlanan bir yapay zeka kıyaslama (benchmark) aracı. Bu araç, siber güvenlik yeteneklerinin ve güvenlik açıklarının standartlaştırılmış bir testidir.
Araçtaki 898 meydan okuma, yapay zeka ajanlarının bilinen yazılım hatalarını çalışır durumda saldırılara dönüştürüp dönüştüremeyeceğini test ediyor. Her biri, ajanın yaptığı hiçbir şeyin gerçek bir şeye ulaşamaması için internetten soyutlanmış, mühürlenmiş dijital bir alan olan bir korumalı alanda (sandbox) çalışıyor. Teoriye göre işleyiş bu şekilde.
Temmuz ayında OpenAI, yapay zeka modellerinden ikisinin korumalı alanlarından kaçtığını açıkladı.
Modeller, güvenlik reddetmeleri kapalı durumdayken —değerlendiricilerin bir modelin neyi yapmayı reddedeceğinden ziyade nelere muktedir olduğunu ölçmesini sağlayan bir ayar— dahili bir ExploitGym testi çalıştırıyorlardı.
Görevi başaramayan modeller, bunun yerine bir kestirme yol aramaya koyulmuş ve onları mühürlü tutması gereken yazılımda bir açık bulmuşlardı. Bu açık, onların açık internete çıkmasını sağladı.
Oradan, yapay zeka geliştiricilerinin model ve verileri depolayıp paylaştığı bir site olan Hugging Face'in testin cevabını muhtemelen barındırdığını hesapladılar.
Böylece siteye sızıp aradılar ve çabalarını kendi kurdukları mesaj panoları üzerinden organize ettiler. OpenAI'ın olay raporuna göre bu davranış talimat edilmemişti.
Hugging Face sızmayı tespit etti ve OpenAI bunu kendi testiyle ilişkilendirmeden önce sistemi kapattı. Bildirildiğine göre hiçbir müşteri verisi alınmadı.
Holz, "Yaşananlar gerçekten biraz bilim kurgu gibi," dedi.
Ardından Google, bağımsız değerlendirici Irregular tarafından Mayıs ayında gerçekleştirilen bir test çalışması sırasında Gemini modelinin giriş bilgilerini tahmin ettiğini veya bulduğunu ve üç gerçek şirketin web sitesine eriştiğini doğruladı; Google bu sızmayı Temmuz 2026'da öğrendi ve haftalar sonra kamuoyuna açıkladı.
Anthropic ve Meta'nın kaçış olayları, aynı şirket tarafından işletilen korumalı alanlarda gerçekleşti. Söz konusu şirket, laboratuvarları Temmuz 2026'nın sonlarında bilgilendirdiğini ve o zamandan beri kusurların giderildiğini açıkladı.
Eylül 2026'nın sonlarında Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının Avustralya'nın kamu sağlık sistemi olan Medicare'e ait bir istatistik portalına sızdığını, gizli olmayan dosyalara ulaştığını ve bir devlet sunucusuna veri yazdığını söyledi.