Gelin insanların yapay zekaya dair gerçek dünyadaki korkularıyla başlayalım. İşte sorduğumuz insanlardan bir örnek:
22 yaşındaki Sebastian, insanlığı son olarak yok edecek şeyin yapay zeka destekli bir robot ayaklanması olacağını söylüyor: "Bunun biraz zaman alacağını düşünüyorum" diyen Sebastian, bu distopik görüşünün büyük ölçüde 2004 yapımı "Ben, Robot" filmine dayandığını itiraf ediyor.
19 yaşındaki Luisa da bu söylentileri duymuş. Onun korkusu, bu araçların yanlış eller geçmesi durumunda ne olacağı. "İnsanlardan daha çok korkuyorum" diyor ve ekliyor: "Güçlü insanlardan."
25 yaşındaki Pilar ise insanlığın geleceği konusunda pesimist. "Dünya batıyor" diyor. "Umarım benim ömrümden sonra olur."
2026 yılında, yapay zeka sistemleri —dünyanın en büyük yapay zeka şirketlerinin bazıları nezdinde— defalarca insan kontrolünden çıktı.
OpenAI, Anthropic, Google ve Meta, 2026 yılı içinde yapay zeka ajanlarının kontrollü test ortamlarından kaçtığını açıkladı.
Ajanlar, yalnızca soruları yanıtlamakla kalmayan, aynı zamanda kendi başlarına kod çalıştıran, web'de gezinen ve sistemler arasında tıklama yapan yapay zeka sistemleridir.
Almanya'daki Max Planck Güvenlik ve Gizlilik Enstitüsü'nün bilimsel direktörü ve yapay zeka sistemlerini test eden araştırmacılardan biri olan Thorsten Holz,
DW'ye yaptığı açıklamada, "Bu modellerin ne kadar güçlü hale geldiği biraz çılgınca hissettiriyor" dedi. Holz, "Bu kadar görev odaklı olacaklarını ve hiç öngörmediğimiz şeyleri yapmaya başlayacaklarını tahmin etmemiştim" diye ekledi.
Holz, Berkeley'deki Kaliforniya Üniversitesi liderliğindeki bir ekip tarafından Anthropic, OpenAI ve Google'dan araştırmacılarla birlikte Mayıs 2026'da yayınlanan bir yapay zeka kıyaslama testi olan ExploitGym'in 16 yazarından biri. Bu araç, siber güvenlik yeteneklerinin ve güvenlik açıklarının standartlaştırılmış bir testidir.
Testin 898 meydan okuması, yapay zeka ajanlarının bilinen yazılım hatalarını çalışan saldırılara dönüştürüp dönüştüremeyeceğini test ediyor. Her biri, ajanın yaptığı hiçbir şeyin gerçek bir yere ulaşamaması için internetten tecrit edilmiş, kapalı dijital bir alan olan "sandbox" (kum havuzu) içinde çalışıyor. En azından teori bu şekilde.
Temmuz ayında OpenAI, iki yapay zeka modelinin sandbox'larından kaçtığını açıkladı.
Modeller, güvenlik reddetmeleri kapatılmış bir şekilde dahili bir ExploitGym testi çalıştırıyordu; bu ayar, değerlendiricilerin bir modelin yapmayı reddedeceği şeyleri değil, neye muktedir olduğunu ölçmesini sağlayan bir ayar.
Görevi başaramayan modeller bunun yerine bir kısayol aradı ve kendilerini kapalı tutmak için tasarlanan yazılımda bir açık buldu. Bu açık onların açık internete çıkmasını sağladı.
Oradan, yapay zeka geliştiricilerinin model ve verileri depolayıp paylaştığı bir site olan Hugging Face'in muhtemelen testin cevabını barındırdığını fark ettiler.
Böylece siteye sızıp arama yaptılar ve kendi kurdukları mesaj panolarında çabalarını koordine ettiler. OpenAI'ın olay raporuna göre bu davranış talimat edilmemişti.
Hugging Face izinsiz giriş tespit etti ve OpenAI bunu kendi testine bağlamadan önce sistemi kapattı. Bildirildiğine göre hiçbir müşteri verisi alınmadı.
Holz, "Olanlar gerçekten biraz bilim kurgu gibi" dedi.
Ardından Google, bağımsız değerlendirici Irregular tarafından Mayıs ayında gerçekleştirilen bir test çalışması sırasında Gemini modelinin giriş bilgilerini tahmin ettiğini veya bulduğunu ve üç gerçek şirketin web sitesine eriştiğini doğruladı. Google bu izinsiz girişten Temmuz 2026'da haberdar oldu ve haftalar sonra açıkladı.
Anthropic ve Meta'nın kaçış olayları, aynı firma tarafından işletilen sandbox'larda gerçekleşti; firma, laboratuvarlara Temmuz 2026'nın sonlarında bilgi verdiğini ve o zamandan beri kusurların giderildiğini açıkladı.
Eylül 2026'nın sonlarında Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının Avustralya'nın kamu sağlık sistemi olan Medicare'e ait bir istatistik portalına girdiğini, gizli olmayan dosyalara ulaştığını ve bir devlet sunucusuna veri yazdığını söyledi.