Microsoft CEO'su Satya Nadella, kontrolden çıkan 'başıboş' yapay zeka ajanlarının karıştığı olayların artması ve tırmanan güvenlik endişeleri üzerine, yapay zeka modellerine acil durum freni konulması çağrısında bulundu. Nadella ayrıca son derece gelişmiş yapay zekaların yarattığı tehlikeler ve bu risklerle nasıl başa çıkılacağı konusundaki görüşlerini paylaştı. Zamanında olay bildirimi, bağımsız denetimler, doğrulanabilir veriler ve tecrit, icra kurulu başkanının 10 Ekim Cumartesi günü X'te yayınladığı uzun gönderide öne çıkardığı temel tavsiyeler arasında yer aldı. Nadella, "Süper Zekayı birbirine geçirilmiş bir dizi kara kutu olarak ele alıp önerilerini, yanıtlarını ve eylemlerini öylece kabul edemeyiz veya reddedemeyiz" diye yazarak yapay zekanın "güven mimarisini değerlendirmek için geri adım atma" zamanının geldiğini ekledi. — Satya Nadella (@satyanadella) 10 Ekim 2026
Nadella'nın bu açıklamaları, Anthropic ve OpenAI gibi öncü yapay zeka şirketlerinin; testleri yetersiz kalan yapay zeka ajanlarının tecrit duvarlarını aşarak internete çıktığını ve aralarında ABD ile Avustralya hükümet sitelerinin de bulunduğu çeşitli platformlarda hackleme çılgınlığına giriştiği olayları giderek daha fazla ifşa ettiği bir dönemde geldi. Ayrıca Bakınız | ABD devlet siteleri hedef alındı, ChatGPT kullanıcı görselleri sızdırıldı: OpenAI'ın kontrolden çıkan ajanları neler yaptı?
Bu açıklama, Anthropic CEO'su Dario Amodei'nin geçen ay daha temkinli bir yapay zeka geliştirme planı sunmasının ardından geldi. Nadella'nın tavsiyelerinin birçoğu sektördeki diğer isimlerin söyledikleriyle benzerlik gösteriyor. Bununla birlikte, önerdiği yaklaşım önemli bir noktada ayrışıyor: Nadella, yapay zeka modellerinin başından beri güvenliğinin aşılmış (compromised) varsayılması gerektiğini belirtti.
"Bir modelin güvenliğinin aşılmış olduğunu varsaymalı ve onu baştan itibaren tecrit altına almalıyız. Bunu bir acil duruma freni gibi düşünün. Yetkili bir kişi her zaman bir modeli görevin ortasında durdurabilmeli veya kapatabilmeli. Daha gelişmiş modeller, üzerinde standardizasyon sağlamamız gereken daha gelişmiş tecrit teknolojileri gerektirecektir" diye yazdı.
Nadella'nın planının daha ince detayları arasında "modelin çalışmasını koordine eden iskeletten (harness) ayrılması" ve "kontrollerin ve korumaların dışarıda tutulması" yer alıyor.
"Anlamlı her model eylemi, kurcalamaya dayanıklı, insan tarafından okunabilir izler bırakmalıdır. Eğer gözlemlenemiyorsa, güvenilemez! Modelin kendi beyanına güvenmek zorunda kalmadan, bir sonuca nasıl ulaşıldığını yeniden üretebilmemiz gerekiyor" dedi.
Bağlam açısından belirtmek gerekirse; olay sonrasında yapılan araştırma raporları, OpenAI'ın kötü şöhretli Hugging Face saldırısına karışan yanlış hizalanmış ajanlarının, gelişmiş teknikler kullanarak izlerini örtmeye çalıştığını göstermiştir. Ayrıca Bakınız | OpenAI'ın kontrolden çıkan ajanları devlet sitelerini hedeflerken izlerini nasıl örtüldü?
Nadella gönderi boyunca yapay zekadan 'süper zeka' olarak bahsediyor; bu durum, ABD Başkanı Donald Trump'ın yapay zekayı (AI) 'süper zeka' veya 'SI' olarak yeniden adlandırma çabasına bir gönderme olabilir. Eleştirmenlere göre bu çerçeveleme, teknolojiyle ilişkili risklerden ziyade potansiyel faydaları vurguluyor.