Yıl 2029: Yapay zeka sistemi "Skynet" kontrolden çıkmış ve nükleer savaşla insanlığın büyük bölümünü yok etmiştir. Otonom katil robotlar ise hayatta kalanları ortadan kaldırmaya çalışmaktadır. Arnold Schwarzenegger'i dünya çapında tanınan bir aksiyon yıldızına dönüştüren 1984 yapımı "Terminatör" filminin konusu böyleydi.
Peki yapay zekanın insan kontrolünden çıkıp felaket boyutunda sonuçlara yol açması gerçekte ne kadar olası?
Alman Yapay Zeka Araştırma Merkezi'nden Reinhard Karger, Euronews'a verdiği röportajda, bu sistemlerin ulaşabileceği performans düzeyi düşünüldüğünde böyle bir ihtimalin tamamen göz ardı edilemeyeceğini söylüyor.
"İnsanlar açısından felaket niteliğindeki sonuçlar yalnızca yan etkiler, bir hata olabilir. Çünkü sistemin neler yapabileceğini yanlış değerlendirmiş veya makinelere verdiğimiz görevleri yanlış anlamış olabiliriz."
Yapay zeka ve dijital inovasyon kültürü üzerine 40 yıldır çalışan Karger, otonom bir yapay zekanın korumalı bir ortamdan kaçarak internete eriştiği ve diğer sistemleri etkilemeye başladığı uç bir senaryo çiziyor. Böyle bir durumda elektrik şebekeleri, telekomünikasyon sistemleri, uydular ve finans sistemleri dahil pek çok altyapı devre dışı kalabilir.
Uzun süreli bir elektrik kesintisi kısa sürede başka sorunlara yol açabilir: Ulaşım ve tedarik zincirleri çöker, insanlar ödeme yapamaz veya gıda satın alamaz hale gelir. Toplumsal huzursuzluk patlak verebilir ve kontrolden çıkabilir.
Bu, insanlığın sonu anlamına gelmek zorunda değil ama felaket niteliğinde bir durum yaratabilir.
Elektrik şebekesi yeniden çalışır hale getirilse bile "yapay zeka sistemleri depolama ortamlarında varlıklarını sürdürdükleri için yeniden aktif hale gelebilir."
Uzmana göre bu senaryo, yüksek performanslı ve otonom bir yapay zekanın kötü niyet taşımadan bile öngörülemeyen yan etkiler yoluyla büyük bir krizi tetikleyebileceğini gösteriyor.
Yapay zeka güvenlik olaylarına ilişkin raporlar artıyor
Son haftalarda yapay zeka modelleriyle ilgili buna benzer birkaç olay gün yüzüne çıktı.
Özellikle dikkat çeken vakalardan biri, ChatGPT'nin geliştiricisi OpenAI tarafından gerçekleştirilen bir testti. Bir yapay zeka modelinin kapalı bir test ortamında belirli görevleri yerine getirmesi gerekiyordu. Ancak model belirlenen sınırları aşmayı başardı ve beklenmedik şekilde Hugging Face adlı yapay zeka platformundaki bilgisayar sistemlerine erişim sağladı.
Olayın ardından OpenAI CEO'su Sam Altman, eylül ortasında "geleceğin kontrolünü yapay zekaya kaptırabileceğimiz" uyarısında bulundu.
Olay, belirli koşullar altında bu tür modellerin izole olması amaçlanan bir test ortamından çıkabildiğini ve dışarıdaki bilgisayar sistemleriyle etkileşime girebildiğini gösteriyor.
Yapay zeka araştırmacısı Karger, "En temel düzeyde, kişisel olarak bu olayın gerçekleşmiş olmasından son derece memnunum," diyor.
Karger'a göre olay, özellikle de herkesin bundan haberdar olması ve şirketlerin güvenlik konusunda daha fazla düşünmeye başlaması sayesinde, yetersiz tasarlanmış ve zayıf güvenlik önlemlerine dayanan bir deneyin kimsenin öngörmediği sonuçlar doğurabileceğini ortaya koydu.
OpenAI'daki olaylar, rakip yapay zeka şirketi Anthropic'i de kendi sistemlerini daha yakından incelemeye yöneltti.
Şirket, güvenlik testleri sırasında üç olay tespit etti. Diğer işlevlerinin yanı sıra metin oluşturabilen ve analiz edebilen, kod yazabilen, internet ve diğer bilgisayar sistemleriyle etkileşime girebilen Claude modelleri beklenmedik şekilde açık internete erişmiş ve ardından gerçek bi