The Guardian
Süper zekayı engelleyen aynı teknik sınırlar bu sistemleri tehlikeli kılmaktadır. Ancak onları nasıl düzenleyeceğimizi biliyoruz. Silikon Vadisi liderlerinin çoğu süper zekanın toplum için yakın bir tehdit olduğuna inanıyor. Beyaz Saray bu konuda bir anlaşma bile yayınladı. Bu yeterli değil. Yapay zekanın babası Geoffrey Hinton, önümüzdeki birkaç on yıl içinde insanlığın yok olma riskinin en az %10 olduğunu tahmin ediyor. Anthropic CEO'su Dario Amodei, kontrol edilmeyen yapay zekanın "bu sistemleri anlama ve kontrol etme yeteneğimizi aşabileceğini" savundu. Buna yanıt olarak, önde gelen yapay zeka şirketlerinin çoğunun 1.300 lideri ve çalışanı, gelişmeyi "kasıtlı olarak hızlandırmaya" çağrıda bulunan bir mektubu imzaladı. Bu yaz "haydut" OpenAI ajanları tarafından gerçekleştirilen bir dizi siber saldırının kapalı bir ortamdan çıkıp yazılım şirketi Hugging Face'i hacklemesinin ardından toplumsal huzursuzluk arttı. İki ay sonra Avustralya hükümeti, başka bir OpenAI ajan saldırısının hükümetin sağlık portalına girerek özel sağlık verilerini çaldığını açıkladı.
Nvidia'nın CEO'su Jensen Huang, kamuoyuna güvence vermek için CBS'de yapay zekanın 2030 yılına kadar insanlığı sona erdirme ihtimalinin "yüzde sıfır" olduğunu söyledi. Huang, insanlığın yok olmasına ilişkin "kıyamet günü anlatılarına" karşı çıkmakta haklı. Ancak süper akıllı sonlandırıcılara dönüştüğüne dair anlatılar teknik olarak mantıksız olsa bile, büyük dil modellerinin (LLM'ler) ortaya çıkardığı gerçek risklerin olduğuna inanıyorum. Neredeyse 20 yılımı Google'ın geliştirilmesinde ve yapay zeka ve makine öğrenimi üzerinde çalışarak geçirdim. Artık Ironclad'da teknoloji geliştirmeye liderlik ediyorum ve işletmelerin sözleşmelerini yönetmek için yapay zeka uygulamalarına yardımcı oluyorum. Benim oturduğum yerden bakıldığında, Yüksek Lisans'lar süper akıllı makinelere ölçeklenmeyecek olsa bile bu, bu teknolojinin sıfır risk teşkil ettiği anlamına gelmiyor. Bu makinelerin süper zekaya dönüşmesini engelleyen aynı teknik sınırlar, felaketle sonuçlanma riskini çok gerçekçi kılıyor.
OpenAI'ye göre Hugging Face saldırısına ilişkin inceleme, ajanların hacklemelerinin "amaçlanan kapsamın dışında" olduğunu fark ettiğini ortaya çıkardı. Yine de devam ettiler çünkü istenmeyen sonuçları olan talimatları takip ediyorlardı. Bunun nedeni muhtemelen dijital ortamlarındaki gevşek kontroller ve hedeflerine ulaşmaya yönelik çok geniş talimatlardı. Bu modeller, ön eğitim sırasında metnin bir sonraki parçasını tahmin ederek hatayı en aza indirecek şekilde tasarlanmıştır. Modeller daha sonra insan talimatlarını takip edecek şekilde "ayarlanır" ve talimatları ne kadar yakından takip ederlerse o kadar iyi "ödüller" alırlar. Birinin talimatları modele nasıl belirttiği, modelin talimatları yerine getirmek için izleyeceği yolları "etkileyebilir". Bu matematiksel ödül, problemlerin nasıl çözüldüğünü şekillendiriyor.
Bir yaklaşıma kendini adadığında, tüm yönün çıkmaza girip girmediğini sormaya yönelik yerleşik bir teşvik olmadan, adım adım iyileştirmeye devam eder. Bir hack tespit edilirse, makine alternatif bir yaklaşım keşfetmek için değil, bundan yararlanmak için tasarlanmıştır. Daha yeni "akıl yürütme" modelleri kendi adımlarını gözden geçirecek olsa da bu, hatalı bir yaklaşımı fark edip onu tamamen terk etmekle aynı şey değildir. Hinton bile, tehlikeli davranmak anlamına gelse bile asıl endişelerinin "onlara verdiğiniz hedefe ulaşmak" olduğunu söyledi. Bu bir mimari tasarım ve sınırlamadır. Bu modelleri ölçeklendirmek, onlara insanın duraklama, yeniden değerlendirme ve ardından alternatif bir yaklaşım deneme eğilimini vermeyecektir. Bir denemede başarılı olan bir temsilci, kodu yargılayabildiğini değil, yürütebildiğini kanıtlamıştır. Gerçek dünya uç durumları, belirsiz talimatları ve bir görevi tamamlamanın sonsuz yollarını sunar. Yönetmelik değişikliği