Sınır modelleri, yazılım kusurlarından dünyanın düzeltebileceğinden daha hızlı yararlanabilir. Ve riskler siber alemin çok ötesine uzanıyor Dünyanın parçalandığını hissetmek için deli değilsiniz. Geçen hafta Microsoft, United Airlines ve JPMorgan Chase'teki temel hizmetler kesinti nedeniyle kesintiye uğradı. Cuma günü, 11 Eylül'den bu yana ikinci kez ABD'nin tüm iç hat uçuşları iptal edildi. Ve Salı günü CNN, NSA'nın son derece gizli iç iletişim ağının çöktüğünü bildirdi. Her durumda yetkililer veya şirketler, bir siber saldırıya dair kanıt bulunmadığını söyledi. Ancak geçen ay, Fransa'daki birkaç dondurucu, yüzlerce mağazadaki sıcaklık kontrollerinin hacklenmesi, tonlarca gıdanın bozulması ve tahminen on milyonlarca avroluk hasara yol açması sonrasında alevler içinde kaldı. Benzer siber saldırılar daha sonra altı ülkede daha dondurucuları vurdu.
Son zamanlardaki kesintiler kötü niyetli davranışların sonucu olmasa bile, tüm bunlar dijital ve fiziksel dünyalar arasındaki sınırın her zamankinden daha geçirgen olduğunun içten bir hatırlatıcısı. Ve dijital sınır duvarları çöküyor; bunun sorumlusu yapay zeka endüstrisi. Frontier AI modelleri, yazılım kusurlarını dünyanın düzeltebileceğinden daha hızlı bir şekilde bulup kullanabilir ve acele yama, tam olarak şu anda gördüğümüz türden aksaklıkların riskini artırıyor. Yapay zeka endüstrisi, yapay zeka modellerini durmaksızın ölçeklendirmek, hangi yeni yeteneklerin ortaya çıktığını keşfetmek ve ardından modelleri ticari kazanç için dağıtmak üzerine kuruludur. Bu süreç şu ana kadar eğitimi mahvetti ve interneti sekteye uğrattı; şimdi onu tamamen parçalamakla tehdit ediyor. Şirketlerin bundan sonra neleri kıracağını görmek için beklemek yerine, "sınır yapay zeka gelişimi" adını verdikleri pervasız işlev kazanımı deneylerini dondurmalıyız.
İrlanda'nın siber güvenlik şefi, bilgisayar korsanlarının zaten "hepsi artık yapay zeka kullanıyor" diyor. Google'ın üst düzey tehdit analisti de aynı fikirde: "Bu noktada tüm tehdit aktörlerinin yapay zekayı belirli bir kapasitede kullandığını ve operasyonlarının bundan fayda sağladığını varsayabiliriz." Ve onların faydası var. Son aylarda, amatör olduğu anlaşılan kişiler, traktör üreticisi Deere'den Güney Kore bankalarına kadar 100'den fazla şirketi hacklemek için yapay zekayı kullandı ve bilgisayar korsanları, başarılı sızma başına 50 dolar gibi az bir harcama yaptı. Şüpheli Kuzey Koreli bilgisayar korsanları şimdiye kadarki en büyük soygunu gerçekleştirerek kripto borsası Binance'ten 6,3 milyar dolar çaldı ve bunun yarısından azı donduruldu veya kurtarıldı. Siber saldırılar New Mexico ve Almanya'daki hastanelerin acil servislerini çökertti. Yapay zeka destekli bilgisayar korsanları Avrupa Komisyonu'na girerek hizmetleri 10 günden fazla kesintiye uğrattı. Pazartesi günü saldırganlar, aralarında BBC, CNN, Zoom ve HSBC'nin de bulunduğu 178 kuruluşun sitelerinin ziyaretçilerine kötü amaçlı yazılım sunmak için üçüncü taraf yazılımlardaki bir kusurdan yararlandı.
Geçtiğimiz ay, yapay zeka kullanan araştırmacılar, tüm web sitelerinin %70'ini destekleyen programlama dilinde ciddi bir kusur keşfettiler. (Yetkililere göre NSA kesintisi, tam da bu kusur için aceleye getirilmiş bir yama nedeniyle meydana geldi.) İnternet güvenlik sağlayıcısı Cloudflares'in CEO'su, "kritik yazılımın diğer parçalarında mevcut olan bir dizi ek ciddi güvenlik açığından" haberdar olduğunu söyledi... Sanırım her hafta sanki gökyüzü düşüyormuş gibi hissedeceğimiz birkaç yılımız olacak. Milyarlarca dolarlık bir Japon finansal hizmetler şirketinin CEO'su, şirketi geçen ay saldırıya uğradıktan sonra, "Meslektaşlarımla birlikte oluşturduğum siber uzay... artık kötü niyetli aktörler tarafından tamamen yok edilmenin eşiğinde" dedi. Yapay zeka yıllardır siber suçları hızlandırıyor olsa da, son zamanlardaki tufan büyük ölçüde oldukça yetenekli, kolayca değiştirilebilen açık teknolojilere bağlanabilir.