Yapay zeka (AI) giderek yaygınlaştıkça ve kredi, yatırım, üretim, finansal piyasalar ve altyapıyla ilgili kararlara dahil edildikçe, kullanımıyla ilişkili risklerin yönetimi her zamankinden daha önemli hale geliyor. Yapay zekayı çevreleyen tartışmalar artık yapay zekanın metin yazma, verileri analiz etme veya insanların görevleri daha hızlı gerçekleştirmesine yardımcı olma becerisiyle sınırlı değil. Dünya, yapay zekanın yavaş yavaş ekonomik karar alma sürecinin kalbine doğru ilerlediği yeni bir aşamaya girdi. Bankalar bunu kredi başvurularını değerlendirmek ve dolandırıcılığı tespit etmek için kullanıyor, şirketler fiyatlandırma ve üretim için buna güveniyor, finansal piyasalar ticaret için algoritmalar kullanıyor ve kurumlar bunu riskleri analiz etmek ve kararlarını bildirmek için kullanıyor. Bu nedenle en önemli ekonomik soru artık yapay zekanın ne yapabileceği değil, ekonominin kendisi giderek ona bağımlı hale geldiğinde ne olacağıdır.
Yapay zeka yetenekleri hızla geliştikçe ve dünya çapındaki hükümetler ve büyük şirketler güvenliğe, gözetime ve yönetişime daha fazla önem verdikçe bu soru daha da acil hale geldi. Bu, yapay zekanın korkulacak bir tehdit haline geldiği anlamına gelmiyor. Tam tersi: Maliyetleri azaltarak, iş verimliliğini artırarak, veri analizini geliştirerek, karar almayı hızlandırarak ve yeni ürün ve hizmetlerin geliştirilmesini kolaylaştırarak önümüzdeki yıllarda verimlilik artışının en önemli itici güçlerinden biri haline gelebilir. Ancak ekonomi tarihi bize her büyük üretici gücün aynı zamanda yeni risk biçimleri de yarattığını öğretiyor. İşte asıl zorluk da burada başlıyor. Tek bir şirket yapay zeka sistemi kullanıyorsa ve bu sistem arızalanırsa şirket operasyonel bir sorunla karşı karşıya kalabilir. Peki binlerce şirket, banka ve kurum aynı sınırlı sayıda modele, teknoloji sağlayıcısına veya veri merkezine bağımlı olduğunda ne olur?
Bu noktada sorun, iç kurumsal bir sorundan, ekonominin önemli bir bölümünü etkileyen potansiyel bir aksamaya dönüşüyor. Buna konsantrasyon riski denir. Yapay zeka ekonomiyi daha verimli hale getirebilir, ancak aynı zamanda onu yapay zeka modelleri, bulut bilişim hizmetleri, yarı iletkenler ve veri merkezleri sağlayan sınırlı sayıda şirkete giderek daha bağımlı hale getirebilir. Bu bağımlılık arttıkça, bu kritik bileşenlerden birini etkileyen bir sorunun aynı anda çok sayıda kuruma yayılma olasılığı da artar. Bu nedenle risk, mutlaka yapay zekanın kendisinde değil, ona olan bağımlılığın yoğunlaşmasında yatmaktadır. Yapay zekanın finansal piyasalar ve bankalar için gündeme getirdiği en ciddi sorulardan biri, çok sayıda kurumun benzer modelleri kullanması, bilgileri aynı şekilde yorumlaması ve aynı anda benzer kararlar alması durumunda ne olacağıyla ilgilidir.
Her kurum, kararının tamamen rasyonel olduğuna inanabilir. Ancak onlarca kurumun aynı finansal varlığı aynı anda satması veya aynı ekonomik sektöre kredi vermeyi kısıtlaması halinde, bireysel olarak rasyonel kararlar kolektif olarak bir krizi tetikleyebilir. Bu, sürü davranışının yeni bir biçimini temsil ediyor. Geleneksel olarak sürü, yatırımcıların birbirlerinin kararlarını takip etmesiyle ortaya çıkıyordu. Yapay zeka çağında, benzer modeller tam olarak aynı anda benzer sonuçlara ulaştığı için bu otomatik olarak gerçekleşebilir. Bu nedenle en büyük tehlike bir makinenin hata yapması değil, binlerce makinenin hata yapması olabilir.