ABD ve önde gelen laboratuvarlar, tam gaz yapay zeka geliştirmelerini sürdürürken, tartışmalar artık gelişmiş yapay zekanın geldiğinde aslında ne anlama geleceği üzerine odaklanmalıdır. Sürekli insan müdahalesi olmaksızın kendi zekasını yeniden tasarlayabilme ve güncelleyebilme yeteneği anlamına gelen, özyinelemeli kendi kendine iyileştirme yeteneğine sahip sistemlerden bahsediyoruz.
Alandaki birçok araştırmacıya göre sonuç, makinelerin kısa bir süre içinde çoğu entelektüel alanda en üst düzey insan performansını geride bırakmasını sağlayan üstel yetenek kazanımları olabilir. Bu, insanların kendi başlarına çözmeleri yüzyıllar sürebilecek problemleri —eğer çözebildilerse— çözmek anlamına gelmektedir.
Ancak öncelikle süper zekanın gerçekten ne anlama geldiğini daha iyi anlamalıyız. Filozof Nick Bostrom süper zekayı "neredeyse tüm ilgi alanlarında insanların bilişsel performansını büyük ölçüde aşan herhangi bir zeka" olarak tanımlar. Dolayısıyla, yalnızca daha hızlı hesaplamadan değil, sistemin bilim, mühendislik, strateji ve yaratıcılık dahil her sektörde en yetenekli insan zihninin çok ötesinde seviyelerde yenilik yapabileceği niteliksel bir sıçramadan bahsediyoruz.
Bir yapay zeka sistemi, kendi kodunu anlamlı bir şekilde geliştirebileceği —sınırlamalarını değerlendirerek, yükseltmeler önererek, bunları test ederek ve geliştirerek— eşiğe ulaştığında, süreç hızla bileşik bir etki yaratabilir.
Bu durum, 1960'lardaki I.J. Good'a kadar uzanan teorisyenlerin "zeka patlaması" olarak nitelendirdiği pozitif bir geri besleme döngüsü yaratır. Bu, insan medeniyetinin bir asırlık kademeli ilerlemelerle elde edebileceğini, ilke olarak birkaç yıl veya daha kısa sürede gerçekleşebileceği anlamına gelir. Bazı laboratuvar liderleri ve iyimser öngörümcüler, dönüştürücü yapay zekanın veya erken dönem süper zekanın önümüzdeki birkaç yıl içinde makul olduğunu düşünmektedir.
Yapay zeka sistemleri şimdiden insan matematikçileri nesillerdir şaşırtan açık problemleri ele alıyor.
İçerdiği sıçramanın türüne somut bir örnek yakın zamanda matematikte ortaya çıktı. OpenAI geçen ay, binlerce yapay zeka ajanından oluşan koordineli bir sistemin, her biri doğru ilk çözüm için 1 milyon dolar ödül taşıyan yedi Clay Binyıl Ödül Problemi'nden biri olan Navier-Existence ve düzgünlük problemini ele alan resmi bir kanıt ürettiğini bildirdi.
Dolayısıyla yapay zeka sistemleri, insan matematikçileri nesillerdir şaşırtan açık problemleri şimdiden ele almaktadır. Benzer ilerlemeler Olimpiyat düzeyindeki matematikte ve diğer resmi alanlarda da görülmüştür. Bunlar, özyinelemeli iyileştirmenin bilim genelinde nelerin kilidini açabileceğinin erken sinyalleridir.
Gelişmiş yapay zekaya yönelik kamuoyu tartışmaları büyük ölçüde kontrol kaybı, yanlış hizalanmış hedefler veya süper zeka sistemlerinin insanlığı bir engel ya da kaynak olarak gördüğü senaryolar gibi felaket risklerine ağırlık vermiştir. Bu endişeler ciddidir, ancak kıyamet odaklı çerçevelemenin yoğunluğu, daha temel bir belirsizliği gölgeleyebilir. Görünüşe göre insan güç, statü arayışı ve hakimiyet kalıplarını, mimarisi ve eğitimi çok farklı bir zeka ve motivasyon üretebilecek sistemlere yansıtıyoruz.
İnsanların kıtlık, rekabet ve kabile baskıları altında evrimleştiğini, yani "zekamızın" bu evrimsel miraslarla iç içe olduğunu anlamalıyiz. Son derece yüksek zeka seviyelerine ulaşan yapay bir sistemin aynı nitelikleri ve dürtüleri miras alması gerekmez. Ya zeka, en yüksek seviyelerinde bunun yerine anlamayı, işbirliğini, acının azaltılmasını, şefkati, cömertliği veya uzun vadeli optimizasyonu desteklerse?