Arama sonuçlarında daha fazla makale keşfedin Yapay Zekanın "vaftiz babaları", zekanın kontrolsüz bir şekilde patlaması tehlikesine karşı uyarıda bulunarak bunu tarihteki en önemli teknolojik gelişme olarak nitelendiriyor. Bu uyarı hükümetlere yönelik olup, onları böyle bir gelişmenin etkilerine zamanında hazırlanmaya çağırmaktadır. Yapay zeka alanındaki en önemli öncülerden ikisi olan Nobel ödüllü Geoffrey Hinton ve Kanadalı bilgisayar bilimcisi Yoshua Bengio'nun ortak yazdığı bir rapora göre, politikacıların teknolojik ilerleme kontrolsüz kalmadan önce harekete geçmeleri gerekiyor. Yazarlar olası bir "istihbarat patlaması"ndan endişe ediyor ve bunu "yıllar süren gelişmeleri aylara veya daha kısa sürelere sıkıştıran, dramatik, yapay zekânın yönlendirdiği ilerleme ivmesi" olarak tanımlıyorlar.
"Yapay zeka Ar-Ge'sini otomatikleştirmek bir istihbarat patlamasını tetiklerse ne olur?" başlıklı rapor Hinton, Bengio, Anthropic'in kurucu ortağı Jack Clark ve OpenAI baş bilim adamı Jakub Pachocki ve diğerleri tarafından imzalandı. Ana endişe, yapay zeka sistemlerinin, "özyinelemeli kendini geliştirme" süreci yoluyla, insan müdahalesi olmadan, yeteneklerini özerk bir şekilde geliştirme yeteneğini kazanma olasılığına odaklanıyor. Rapor, bu gelişmeyi otomatikleştirilmiş yapay zeka araştırma ve geliştirmesi olarak adlandırıyor. Rapora göre, bu senaryoda, tek bir geliştirici "milyonlarca" üst düzey insan araştırmacıya eşdeğer bir "işgücünü" yönetebilir.
Yazarlar, sistemler zaten teknolojilerinin geliştirilmesine katkıda bulunduğundan ve yükseltilmiş versiyonlar oluşturulduktan sonra hızlı bir şekilde dağıtılabildiğinden, yapay zeka araştırma ve geliştirmesinin otomasyonunu, nihai bir zeka patlamasında anahtar faktör olarak görüyorlar. Belirtildiği gibi, "yıllar süren ilerlemeyi aylara veya daha kısa süreye sıkıştıran, yapay zeka sistemleri üzerindeki insan kontrolünü tehdit eden ve devletler, şirketler ve kurumlar içindeki ve arasındaki güç kontrol mekanizmalarını ciddi şekilde aşındıran bir istihbarat patlaması insanlık tarihindeki en önemli teknolojik gelişme olabilir." Yazarlar hükümetleri derhal harekete geçmeye çağırıyor ve "istihbarat patlaması başladığında eylem penceresinin kapanabileceğini" belirtiyorlar.
Üç temel politika önceliği öneriyorlar: Bağımsız denetçilerin şirketlere dahil edilmesi yoluyla yapay zeka araştırma ve geliştirmesindeki ilerlemenin şeffaf bir şekilde raporlanması, yapay zekanın hızlı büyümesinin sınırlandırılması ve potansiyel bir zeka patlamasına uyum sağlamaya hazırlanma. Anthropic ve OpenAI, hızla gelişen yapay zekanın güvenliğine ilişkin uyarıların ardından bağımsız değerlendiricilerin modellerini incelemesine izin vermeyi kabul etti. Anthropic, yapay zekanın artık kendi kodunun %80'ini oluşturduğunu, OpenAI'nin ise yeni modelleri eğitmek için otonom yapay zeka aracılarından yararlandığını bildirdi. Raporda, "ön kanıtların yazılım tabanlı zekada bir patlamanın mümkün olduğunu gösterdiği" ve bunun "son derece yetenekli veya insanüstü yapay zeka sistemlerinin son derece hızlı bir şekilde gelişmesine" yol açacağı belirtiliyor.
Böyle bir gelişme tıbbi buluşları ve teknolojik sıçramaları beraberinde getirebilir ancak üç ana riski de beraberinde getirir. Sağlam sistemler gelişen biyolojik ve siber tehditleri kolaylaştırabilir