Yapay zeka, öz denetimin ötesine geçen güvenlik önlemleri gerektiriyor; Microsoft'un kurucu ortağı Bill Gates Pazar günü yayınlanan bir röportajda Kongre'de yasal düzenlemelerin geçirilmesi çağrısında bulundu.
NBC’nin “Meet the Press” programında banttan yayınlanan bir röportajda konuşan Gates, “Güvenlik önlemlerinin ve denetimin neye benzemesi gerektiği konusundaki tartışmaya kolluk kuvvetlerinin ve siyasetçilerin dahil olması gerekiyor” dedi ve ekledi: “Ve bunun zorunlu bir şey olması lazım.”
Temmuz ayında OpenAI'ın, özerk bir yapay zeka ajanının bir güvenlik testi sırasında kontrolden çıkıp başka bir şirkete sızarak insan kontrolünü devre dışı bıraktığını açıklamasının ardından, federal müdahale lehine ani bir kitlesel dalga yükseldi. Gates de hükümetin müdahil olması gerektiğini söyleyerek bu koroya katıldı.
“Hiç kimse öz denetimin yeterli olduğunu düşünmüyor” dedi.
Nadir görülen bir birlik gösterisi olarak; rakipler Anthropic, OpenAI, Google DeepMind, Microsoft ve xAI'ın CEO'ları, giderek daha yetenekli hale gelen yapay zeka sistemlerinin geliştirilmesinin yavaşlatılması çağrısında bulundu.
Ancak ABD Başkanı Donald Trump ve yapay zekaya yönelik ek düzenlemelerin diğer muhalifleri, yeni hükümet kısıtlamalarının yapay zeka devriminde sadece Çin'e üstünlük sağlayacağını söylüyor. Trump, yapay zeka konusunda yeni yasalar çıkarılması yönündeki çağrıları halka açık bir şekilde “saçmalık” (hoax) olarak nitelendirdi.
Gates, güvenlik önlemlerinin sektörü dramatik bir şekilde engellemeyeceğini ve bunları uygulamamanın risklerinin gerçek olduğunu savundu.
NBC'ye verdiği demeçte, “Bu kesinlikle bir saçmalık değil” dedi.
Gates, yapay zekayı görüşmek üzere Trump ile görüşmek istediğini söyledi.
“Umarım bu alandaki yaşam boyu çalışmalarım göz önüne alındığında, bunun ne kadar benzersiz ve farklı olduğunu ve ne kadar endişe duyduğumu söylemem, diğer insanlardan duyduklarına katkı sağlayacaktır” dedi.
Axios'un haberine göre Anthropic CEO'su Dario Amodei Pazar günü Beyaz Saray'da Trump ile akşam yemekte bir araya gelecek. Anthropic ve Beyaz Saray, Axios'un haberine ilişkin yorum talebine derhal yanıt vermedi.
Yapay zekanın risklerine ilişkin uyarılar yeni değil. Ancak önde gelen yapay zeka laboratuvarlarındaki araştırmacıların bu ay bu endişelere hem bir zaman çizelgesi hem de bir olasılık atfetmesiyle uyarılar daha acil bir nitelik kazandı.
Eski Anthropic araştırmacısı Jacob Coxon, yapay zekanın on yılın sonuna kadar hepimizi öldürebileceği konusunda uyarıda bulunmuş ve bu durum ABD'li milletvekillerini teknolojiyi yönetecek yeni kurallar talep etmeye yöneltmişti. Anthropic’in uyum bilimi lideri Evan Hubinger de Coxon'un uyarısını yineleyerek, önümüzdeki on yıl içinde böyle bir olayın yaşanma olasılığının yüzde 10'dan fazla olduğunu söyledi.
Bazı politikacılar, federal yetkililerin yapay zeka modellerini durdurmasına olanak tanıyacak bir “acil durdurma tuşu” (kill switch) zorunluluğu getirilmesini önerdi. Gates, bir tür acil durdurma tuşuna karşı olmadığını, ancak diğer güvenlik önlemlerinin de uygulanmaması durumunda bunun yeterli olmayacağını belirtti.
ABD ve Çin, Başkan Xi Jinping'in yakın zamanda Washington'a yaptığı ziyaretin ardından yapay zeka üzerine bir diyalog başlatma konusunda uzlaştı.