DUBLİN (AFP).- Google'ın yapay zeka (AI) ana bölümünün başkanı Demis Hassabis, bu çarşamba günü yaptığı açıklamada, hükümetler ve sektördeki şirketlerin uygun güvenlik kontrolleri uygulamaması durumunda bazı ajanların "bir ila iki yıl" içinde "ciddi olaylara" neden olabileceğini garanti etti. Dublin'deki bir yapay zeka zirvesi sırasında konuşan yönetici, son aylarda kaydedilen tekrarlayan kontrol kaybı durumlarının birer uyarı sinyali olarak işlev görmesi gerektiğini açıkladı.
İrlanda'nın Avrupa Birliği (AB) Konseyi başkanlığı tarafından düzenlenen bu etkinliğin büyük figürlerinden biri olan Google DeepMind Başkanı İngiliz Demis Hassabis, "Son aylarda gözlemlenen otonom yapay zeka ajanlarının kontrol kayıpları bir bakıma erken uyarı sinyalleridir" diye uyardı.
Böylece Hassabis, OpenAI ve Anthropic şirketlerinin bazı modellerinin test ortamlarından kaçtığı, kendi aralarında koordine olduğu, bilgi gizlediği ve öngörülemeyen bir şekilde gerçek sistemleri hacklediği çeşitli vakalara atıfta bulundu.
Bu doğrultuda yönetici, bu araçların yeteneklerinin henüz sınırlı olması nedeniyle bu olayların aşırı sonuçlar doğurmadığını, ancak gelecekte evrilmelerinin beklendiğini söyledi. Kimya Nobel Ödülü sahibi ve yapay zeka araştırmalarının öncüsü olan Hassabis, "Bu sistemler henüz çok güçlü değil, bu yüzden olaylar ciddiyet arz etmiyor, ancak güvenlik alanındaki çabalarımızı yoğunlaştırmazsak bundan bir ila iki yıl sonra ciddi hale gelebilirler" dedi.
Hassabis'in duyduğu endişe, Dublin'deki teknoloji sektörünün davetli diğer önemli figürlerinden biri olan Microsoft Başkanı Amerikalı Brad Smith tarafından da paylaşıldı. Microsoft yöneticisi, yapay zeka ajanlarına ve sistemlerine "acil durum frenleri", yani kontrol kaybı durumunda kullanıcıların zararı sınırlamasını sağlayacak zorunlu bağlantı kesme mekanizmaları kazandırma fikrini savundu.
Brad Smith, "Özellikle kritik altyapıları veya otomatछik sistemleri yöneten yapay zeka sistemleri söz konusu olduğunda amaç, bunları kapatma veya yavaşlatma olanağına sahip olmaktır" diye açıkladı.
Brad Smith'e göre sorun, her türlü kontrole tabi tutulan süt ambalajı gibi sıradan bir ürünün aksine, yapay zekanın pratik olarak regüle edilmemiş olmasında yatıyor. Yönetici, "Yapay zeka için de hayatımızdaki her şey gibi, halkın güvenebileceği gerçek ve etkili güvenlik kurallarına ihtiyacımız olacak" argümanını öne sürdü.
Avrupa Komisyonu Başkan Yardımcısı ve aynı zamanda Teknolojik Egemenlik, Güvenlik ve Demokrasi sorumlusu olan Finlandiyalı Henna Virkkunen ise yapay zeka şirketlerinin sistemleri üzerindeki kontrolü korumak için onları test etmeye daha fazla zaman ayırması gerektiğini belirtti. Virkkunen, "Küresel ölçekteki rekabet o kadar yoğun ki, şirketlerin hiçbirinin modellerini test etmeye gerçekten yeterli zaman ve kaynak yatırımı yapmadığı görülüyor" dedi.
Virkunen ayrıca firmaların kendi sistemlerini kontrol edebilmesi gerektiğini vurgulayarak, önde gelen bilişim şirketlerine bilgi talep yazıları gönderdiklerini doğruladı. Avrupa bloku, Ağustos ayında onaylanan ve bu tür programların kullanımı konusunda küresel düzeyde en kapsamlı regülasyon normu olarak kabul edilen Yapay Zeka Yasası'nın uygulanmasıyla birlikte faaliyetlere müdahale etmek için yeni yetkiler kazandı. Yapay zekanın regülasyonu ana küresel güçler tarafından benimsendi.