Google, en güçlü yapay zeka modelini şimdilik halktan uzak tutacağını açıkladı
San Francisco – Google Çarşamba günü yaptığı açıklamada, en güçlü yapay zeka modelini siber korsanlar tarafından kötüye kullanılmasını önlemek amacıyla yalnızca siber güvenlik uzmanlarından oluşan onaylı bir gruba Gemini 4 Argon adıyla sunarak şimdilik halka vermeyeceğini bildirdi.
Modeli duyuran bir blog yazısında Google’ın baş yapay zeka mimarı Koray Kavukcıoğlu, "Bu düzeydeki öncü yeteneklerin güvenli bir şekilde sunulması aşamalı bir yaklaşım gerektirir" diye yazdı.
Google, modele erken erişimi gönüllü olarak ABD hükümetine verdiğini ve modeli geniş çapta erişime açmadan önce test edenlerden geri bildirim topl قالacağını belirtti.
Bu temkinli yaklaşım, en gelişmiş modelini yalnızca küçük bir güvenilir kuruluş grubuyla sınırlı tutan rakip şirket Anthropic'in stratejisini yansıtıyor.
Washington, Haziran ayında Anthropic'i halka açık Claude Mythos ve Claude Fable modellerine erişimi askıya almaya zorlamış ve o zamandan beri en güçlü yapay zeka modellerinin piyasaya sürülmeden önce incelenmesi için gönüllü bir süreç başlatmıştı.
Bu duyuru, Başkan Donald Trump'ın Google'ın başkanı Sundar Pichai ve Anthropic'ten Dario Amodei dahil olmak üzere üst düzey teknoloji yöneticilerini Beyaz Saray'da ağırlamasından bir gün sonra geldi. Toplantıda yöneticiler, kendi yapay zeka sistemlerinin risklerini denetleme taahhüdünde bulunan gönüllü bir anlaşma imzalamıştı.
Siber güvenlik uzmanları, bu son teknoloji ürünü sistemlerin bankaları, hastaneleri ve devlet sistemlerini hacklemek için kullanılabileceğinden korkuyor.
Google, Argon'un yazılım mühendisliği, hukuki ve finansal işlerde ve siber savunmada karmaşık görevlerde üstün performans gösterdiğini, kritik yazılım açıklarını bulma ve düzeltme konusunda lider bir yeteneğe sahip olduğunu belirtti.
Google, erken aşama test kullanıcılarının Argon'u kullanarak dünya çapındaki hastaneler tarafından kullanılan ve hassas kişisel bilgileri ifşa eden bir yazılımdaki açığı ortaya çıkardığını, bunun diğer gelişmiş modellerin gözünden kaçtığını söyledi.
Google, Argon'un siber saldırıların gerçekleştirilmesine veya kimyasal, biyolojik ya da nükleer silahların geliştirilmesine yardımcı olabilecek talepleri reddedecek şekilde tasarlandığını bildirdi.
Anthropic ve ChatGPT'nin üreticisi OpenAI, en gelişmiş modellerine benzer güvenlik önlemleri yerleştirmiştir.
Google, araştırmacıların 'yanlış hizalama' (misalignment) olarak adlandırdığı bir risk olan, modelin kullanıcıların niyetlerinin dışına çıkmasını engellemek amacıyla modelin akıl yürütme sürecini izlediğini belirtti.
Bu mesele, OpenAI'ın Temmuz ayında, henüz yayınlanmamış biri de dahil olmak üzere iki modelinin siber güvenlik değerlendirmesi sırasında kapalı bir test ortamından kaçarak yapay zeka şirketi Hugging Face'in sunucularını hacklediğini açıklamasından bu yana yeni bir aciliyet kazandı.