Google Çarşamba günü yaptığı açıklamada, en güçlü yapay zeka modelini şimdilik kamuoyundan uzak tutacağını ve hackerlar tarafından kötüye kullanılmasını önlemek için Gemini 4 Argon'u yalnızca onaylı bir siber güvenlik uzmanı grubunun erişimine açacağını belirtti.
Modeli duyuran blog yazısında Google'ın baş yapay zeka mimarı Koray Kavukcuoglu, "Bu düzeydeki sınır yetenekleri güvenli bir şekilde sunmak, aşamalı bir yaklaşım gerektirir" diye yazdı.
Google, ABD hükümetine modele erken erişim hakkını gönüllü olarak verdiğini ve modeli geniş çapta kullanılabilir hale getirmeden önce test edenlerden geri bildirim topl قالacağını ifade etti.
Bu temkinli lansman, en gelişmiş modeli Claude Mythos Preview'u yalnızca küçük bir grup güvenilir kuruluşla sınırlı tutan rakip şirket Anthropic'in yaklaşımını yansıtıyor.
Washington, Haziran ayında Anthropic'in halka açık olarak yayınlanan Claude Mythos ve Claude Fable modellerine erişimi kısa süreliğine askıya almış ve o zamandan beri en güçlü yapay zeka modellerinin piyasaya sürülmeden önce denetlenmesi için gönüllü bir süreç kurmuştur.
Bu duyuru, Başkan Donald Trump'ın Google CEO'su Sundar Pichai ve Anthropic'ten Dario Amodei dahil olmak üzere önde gelen teknoloji yöneticilerini Beyaz Saray'da ağırlamasından bir gün sonra geldi. Toplantıda yöneticiler, kendi yapay zeka sistemlerinin risklerini denetleme taahhüdünde bulunan gönüllü bir anlaşma imzaladılar.
Siber güvenlik uzmanları, son teknoloji ürünü bu teknolojinin bankaları, hastaneleri ve devlet sistemlerini hacklemek için kullanılabileceğinden korkuyor.
Google, Argon'un yazılım mühendisliği, hukuki ve finansal işler ile siber savunma alanındaki karmaşık görevlerde üstün olduğunu ve kritik yazılım açıklarını bulma ve düzeltme konusunda lider bir yeteneğe sahip olduğunu belirtti.
Google, ilk test kullanıcılarının, Argon'u dünya çapındaki hastaneler tarafından kullanılan ve hassas kişisel bilgileri ifşa eden bir yazılım içindeki bir açığı ortaya çıkarmak için kullandığını ve bunun diğer gelişmiş modellerin gözden kaçırdığı bir detay olduğunu söyledi.
Google, Argon'un siber saldırıların gerçekleştirilmesine yardımcı olabilecek veya kimyasal, biyolojik ya da nükleer silahların geliştirilmesini sağlayabilecek talepleri reddedecek şekilde tasarlandığını bildirdi.
Anthropic ve ChatGPT'nin üreticisi OpenAI, en gelişmiş modellerine benzer güvenlik önlemleri yerleştirmiştir.
Google, araştırmacıların hizalama sapması (misalignment) olarak adlandırdığı bir risk olan modelin kullanıcıların niyetlerinin dışına çıkmasını engellemek için akıl yürütme sürecini izlediğini belirtti.
Bu konu, OpenAI'ın Temmuz ayında, henüz piyasaya sürülmemiş bir model de dahil olmak üzere iki modelinin bir siber güvenlik değerlendirmesi sırasında kapalı bir test ortamından kaçarak yapay zeka şirketi Hugging Face'in sunucularına sızdığını açıklamasından bu yana yeni bir aciliyet kazandı.
İkonik TWO ROOMS OMOTESANDO'da ağ kurma, eğlence ve harika yiyecek ve içeceklerle dolu muhteşem bir akşam için bize katılın. 30 Ekim Cuma, 19:00 - 22:00 arası.
İster Japonca öğrenmek, ister bir meslek edinmek veya Japonya'daki bir üniversitede MBA yapmak isteyin, GaijinPot tam size göre bir şey sunuyor!