Yapay zeka araştırmacıları, şirketlerin çalışmaları durdurması gerektiğini savunurken; çalışanlar da laboratuvarları kendi kendini geliştiren yapay zeka planlarını dizginlemeye çağırıyor.
OpenAI ve Google DeepMind'ın mevcut ve eski araştırmacıları, şirketlerin dünyayı, insanların onları kontrol etme yeteneğini geride bırakabilecek kendini geliştiren yapay zeka sistemleri inşa etmenin potansiyel olarak felaket getirici sonuçlarına karşı korumak için çok az şey yaptığını uyarıyor.
Yapay zeka güvenliği kar amacı gütmeyen kuruluşu Palisade Research tarafından toplanan ve özel olarak Reuters ile paylaşılan video görüşlerinde çalışanlar, varoluşsal riskle ilgili endişelerinin bir pazarlama stratejisi değil, samimi olduğunu belirtti. Ayrıca yapay zeka laboratuvarlarının, temkinli olunması çağrısı yapanlardan ziyade yeni modeller inşa eden çalışanları daha çok kutladığını söylediler.
frominside.ai adı verilen proje, yapay zeka konusunda endişe duyanların kaygılarını sosyal medyanın yankı odasının ötesinde doğrudan kamuoyuyla paylaşma girişimidir.
Hem OpenAI hem de DeepMind için çalışmış ve projeye katılan yapay zeka kar amacı gütmeyen kuruluşu Resolution'ın kurucu ortağı ve baş bilim insanı Geoffrey Irving, "Risk oldukça hızlı bir şekilde tırmanıyor" dedi.
Irving, Reuters ile yaptığı bir röportajda, "Doğrudan konuşmak bana ve sahadaki diğer kişilere düşüyor" dedi.
Yapay zeka araştırmacıları yıllardır bu endişelerle boğuşuyor, ancak geniş kamuoyu, OpenAI ajanlarının test alanından kaçarak yapay zeka firması Hugging Face'i hacklediği Temmuz ayından bu yana özellikle alarma geçti.
Daha Fazla Oku: OpenAI, Avustralya hükümeti web sitesinin hacklenmesi nedeniyle özür diledi, güveni yeniden inşa etme sözü verdi
O zamandan beri, yapay zekada güvenliğin ilerlemeyle nasıl dengeleneceği konusundaki tartışma teknoloji endüstrisini böldü ve küresel bir siyasi sorun haline geldi.
Yapay zeka 2025'in sonlarından bu yana keskin bir şekilde gelişti ve yatırımcılar bu ilerlemeyi ödüllendiriyor. Ancak bu yeni yapay zeka modellerini oluşturan bazı araştırmacılar da dahil olmak üzere mevcut ve eski çalışanlar, toplumun potansiyel zararlara hazır olmadığından endişe ediyor.
Bir videoda, DeepMind'da araştırma bilimcisi olan Neel Nanda, yapay zekanın insanlığın yok olmasına yol açma şansının en az yüzde 10 olduğuna inandığını söyledi ve bunu "gülünç derecede yüksek" olarak nitelendirdi.
OpenAI'da yapay zeka uyum araştırma mühendisi olan Juan Felipe Ceron Uribe ayrı bir videoda, "Yapay zeka geliştirme sürecinde çok dikkatli adımlar atmamız gerekirken, bunun yerine öncü laboratuvarların gözleri bağlı bir şekilde birbiriyle yarışıyor" dedi.
"Kanser tedavisini bulup bulamayacağımız, her işi kaybedip kaybetmeyeceğimiz veya belki de hepimizin ölüp ölmeyeceği kimin tahmininde olduğu bilinmiyor."
Reuters'ın Pazartesi günü bildirdiğine göre Anthropic, halka arzındaki potansiyel yatırımcılara gelişmiş yapay zekanın "insanlık için felaket veya varoluşsal riskler" oluşturabileceği konusunda uyarıda bulunmayı planlıyor.
Palisade ile röportaj yapanlar da dahil olmak üzere bazı mevcut ve eski yapay zeka araştırmacıları, dünyanın, özellikle modeller özyinelemeli kendini geliştirme kapasitesi geliştirdiğinde - yani neredeyse hiç insan müdahalesi olmadan sürekli olarak yeni yetenekler öğrenme ve kazanma yeteneği - yapay zekanın gelecek nesillerine hazır olmadığını savunuyor.
AI sistemlerinin potansiyel ahlaki statüsüne odaklanan kar amacı gütmeyen bir kuruluş olan Eleos AI Research'ün genel müdürü ve OpenAI'ın eski politika araştırmacısı Rosie Campbell, bu sorunun yapay zeka laboratuvarlarındaki sürekli yeniden yapılanmalarla daha da kötüleştiğini söyledi.
Campbell, 2024'te OpenAI'dan ayrılmadan önce kuruluşun daha kapalı hale geldiğini ve teknolojinin yönünü şekillendirmenin giderek zorlaştığını fark ettiğini söyledi.
Ayrıca Okuyun: Nvidia, Hugging Face hackini durdurabileceğini söylediği yapay zeka güvenlik yazılımını yayınladı
ABD teknolojisinin teknolojik üstünlüğünü koruması için Başkan Donald Trump'tan gelen siyasi baskının yanı sıra, yöneticiler bu endişeleri hafifletmeye çalıştı.