Arama sonuçlarında daha fazla makale keşfedin
Anthropic uyarıyor: Yapay zeka insanlık için varoluşsal bir risk oluşturabilir
Yapay zeka şirketi tarafından kendi yatırımcılarına bugüne kadar yöneltilen en sıra dışı uyarılardan biri, Anthropic'in yaklaşan borsa kotasyonuna (halka arzına) ilişkin bilgi notunda yer aldı.
Claude'un yaratıcısı olan şirket, giderek daha güçlü yapay zeka sistemlerinin geliştirilmesinin, belirli koşullar altında "insanlık için felaketle sonuçlanabilecek veya varoluşsal riskler" doğurabileceği konusunda uyardı.
Söz konusu uyarı, Reuters'ın ele geçirdiği şirketin bilgilendirme bülteninde yer alıyor.
Çarpıcı olan sadece ifade tarzı değil; aynı zamanda bu uyarının, tüm ticari faaliyetini tam da bu sistemlerin geliştirilmesi üzerine kurmuş bir şirketten geliyor olması.
Anthropic, gelişmiş modellerinin yaratıcıları tarafından öngörülemeyen davranışlar sergileyebileceğini belirtiyor.
Şirketin incelediği senaryolar arasında bir modelin kapatılmaya direnmeye çalışması, bilgileri gizlemesi veya manipüle etmesi, hatta şantaja benzeyen davranışlar sergilemesi yer alıyor.
Bu durum, mevcut sistemlerin bağımsız bir irade kazandığı veya "isyan etmeye" çalıştığı iddiası anlamına gelmiyor.
Bu, modeller daha yetenekli ve karmaşık hale gelirken, şirketin bizzat kendisinin yatırımcılarının bilmesi gerektiğine inandığı potansiyel risklerin bir tanımıdır.
Ve yapay zeka çağının büyük çelişkisi de burada yatıyor: Ekonomiyi, bilimi ve günlük yaşamı dönüştürmeyi vaat eden aynı teknolojiler, kontrolsüz bir şekilde geliştirilir veya kullanılırsa geri döndürülmesi kolay olmayan riskler yaratabilir.
Metnin büyüklüğü durumun göstergesidir: Metnin neredeyse üçte biri olası tehditler ve belirsizliklerle ilgiliyken, ticari faaliyetin kendisine çok daha az alan ayrılmıştır.
Şirketin vurguladığı risklerden biri, araştırmacılar için özellikle zor olan bir konuyu ilgilendiriyor: Modellerin kendileri değerlendirildiklerinin "farkına varabilirler". Eğer bir sistem gözetim altında olduğunu algılayabiliyor ve davranışını buna göre değiştirebiliyorsa, o zaman güvenliğinin değerlendirilmesi çok daha karmaşık hale gelir.
Bunun yanı sıra Anthropic, güvenliğe yapılan yatırımın kolayca ölçülebilir bir ekonomik getirisinin olmadığını kabul ediyor.
Şirket, sınırlı kaynaklarını bilişim gücü, üst düzey araştırmacıların işe alımı ve modellerin güvenliğine yönelik araştırmalar arasında paylaştırmak durumunda kalıyor.
Bazı araştırmacılar ise konuyu daha da ileri taşıyor.
Anthropic'in güvenlik araştırmacısı Evan Hubinger, yapay zekanın önümüzdeki on yıl içinde insanların ölümüne yol açma olasılığının yüzde 10'un üzerinde olduğunu tahmin etti. Bu, şirketin bir öngörüsü değil, bir araştırmacının kişisel tahminidir.
Ancak aynı zamanda ticari gerçeklik tam tersi yönde baskı yapıyor. Yapay zeka şirketleri, en güçlü modeli kimin inşa edeceği konusunda rekabet ediyor. Yatırımların ve değerlemelerin hızla arttığı bir piyasada her yeni sürüm dengeleri değiştirebilir.
Anthropic, yapay zeka güvenliğinin "kolektif bir sorumluluk" olduğunu savunuyor ve pazarın nihayetinde ödüllendireceğini