Daha sonra okumak veya başvurmak üzere favori makalelerinizi ve hikayelerinizi favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. Şimdiye kadarki en büyük halka arz rekorunu kırmadan sadece beş yıl önce Anthropic, kurucularının yapay zekanın nasıl geliştirileceğine dair kendi fikirleriyle OpenAI'den ayrılmasıyla bir Silikon Vadisi girişimi olarak başladı. Bugün, kendisini güvenliğe öncelik vermeye adayan ve bu yolda Claudechatbot'u inşa eden şirket, aynı teknolojinin nasıl felaket getirebileceği konusunda uyarılarda bulunan en yüksek seslerden biri oldu. Bu, Perşembe günü Wall Street'te işlem görmeye başladığı ilk günden itibaren 1,75 trilyon dolarlık piyasa değeriyle ortaya çıkan Anthropic'in kısa ve renkli tarihine damgasını vuran çelişkilerden biri. Halen insanlığın çıkarlarını ön planda tutma sözü veren şirket, artık hissedarların, en üst düzey liderlerinin varoluşsal tehdit oluşturduğunu söylediği teknolojiden kar elde etmeleri yönündeki baskısıyla karşı karşıya.
Anthropic CEO'su Dario Amodei Perşembe günü güvenlik ve yapay zeka gelişimi arasındaki çekişmeyi "şirketin kalbindeki merkezi gerilimlerden" biri olarak tanımladı. CNBC ile yaptığı bir röportajda, AI ilerlemelerindeki hızlı tempoyu - büyük ölçüde kendilerinin bir sonraki, gelişmiş versiyonunu oluşturmaya yardımcı olan gelişmiş modellerden dolayı - bir sürücünün daha önce 60 saatte giderken saatte 200 mil gitmesine olanak tanıyan bir şey inşa etmeye benzer şekilde tanımladı. Şirketinin bunu güvenli bir şekilde geliştirmek için çalıştığını söyledi. "İlerleme hızıyla yaptığımız şey aslında şunu söylemekti: 'Bak, biliyorsun, saatte 200 mil hızla gidebiliriz. Belki de sadece saatte 90 mil hızla gidelim, bunu güvenli bir şekilde nasıl yapacağımızı bulmaya zaman harcayalım'" dedi. "Ve bu fazlalığın geri kalanını modeli doğru şekilde oluşturmaya harcıyoruz." Potansiyel felakete karşı uyarıda bulunan şirket ilerlemeye devam ediyor
Şirketin yedi kurucusu (43 yaşındaki Amodei, kız kardeşi ve Anthropic'in 39 yaşındaki başkanı Daniela Amodei ve diğer beş eski OpenAI çalışanı), yapay zeka gelişiminde güvenliğe daha açık bir şekilde öncelik veren bir şirket kurma arayışında rakip şirketten ayrıldı. Anthropic, yapay zeka modellerinde güvenlik ve şeffaflığa kendini alenen adadı, ancak içerdekiler son aylarda alarm zilleri çaldı. Antropik bir araştırmacı, hem Antropik hem de OpenAI'nin güvenlik uygulamalarını eleştirerek Eylül ayında şirketten istifa etti. Mesajı yapay zekanın büyüme hızıyla ilgili sektör çapında tartışmalara yol açan Jacob Coxon, hem Anthropic'in hem de OpenAI'nin "hayatlarımızla kumar oynadığını" yazdı. Yapay zeka gelişimi üzerinde çalışan bazı kişilerin, on yılın sonuna kadar yapay zekanın insan hayatını tehdit edebileceğine inandıkları konusunda uyardı.
Dario Amodei, teknolojinin gelişiminde sektör çapında bir yavaşlama çağrısında bulunan bir makaleyle yanıt verdi. Gelişmeyi yavaşlatmaya ve farklı şirketler ve ülkeler arasında koordinasyonu sağlamaya yönelik ayrıntılı planlar sıraladı ve Antropik ve diğer laboratuvarlara bağımsız değerlendiricilerin yerleştirilmesi fikrini savundu. Ancak bu bağımsız değerlendirmelerden en az birinin sonuçları Coxon'un endişelerinin altını çizdi. Kâr amacı gütmeyen Model Değerlendirme ve Tehdit Araştırması'nın yakın tarihli bir raporu, Anthropic'in, büyük ölçüde yapay zekanın yardımıyla sistemlerini bir yıl öncesine göre yaklaşık iki kat daha hızlı geliştirdiğini ortaya koydu. Amodei Perşembe günü Nasdaq'ın açılış zilindeki yorumunda şirketin "en zor güvenlik işinin önümüzde olduğunu" söyledi. "Ve bunu açıkça ifade etmek gerekirse, yapay zeka sistemlerinin eğitimini ve konuşlandırılmasını mümkün olan en kısa sürede hızlandıracağız.