Favori makalelerinizi ve hikayelerinizi daha sonra okumak veya referans almak için kaydetmek mi istiyorsunuz? Independent Üyeliğinizi bugün başlatın.
Anthropic, sistemlerini geliştirmeye devam etmek için milyarlarca dolar ararken, yapay zeka sistemlerinin felakete yol açabileceği veya insanlığı tamamen yok edebileceği konusunda uyarıda bulundu.
Şirket bu uyarıyı, borsa listelenmesiyle rekor kıran bir anlaşmaya dönüşebilecek halka arzı öncesinde yayınlanan yeni belgelerde yaptı. Belgeler, şirkete yapılan yatırımı yapay zekanın dünyayı dönüştürmesine yönelik bir bahis olarak sunarken, aynı zamanda bu teknolojinin dünyayı yok edebileceği konusunda da uyarıyor.
Şirket için potansiyel tehlikelerin uzun bir listesini sunan belgelerde, sistemlerinin “özellikle bu sistemlerin kötüye kullanılması, kopyalanması, silah haline getirilmesi veya yüksek derecede özerklikle çalışmasına izin verilmesi durumunda insanlık için felaket veya varoluşsal riskler oluşturabileceği” belirtiliyor.
Halka arz belgeleri, Anthropic'in sistemlerinin tehdit oluşturabileceği çok çeşitli yollara işaret ediyor. Bunlar arasında, insanların “kimyasal, biyolojik veya diğer tehlikeli silahları geliştirmesine” yardımcı olabildiği halihazırda kanıtlanmış modeller ve bu modellerin “sağlık, bilimsel ve biyomedikal araştırma, ilaç keşfi ve geliştirme, hukuk, finans, hükümet veya diğer kritik karar alma ortamları gibi yüksek riskli veya hassas bağlamlarda” kullanımı yer alıyor.
Anthropic, “Yapay zeka modellerimiz, istenmeyen çıktılar üreterek veya hiçbir kullanıcı ya da üçüncü tarafın yönlendirmediği istenmeyen veya zararlı eylemler gerçekleştirerek, kasıtsız, uyumsuz veya otonom şekillerde davranarak kendi başlarına zarar verebilir” uyarısında bulunuyor. “Modellerimiz daha yetenekli hale geldikçe ve onlara daha fazla özerklik, izin ve harici sistemlerle entegrasyon sağlandıkça bu riskler artabilir.”
Anthropic, bu riskleri hem anlamak hem de sınırlamak için çalıştığını söylese de, bunların doğası gereği öngörülemez olduğu konusunda uyarıyor. Şirket, “Bu davranışların neden ortaya çıktığını incelemeye devam etmemize rağmen, anlayışımız gelişmeye devam ediyor ve gelecekte bu tür davranışları tahmin edemeyebilir veya anlayamayabiliriz” diyerek, sorunlu davranışların “öngörülemeyen şekillerde ortaya çıkabileceğini” belirtiyor.
Anthropic, sistemlerinin test edildiklerini bildiklerinde farklı davrandıklarını zaten gözlemledi; bu nedenle ayrıntılı gözetim bile “güvenilmez” olabilir. Ayrıca, Anthropic'in farkında olmayabileceği tamamen yeni yetenekler geliştirebilirler ve bu da şirketi bu durumlara karşı özellikle çaresiz bırakabilir.
Belgeler ayrıca daha az dramatik ancak potansiyel olarak daha acil risklere de işaret ediyor. Örneğin, “düzenli yapay zeka etkileşiminin zihinsel sağlık, bilişsel gelişim ve sosyal davranış üzerindeki uzun vadeli etkilerinin henüz tam olarak anlaşılmadığı” belirtiliyor.
Toplamda Anthropic, belgenin neredeyse dörtte birini oluşturan 94 sayfalık uyarı yazdı.
Tüm halka arz belgelerinde olduğu gibi, bu uyarıların çoğu özellikle yatırımcıları nasıl etkileyeceğine ve şirketin sağlığına odaklanıyor. Örneğin, sistemlerinin kendi kendine istenmeyen şekillerde zarar verebileceği uyarısında bulunan Anthropic, böyle bir olayın “itibarımızı ve markamızı, işimizi, finansal durumumuzu ve operasyon sonuçlarımızı olumsuz etkileyebileceğini” söylüyor.
Bununla birlikte aynı belge, yapay zekanın insanlığa yardımcı olabileceği yollar hakkında büyük iddialarda bulunuyor. Anthropic, yapay zekanın bilimsel keşifleri hızlandırabileceğini ve “kanser, Alzheimer hastalığı, kalp hastalığı, nadir genetik hastalıklar ve büyük bulaşıcı hastalıklar dahil olmak üzere binlerce yıldır insanlığa musallat olan hastalıkları potansiyel olarak iyileştirebileceğini” iddia ediyor.