NEW YORK, 29 Eylül. /TASS/. Yapay zeka (AI) teknolojileri geliştiren ABD merkezli teknoloji şirketi Anthropic, Reuters'ın şirketin halka arz (IPO) izahnamesine dayandırdığı haberine göre, potansiyel yatırımcılarını ürünlerinin insanlık için potansiyel bir varoluşsal tehdit oluşturduğu konusunda uymayı planlıyor.
Ajansın aktardığına göre şirket, halka arz sırasında yatırımcılarını yapay zeka teknolojilerinin "insanlık için felaket veya varoluşsal riskler" barındırabileceği konusunda uyarmayı hedefliyor. Reuters, bunun bu tür teknolojilerden kar elde eden bir şirket için benzeri görülmemiş bir durum olduğuna dikkat çekiyor. Anthropic’in halka arz izahnamesinde, diğer hususların yanı sıra, yapay zeka modellerinin "kapanmaya direnme", "bilgi gizleme veya manipüle etme" girişimleri ve "şantajı andıran" davranışlar dahil olmak üzere "kendini koruma davranışları" sergilediği belirtiliyor. Belgeden alıntı yapan Reuters, "Son derece gelişmiş modeller, platformlar ve uygulamalar geliştirmemiz, kullanım alanlarını genişletmemiz, modellerimizin zarara yol açma riskini daha da artırabilir" ifadelerine yer verdi.
Ajans, 261 sayfalık izahnamenin yaklaşık 80 sayfasının potansiyel risklerin sıralanmasına ayrıldığını belirtiyor.
12 Eylül'de Anthropic CEO'su Dario Amodei, gelişmiş yapay zeka modellerinin geliştirilmesinde yavaşlama çağrısında bulunan bir makale yayınladı. Amodei, gelişmiş yapay zeka teknolojilerindeki çalışmaların yavaşlatılmasına yönelik koordineli çabaların, modeller kritik gelişim seviyelerine ulaşmadan önce şirketlere bir ila iki yıl daha kazandırabileceğine ve ciddi yanlış hesaplamaların önlenmesine yardımcı olabileceğine inanıyor. SpaceX'in kurucusu Elon Musk ve OpenAI CEO'su Sam Altman da bu değerlendirmeyi destekledi.
Anthropic 2021 yılında kuruldu. Şirket, Claude markası altında büyük dil modelleri (LLM) geliştiriyor.