Gelecek ay Anthropic, Nasdaq'ta son yılların en büyük halka arzlarından birinde 2 trilyon dolar kadar bir değerlemeyle listelenmeye hazırlanıyor. ABD Listelenmeden önce Anthropic, bu yapay zeka devinin organizasyonunu ve işleyişini resmi olarak açıklayan bir broşür sundu. Prensip olarak, borsada işlem gören başka hiçbir şirketle karşılaştırılamayan ve hissedarlarına minimum düzeyde yetki sağlayan bir kurumsal yönetime sahiptir.
Şirketin en üst organı, kendi üyelerini atayan ve yönetim kurulunun yedi üyesinden dördünü seçme veya görevden alma yetkisine sahip olan Uzun Vadeli Fayda Vakfı'dır. Güçlerine rağmen Vakıf, CEO Dario Amoday ile kız kardeşi ve şirketin kurucu ortağı Daniela Amoday'ı yönetim kurulundan çıkaramıyor. Yönetim kurulunun geri kalan üç üyesi ise hissedarlar tarafından seçilecek. Ancak uygulamada, seçenekler iki Amoday kardeş ve şirketin diğer beş kurucu ortağı tarafından kontrol edilecek ve bu kişiler, kendilerine oy haklarının %50,1'ini sağlayan özel bir hisse sınıfı aracılığıyla şirketin günlük kontrolünü elinde tutacak. Bu nedenle ortak hissedarlar şirketin önemli kararları üzerinde neredeyse sıfır kontrole sahip olacak.
Şirketin yedi kurucu ortağı, yapay zekanın güvenliğine vurgu yapıyor ve haber bülteninde de vurguladıkları gibi, tüm çabalarına tek ve tek bir hedef yön veriyor: Anthropic'in misyonu. Bağlılığı önemli bir rekabet avantajı olarak görüyorlar ve yapay zekanın insanlığın çıkarına olacak şekilde sorumlu bir şekilde geliştirilmesini destekliyorlar. İlginçtir ki, 300 sayfalık izahnamenin 92 sayfası, borsada işlem gören her şirketin yapması gerektiği gibi, yatırımcıları uyararak Anthropic'in karşı karşıya olduğu potansiyel riskleri belgeliyor.
Anthropic'in en büyük uyarısı, şirketin geliştirmekte olduğu yapay zekanın "insanlık için yıkıcı veya varoluşsal risklere" neden olabileceği ihtimali. Ayrıca gelişmiş yapay zeka modellerinin, kimyasal, biyolojik veya diğer tehlikeli silahları geliştirmek isteyen kötü niyetli aktörlere de önemli yardım sağlayabileceğini belirtiyor. Anthropic bile kendi ürünlerinin kontrolünü kaybetme olasılığını göz ardı etmiyor. Gelecekteki modellerin, kapatılmaya direnme veya bilgiyi saklama ve manipüle etme girişimleri gibi öngörülemeyen kendi kendini idame ettiren davranışlar sergileyebileceği konusunda uyarıyor. Ayrıca zorla veya yanıltıcı tepkiler üretebileceklerinin ve bunun da şantaj anlamına gelebileceğinin altını çiziyor.