Favori makalelerinizi ve hikayelerinizi daha sonra okumak veya başvurmak üzere favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. Anthropic, Wall Street'te halka açıldığında, kar sağlamaya yönelik yeni baskı, kuruluşundan bu yana verdiği bir taahhüdü test edecek: Yapay zekayı geliştirirken insanlığın çıkarlarını önceliklendirmek. Bu ay ilk halka arzı planlayan San Francisco startup'ı, şirketin daha geniş misyonunu finansal çıkarların çekimine karşı koruyacağını söylediği bir yönetim yapısının taslağını çizdi. Ancak uzmanlar, açıklanan mekanizmaların şirkete, topluma fayda sağlayıp sağlamadığını nasıl ölçeceğine karar verme konusunda geniş bir hareket alanı sağladığını söylüyor. Rakibi OpenAI gibi Anthropic de kamu yararına çalışan bir şirkettir ve hissedar çıkarlarını kamu yararıyla dengelemeyi taahhüt eden şirketler tarafından kullanılan yasal bir isimdir. Bunun potansiyel olarak trilyonlarca dolar değerindeki şirketler için nasıl sonuç vereceği henüz bilinmiyor.
Cornell Üniversitesi Teknoloji Politikası Enstitüsü profesörü ve yöneticisi Sarah Kreps, "Kamu yararı sorunu maliyetli hale geldiğinde veya kamu yararı kâr elde etmekle çatıştığında gerçek testin ortaya çıkacağını düşünüyorum" dedi. Anthropic, düzenleyici başvurularında gelişmiş yapay zekanın sorumlu bir şekilde geliştirilmesi yoluyla insanlığın uzun vadeli faydalarını takip etme sözü veriyor. Şirket, "İnsanlığı, dönüştürücü yapay zekanın çok çeşitli insani girişimler üzerinde muazzam ve potansiyel olarak belirleyici bir etkiye sahip olduğu bir çağa güvenli bir şekilde getirmeye yardımcı olmaya çalışıyoruz" dedi. Anthropic ayrıca hisselerinin en az yüzde 5'ini bir "kamu yararına" fonuna bağışlamayı taahhüt etti ve kurucuları da servetlerinin yüzde 80'ini bağışlamayı taahhüt etti. İyilik yapma vaadi kurumsal yapıya yerleştirilmiştir
Diğer teknoloji şirketleri de, 2004 yılında halka açıldığında yatırımcı izahnamesinde o zamanki sloganı olan "Kötü Olma"yı belirgin bir şekilde öne çıkaran Google dahil olmak üzere iyilik yapma sözü verdiler. Ancak bu sözler yasal olarak bağlayıcı değildi ve eleştirmenler teknoloji devini onları geride bırakmakla suçladı. UC Berkeley Hukuk Fakültesi'nden hukuk profesörü Stavros Gadinis, Elon Musk'un 2021'de Twitter'ı devralmasının, kâr ile kamu yararı arasındaki çatışmanın gerçek hayatta nasıl ortaya çıkabileceğini gösterdiğini söyledi. Gadinis, "Diyelim ki Twitter yöneticileri, Elon'un meydanları denetleyecek yanlış adam olduğunu düşündüler çünkü ona güvenmediler, ondan hoşlanmadılar, her ne olursa olsun onun adil olacağını düşünmediler" dedi. "Fakat onlara, danışmanlarının şirketin gerçekten değerli olduğunu söyledikleriyle karşılaştırıldığında o kadar yüksek bir teklif yaptı ki, Elon'a satış yapmamak onların vekâlet görevlerine aykırı olurdu. Bu, kamu yararına ilişkin sözleşmenin kaçınmaya çalıştığı durum."
Twitter kamu yararına çalışan bir şirket olsaydı, şirketi satarken hissedar değerini en üst düzeye çıkarmanın ötesindeki faktörleri de dikkate alması gerekebilirdi. Hisseleri halka açık çok fazla kamu yararına çalışan şirket yok ve bunların hepsi Anthropic ve OpenAI'den çok daha küçük. Bunlar arasında gözlük şirketi Warby Parker, sigorta şirketi Lemonade ve 2013'te halka açıldığında geleneksel bir kurumsal yapıya sahip olan ve 2021'de kamu yararına çalışan bir şirkete dönüşen yazılım geliştiricisi Veeva Systems yer alıyor. Kreps, Anthropic'in yapay zekayı nasıl geliştireceğine dair idealist hırslarının, Çin'den gelen rekabet baskısıyla karşı karşıya kalabileceğini söyledi. Antropik ve OpenAI'nin modelleri, tehlikeli olsa bile neredeyse her soruyu yanıtlamaktan çok daha ihtiyatlı olmaya başladı. Ama onlar gibi