Daha sonra okumak veya başvurmak üzere favori makalelerinizi ve hikayelerinizi favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. Bir şirket Wall Street'te hisse satmaya başladığında yatırımcılar için potansiyel riskleri açıklaması gerekir. Yapay zeka devi Anthropic'in durumunda, bu, ürünlerinin insanlığı kendisinden daha azını tehdit etme olasılığını da içeriyordu. San Francisco şirketinin Pazartesi günü Menkul Kıymetler ve Borsa Komisyonu'na sunduğu dosyada ortaya koyduğu riskler arasında, ölümcül silahlar üretmek için yapay zeka modellerini kullanma potansiyeli olan kötü aktörlerin veya teknolojinin kendisinin anlatılmamış sonuçlar doğuracak şekilde hileye başvurduğu tartışmaları da yer alıyordu. Anthropic'in mali durumu, yönetici maaşları, temettü politikası ve benzerlerini özetleyen 335 sayfanın 93 sayfası, potansiyel hissedarların yatırımlarına zarar verebilecek "risk faktörlerine" ayrılmıştır. Rakip SpaceX'in listelediği risk faktörleri ise 250'den fazla sayfanın 38'ini kapsıyordu.
Anthropic, kendisini yatırımcılara satarken, yapay zekanın oluşturduğuna inandığı riskleri azaltmaya yönelik bir adım olarak kendi ilk halka arzını sunuyor. Şirketin kurucuları, halka arz başvurusunda potansiyel hissedarlara yazdıkları bir mektupta, "Yapay zeka geliştirmek, bilişin kendisini kullanmaktır ve bu kadar güçlü olan her şey, iyilik için olduğu kadar kötülük için de kullanılabilir" diye yazmışlardı. "Anthropic, büyük ölçüde dünyanın yapay zekanın faydalarını anlamasına ve tehlikelerinden kaçınmasına yardımcı olmak için kurulmuş, derinden değer odaklı bir organizasyondur." Yine de riskler çoktur. Bunlar sıradan konulardan (kilit personeli elinde tutamama veya düzenleyici engelleri aşamama olasılığı) siber saldırılara karışma ve tehlikeli yanlış bilgilerin yayılmasına kadar uzanıyor. İşte bazı risklere bir bakış: Antropik ayrıntılar:
Anthropic, modellerinin o kadar hızlı gelişebileceğini ve şirketin yeterli güvenlik önlemlerini uygulayamayacak hale gelebileceğini, bunun da güvenlik olayları, düzenleyici müdahaleler veya itibar kaybı olasılığını artırabileceğini ve işimizi olumsuz yönde etkileyebileceğini söyledi. Anthropic CEO'su Dario Amodei, Eylül ayında yapay zekanın 6 ila 12 ay içinde tüm interneti ele geçirebilecek bir ajan sürüsüne liderlik edebileceği konusunda uyardı. Uyarı ve şimdi de Anthropic'in hisse satma hamlesi, yapay zekanın endüstri içinde ve dışında insan kapasitesinin ötesindeki sorunları çözen, ancak aynı zamanda daha zararlı başka görevleri yerine getirmek için kendi başına hareket edebilen giderek daha güçlü sistemlere ilişkin endişelerin artmasıyla birlikte geliyor. SEC dosyasında, yapay zeka sistemleri "daha özerk hale geldikçe ve daha az insan gözetimi ile sonuç niteliğindeki eylemleri gerçekleştirme kapasitesine sahip hale geldikçe", bu tür sistemlerin "insan müdahalesi olmadan bağımsız olarak ve geniş ölçekte zararlı eylemlerde bulunabilme" riski olduğu belirtildi.
Anthropic, "Kendi modellerimiz bu tür bir zarara yol açmasa bile, sınırdaki herhangi bir yapay zekayı içeren önemli bir güvenlik olayı, yapay zeka endüstrisinde geniş çaplı itibar hasarını, kamuoyunun tepkisini ve işimizi olumsuz yönde etkileyebilecek kapsamlı düzenleyici tepkileri tetikleyebilir" dedi. Artık yapay zeka modelleri Anthropic'in kendi araştırma ve geliştirmesine katkıda bulunduğuna göre, dosyaya göre yapay zekanın "yeni modelleri değerlendirme ve koruma yeteneğimizin ötesinde" ilerlemesi mümkün. This, the document said, could adversely affect Anthropic’s business. Kötü niyetli aktörler teknolojiyle kargaşaya neden olabilir Başvuruda, gelişmiş yapay zeka sistemlerinin, yeterli koruma ve gözetim altında geliştirilip çalıştırılmadığı takdirde, "özellikle de böyle olması durumunda insanlık için felaket veya varoluşsal riskler oluşturabileceği" yönündeki endişeler tartışıldı.