Yapay zekâ teknolojisinin "insanlık için varoluşsal riskler" barındırabileceğine dair yatırımcılara yönelik uyarılar, geçtiğimiz günlerde küçük bir ortak grubuna dağıtılan ilk halka arz (IPO) bilgilendirme bülteninde yer aldı.
Değeri artık milyarlarca dolarla ölçülen yapay zekâ girişimi, kapsamlı başvurusunun neredeyse üçte birini "risk faktörlerinin" ayrıntılı bir açıklamasına ayırdı. Bu bölümde, giderek daha gelişmiş hale gelen yapay zekâ modellerinin manipülasyon yapma, şantajda bulunma ve diğer öngörülemeyen davranışlar sergileme potansiyeline dikkat çekildi.
Başvuruyu bilen kaynaklara göre bültende, müşteri tabanındaki aşırı yoğunlaşma gibi daha pratik riskler de tanımlandı; nitekim geçen yılki gelirlerin neredeyse dörtte biri yalnızca iki müşteriden elde edilmişti.
Risk bildirimlerindeki son derece ciddi uyarılar, tüm zamanların en yüksek değerli halka arzına hazırlanan önde gelen Amerikan yapay zekâ grubunu değerlendirirken yatırımcıların karşılaştığı zorluğu daha da artırıyor.
Şirketin bu sonbaharda gerçekleşmesi beklenen borsa kotasyonu öncesinde, en son teknoloji yapay zekâ modellerini geliştirmenin beraberinde getirdiği finansal zorluklara dair yatırımcılara daha net bir tablo sunuldu. Anthropic, hızlı büyümesini desteklemek amacıyla önümüzdeki yıllarda bulut bilişim, bilgi işlem ve altyapı yükümlülükleri için milyarlarca dolar harcamayı planladığını belirtti.
Grubun finansörleri, Anthropic'in mayıs ayındaki son finansman turunda ulaşılan seviyeyi ikiye katlayarak ve haziran ayında bu eşiği geride bırakarak elli milyar doların üzerinde bir değerlemeyle halka açılabileceğine ikna olmuş durumda. Yatırımcılar, olağanüstü büyüme hızına işaret ederek bu iyimserliği haklı çıkarmaya çalışıyorlar.
Ancak, yapay zekânın barındırdığı risklere ilişkin endişeler, Anthropic'in mevcut ve eski yöneticilerinin, kontrolsüz yapay zekânın on yıl içinde insanlığın yok olmasına yol açabileceği yönünde kamuoyuna uyarılar yayınlamasıyla bu iyimserliği gölgelemekle tehdit ediyor.
Bu bağlamda Amodei, geçen hafta BM Güvenlik Konseyi'nde yaptığı açıklamada, yapay zekânın insanlığı tehdit edebileceğini ve bunun "dünyanın bugün karşı karşıya olduğu en önemli küresel güvenlik sorunu" olduğunu belirtti. Anthropic lideri, bu ay yapay zekânın "gelişiminin yavaşlatılması" yönündeki kamuoyu çağrılarında öncülük etti. Sektörde güvenliği artırmak ve gelişimi yavaşlatmak amacıyla iş birliği yapma çağrılarında Amodei'nin sektördeki başlıca rakibi de nadir bir birliktelik anında kendisine katıldı.
Güvenlik endişeleri, yapay zekâ "ajanlarının" dış sistemleri ihlal ettiği yüksek yankı uyandıran bir dizi siber güvenlik olayının ardından yoğunlaştı. Geçen hafta OpenAI, araçlarının hükûmet siteleri de dahil olmak üzere "onlarca" harici web sitesine sızdığını açıkladı. ChatGPT'nin yaratıcısı, güvenlik endişelerini gerekçe göstererek pazartesi günü en yeni modelini gelecek ay piyasaya sürme planlarını iptal etti.
Zararlardan etkileyici gelir artışına
Anthropic'in bilgilendirme bülteni, şirketin finansal yapısı ve operasyonel detaylarına dair de önemli ipuçları barındırıyor.