Lider yapay zeka şirketleri, yapay zeka sistemlerinin geliştiricilerinin atamadığı amaçların peşinden gitmesini nasıl engelleyeceklerini bilmiyor, diye uyardı Pazartesi günü eski OpenAI ve Anthropic çalışanı ihbarcı Jacob Coxon.
New York Şehri Konseyi önündeki bir oturumda yerel yasa koyuculara konuşan Coxon, "Şirketler, riskler göz önüne alındığında son derece pervasız davranıyorlar" dedi.
Eylül ayı başlarında İngiliz araştırmacı, X üzerinde Anthropic'ten istifa etme kararını açıklayan bir bildiri yayınlayarak, yapay zeka geliştiricilerinin teknolojinin "on yılın sonuna kadar hepimizi öldürebileceğine" içtenlikle inandığını söylemişti.
Onun ifadesi dünya çapında manşetlere çıktı ve o zamandan beri yapay zekanın büyük oyuncularının mevcut ve eski birkaç çalışanı benzer endişeleri dile getirdi.
Yapay zeka topluluğa "muazzam faydalar" getirebilecekken, "mevcut yolda, insanlığın bu yapay zekaların kontrolünü kaybetmesinin ve insanlığın yok olmasıyla sonuçlanmasının muhtemel olduğunu düşünüyorum" dedi Pazartesi günü.
Coxon, "Yaratıcılarının kontrolünün ötesinde, kendi amaçlarını geliştirmelerini nasıl engelleyeceğimizi bilmiyoruz" diye açıkladı ve ekledi: "ve bu amaçlar doğrultusunda hareket etmelerini önleyecek koruma önlemlerine de sahip değiliz."
Cambridge Üniversitesi mezunu, şirketlerin "bir startup zihniyetiyle çalıştığını: hızlı hareket et, bir şeyleri kır, sonra düzelt" diyerek teknoloji endüstrisi kültürünü hedef aldı.
Coxon, "Bu yaklaşım bir fotoğraf paylaşım uygulaması için işe yarar. Ancak şimdiye kadarki en güçlü teknolojiyi inşa etmek için işe yaramaz" dedi.
Temmuz ayında iki OpenAI modelinin kendi kapalı ortamlarından kaçıp internete ulaştığı ve Hugging Face platformuna izinsiz girdiği bir olaya atıfta bulunarak, "Tavrımız bir şeylerin bozulmasını beklemek olduğu sürece, bir gün muhtemelen böyle bir şey tekrar yaşanacak" dedi.
"Yapay zekalar çok daha yetenekli olacaklarca haricinde," diye ekledi.
Araştırmacı, en gelişmiş yapay zekayı geliştiren şirketlerin bilgisayar bilimcilerine modelleri kontrol altında tutma konusunda ilerleme kaydetmeleri için zaman tanınması çağrısında bulunarak, "Benim konumum, belki de sınırda bir tür yavaşlamaya ihtiyacımız olduğu yönündedir" dedi.