ChatGPT yaratıcısı OpenAI'dan yakın zamanda istifa eden bir güvenlik mühendisi,Cumartesi günü yaptığı uyarıda yapay zeka (YZ) firmalarının "neredeyse yeterince dikkatli olmadığını" söyledi.
David Robinson'ın bu açıklamaları, yapay zekanın çok fazla güç kazanmasına dair artan endişelerin ortasında geldi; ABD Başkanı Donald Trump ise bu tehdidi "bir aldatmaca" olarak nitelendirmişti.
OpenAI ve Anthropic kısa süre önce yapay zeka modellerinin güvenlik kontrollerini atlattığı, hatalarını gizlediği ve erişmemeleri gereken sistemleri hacklediği vakaları kamuoyuna açıklamıştı.
The Atlantic dergisi için bir makale kaleme alan Robinson, yapay zekanın nükleer enerji ve havacılıktakine benzer koruma kalkanlarına ihtiyaç duyduğunu belirtererek, "Deneme yanılma dönemi sona ermiştir" dedi.
Robinson, ABD'li büyük teknoloji şirketlerinin daha gelişmiş yapay zeka modelleri geliştirmeden önce güvenlik ve araştırmaya daha fazla ağırlık vermesi çağrısında bulundu; böylece "ara sıra yaşanan ve kaçınılmaz olan insan hatasının bir felaketin kapısını aralamayacağını" ifade etti.
10 öncü yapay zeka modelinin lansmanında güvenlik raporlarını denetleyen Robinson, son hataların tipik olduğunu çünkü teknoloji devlerinin "hız ve esnekliği" önceliklendirdiğini söyledi.
"Böyle şeylerin yaşanabileceği bir ortam, bizden daha akıllı olabilecek ve bizim istediklerimizi yapmayabilecek yapay zihinleri büyütmek için uygun bir yer değildir."
Eski OpenAI çalışanı, şirketin "iteratif (yinelemeli) dağıtıma" güvendiğini belirtti. Şirket, yeni yapay zeka modellerini önce piyasaya sürüyor ve koruma önlemlerini ancak sorunlar ortaya çıktıktan sonra sıkılaştırıyor.
OpenAI'da 3 buçuk yıl çalışan Robinson, sözlerini şöyle sürdürdü: "Şirket bir lansmandan diğerine koşarken,inidgim inanıyorum ki gerekli olan özen seviyesine ulaşmada başarısız oluyor."
OpenAI, son eleştirilere yaptığı bir açıklamayla yanıt verdi: "Modellerimizin güvenli bir şekilde yönetip güvence altına alabileceğimizden daha yetenekli hale gelmediğinden emin oluyoruz ve yavaşlamamız gerektiğinde eğitimi duraklatıyor veya modelleri bekletiyoruz."
Son aylarda teknoloji uzmanları ve politikacılar tarafından, yapay zeka modellerinin o kadar hızlı ilerlediğine dair tekrar eden uyarılar yapılıyor ki bu durum kontrolü ele geçirmelerine ve hatta insanlığın sonunu getirmelerine yol açabilir.
Bu korkulara rağmen ABD Başkanı Donald Trump, daha güçlü düzenlemelere şiddetle karşı çıkıyor ve bunun inovasyonu yavaşlatacağını ve ABD'li yapay zeka modellerinin Çinli rakiplerini alt etmesini zorlaştıracağını savunuyor.
Bu hafta Trump, Nvidia, SpaceX, OpenAI, Anthropic, Meta ve Alphabet'e ait Google olmak üzere altı şirketle gönüllü bir güvenlik paktı duyurdu.
Başkan, yasal olarak uygulanamaz olsa bile bu anlaşmayı "ahlaki açıdan bağlayıcı" olarak nitelendirdi.
Trump ayrıca yönetimini yapay zekanın (AI) adını "Süper Zeka" veya SI olarak değiştirmesi için talimatlandırdı.
Reuters/Ipsos tarafından geçen ay yapılan bir anket, Amerikalıların dörtte üçünün, yapay zeka devlerinin yapay zekanın topluma ciddi zarar vermesini engellemek için yeterince şey yapmadığından endişe duyduğunu ortaya koydu.
Eğer güvenilir haberler için ekibimize güveniyorsanız, doğrulanmış haberlerimizi her zaman ilk sırada görebilmeniz için lütfen bir dakikanızı ayırıp bizi Google üzerinde Tercih Edilen Kaynak olarak seçin.