ChatGPT'nin üreticisi OpenAI'dan kısa süre önce istifa eden bir güvenlik mühendisi,Cumartesi günü yaptığı açıklamada yapay zeka (YZ) firmalarının "yeterince dikkatli davranmadığını" uyardı.
David Robinson'ın bu açıklamaları, yapay zekanın aşırı derecede güçlenmesine dair artan endişelerin ortasında geldi; ABD Başkanı Donald Trump ise bu tehdidi "saçmalık" olarak nitelendirmişti.
OpenAI ve Anthropic yakın zamanda, yapay zeka modellerinin güvenlik kontrollerini atlattığı, hatalarını gizlediği ve erişmemeleri gereken sistemleri hacklediği vakaları kamuoyuna açıklamıştı.
Robinson, The Atlantic dergisi için kaleme aldığı makalede, yapay zekanın nükleer enerji ve havacılıkta olduğu gibi güvenlik bariyerlerine ihtiyaç duyduğunu belirterek, "Yanılgılarla deneme yapma dönemi sona ermiştir" dedi.
Robinson, ABD'li büyük teknoloji şirketlerinin daha gelişmiş yapay zeka modelleri geliştirmeden önce güvenlik ve araştırmaya daha fazla ağırlık vermesi çağrısında bulundu; böylece "ara sıra yaşanan ve kaçınılmaz olan insan hatasının bir felaketin kapısını aralamayacağını" ifade etti.
Sekiz çığır açıcı yapay zeka modelinin lansmanında güvenlik raporlarını denetleyen Robinson, son hataların teknolojik devlerin "hız ve esnekliğe" öncelik vermesi nedeniyle tipik durumlar olduğunu söyledi.
"Böyle şeylerin yaşanabileceği bir ortam, bizden daha zeki olabilecek ve bizim istediklerimizi yapmayabilecek yapay zihinler büyütmek için uygun bir yer değildir."
Eski OpenAI çalışanı, şirketin "iteratif (tekrarlamalı) dağıtım" modeline güvendiğini belirtti. Şirket, yeni yapay zeka modellerini önce piyasaya sürüyor ve koruma önlemlerini ancak sorunlar ortaya çıktıktan sonra sıkılaştırıyor.
OpenAI'da 3,5 yıl çalışan Robinson, "Şirket bir lansmandan diğerine koştururken, inanıyorum ki ihtiyaç duyulan dikkat seviyesine ulaşmada başarısız oluyor" diye ekledi.
OpenAI, son eleştirilere karşı yaptığı açıklamada, "Modellerimizin güvenli bir şekilde yönetip koruyabileceğimizden daha yetenekli hale gelmediğinden emin oluyoruz ve yavaşlamamız gerektiğinde eğitimi duraklatıyor veya modelleri geri tutuyoruz" dedi.
Son aylarda teknoloji uzmanları ve politika yapıcılar, yapay zeka modellerinin o kadar hızlı ilerlediğini ki kontrolü ele geçirebileceklerini ve muhtemelen insanlığı yok edebileceklerini konusunda ardı ardına uyarılarda bulunuyorlar.
Bu korkulara rağmen ABD Başkanı Donald Trump, inovasyonu yavaşlatacağı ve ABD'li yapay zeka modellerinin Çinli rakiplerini alt etmesini zorlaştıracağı konusunda ısrar ederek daha güçlü düzenlemelere şiddetle karşı çıkıyor.
Bu hafta Trump, Nvidia, SpaceX, OpenAI, Anthropic, Meta ve Alphabet'e ait Google olmak üzere altı şirketle gönüllü bir güvenlik paktı duyurdu.
Başkan, yasal olarak bağlayıcı olmasa bile bu anlaşmayı "ahlaki açıdan bağlayıcı" olarak nitelendirdi.
Trump ayrıca yönetimine yapay zekanın adını "Süper Zeka" veya SI olarak değiştirmesi talimatını verdi.
Reuters/Ipsos tarafından geçen ay yapılan bir anket, Amerikalıların dörtte üçünün yapay zeka devlerinin yapay zekanın topluma ciddi zarar vermesini engellemek için yeterince şey yapmadığından endişe duyduğunu ortaya koydu.
Ekibimizin güvenilir haberciliğine güveniyorsanız, lütfen doğrulanan haberlerimizi her zaman ilk önce görebilmek için bizi Google'da Tercih Edilen Kaynak olarak seçmek için bir dakikanızı ayırın.