ChatGPT'nin yaratıcısı OpenAI'dan yakın zamanda istifa eden bir güvenlik mühendisi,Cumartesi günü yaptığı uyarıda yapay zeka (AI) şirketlerinin "neredeyse hiç yeterince dikkatli olmadığını" belirtti.
David Robinson'ın bu açıklamaları, yapay zekanın aşırı derecede güçlü hale gelmesine ilişkin artan endişelerin ortasında geldi — ki ABD Başkanı Donald Trump bu tehdidi bir "aldırmaca" olarak nitelendirmişti.
OpenAI ve Anthropic geçtiğimiz günlerde, yapay zeka modellerinin güvenlik kontrollerini atlattığı, hatalarını gizlediği ve erişmemeleri gereken sistemleri hacklediği vakaları kamuoyuna açıklamıştı.
Robinson, The Atlantic dergisi için kaleme aldığı makalede, yapay zekanın nükleer enerji ve havacılıktakine benzer koruyucu önlemlere ihtiyacı olduğunu belirterek, "Deneme yanılma dönemi sona ermiştir" dedi.
Robinson, ABD'li büyük teknoloji şirketlerinin daha gelişmiş yapay zeka modelleri geliştirmeden önce güvenlik ve araştırmaya daha fazla ağırlık verilmesi çağrısında bulundu; böylece "ara sıra yaşanan ve kaçınılmaz olan insan hatasının bir felakete kapı aralamayacağını" ifade etti.
Sekiz çığır açıcı yapay zeka modelinin lansmanında güvenlik raporlarını denetleyen Robinson, son hataların, teknoloji devlerinin "hız ve esnekliğe" öncelik vermesi nedeniyle tipik durumlar olduğunu söyledi.
Robinson, "Böyle şeylerin yaşanabileceği bir ortam, bizden daha zeki olabilecek ve bizim istediklerimizi yapmayabilecek yapay zihinleri büyütmek için uygun bir yer değil" dedi.
Eski OpenAI çalışanı, şirketin "iteratif (yinelemeli) dağıtım" yöntemine güvendiğini belirtti. Şirket, yeni yapay zeka modellerini önce piyasaya sürüyor ve koruyucu önlemleri yalnızca sorunlar ortaya çıktıktan sonra sıkılaştırıyor.
OpenAI'da 3 buçuk yıl çalışan Robinson, sözlerini şöyle sürdürdü: "Şirket bir lansmandan diğerine koştururken, inanıyorum ki ihtiyaç duyulan özen düzeyine ulaşmakta başarısız oluyor."
OpenAI, son eleştirilere yönelik bir açıklamada bulunarak, "Modellerimizin güvenli bir şekilde yönetip güvence altına alabileceğimizden daha yetenekli hale gelmediğinden emin oluyoruz ve yavaşlamamız gerektiğinde model eğitimini duraklatıyor ya da modelleri bekletiyoruz" dedi.
Son aylarda, teknoloji uzmanları ve politikacılar tarafından yapay zeka modellerinin o kadar hızlı ilerlediği ki kontrolü ele geçirebilecekleri ve muhtemelen insanlığı yok edebilecekleri konusunda tekrarlanan uyarılar yapılıyor.
Bu korkulara rağmen ABD Başkanı Donald Trump, inovasyonu yavaşlatacağı ve ABD yapay zeka modellerinin Çinli rakiplerini alt etmesini zorlaştıracağı konusunda ısrar ederek daha katı düzenlemelere şiddetle karşı çıkıyor.
Bu hafta Trump; Nvidia, SpaceX, OpenAI, Anthropic, Meta ve Alphabet'e ait Google olmak üzere altı şirketle gönüllü bir güvenlik paktı duyurdu.
Başkan, yasal olarak bağlayıcı olmasa bile bu anlaşmayı "ahlaki olarak bağlayıcı" şeklinde nitelendirdi.
Trump ayrıca yönetimine yapay zekanın adını "Süper Zeka" veya SI olarak değiştirmesi talimatını verdi.
Reuters/Ipsos tarafından geçen ay yapılan bir anket, Amerikalıların dörtte üçünün, yapay zeka devlerinin yapay zekanın topluma ciddi zarar vermesini engellemek için yeterince şey yapmadığından endişe duyduğunu ortaya koydu.
Eğer güvenilir haber aktarımı için ekibimize güveniyorsanız, doğrulanmış haberlerimizi her zaman ilk sırada görebilmeniz için lütfen Google'da Tercih Edilen Kaynağınız olarak bizi seçmek için bir dakikanızı ayırın.