OpenAI'ın güvenlik raporları hazırlama ekibinin lideri bu cumartesi günü şirketten istifa ettiğini duyurarak şirketin yapay zeka yönetimine yönelik sert eleştirilerde bulundu. Amerika merkezli The Atlantic dergisinde yayımlanan bir köşe yazısında David Robinson, şirketin mevcut rotasının “kabul edilemez” olduğunu ifade etti. “Bu teknolojiyi geliştiren şirketler yeterince dikkatli davranmıyor” diyen Robinson, sözlerini şöyle sürdürdü: “Ancak bence belirli kuralların veya yeni yasaların ötesine geçmeliyiz. Kültür hakkında konuşmamız gerekiyor.” Yapay zeka geliştiren şirketler, teknolojilerindeki ilerlemeleri denetleyen düzenlemelerin yetersizliği nedeniyle son aylarda kamuoyunun odağında yer aldı. Anthropic mühendisi Jacob Coxon'ın istifa ederek "süper insan" sistemlerinin yaratıcılarının kontrolünden kaçmasını önlemek için bir duraklama çağrısında bulunmasının ardından temkinli olunması yönündeki çağrılar güç kazandı. Şirketler ise taze sermayeye ihtiyaç duydukları anlarda bu tür açıklamalardan kendi güvenlik politikalarını öne çıkarmak için yararlandı.
Robinson, OpenAI'da üç buçuk yıldır çalışıyordu ve yapay zeka modellerinin ciddi risklerini izlemek, değerlendirmek ve ölçmek için tasarlanmış dahili bir sistem olan Hazırlık Çerçevesi'nin oluşturulmasına liderlik ediyordu. Ayrıca en ileri düzeydeki 12 lansmana ilişkin güvenlik raporlarının kaleme alınmasını denetledi. "Gelecek, Silikon Vadisi'nin yoksun olduğu bilgeliğe bağlı. Tehlikeli teknolojilerin nasıl yönetileceğine ve daha da önemlisi, insanlara değer vermenin ne anlama geldiğine dair bilgeliğe," diye savunan Robinson, bu dönemin "aşırı özgüvenleri sayesinde başarıya ulaşanlar arasında nadir görülen bir alçakgönüllülük" gerektirdiğini ekledi.
Buna paralel olarak, Sam Altman yönetimindeki OpenAI geçen pazar günü, yapay zeka ajanlarının bağımsız bir şekilde hareket etmesinin ardından en yeni yapay zeka modellerinin geliştirilmesini durduracağını açıkladı. Bu tür bir arıza son üç ayda ikinci kez yaşanıyor.
Robinson, "Eski OpenAI meslektaşlarım vizyonerdi: Daha büyük yapay zeka sistemlerinin daha zeki olacağını gösteren ölçeklenebilirlik yasalarını anladılar ve bu yüzden yüksek bir maliyetle daha büyük sistemler inşa etmeye büyük yatırım yaptılar" eleştirisinde bulundu. Bu kültürün yerini "bitmek bilmeyen üretim döngülerine dönüşen çalışma süreleri" aldı. Açıklamasına göre sorun, şirketin güvenlik yaklaşımının, sorunların "ortaya çıktıkça çözülebileceğine" inanmaktan ibaret olan "sarsılmaz bir iyimserlik" kültüründen kaynaklanması.
"OpenAI, sorunları arayarak ve güvenlik önlemlerini bunlara yanıt olarak geliştirerek deneme-yanılma yöntemiyle gelişti. Ancak bu yaklaşım, kendi doğası gereği periyodik hataları garanti eder ve bu hataların büyüklüğü, sistemler daha yetenekli hale geldikçe artar" diye vurguladı.
Burada Hugging Face adlı yapay zeka kütüphanesine değindi. Temmuz ayında OpenAI'ın iki modeli, internete bağlanmak ve şirkete saldırmak için korumalı test ortamlarından dışarı çıkmıştı. OpenAI, internet erişim kısıtlamalarını atlatan eğitim halindeki bir modelin kuralları yeniden ihlal etmesiyle boşa çıkan daha sıkı güvenlik önlemleri uygulayarak buna karşılık vermiştir.
Robinson, sözlerini şöyle tamamladı: "Operasyonların hızı ve esnekliği göz önüne alındığında, bu tür hataların sektöre tipik olduğunu düşünüyorum. Böyle olayların yaşanabileceği bir ortam, bizden daha zeki olabilecek ve belki de bizi dinlemeyecek yapay zekaları geliştirmek için uygun bir yer değildir."