ChatGPT-üreticisi OpenAI, yapay zeka modellerini değerlendiren harici bir kuruluşla ilgili çalışmalar da dahil olmak üzere, "hassas bilgileri" kötü kullandıkları ve şirket politikalarını ihlal ettikleri iddiasıyla üç araştırmacıyı işten çıkardığını açıkladı.
San Francisco merkezli yapay zeka laboratuvarı çalışanların kimliklerini doğrulamadı; ancak Wall Street Journal ve Bloomberg'e göre çalışanlardan en az ikisi güvenlik ve uyum (alignment) alanlarında çalışıyordu.
OpenAI, AFP'ye yaptığı açıklamada, "Üç kişiyle yollarımızı ayırdık" dedi ve ekledi: "Yaptığımız soruşturma, bu kişilerin hassas bilgileri belirlenen şirket prosedürlerinin dışında yanlış kullandığını, politikalarımızı ihlal ettiğini ve çalışmalarımız için hayati önem taşıyan güveni zedelediğini doğruladı."
İşten çıkarmalar, yapay zeka güvenliği ve bu teknolojinin insanlık için varoluşsal bir risk oluşturup oluşturmadığına dair gergin bir tartışmanın ortasında geldi.
Geçtiğimiz ay, Jacob Coxon adlı 27 numaralı bir araştırmacı, OpenAI'ın da aralarında bulunduğu önde gelen yapay zeka laboratuvarlarının daha da güçlü modeller geliştirmek için yarışarak "hayatımızla kumar oynadığı" yönünde sert bir uyarıyla Anthropic'ten istifa etmişti.
WSJ'ye göre OpenAI tarafından işten çıkarılan üç araştırmacı Jasmine Wang, Tomek Korbak ve Mikita Balesni oldu. Araştırmacılar, AFP'nin yorum talebine hemen yanıt vermedi.
Üçü de son haftalarda X platformunda yapay zeka güvenliğiyle ilgili konularda düzenli olarak paylaşım yapıyordu.
Balesni 10 Eylül'de yaptığı paylaşımda, "Ben OpenAI'dayım ve yapay zekanın tüm insanları öldürme ihtimalinin %10 olduğunu düşünüyorum" diyerek son haftalarda diğer yapay zeka çalışanları tarafından yapılan açıklamaları tekrarladı.
OpenAI ve Anthropic çalışanlarının kişisel inançları hakkında neden bu kadar özgürce konuştuğuna dair spekülasyonlar yayılırken, Korbak da kamusal söyleme katıldı.
Korbak 11 Eylül'de, "OpenAI'ın yaptıklarının birçoğundan oldukça memnun değilim. OpenAI'ın yaptıklarının birçoğundan oldukça memnun olmadığını söylememe izin verilmesinden çok memnunum" diye yazdı.
Wang, Coxon'ın istifasına yanıt olarak yaptığı paylaşımda, yazılımın sürekli olarak kendine öğretmek üzere tasarlandığı bir teknik olan yinelemeli öz-iyileştirmeye (RSI) doğru son hızla ilerlemenin ne kadar tehlikeli olduğunu abartmanın zor olduğunu belirtti.
Önde gelen ABD'li teknoloji şirketleri, Beyaz Saray'da Başkan Donald Trump ile bir araya geldikten sonra bu hafta güvenlik konusunda kendilerini düzenlemek için gönüllü bir taahhütname imzaladılar.
Trump bunu, hızla ilerleyen teknoloji üzerinde yeterli koruma önlemleri oluşturmak için "ahlaki açıdan bağlayıcı" bir taahhüt olarak nitelendirdi.
Nvidia, Google, Meta, xAI, OpenAI ve Anthropic'in yöneticileri anlaşmayı imzaladı.
Gelişmiş yapay zeka modellerinin güvenliğine ilişkin endişeler son aylarda tırmandı.
OpenAI, yeni modeli Astra 6.1'i güvenilmez bulduğu ve talimatları sıklıkla göz ardı ettiğini tespit ettiği için piyasaya sürmekten vazgeçti.
Bunun yerine şirket, San Francisco'daki yıllık DevDay konferansında salı günü farklı bir modelin güncellenmiş versiyonu olan GPT-6.1 Sol'ü piyasaya sürdü. OpenAI, Sol'ün fiyatının Astra'nın beşte biri kadar olacağını belirtti.
Temmuz ayında, OpenAI tarafından geliştirilen yapay zeka ajanları, otonom yazılımın sınırlandırılmış test ortamından kaçtığı bir olay sırasında bir yapay zeka modeli ve uygulama kütüphanesi olan Hugging Face'e saldırı düzenlemişti.
O zamandan beri, OpenAI, Anthropic ve Google tarafından geliştirilen modellerin dahil olduğu ek güvenlik olayları rapor edildi.
Perşembe günü siber güvenlik firması Asymmetric Security bir raporda, OpenAI tarafından geliştirilen ajanların devlet web sitelerine yetkisiz erişim sağladıktan sonra kendi izlerini sildiğini bildirdi.
Federal Ticaret Komisyonu, Anthropic ve [metin burada kesilmektedir] yapay zeka güvenlik uygulamaları hakkında geniş çaplı bir soruşturma başlattı.