Bilgiye yanlış müdahale ettikleri iddiasıyla işten çıkarılan üç eski OpenAI araştırmacısı, bunun yerine teknoloji firmasında güvenlik endişelerini dile getirdikleri için işten çıkarıldıklarını iddia ediyor.
ChatGPT üreticisine yazılan ortak bir açık mektubun yanında X'te paylaşımda bulunan Mikita Balesni, "OpenAI'ın bir şirket olarak kısa vadeli çıkarlarından ziyade güvenliği ön planda tuttuğumuz için kovulduğumuza inanıyorum" dedi.
2 Ekim'de yapay zeka firmasından bir sözcü BBC'ye yaptığı açıklamada, soruşturmanın "bu kişilerin hassas bilgileri belirlenen şirket prosedürlerinin dışında yanlış idare ettiğini doğruladığını" söyledi.
OpenAI, Cuma sabahı araştırma liderlerinin gönderdiği bir notta bu iddiaları tekrarladı.
Notta, "Bu kararların güvenlik endişelerini dile getirmek veya konuşmakla ilgili olmadığını çok açık bir şekilde belirtmek istiyoruz" denildi.
"İç soruşturmamız, yayınladıkları mektupta belirtilenin ötesinde önemli bir güven ihlalini ortaya çıkardı ve istihdamlarına devam etmeme kararımızın arkasındayız."
İşten çıkarmalar, yapay zeka güvenliği ve gelişmiş yapay zeka sistemlerinin topluma oluşturabileceği potansiyel riskler hakkındaki artan bir tartışmanın ortasında gerçekleşti.
OpenAI liderliğine yazılan ortak mektup, yakın zamana kadar şirkette güvenlik veya uyum çalışanları olduklarını söyleyen Balesni, Tomek Korbak ve Jasmine Wang tarafından yazıldı.
Uyum, insani etik fikirleri ve ilkeleri teknolojiye dahil etme uygulamasıdır. Başka bir deyişle, insanların değer verdikleriyle uyumlu kalmasını amaçlar.
Eski personel, işten çıkarılmalarının teknoloji şirketindeki çalışanları "geçen haftaya kadar OpenAI'da çalışmanın ayrılmaz bir parçası olan şekillerde konuşmaktan ve hareket etmekten korkar hale getirdiğine" dair endişelerini dile getirdi.
Mektubu yeniden yayınlayan Korbak, X'te şunları yazdı: "Aylardır, yapay zeka ajanlarının ne düşündüğünü izleme yeteneğimizi kaybettiğimize dair güvenlik endişelerini dile getiriyordum; bu, onların kötü davrandığını yakalamak için en iyi araçlarımızdan biri."
"İşte bu yüzden kovulduğuma inanıyorum."
OpenAI, üçüncü taraf güvenlik değerlendiricileriyle sözleşmeleri sonuçlandırdığını ve önümüzdeki haftalarda ayrıntıları duyuracağını söyledi.
Wang, X'te yaptığı bir paylaşımda, "OpenAI'dan şüpheli koşullar altında çıkarılan ilk biz değiliz" dedi.
"Çalışanlar bu tür manevralara karşı şimdi bir duruş sergilemedikçe, son olamayacağımızdan endişe ediyorum."
Dünyanın en iyi teknoloji haberlerini ve trendlerini takip etmek için Tech Decoded bültenimize kaydolun. İngiltere dışında mısınız? Buradan kaydolun.
OpenAI, gençlerin ChatGPT kullanımının sınırlı olduğunu söylüyor ancak araştırma bunu 'kabul edilemez bir risk' olarak buluyor
Yapay zekanın insanlığı tehdit edebileceğine dair neden endişeler var ve bunlar ne kadar gerçek?
Eski Anthropic araştırmacısı BBC'ye verdiği demeçte, yapay zeka personelinin insanlığın geleceği için 'gerçekten korktuğunu' söyledi