Üç OpenAI güvenlik araştırmacısı şirketten kovulduklarını belirterek, işten çıkarılma gerekçelerini açıkça sorguluyor.
AI güvenliği veya uyumu üzerine çalışan Mikita Balesni, Tomak Korbak ve Jasmine Wang adlı üç araştırmacı, yapay zeka sistemlerinin insan operatörlerin amaçladığı şekilde güvenli bir biçimde çalışmasını sağlamakla görevliydi.
Ancak üçlü, OpenAI ajanlarının test aşamasındayken Hugging Face adlı yapay zeka şirketine otonom bir şekilde sızdığı bir olayın soruşturulmasında kilit rol oynadıklarını söylemelerinden haftalar sonra, geçen hafta aniden işten çıkarıldıklarını belirtiyor.
Korback, X platformunda yaptığı açıklamada, OpenAI'ın Hugging Face olayını soruşturmak üzere ortaklık kurduğu AI güvenlik kuruluşu METR ile iletişim kurma biçimi nedeniyle işten çıkarıldığının kendisine söylendiğini aktardı. Korback, METR ile OpenAI’ın “ana teknik iletişim noktası” olduğunu ifade etti.
Korback, işten çıkarılmasının sebebinin "aylardır, yapay zeka ajanlarının ne düşündüğünü izleme yeteneğimizi kaybettiğimize dair güvenlik endişelerini dile getirmem, ki bu kötü davrandıklarını yakalamak için en iyi araçlarımızdan biridir" olduğunu inandığını söyledi. Ayrıca işten çıkarılmasının, OpenAI'ın yapay zeka güvenliği dünyasında saygın bir yere sahip olan METR ile bu kadar yakın çalışmayı durdurmak için bir bahane olarak kullanılmasından endişe duyduğunu ekledi.
Balesni de Korbak’ın işten çıkarılma teorilerini destekleyerek, kendisine “üçüncü taraf güvenlik kuruluşlarıyla çok fazla konuştuğunun” söylendiğini X'te yazdı. OpenAI'ın kendisinin şirkete ait fikri mülkleri sızdırdığını ima ettiğini anladığını belirten Balesni, bu suçlamayı reddetti.
Bu üç işten çıkarma, yapay zeka sektöründen içeriden kişilerin vahim güvenlik endişelerini dile getirdiği bir dönemin hemen ardından geldi. Birkaç eski yapay zeka çalışanı güvenlik endişeleri nedeniyle kamuoyuna açık istifalerde bulunurken, bu kez üç OpenAI araştırmacısı benzer endişeleri dile getirdikleri için dışlandıklarını iddia ediyor.
Wang ise kendisine işten çıkarıldığının "bir yöneticinin e-postasına eriştiği" gerekçesiyle söylendiğini, ancak bu erişimin kendisine işe alım amaçları için verildiğini ifade etti. Wang, erişim yetkisinin kaldırılmasını defalarca istediğini, ancak kazara "hassas bir e-postaya" eriştiğinde durumu "dakikalar içinde" ilgili yöneticiye ve OpenAI'ın BT ekibine bildirdiğini belirtti.
Wang, X'te "Bize sunulan fesih gerekçeleri hiçbir şekilde mantık çerçevesine oturmuyor" diye yazdı.
Wang ayrıca, "OpenAI'dan şüpheli koşullar altında dışarı itilen ilk kişiler biz olmadık" diyerek, "Çalışanlar bu tür manevralara karşı şimdi bir duruş sergilemezse, korkarım ki sonuncu da olmayacağız" diye ekledi.
Üç araştırmacı, endişelerini ve işten çıkarılma gerekçelerini anlatan bir mektubu OpenAI yönetimine iletti. İşten çıkarmaları ve mektubu ilk olarak The Wall Street Journal haberleştirdi.
Araştırmacılar, mektuplarında "Risklerin en yakınındaki insanlar birbirleriyle ve üçüncü taraflarla yüksek güvene ve yüksek bant genişliğine sahip yollarla artık çalışamadığı takdirde, süper zekaya giden yolun güvenli bir şekilde katedilebileceğine inanmıyoruz" ifadelerini kullandı ve ekledi: "Savunmaya çalıştığımız kültür tam da budur."
OpenAI, CNN'e yaptığı açıklamada, araştırmacıların güvenlik endişelerini dile getirdikleri için değil, hassas bilgilerin işlenmesine ilişkin şirket politikalarını ihlal eden belirli davranışları nedeniyle işten çıkarıldığını belirtti. Şirket ayrıca, dış değerlendirme grubuyla bilgi sızdırmanın ötesine geçen bir dizi ihlal olduğunu ve yasal olarak korunan ifşaların dışına çıkan davranışlar temelinde işten çıkarıldıklarını ifade etti.
OpenAI yayımladığı bir açıklamada, üç çalışanla "hassas şirket bilgilerine erişim ve bu bilgileri işleme politikalarımızı ihlal ettikleri için" yolları ayırdıklarını belirtti.
Açıklamada, "Yaptığımız soruşturma, bu bireylerin hassas bilgileri kötüye kullandığını doğruladı..."