OpenAI, aralarında yapay zeka modellerini analiz eden dış bir kuruluşla ilgili çalışmaların da yer aldığı bilgileri yanlış yönettiği iddia edilen üç araştırmacıyı işten çıkardı.
Bir şirket sözcüsü BBC'ye yaptığı açıklamada, "Yaptığımız soruşturma, bu kişilerin hassas bilgileri belirlenmiş şirket prosedürlerinin dışında yönettiğini, politikalarımızı ihlal ettiğini ve çalışmalarımız için hayati önem taşıyan güveni zedelediğini doğruladı" dedi.
ChatGPT'nin üreticisi işten çıkarılan çalışanların isimlerini açıklamadı, ancak bunlardan en az ikisinin şirkette güvenlik araştırmaları yürüttüğü biliniyor.
İşten çıkarmalar, son haftalarda yapay zeka güvenliği ve bu teknolojinin insanlığa oluşturabileceği riskler hakkındaki tartışmaların yoğunlaştığı bir dönemde gerçekleşti.
OpenAI sözcüsü, "Hassas şirket bilgilerine erişim ve bu bilgilerin yönetimiyle ilgili politikalarımızı ihlal eden üç kişiyle yollarımızı ayırdık" dedi.
BBC'nin edindiği bilgiye göre eski çalışanlar, güvenlik endişelerini dile getirdikleri için değil, hassas bilgileri yanlış yönettiği iddia edildiği için işten çıkarıldı.
Bazı araştırmacıların ve sektör yöneticilerinin teknoloji etrafında daha fazla güvenlik önlemi alınması çağrısında bulunmasının ardından, yapay zeka güvenliğine ilişkin endişeler manşetlerde yer buldu.
OpenAI, modellerinin kontrolden çıkarak Avustralya hükümet metinleri dahil olmak üzere çeşitli platformları hacklemesinin ardından yoğun bir inceleme altına girdi.
Bir diğer olayda ise OpenAI sistemi internete erişmiş ve açık kaynaklı geliştirici platformu Hugging Face'e sızmıştı.
Bu olay, OpenAI'ın basit talimatlara dayanarak görevleri özerk bir şekilde yürütmek üzere tasarlanan ve 'ajan' adı verilen yapay zeka modellerinin faaliyetleri üzerine kapsamlı bir inceleme başlatmasına yol açtı.
Yapay zeka laboratuvarı bu hafta yaptığı açıklamada, yapay zeka sistemleriyle bağlantılı yetkisiz faaliyetleri içeren olaylar hakkında 100'den fazla kuruluşu bilgilendirdiğini duyurdu.
OpenAI, bildirim almanın "herhangi bir özel bilgiye erişildiği" veya bir sistemin tehlikeye atıldığı anlamına gelmediğini belirtti.
Trump'ın 'Süper Zeka' Zirvesi'nden üç önemli çıkarım
OpenAI, kontrolden çıkan yapay zekasının diğer şirketleri hacklemeye çalıştığını söylüyor
OpenAI, güvenlik endişeleri nedeniyle yeni modelin piyasaya sürülmesini rafa kaldırdı
Eylül ayında, Anthropic'ten ayrılan araştırmacı Jacob Coxon, potansiyel risklerinin düzgün bir şekilde değerlendirilebilmesi için yapay zeka geliştirme sürecinin yavaşlatılması çağrısında bulunmuştu.
Anthropic'in patronu Dario Amodei ve OpenAI'ın baş yöneticisi Sam Altman da yapay zeka konusundaki endişeleri ele almak için önlemler alınmasını talep etmişti.
Salı günü ABD Başkanı Donald Trump, yapay zekayı görüşmek üzere OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google liderleri dahil olmak üzere teknoloji dünyasının önde gelen isimleriyle bir toplantıya ev sahipliği yaptı.
Beyaz Saray'daki buluşmanın ardından Trump, yapay zekanın potansiyel risklerine karşı bir "koruma biçimi" olarak hizmet edeceğini söylediği "ahlaki açıdan bağlayıcı" nitelikte bir belge yayınladı.
Bazı teknoloji uzmanları, bu anlaşmanın yapay zeka şirketlerinin kendilerini denetlemesine izin verdiğine dikkat çekerek paketi eleştirdi.
Trump, bazı sektör figürlerinin teknoloji üzerinde daha sıkı denetim uygulanması yönündeki çağrılarına karşılık, yapay zekanın riskleriyle ilgili endişeleri defalarca küçümsemiştir.