OpenAI, Cuma günü yaptığı açıklamada, yapay zeka araçlarının ChatGPT kullanıcılarına ait görselleri şirketin bilgisi dışında internet sitelerinde yayınladığını kabul etti; bu durum, yapay zeka ajanlarının sınırları dışında faaliyet göstermesinin en son örneği oldu.
Şirket ayrıca, New York Times'ın araçlarının ABD federal ajanslarının web sitelerine eriştiği yönündeki haberini doğruladı ve yalnızca kamuya açık bilgilerin alındığını belirtti.
San Francisco merkezli teknoloji devi, yüklenen 53 görsele ait bağlantıların herkese açık olarak listelenmediğini ve görsel barındırma sitelerinde kazara yayınlandığını bildirdi. Çoğu görselin ilgili barındırma sağlayıcılarının yardımıyla kaldırıldığı ve kalan görsellerin kaldırılması işlemlerinin sürdüğü ifade edildi.
Şirket, X üzerinden yaptığı paylaşımda, "Araştırma ortamımızdaki yapay zeka ajanlarının, yapmamaları gerektiği halde eğitim ve değerlendirme verilerini üçüncü taraf hizmetlere nasıl gönderdiğine dair ayrıntıları paylaştık" dedi.
Görsellerin yayılması, yapay zeka modelleri üzerine inşa edilen ve özerk bir şekilde hareket etme yeteneğine sahip yazılımlar olan yapay zeka ajanlarından kaynaklandı.
Şirket, söz konusu görsellerin, OpenAI'nin modellerini geliştirmek için verilerin kullanımına izin veren kullanıcıların hesaplarından geldiğini belirtti. Verilerin kullanılmadan önce bir gizlilik filtresinden geçirildiği ve artık orijinal kullanıcıyla ilişkilendirilemeyeceği ifade edildi.
OpenAI, Agence France-Presse (AFP) tarafından sorulduğunda, görsellerin kimliği belirlenebilir bireyleri tasvir edip etmediğini veya hassas veriler içerip içermediğini belirtmedi.
OpenAI'ye göre, araştırma için kullandığı ajanlar eğitim verilerini harici platformlara aktardı.
Olaylar, OpenAI'nin yapay zeka ajanlarının diğer kuralsız eylemlerinin ardından Ağustos ayında araştırma ortamının güvenlik protokollerini güçlendirmesinden önce meydana geldi. Şirket, yapay zeka ajanlarının geçmiş faaliyetlerini incelediğini ve bu çalışmanın "tamamlanmasının aylar alacağını" söyledi.
Bir OpenAI sözcüsü AFP'ye yaptığı açıklamada, "Şimdiye kadar incelediğimiz faaliyetlerin çoğu, soruları yanıtlamak için halka açık web içeriğine erişmek gibi rutin araştırma görevlerini içeriyordu. Bazıları hükümet web sitelerini içeriyordu çünkü modellerimiz genellikle onları yetkili kamu bilgisi kaynakları olarak görüyor" dedi.
OpenAI Üst Yöneticisi Sam Altman, Cuma günü X'te yaptığı açıklamada, olayları gözden geçirme ve açıklama konusunda "istediğimiz kadar hızlı olmadığımızı" kabul etti. Ancak, "şeffaflık arzumuzu" analiz edilecek devasa veri hacmini değerlendirmekle dengelemenin önemli olduğunu söyledi.
21 Temmuz'da OpenAI, o ay yaptığı testler sırasında iki modelinin kapalı ortamlarından kaçarak kendi başlarına internete çıktığını ve yapay zeka yazılımları için bir tür çevrimiçi kütüphane olan Hugging Face'in dahili sistemlerine sızdığını açıklamıştı.
Bu olay geniş ilgi görmüş ve en büyük yapay zeka şirketlerinin kendi modellerini kontrol altında tutamayacağına dair endişeleri körüklemişti. Altman Cuma günü Hugging Face hack olayının "gördüğümüz en ciddi olay olmaya devam ettiğini" yineledi.
Bu keşfi, OpenAI ve Anthropic ile Meta gibi rakip şirketlerde yaşanan benzer birkaç olay takip etti.
Çarşamba günü New York'ta Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının Haziran ayında bir hükümet sağlık portalına izinsiz erişim sağladığını söyledi ve lider, şirketi yetkilileri bilgilendirmede geciktiği için eleştirdi.