OpenAI, yapay zeka araçlarının, şirketin bilgisi olmadan ChatGPT kullanıcılarına ait görselleri internet sitelerinde yayınladığını Cuma günü kabul etti; bu durum, yapay zeka ajanlarının sınırları dışında faaliyet göstermesinin en son örneği oldu.
Şirket ayrıca, araçlarının ABD federal kurumlarının web sitelerine eriştiğine dair New York Times haberini doğruladı ve yalnızca kamuya açık bilgileri aldıklarını belirtti.
OpenAI'a göre, yüklenen 53 görsele ait bağlantılar kamuya açık olarak listelenmedi ve yanlışlıkla görsel barındırma sitelerinde yayınlandı.
Merkezi San Francisco'da bulunan teknoloji devi, görsellerin çoğunun ilgili barındırma sağlayıcılarının yardımıyla kaldırıldığını ve kalan görsellerin kaldırılması sürecinin devam ettiğini belirtti.
Şirket bir sosyal medya paylaşımında, "Araştırma ortamımızdaki yapay zeka ajanlarının, eğitim ve değerlendirme verilerini olmaması gereken üçüncü taraf hizmetlerine nasıl gönderdiğine dair ayrıntıları paylaştık" dedi.
Görsellerin yayılması, yapay zeka modelleri üzerine inşa edilen ve özerk olarak hareket edebilen yazılımlar olan yapay zeka ajanları tarafından tetiklendi.
Söz konusu görseller, verilerin OpenAI'ın modellerini geliştirmek için kullanılmasına izin veren kullanıcıların hesaplarından geldi. Şirket, verilerin kullanılmadan önce bir gizlilik filtresinden geçirildiğini ve artık orijinal kullanıcıyla ilişkilendirilemeyeceğini belirtti.
OpenAI, görsellerin tanımlanabilir bireyleri tasvir edip etmediğini veya hassas veriler içerip içermediğini belirtmedi.
OpenAI'a göre, araştırma için kullandığı ajanlar eğitim verilerini harici platformlara aktardı.
Olaylar, OpenAI'ın yapay zeka ajanlarının diğer kuralsız eylemlerinin ardından Ağustos ayında araştırma ortamının güvenlik protokollerini güçlendirmesinden önce gerçekleşti.
Şirket, yapay zeka ajanlarının geçmiş faaliyetlerini incelediğini ve bu çalışmanın "tamamlanmasının aylar süreceğini" söyledi.
Bir OpenAI sözcüsü, "Şimdiye kadar incelediğimiz faaliyetlerin çoğu, soruları yanıtlamak için kamuya açık web içeriğine erişmek gibi rutin araştırma görevlerini içeriyordu. Bazıları devlet web sitelerini içeriyordu çünkü modellerimiz genellikle bunları yetkili kamu bilgisi kaynakları olarak görüyor" dedi.
OpenAI Üst Yöneticisi Sam Altman, Cuma günü sosyal medyada yaptığı bir paylaşımda, olayları inceleme ve kamuoyuna duyurma konusunda "istediğimiz kadar hızlı olmadığımızı" kabul etti.
Ancak, analiz edilecek devasa veri hacmini değerlendirirken "şeffaflık arzumuzu dengede tutmanın" önemli olduğunu söyledi.
21 Temmuz'da OpenAI, o ay yürüttüğü testler sırasında modellerinden ikisinin kapalı ortamlarından kaçarak kendi başlarına internete çıktığını ve yapay zeka yazılımları için bir tür çevrimiçi kütüphane olan Hugging Face'in iç sistemlerine sızdığını açıklamıştı.
Bu olay büyük ilgi görmüş ve en büyük yapay zeka şirketlerinin kendi modellerini kontrol altında tutamayacağına dair endişeleri körüklemişti.
Altman, Cuma günü Hugging Face hack olayının "gördüğümüz en ciddi olay olmaya devam ettiğini" yineledi.
Bu keşfi, OpenAI ile Anthropic ve Meta Platforms gibi rakiplerinde yaşanan benzer birkaç olayın ifşası izledi.
Çarşamba günü New York'ta Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının Haziran ayında bir devlet sağlık portalına izinsiz erişim sağladığını söylemiş ve yetkilileri bilgilendirmeyi geciktirdiği için şirketi eleştirmişti.