ChatGPT'nin yapay zeka ajanları, OpenAI politikasını ihlal ederek bazı kullanıcıların fotoğraflarını izinsiz bir şekilde internette yayınladı; şirket Cuma günü bu açıklamayı yaptı. OpenAI ayrıca, yapay zeka ajanlarının ABD federal ajanslarına ait web sitelerine eriştiğine dair haberleri doğruladı, ancak bu ajanların yalnızca kamuya açık bilgileri aldığını ekledi.
OpenAI, yapay zeka araçlarının, şirketin bilgisi dışında ChatGPT kullanıcılarına ait fotoğrafları internet sitelerinde yayınladığını Cuma günü kabul etti; bu olay, yapay zeka ajanlarının sınırları dışında faaliyet gösterdiğinin en son örneği oldu.
Şirket ayrıca, New York Times'ın araçlarının ABD federal ajanslarının web sitelerine eriştiğine dair haberini doğrulayarak, bu araçların yalnızca kamuya açık bilgileri aldığını belirtti.
Devamını oku: Yapay zeka liderleri BM'de ihtiyat çağrısında bulundu, Anthropic CEO'su yavaşlama taahhüdü verdi
OpenAI'a göre, yüklenen 53 fotoğrafa ait bağlantılar herkesin görebileceği şekilde listelenmemişti ve yanlışlıkla görsel barındırma sitelerinde yayınlandı.
Merkezi San Francisco'da bulunan teknoloji devi, fotoğrafların çoğunun ilgili barındırma sağlayıcılarının yardımıyla kaldırıldığını ve kalan fotoğrafların kaldırılması sürecinin devam ettiğini söyledi.
Şirket, X platformunda yaptığı bir paylaşımda, "Araştırma ortamımızdaki yapay zeka ajanlarının, yapmamaları gerektiği halde eğitim ve değerlendirme verilerini üçüncü taraf hizmetlerine nasıl gönderdiğine dair ayrıntıları paylaştık" dedi.
Fotoğrafların yayılması, yapay zeka modelleri üzerine inşa edilen ve özerk bir şekilde hareket etme yeteneğine sahip yazılımlar olan yapay zeka ajanlarından kaynaklandı.
Söz konusu fotoğraflar, OpenAI'ın modellerini geliştirmek amacıyla verilerin kullanımına izin veren kullanıcıların hesaplarından geldi. Şirket, verilerin kullanımdan önce bir gizlilik süzgecinden geçirildiğini ve artık orijinal kullanıcıyla ilişkilendirilemeyeceğini belirtti.
OpenAI, AFP tarafından sorulduğunda, fotoğrafların kimliği belirlenebilir kişileri içerip içermediğini veya hassas veriler barındırıp barındırmadığını belirtmedi.
Devamını oku: Başbakan, OpenAI yapay zeka ajanının Avustralya hükümet web sitesine sızdığını söyledi
OpenAI'a göre, araştırma için kullandığı ajanlar, eğitim verilerini harici platformlara iletti.
Olaylar, OpenAI'ın, yapay zeka ajanlarının diğer denetimsiz eylemlerinin ardından Ağustos ayında araştırma ortamının güvenlik protokollerini güçlendirmesinden önce meydana geldi.
Şirket, yapay zeka ajanlarının geçmiş faaliyetlerini incelediğini ve bu çalışmanın "tamamlanmasının aylar süreceğini" belirtti.
Bir OpenAI sözcüsü, "Şimdiye kadar incelediğimiz faaliyetlerin çoğu, soruları yanıtlamak için kamuya açık web içeriğine erişmek gibi rutin araştırma görevlerini içeriyordu. Bazıları hükümet web sitelerini içeriyordu çünkü modellerimiz genellikle bunları yetkili kamusal bilgi kaynakları olarak görüyor" dedi.
OpenAI Üst Yöneticisi Sam Altman Cuma günü X'te yaptığı açıklamada, olayları inceleme ve kamuoyuna duyurma konusunda "istediğimiz kadar hızlı olmadığımızı" kabul etti.
Ancak Altman, analiz edilecek devasa veri hacmini değerlendirirken "şeffaflık arzumuzu" dengede tutmanın önemli olduğunu söyledi.
21 Temmuz'da OpenAI, o ay yaptığı testler sırasında iki modelinin kapalı ortamlarından kaçarak kendi başlarına internete çıktığını ve yapay zeka yazılımları için bir tür çevrimiçi kütüphane olan Hugging Face'in dahili sistemlerine sızdığını açıklamıştı.
Bu olay büyük ilgi görmüş ve en büyük yapay zeka şirketlerinin kendi modellerini kontrol altında tutamayacağına dair endişeleri körüklemişti.
Altman Cuma günü, Hugging Face sızıntısının "gördüğümüz en ciddi olay olmaya devam ettiğini" yineledi.
Bu keşfi, OpenAI ile Anthropic ve Meta gibi rakiplerinde yaşanan benzer birkaç olayın ifşası takip etti.
Çarşamba günü New York'ta, Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının yetkisiz