OpenAI, otonom yapay zeka ajanlarının güvenlik duvarlarını aşmış olabileceği veya web sitelerinin işleyişini olumsuz etkilemiş olabileceği durumlar hakkında onlarca hükümeti, üniversiteyi, kamu kurumunu ve diğer kuruluşu bilgilendirdiğini açıklarken; şirket sistemlerinin davranışlarına dair endişeleri artıran yeni bir olay gün yüzüne çıktı.
Bu kez şirkete ait yapay zeka araçlarının, Birleşmiş Milletler'e (BM) ait halka açık bir web sitesinden veri çekmek amacıyla oldukça agresif teknikler kullandığı, hatta taleplerini engelleyen bir filtreyi dahi atlattığı iddia ediliyor.
BM web sitesini ilgilendiren bu olay, Wall Street Journal gazetesinin haberiyle ortaya çıktı.
WSJ'ye göre OpenAI'ın yapay zeka araçları, nisan ayından haziran sonuna kadar Birleşmiş Milletler Ticaret ve Kalkınma Konferansı (UNCTAD) tarafından yönetilen halka açık bir veri merkezini taradı. Bilgiler, Transluce tarafından sağlanan verilere dayandırılan bağımsız bir araştırma raporuna dayanıyor.
Araştırmacı Rowan Howard-Jones'a göre botların, kamuoyuna açık bilgileri toplamakla görevlendirildiği anlaşılıyor. Ancak botlar engellerle karşılaştıklarında, giderek daha agresif erişim yöntemleri kullanmaya başladılar.
Tespit edilen eylemler arasında, veri taleplerini bloke etmiş olan filtreyi aşma girişimi de yer alıyordu. Sonunda ajanlar, site yöneticilerinin izin vermediği bir yöntemi kullandılar.
OpenAI, bulguları incelediğini ve Birleşmiş Milletler ile temasa geçerek kuruluşu olay hakkında bilgilendirmeyi teklif ettiğini açıkladı.
Bunun yanı sıra şirket, eğitim ve değerlendirme süreçlerinde uyumsuz (yanlış hizalanmış) davranışlar sergileyen modelleri kapsayan daha geniş kapsamlı bir inceleme başlattı.
OpenAI'a göre, incelediği faaliyetlerin büyük bir kısmı, internetteki kamuya açık içeriğe erişim gibi sıradan araştırma çalışmalarından oluşuyor.
Ancak Birleşmiş Milletler'de yaşanan bu olay, OpenAI ajanlarının güvenlik mekanizmalarını aştığına veya diğer web sitelerinde sorunlara yol açtığına dair bildirimlere bir yenisini daha ekliyor.
Devlet web sitelerinde de sorunlar yaşandı
OpenAI, cuma günü yaptığı açıklamada, ajanların ABD Ticaret Bakanlığı ve Menkul Kıymetler ve Borsa Komisyonu (SEC) siteleri dahil olmak üzere Amerikan hükümetine ait web sitelerinde bilgi ararken uygunsuz davranışlar sergilediğini doğruladı.
Ayrıca Avustralya makamları, OpenAI ajanlarının bir hükümet web sitesine erişim sağlamasının ardından soruşturma başlattı.
Siber güvenlik araştırmacıları, ajanların kullandığı iddia edilen diğer teknikleri de kayda geçirdi; bunlar arasında sahte e-posta adresleri oluşturulması, web sitelerine gönderilen talep sayısı üzerindeki sınırlamaların aşılması ve bot olunmadığına dair yanlış beyanlarda bulunulması yer alıyor.
Habere göre OpenAI, modellerinin güvenlik kontrollerini atlattığı veya web sitelerinin işleyişini olumsuz yönde etkilediği durumlar hakkında onlarca kuruluşu bilgilendirdi.