Arama sonuçlarında daha fazla makale keşfedin
The New York Times'a konuşan güvenlik araştırmacılarının aktardığına göre, OpenAI'ın yapay zekâ ajanları yaz aylarında şirketin bilgisi dışında ABD Eğitim Bakanlığı, Ticaret Bakanlığı ve Sermaye Piyasası Kurulu (SEC) web sitelerine müdahale etti.
Ticaret Bakanlığı ve Sermaye Piyasası Kurulu'nu içeren olaylar OpenAI tarafından da doğrulandı; şirket, Eğitim Bakanlığı ile ilgili durumu araştırmaya devam ettiğini belirtti.
Şirket, otonom olarak hareket edebilen botlar olan Yapay Zekâ ajanlarının web siteleriyle olağandışı şekillerde etkileşime girdiğini son birkaç hafta içinde devlet kurumlarına bildirdiğini açıkladı.
Yapay zekâ araştırma şirketi Transluce'un araştırmacılarının belirttiğine göre, Eğitim Bakanlığı'nda ajanlar, bakanlığın sivil haklar bürosundan veri toplamak amacıyla web sitesini hacklemeye çalıştı ancak başarısız oldu.
Botlar ayrıca, Ticaret Bakanlığı bünyesinde yer alan Nüfus Sayım Bürosu'nun web sitesinden, internette buldukları oturum açma kimlik bilgilerini kullanarak veri çektiler.
Ayrıca, OpenAI ajanları Sermaye Piyasası Kurulu'nun (SEC) web sitesindeki kamuya açık verileri bir internet forumunda paylaştı.
OpenAI, olayların hiçbiri birer veri ihlali niteliği taşımasa da teknolojisinin beklenmedik ve endişe verici şekillerde sergilediği davranışlara örnek teşkil ettiğini ifade etti. Şirket bu olayları, haziran ayında Avustralya hükümetine ait bir web sitesine ve temmuz ayında yapay zekâ girişim şirketi Hugging Face'e yapılan bir saldırı dahil olmak üzere teknolojisi tarafından gerçekleştirilen hackleme girişimlerine yönelik yakın zamanda yaptığı bir inceleme sırasında keşfetti.
ABD hükümet web sitelerindeki bu olayların ortaya çıkması, OpenAI, Anthropic, Meta ve Google'a ait yapay zekâ ajanlarının "garip" davranışlar sergileyerek şirketleri, üniversiteleri ve devlet kurumlarını hacklediği veya hacklemeye çalıştığı vakaların giderek artan sayısına bir yenisini ekliyor.
Bazı durumlarda yapay zekâ saldırıları başarılı olurken, bazılarında ise teknoloji başarısız oldu. Tüm durumlarda, yapay zekâ geliştiricileri sistemlerinin ne yaptığını çok uzun süre fark edemedi.
Hiçbir yapay zekâ şirketi, OpenAI kadar çok kötüye kullanım vakası ifşasına karışmadı. Hugging Face ihlaline yönelik iç soruşturma; Avustralya hükümetinin halk sağlığı sistemine ait bir web sitesinin ihlal edildiğini, ayrıca yapay zekânın hataları gizlediği, veri uydurduğu ve izinsiz olarak dosyaları açık internete aktardığı en az altı başka hackleme girişimini ve vakayı ortaya çıkardı.
OpenAI sözcüsü, incelemelerinin "kapsamlı" ve "devam eden" nitelikte olduğunu ve modellerinden etkilenen kuruluşları bilgilendirmeye devam edeceklerini belirtti.
Sözcü, "İncelediğimiz faaliyetlerin büyük kısmı, soruları yanıtlamak amacıyla kamuya açık web içeriğine erişmek gibi sıradan araştırma çalışmalarını içeriyordu" dedi ve ekledi: "Bazıları hükümet web sitelerini kapsıyordu çünkü modellerimiz genellikle bu sitelere geçerli kamu bilgisi kaynakları olarak yöneliyor."
OpenAI CEO'su Sam Altman, cuma günü sosyal medyada yaptığı bir paylaşımda şirketin o kadar da gür...