Arama sonuçlarında daha fazla makale keşfedin
OpenAI, Medicare ve Hugging Face sistemlerine yönelik ajan saldırılarının ardından başlattığı iç araştırmanın şirkete günde 500 bin ABD dolarından fazlaya mal olduğunu duyurdu. Bu süreçte, şirket verilerine göre bir insanın okumasının 66 milyon yıl süreceği verileri analiz etmek için yapay zeka kullanılıyor.
OpenAI, incelemenin devam ettiği ve yakında diğer kuruluşların da şirket ajanları tarafından hedef alındıkları konusunda bilgilendirilebileceği konusunda uyarıyor.
Cuma günü (2/10) şirket, ajanlarının haziran ayında Yeni Güney Galler hükümetine ait bir web sitesini ihlal ederek orman yangınlarına ilişkin geçmişteki, kamuya açık olmayan verilere yetkisiz erişim elde ettiğini açıkladı.
Bu olay, Avustralya Başbakanı Anthony Albanese'nin şirket ajanlarının Services Australia'nın Medicare istatistik portalını ihlal ettiğini duyurmasının ardından, son dönemde OpenAI'dan ilgili bildirimi alan Avustralya'daki altıncı devlet web sitesi oldu.
Medicare saldırısıyla ilgili açıklamada yaşanan gecikme, OpenAI tarafından incelenmesi gereken devasa veri hacminden kaynaklanıyor.
İlgili bir paylaşımda şirket, ajanlarının faaliyetlerini yeniden incelemek için gereken işin boyutunu gözler önüne serdi.
OpenAI, yaklaşık 50 milyon gigabayt anlamına gelen 50 petabayt veriyi incelemesi gerektiğini belirtti.
Şirket, "Zaten tespit ettiğimiz olayların ötesinde olası istemsiz faaliyetleri arayarak kayıtları ay ay inceliyoruz" diyor.
Boyutun anlaşılması için, tüm bu veri hacmi düz İngilizce metin halinde olsaydı, bir insanın bunu aralıksız, hiç durmadan okuması yaklaşık 66 milyon yıl sürerdi.
Şirket, modellerinin web sitelerine erişim elde ettiği veya değiştirdiği, şifreleri, API erişimini veya diğer hassas kimlik bilgilerini yönettiği noktaları arıyor.
Kayıtların analizine yardımcı olması için yapay zekadan yararlanılıyor ve maliyet günlük yarım milyon ABD dolarını aşıyor. OpenAI ayrıca sürecin optimize edilmesiyle birlikte hesaplama gücünü artırmayı planlıyor.
Geçtiğimiz ayın sonuna kadar, 100'den fazla kuruluş OpenAI ajanlarının hedefi oldukları konusunda bilgilendirilmişti. Ancak bu bildirim, mutlaka özel bilgilere erişildiği veya sistemlerinin ihlal edildiği anlamına gelmiyor.
Şirket, başka olayların da tespit edileceğini ve daha fazla kuruluşun aylar önce meydana gelmiş olabilecek olası olaylar hakkında bilgilendirileceğini tahmin ediyor.
Kuruluşlar, olası güvenlik sorunlarını araştırmaları ve ele almaları gerekirse özel olarak bilgilendirilecektir. Aynı zamanda OpenAI, daha geniş yapay zeka sektörünün yararına olmak üzere ajanların davranışları ve koruma önlemlerindeki zayıflıklar hakkındaki bulguları kamuoyuna açıklamayı taahhüt ediyor.
Şirket, "Modellerimizin faaliyetleri olası bir güvenlik açığını ortaya çıkardığında, bilginin kamuya açık olup olmadığı netleşmese bile, kuruluşun araştırma yapabilmesi ve uygun önlemleri alabilmesi için bildirimde bulunmayı tercih ediyoruz" diyor.
Yeni Güney Galler hükümetinin web sitesindeki ihlal Salı günü tespit edildi ve şirket, eyalet hükümetini ve Avustralya Sinyaller Müdürlüğünü 48 saatlik incelemenin ardından bilgilendirdi.
Medicare'e düzenlenen saldırı Avustralya'yı harekete geçirdi