Arama sonuçlarında daha fazla makale keşfedin
OpenAI, aralarında hükümetler ve üniversitelerin de bulunduğu "düzinelerce" kuruluşu, web sitelerinin şirketin yapay zekâ modellerinin "ziyaretlerinden" etkilenmiş olabileceği olaylar hakkında bilgilendirdiğini açıkladı.
OpenAI'a göre, bazı durumlarda yazılımı çevrimiçi hizmetlerin güvenlik mekanizmalarını atlatmış, bunların kullanılabilirliğini etkilemiş veya bir yapay zekâ modelindeki arıza nedeniyle üçüncü taraf web siteleri ile hizmetleri üzerinde olumsuz etkilere yol açmış olabilir.
OpenAI, bu olayları, birkaç ay önce modelinin yanlışlıkla Hugging Face platformunu ihlal etmesinin ardından başlattığı daha geniş kapsamlı bir soruşturma kapsamında tespit etti.
Şirket, etkilenmiş olabilecek web siteleri arasında hükümetlere, üniversitelere, kamu hizmetlerine ve diğer kuruluşlara ait sitelerin bulunduğunu belirtti.
Bu yılın başlarında OpenAI, modelinin Avustralya'ya ait resmi bir hükümet web sitesine erişim sağladığını kabul etmişti. Şirket, bu olayı modellerini değerlendirme sürecinin bir parçası olarak nitelendirmişti.
Avustralya Başbakanı Anthony Albanese bu hafta yaptığı açıklamada, OpenAI teknolojisinin sağlık istatistiklerini bildirmek için kullanılan bir hükümet web sitesine yetkisiz erişim sağladığını söyledi.
Olayın 18 Haziran'da meydana geldiğini belirten Albanese, vatandaşlara ait kişisel verilerin tehlikeye girmiş gibi görünmediğini ifade etti.
OpenAI Cuma günü X platformunda yaptığı paylaşımda, araştırmasının, yapay zekâ aracıların üçüncü taraf web siteleriyle verilen görevleri veya öngörülen yöntemleri aşan şekillerde etkileşime girdiği vakalara odaklandığını belirtti.
Şirket, şu ana kadar tespit edilen vakaların çoğunun düşük önem derecesine sahip olduğunu, üçüncü taraf hizmetleri üzerinde önemli bir etki olduğuna dair sınırlı kanıt bulunduğunu veya hiç kanıt olmadığını savunuyor.
Bununla birlikte OpenAI, incelenen faaliyetlerin çoğının web siteleri aracılığıyla sorulara yanıt aramak gibi "sıradan araştırma görevleri" ile ilgili olduğuna dikkat çekti.
Araştırma devam ediyor ve şirketin belirttiğine göre, tamamlanması birkaç ay sürebilir.
OpenAI CEO'su Sam Altman, X üzerinden yaptığı bir paylaşımda şirketin arzu ettiği kadar hızlı hareket edemediğini itiraf etti.
Altman'ın belirttiğine göre OpenAI, şeffaflık ile etkinlik günlüklerinden elde edilen devasa veri yığınları içerisindeki olayları tespit etme ihtiyacı arasında bir denge kurmaya ve ardından etkilenmiş olabilecek kuruluşlarla iş birliği yapmaya çalışıyor.
Altman, "Ciddiyete göre elimizden geldiğince öncelikler belirliyor ve kaynak ekliyoruz" dedi.
OpenAI, Anthropic, Google'ın DeepMind'ı ve Meta'nın modelleriyle bağlantılı olaylar, gelişmiş yapay zekâ modellerinin kullanımının siber güvenlik için yarattığı riskler etrafındaki tartışmaları yoğunlaştırdı.
Güvenlik duvarları, e-posta filtreleri ve olay müdahale araçları gibi geleneksel çözümler çoğunlukla kötü amaçlı yazılım gibi bilinen tehditleri tespit etmek ve ele geçirilen hesapları veya cihazları izole etmesi gereken insan personeli bilgilendirmek için tasarlanmıştır.
Ancak yapay zekâ modelleri bazı durumlarda bu tehditleri...