İçerik filtreleme, kullanıcı doğrulaması ve yayın öncesi testler mevcut güvenlik önlemleri arasında yer alıyor, ancak dijital kalkınma ve enformasyon bakanına göre kötü niyetli kullanıcılar, halka açık yapay zeka modellerine yönelerek bu önlemleri atlatabiliyor.
Bu ses dosyası bir yapay zeka aracı tarafından oluşturulmuştur.
SİNGAPUR: Dijital Kalkınma ve Enformasyon Bakanı Josephine Teo Cuma (2 Ekim) yaptığı açıklamada, öncü yapay zeka (AI) şirketleri tarafından alınan güvenlik önlemlerinin önemli olduğunu, ancak giderek daha yetenekli hale gelen sistemlerin yarattığı riskleri ele almak için yetersiz kaldığını söyledi.
Bakan Teo, Facebook'ta yaptığı bir paylaşımda, kötü niyetli kullanıcıların bilgisayar sistemlerindeki zayıf noktaları aramak, kötü amaçlı kod yazmak, siber saldırıların bazı süreçlerini otomatikleştirmek ve dolandırıcılıkları daha ikna edici hale getirmek gibi zararlar vermek amacıyla giderek güçlenen yapay zekayı kötüye kullanabileceklerini belirtti.
Bu tür önlemler arasında zarara yol açabilecek içeriğin filtrelenmesi, yapay zeka modellerinin erişebileceği ve yapabileceği işlemlerin sınırlandırılması, modellerin piyasaya sürülmeden önce test edilmesi, kullanıcıların doğrulanması, kötü kullanımın tespit edilmesi ve kuralları ihlal eden hesapların askıya alınması yer alıyor.
Bakan Teo, "Bu önlemler önemlidir ancak yetersizdir. Kötü niyetli kullanıcılar, herkes tarafından bağımsız olarak indirilip çalıştırılabilen halka açık modellere hâlâ başvurabilir ve bu da güvenlik önlemlerini atlatmayı ve kötü kullanımı gizlemeyi kolaylaştırır" dedi.
CNA GamesGuess WordBir seferde bir satırı çözerek kelimeyi bulunBuzzwordVerilen harfleri kullanarak kelimeler oluşturunMini SudokuKüçük bulmaca, büyük beyin jimnastiğiMini CrosswordKüçük kare, büyük meydan okumaWord SearchBulabildiğiniz kadar çok kelime bulunDaha Fazla GösterDaha Az Göster"Aynı zamanda, yapay zeka bizim adımıza hareket etme yeteneğini kazandıkça, kasıtlı kötüye kullanım tek endişe kaynağı değildir. Bir yapay zeka sistemi ayrıca bir talimatı yanlış anlayabilir, kötü niyetli bilgilerin kurbanı olabilir veya kullanıcı veya geliştiricinin niyet etmediği eylemlerde bulunabilir."
Bakan Teo, bu nedenle Singapur'un daha güçlü siber savunmalar ve gelişmiş yapay zeka sistemlerinin neler yapabileceğine dair daha iyi bir kavrayış dahil olmak üzere birden fazla savunma hattına ihtiyaç duyduğunu sözlerine ekledi.
ÇOKLU SAVUNMA HATLARI
Bakan Teo, bugün yapay zeka ile ilgili birçok olayın siber tehditleri içerdiğini söyledi.
"Sistemlerimizin kolay hedef olmasını önlemek için yapabileceğimiz çok daha fazla şey var. Ayrıca saldırıları tespit etme ve gerçekleştiklerinde kurtarma konusunda da daha iyi olmalıyız."
Bunun, kesintilerin halk için ciddi sonuçlar doğurabileceği devlet sistemleri ve hayati hizmetler için özellikle önemli olduğunu ekledi.
"Kullanıcı deneyimi kalitesinin etkili güvenlik önlemlerinden ödün vermemesi için kolaylık ve güvenlik arasında dikkatli bir denge kurmalıyız."
Bakan Teo, Singapur Siber Güvenlik Ajansı'nın (CSA) kuruluşlara güvenlik açığı yamaları yapmaları, güçlü kimlik doğrulama kullanmaları ve önemli sistemlere erişim kontrollerini sıkılaştırmaları yönünde çağrıda bulunan kılavuz ilkeler yayınladığını belirtti.
Kuruluşların, saldırganlar bulmadan önce güvenlik açıkları tespit etmek gibi yapay zekayı savunma amaçlı da kullanabileceğini söyledi.
"Başka bir deyişle, saldırganlar yapay zekayı nasıl kullanabiliyorsa, savunmacılar da kullanabilir. Bir kuruluşun en gelişmiş yapay zeka modellerine erişimi olmasa bile, siber savunmasını geliştirmek için halihazırda mevcut yapay zeka araçlarını kullanabilir."
Kuruluşların yapay zeka modellerine veri, araç ve süreçlerine erişim izni vermesi durumunda güvenlik önlemlerinin daha da önemli hale geldiğini söyleyen Bakan Teo, yapay zekanın insanlar adına görevleri yerine getiren ajanlara güç sağlamak için giderek daha fazla kullanıldığına dikkat çekti.
"Bir ajanın zarara yol açmak için koruma duvarlarını kasıtlı olarak atlamasına gerek yoktur. Bir talimatı yanlış anlayabilir, bir hedefi tasarımcılarının veya kullanıcılarının amaçlamadığı şekillerde takip edebilir, kötü niyetli bilgiler tarafından kandırılabilir veya kendisine çok fazla yetki ya da erişim verilebilir"