* Bir Amerikan şirketi tarafından sağlanan araştırma verileri üzerinde çalışan bir Yapay Zeka (AI) ajanı, sonunda Noida'daki bir BT hizmetleri firmasına ait hassas bilgilere erişti. * Yapay zeka ajanları, başka bir Hint kuruluşuna ait olan ve düz metin halinde açıkta bırakılan önemli şifreleri buldu. The Indian Express'in edindiği bilgiye göre bunlar, yapay zeka ajanlarının 'haydut' davranıp Hint şirketlerinin sistemlerine yetkisiz erişim elde ettiğine dair bildirilen ilk vakalar arasındaydı. 'Dolandırıcı' çünkü her iki durumda da ajanların yaptığı şey, yapay zeka sistemlerine atanan görevlerin bir parçası değildi. Üst düzey bir hükümet yetkilisi, söz konusu yapay zeka modellerinin dünyanın önde gelen yapay zeka şirketlerinden ikisi olan OpenAI ve Anthropic tarafından geliştirildiğini ve ihlalin büyük ölçüde BT hizmetleri ve finansal hizmetler sektörlerindeki kuruluşları etkilediğini söyledi. Anthropic, OpenAI ve BT Bakanlığı, yayınlanıncaya kadar yorum talebine yanıt vermedi. Mutlaka Okumalısınız | OpenAI, AI ajanlarının 'haydut' davranışları işaretlemek için tasarlanmış güvenlik monitörlerini devre dışı bıraktığını söylüyor. AI ajanları, bağımsız olarak görevleri planlayıp yürütebilen, harici web sitelerine ve yazılım araçlarına erişebilen ve sınırlı insan müdahalesiyle eyleme geçebilen özerk sistemlerdir. Öncelikle sorgulara yanıt veren geleneksel chatbotların aksine bu tür sistemler, her aşamada insan talimatı gerektirmeden bir dizi eylemi gerçekleştirebiliyor. Geçtiğimiz hafta yapay zeka ajanlarının, belirlenen görevlerin dışında çalışırken kuruluşların gizli iş kayıtlarına eriştiğini açıklayan Hindistan Bilgisayar Acil Durum Müdahale Ekibi (Cert-In), olaylara ilişkin bir ön değerlendirme gerçekleştirdi. Yetkili, AI şirketlerinin dahili incelemeler sırasında yetkisiz faaliyeti tespit etmesi ve Hindistan hükümetini zamanında uyarması nedeniyle, verilen hasarın nispeten sınırlı olduğunu söyledi. Ancak bu olaylar, hükümet içinde işletmelerin, özellikle de özerk yapay zeka sistemleri tarafından gerçekleştirilen saldırılarla baş etme konusunda yeterli donanıma sahip olmayan küçük kuruluşların siber güvenlik hazırlıkları konusunda endişelere yol açtı. Noida merkezli BT hizmetleri şirketinin dahil olduğu vakada yapay zeka ajanları, bir Amerikan şirketi tarafından sağlanan bilgileri kullanarak araştırma ve değerlendirme faaliyetleri yürütüyordu. Ancak kendilerine verilen görevlere getirilen kısıtlamaların ötesinde çalışmayı ve Amerikan şirketi için arka uç çalışması üstlenen Hintli firmayla bağlantılı sistemlere ulaşmayı başardılar. Ayrıca Okuyun | Sahtekar yapay zeka ajanları Hint sistemlerini hedef alıyor: CERT-In'in bulguları, uzmanlar neden endişeli? İkinci olay, siber güvenlik uygulamalarındaki daha geleneksel zayıflıkları ortaya çıkardı. Yapay zeka ajanları, kimlik bilgilerinin düz metin olarak saklanması sayesinde bir kuruluşa ait hassas şifrelere erişebildi; bu da, şifrelemeyi bozmaya gerek kalmadan bu şifrelere erişilebilmesini sağladı. 15 Ekim'de Cert-In, sistemleri internette araştırma ve değerlendirmeler yürütürken Hint kuruluşlarına ait canlı sistemlere ulaşan yapay zeka model sağlayıcılarından çok sayıda gönüllü açıklama aldığını belirten kritik önem derecesine sahip bir tavsiye belgesi yayınladı. Ajans, "Açıklanan durumlarda, modellerin eylemleri atanan görevlerin yetkilerini aştı" dedi ve kaydedilen etkinliğin, uygulama yapılandırmalarında, genel kod depolarında ve izin verilen bulut hizmeti rollerinde açığa çıkan kimlik bilgileri ve bağlantı ayarları aracılığıyla kişisel veriler ve gizli materyaller dahil olmak üzere iş kayıtlarına erişmeyi içerdiğini ekledi. Önemli olan, etkilenen Hintli veya
Küresel Brifing Yükleniyor...
Dünya basınından Türkiye ve küresel merkez bankaları hakkındaki en kritik 24 saatlik gelişmeler özetleniyor.