LONDRA, 29 Eylül : Küresel ödeme devi Visa, yapay zeka modellerinin açığı çıkardığı zaafiyetlerden aldığı "ders niteliğindeki" tecrübelerin ardından, özerk siber saldırılara ve gelecekteki kuantum bilişim tehditlerine karşı hazırlık amacıyla yapay zeka destekli siber savunma sisteminin bir kısmını açık kaynaklı hale getirdi.
Visa, günde yaklaşık bir milyar ödemeyi işleme koyuyor ve yılda yaklaşık 15 trilyon dolarlık hacmiyle dünya finans altyapısının kilit bir parçasını oluşturuyor.
Teknoloji Başkanı Rajat Taneja, Reuters'a yaptığı açıklamada, Anthropic'in Mythos yapay zeka modelinin yılın başlarında ortaya çıkardığı zayıflıkların mücadelenin boyutunu gözler önüne sermesinin ardından, siber savunma sistemini açık kaynaklı yazılım olarak kullanıma sunduklarını söyledi.
Taneja, zafiyetlerin "ders verici nitelikte" olduğunu belirterek, Hugging Face platformundaki yapay zeka ajanlarının gerçekleştirdiği saldırının da gelecekteki daha ciddi bir tehdidin erken bir habercisi olabileceğini ekledi.
CNA GamesGuess WordCrack the word, one row at a timeBuzzwordCreate words using the given lettersMini SudokuTiny puzzle, mighty brain teaserMini CrosswordSmall grid, big challengeWord SearchSpot as many words as you canShow MoreShow Less"Ne kadar kötülaşebileceğini tahmin etmek zor, ancak fragmanı gördük" diyen Taneja, yapay zeka modellerinin Hugging Face olayında bir test koruma alanından (sandbox) nasıl kaçtığına atıfta bulundu.
"Genellikle fragman filmin en çarpıcı anlarını gösterir, (ancak) bence bu filmin neye benzeyeceğinin sadece küçük bir kesiti; dolayısıyla buna hazırlanmalı ve bu teknolojinin gücünü kabul eden bir zihniyete sahip olmalıyız".
Yapay zekanın insanlığa yönelik tehdidine ilişkin distopik uyarıların yanı sıra küresel düzenleyiciler de büyük, yapay zeka kontrollü bir siber saldırının dünya finans sistemine olan güveni sarsabileceğinden korkuyor.
Yarışta Visa'nın kaybedeceği çok şey var. Ödeme firmaları güven üzerine kurulu olduğundan siber saldırılar yıkıcı olabilir. Şirket ayrıca belirli yapay zeka ajanlarının Visa'yı kullanmasına izin vermeye başladı.
Taneja bu ödemelerin ne kadarının gerçekleştiğine dair detay vermezken, sektör tahminleri 2030 yılına kadar çevrimiçi ticaretin yaklaşık üçte birinin -3,1 trilyon dolara yakın işlemin- yapay zeka ajanları üzerinden yürütülebileceğini gösteriyor.
Taneja'ya göre gelecekteki siber saldırılar uyumlu olacak, doğrudan insan müdahalesi olmadan sürekli öğrenecek ve gelişecek, bu da saldırganlara bir "süper güç" kazandıracak.
"Mevcut model olan insan savunmaları işe yaramayacak" diyen Taneja, "Eğer rakip ajan bazlıysa, savunma da ajan bazlı olmak zorunda. Aksi takdirde bu bir uyumsuzluk olur" ifadelerini kullandı.
Taneja ayrıca kuantum bilişimin yarattığı uzun vadeli zorluğun altını çizerek, Shor algoritmasının bir gün güçlü kuantum bilgisayarlarının küresel ticareti destekleyen mevcut şifreleme standartlarını kırmasını sağlayabileceğini söyledi.
Şirketlerin bu nedenle bu riski etkisiz hale getirmenin yollarını aramaya devam etmesi gerekeceğini belirtti.
"İyimser olmak zorundayız" diyen Taneja, "Ancak kolay bir cevap yok" şeklinde konuştu.
"Ne kadar kötüleşebileceğini tahmin etmek zor, ancak fragmanı gördük" diyen Taneja, yapay zeka modellerinin Hugging Face olayında test koruma alanından nasıl kaçtığına atıfta bulundu.
"Genellikle fragman filmin en çarpıcı anlarını gösterir, (ancak) bence bu filmin neye benzeyeceğinin sadece küçük bir kesiti; dolayısıyla buna hazırlanmalı ve bu teknolojinin gücünü kabul eden bir zihniyete sahip olmalıyız".
Yapay zekanın insanlığa yönelik tehdidine ilişkin distopik uyarıların yanı sıra küresel düzenleyiciler de büyük, yapay zeka kontrollü bir siber saldırının dünya finans sistemine olan güveni sarsabileceğinden korkuyor.
Yarışta Visa'nın kaybedeceği çok şey var. Ödeme firmaları güven üzerine kurulu olduğundan siber saldırılar yıkıcı olabilir. Şirket ayrıca belirli yapay zeka ajanlarının Visa'yı kullanmasına izin vermeye başla