MOSKOVA, 7 Ekim - RIA Novosti. IT şirketi Positive Technologies'in kurucu ortağı Yuriy Maksimov, katı sınırlamalara dayanan geleneksel siber güvenlik yaklaşımlarının yapay zeka (İA) ajanlarıyla çalışmadığını belirtti.
"Ajana şunu, bunu ve şunu yapamayacağını söyleyelim. Ancak ajan bir insan değildir ve buna katlanamaz. Basitçe tıkanır ve işini yapmaz. Yani eski kısıtlama yaklaşımlarını yapay zekaya uygulayamazsınız" diyen Maksimov, bu açıklamaları "Dijital Çözümler" forumunun genel oturumunda yaptı.
Bu nedenle, Maksimov'un belirttiği gibi, görev artık farklı formüle ediliyor: Yasaklar yerine, ajanın insanın talimatına sadık kalmasının sağlanması gerekiyor. "Yani, verdiğim talimatla orantılı olan her şeyi yapmalı ve bu çerçevenin makul sınırlarını aşan hiçbir şey yapmamalı" diye açıkladı.
Uzmana göre, yapay zekanın yardımı olmadan bu sorunu çözmek imkansızdır; bir insan ajanın yaptığı her şeyi analiz edemez. Bu nedenle, birkaç yapay zekadan oluşan bir sistemin oluşturulduğunu belirten uzman, şu örneği verdi: Bir sistem sanal bir banka kurar, ikincisi onu tehlikeye atmaya çalışır, üçüncüsü ise saldırıyı tespit etmeyi öğrenir. Hepsi bir zincir içinde birbirine bağlıdır ve sürekli olarak gelişmektedir, yapının tümünün başında ise insan yer alır.
Uzman, sorumluluk sorununa da ayrı bir parantez açtı. Bir insanın bir görevi bir ajana vermesi ve ajanın yanlış bir şey yapması durumunda insanın sorumluluktan kaçabileceğini ifade etti. Ancak uzmanın belirttiğine göre, böyle bir yaklaşım ne devlet ne de işletmeler için uygun değildir.
"Dijital Çözümler" forumu 6-10 Ekim tarihlerinde "Rusya" Ulusal Merkezinde gerçekleştirilmektedir. RIA Novosti, forumun genel medya partneridir.