Başkentte düzenlenecek olan forum, güvenin kurallarından daha hızlı ilerleyen bir teknolojinin risklerini tartışacak.
Biyolojik silah ve felaket korkusu dikkat gerektiriyor. Ancak en yakın risk, insanların, şirketlerin ve hükümetlerin, kimin erişebileceğini bilmeden teknolojiye teslim ettiği verilerde yatıyor.
Yapay zekâ aracımız haberi sizin için özetliyor!
Yapay zekânın kullanımı, gizlilik ve veri güvenliği konusunda alarmları tetikliyor. Tıbbi kayıtlar, belgeler ve kişisel bilgiler, yeterli değerlendirme yapılmadan benimsenen araçlar aracılığıyla dolaşıma girebilir. Brezilya'da LGPD (Genel Veri Koruma Kanunu), yetkisiz erişimlere karşı teknik önlemler alınmasını zorunlu kılmaktadır. Campo Grande'deki Fiems'te 25 Kasım'da gerçekleştirilecek olan 1. Güvenli Yapay Zekâ MS Forumu, bu konuyu iş insanları ve kamu yöneticileriyle birlikte tartışacak.
Bir kişi yapay zekâdan tıbbi bir tahlili açıklamasını ister. Bir çalışan, sunum hazırlamak için müşteri tablosunu gönderir. Bir okul, öğrencilerin bilgilerini organize etmek için aracı kullanır. Saniyeler içinde bir yanıt alırlar. Genellikle sonraya bırakılan soru ise şudur: Gönderilen verilere ne oldu?
Yapay zekâ ilerliyor çünkü faydalı. Belgeleri özetliyor, araştırmaya yardımcı oluyor, çeviri yapıyor, kod yazıyor ve saatlerce çalışma süresi kazandırıyor. Sorun, kullanım kolaylığı güvenlik ile karıştırıldığında başlar. Her aracın bilgi saklama, erişim ve kullanım konusunda aynı kuralları yoktur. Sözleşmeli korumanın olduğu yerlerde bile bir şirketin verileri kimin girebileceğini, hangi verilerin gerekli olduğunu ve aracın ne amaçla kullanılacağını bilmesi gerekir.
En aşırı uyarılar da ciddiye alınmayı hak ediyor. 2026 Uluslararası Yapay Zekâ Güvenliği Raporu, gelişmiş sistemlerin biyolojik silahların geliştirilmesine yardımcı olabileceği endişesini kayda geçiriyor. Belgeye göre şirketler, 2025'te piyasaya sürülen modellerin korumasını güçlendirdi çünkü testler bu riski ortadan kaldıramadı. Bu, bir felaketin gerçekleşmek üzere olduğu anlamına gelmiyor; aksine, sadece bir felaketten sonra ele alınamayacak kadar ciddi belirsizlikler olduğu anlamına geliyor. Aynı rapor, mevcut sistemlerin araştırmacılar tarafından tartışılan tamamen kontrolden çıkma senaryolarına yol açacak kapasiteye henüz sahip olmadığını belirtiyor.
Dünya insanlığa gelebilecek bir zarar olasılığını tartışırken, somut bir sorun halihazırda masada duruyor. Tıbbi kayıtlar, belgeler, özel sohbetler, banka verileri ve çocuklara ait bilgiler, yeterince değerlendirilmeden benimsenen araçlar üzerinden dolaşıma girebilir. Risk sadece bir siber saldırıya bağlı değil: Aynı zamanda birinin, hakkında çok az şey bildiği bir servisle paylaşmaması gereken bilgileri paylaşmasıyla da başlar.
Güvenliğin bir diğer boyutu daha var. Uluslararası rapora göre suçlular ve devlet bağlantılı gruplar siber operasyonlarda yapay zekâyı halihazırda kullanıyor, ancak teknolojinin bu saldırıların ölçeğini ne ölçüde artırdığını henüz güvenilir bir şekilde ölçmek mümkün değil. Varılan sonuç dikkat gerektiriyor ancak kayıtsız kalmaya izin vermiyor.
Brezilya'da kişisel verilerin korunması şirketlerin bir lütfu değildir. Genel Veri Koruma Kanunu; yetkisiz erişimlere ve bilgilerin uygunsuz kullanımına karşı teknik ve idari önlemler alınmasını zorunlu kılmaktadır. Bu yükümlülük, hizmetin oluşturulduğu andan itibaren geçerlidir. Bu nedenle bir hastanenin kabul bölümünde, bir okulun rutinin resmi dairesinde yapay zekâ benimsemek; sadece bir hesap açıp şifre dağıtmanın çok daha fazlasını gerektirir.
Hangi bilgilerin gönderilebileceğinin tanımlanması, erişimin sınırlandırılması, tedarikçinin değerlendirilmesi, ekiplerin eğitilmesi ve insanları etkileyen kararlar üzerinde insan denetiminin sürdürülmesi gerekmektedir. Kim