Google DeepMind Başkanı Demis Hasabis, yapay zeka ajanlarının yardımıyla gerçekleştirilen son hırsızlık ve siber saldırıların, önümüzde bizi bekleyen tehlikeler için birer "erken uyarı" niteliğinde olduğunu düşünüyor.
Hasabis, sistem güvenliğinin artırılmaması durumunda dünyanın önümüzdeki yıllarda çok daha ciddi olaylarla karşı karşıya kalabileceği konusunda uyardı.
Dublin'deki bir yapay zeka zirvesinde konuşan Hasabis, yapay zeka alanında biyoloji ve nükleer enerji gibi sektörlerde uygulanan güvenlik pratiklerinin benimsenmesi gerektiğini ifade etti.
Hasabis'e göre, yapay zeka sistemlerinin risklerine göre uyarlanmış ve teknolojinin gelişimini takip edebilecek kadar esnek gereksinimlerin yanı sıra, güvenlik standartları ve sertifikasyon sistemi geliştirecek uluslararası bir kurumun kurulması gerekiyor.
Kurumsal ağlara sızmalar dahil olmak üzere yapay zeka ajanlarının uygunsuz davranışları ve son zamanlarda Anthropic şirketine ait bir modelin polise sahte cinayet ihbarında bulunması vakası, bu teknolojinin hızlı gelişimiyle ilgili endişeleri artırdı.
Microsoft Başkanı Brad Smith, yapay zekanın öngörülemez davranışları açısından 2026 yılını "ayıktırıcı" olarak değerlendirirken, güvenlik standartlarının teknolojik inovasyonlara ayak uydurabilmesi için yeni yasaların ve kuralların acilen çıkarılması çağrısında bulundu.
Smith, "Hiçbir şirket veya teknoloji yasaların üstünde olmamalıdır. Yasalara ve düzenlemelere ihtiyacımız var, ancak bunlar mantıklı, dengeli olmalı ve inovasyonları göz önünde bulundurmalıdır" dedi.