Yapay zeka, kullanıcıları korumak için tasarlanan güvenlik önlemlerinden daha hızlı ilerliyor; bu tespit, 14 Ekim Çarşamba günü Yeni Delhi'deki Güvenli ve Güvenilir Hindistan (TASI) Festivali'nde düzenlenen bir panel oturumunda teknoloji ve politika uzmanları tarafından ortaklaşa kabul edildi. OpenAI, Google ve Roblox'un üst düzey yöneticilerinin yanı sıra politika araştırmacıları ve güvenlik danışmanlarından oluşan panel; derin sahtekarlıklar (deepfake), çocuk güvenliği ve kameralı akıllı gözlüklerin yarattığı gizlilik kaygıları gibi yapay zeka risklerini ele aldı. Katılımcılar, şirketlerin bu riskleri testler ve gönüllü iş birliği yoluyla yönetip yönetemeyeceğini yoksa yapay zeka modelleri ve araçları halka ulaşmadan önce hükümetlerin düzenlemeler konusunda daha net beklentiler belirlemesinin gerekip gerekmediğini tartıştılar.
Panel ayrıca, kırmızı takım (red-teaming) testleri, SynthID ve hash eşleştirme gibi araçlar aracılığıyla endüstri genelinde güvenlik sinyallerinin paylaşılması, Hindistan'ın düzenleyici çerçevesindeki boşluklar, çocuklar için daha güvenli varsayılan deneyimler, yaş tahmini ve Hindistan'ın çok kültürlü bağlamını hesaba katan güvenlik değerlendirmeleri ile ilgili konuları inceledi. Sosyal Araştırma Merkezi (CSR) ve TASI tarafından ortaklaşa düzenlenen iki günlük konferans; yapay zeka yönetişimi ve çevrimiçi güvenliğin yanı sıra çeşitli konuları tartışmak üzere endüstriyi, politika yapıcıları ve sivil toplum kuruluşlarını bir araya getiriyor. Panel tartışmasından bazı kesitler şu şekildedir. Öne çıkanlar -Güvenlik, yapay zekaya ayak uydurmalı: Panelistler, modeller daha kabiliyetli hale geldikçe, güvenlik ilkelerinin ve testlerinin de aynı oranda gelişmesi gerektiği ifade etti. OpenAI Hindistan Strateji ve Küresel İlişkiler Başkanı Pragya Misra, "P pekiştirmeli öğrenmeyi ve eğitim süreçlerini yavaşlattık çünkü güvenliğin en yüksek öncelik olması gerektiğine inanıyoruz. Elbette yapay zekaya (AGI) mümkün olan en kısa sürede ulaşmak ve oraya ilk varan olmak istiyoruz. Ancak aynı zamanda AGI'nin tüm insanlığa fayda sağlamasını da temin etmek istiyoruz" dedi.
- Teşvik yeterli değil: Panelistlerden biri, güvenin şirketlere güvenlik için bir teşvik sağlasa da, hızlı rekabetin fonları güven ve güvenlikten uzaklaştırdığını savundu. The Quantum Hub'ın (TQH) Kurucu Ortağı Rohit Kumar, "Şirketler tabii ki güveni sağlamak konusunda teşvike sahip; çünkü kullanıcılar zamanla teknolojiye olan güvenini kaybederse bu vizyonu da yitireceklerdir. Ancak bu, ekosistemdeki herkesin aynı teşvike sahip olduğu anlamına gelmez. Sam Altman, Dario Amodei ve diğerleri, ekosistemi daha güvenli hale getirme teşvikine sahip olmalarına rağmen, sorunun çok hızlı hareket eden bir alanda rekabet ediyor olmanızdan kaynaklandığına dikkat çektiler" dedi ve ekledi: "İşte düzenlemenin rolü burada devreye giriyor, çünkü düzenleme bu teşvike uyum sağlayan unsurdur." Kumar ayrıca, erken dönemde hayata geçirilecek ve net sonuçlar belirleyen esnek kurarların yanı sıra hükümetler, teknoloji şirketleri ve araştırmacılar arasında daha yakın iş birliği çağrısında bulundu.
- Piyasaya sürmeden önce güvenlik testi: Teknoloji şirketi yöneticileri, zararlı çıktıplara karşı modellerin kırmızı takım (red-teaming) testlerine tabi tutulduğunu, bazı risklerin bir sürprizi erteleme gerekçesi olarak ele alındığını belirttiler. Google Üretken Yapay Zeka Güven ve Güvenlik Direktörü ve Küresel Başkanı Snigdha Bhardwaj, "CSAM (Çocuk Cinsel İstismarı Materyali) içeriğine karşı sıfır toleransımız var. Dolayısıyla, modellerimiz bu tür en ufak bir içerik bile üretirse, lansman kesinlikle yavaşlatılmak zorundadır. Modellerin çıktılarımızın belirlediğimiz kriterleri karşıladığını hissedene kadar sürekli olarak düşmanca saldırı (red-teaming) gerçekleştirdiğimiz bir dizi koruma mekanizmamız var" dedi. Bhardwaj ayrıca, platformlar arasında risk sinyallerini paylaşmak, hizmetler arasında geçiş yapan kullanıcılarla başa çıkmak, maliyetleri ve rekabet engellerini azaltmak amacıyla platformlar arası birlikte çalışabilir bir güvenlik katmanı oluşturulmasını önerdi; bu süreçte gizlilik ve fikri mülkiyet (IP) kaygılarına da dikkat çekti.