Fransız uzmanlardan oluşan bir komite, halka yönelik Yapay Zeka sistemlerinin üretiminin, piyasaya sürülmeden önce ve aynı zamanda operasyonları sırasında da kontrollere tabi tutulmasını öneriyor. Teklif, 10 Kasım'da Başkan Emmanuel Macron'a sunulan bir raporda yer alıyor ve ilaçlara uygulanana benzer bir değerlendirme sürecine tabi olabilecek ChatGPT ve Gemini gibi hizmetlerle ilgili. Profesyonel yapay zeka araçları önerilen sürecin dışındadır.
"Engellemeden korumak" başlıklı rapor, dokuz bağımsız uzman tarafından bilim topluluğu, sağlık profesyonelleri, işletmeler ve çocuk koruma kuruluşlarının temsilcileriyle yapılan 55 duruşmanın ardından hazırlandı. Üç üyeli komitenin başkanlığını Yapay Zeka araştırmacısı Serena Vilata ve psikiyatristler Raphael Gaillard ve Amin Benjamina üstlendi. Fransız Yapay Zeka ve Dijital Teknoloji Konseyi tarafından kurulan komite, kullanıcıların korunmasına yönelik 18 öneri belirliyor. Şu anda bunlar öneridir ve Fransız hükümetinin belirlediği önlemler değildir.
Uzmanlar, kullanıcıların yazma, bilgi analiz etme ve karar verme gibi işlevleri yapay zekaya devrettiğinde yapay zekaya kademeli olarak bağımlılık riskini tanımlamak için "bilişsel borç" terimini kullanıyor. Raporda, yazma görevlerinde üretken yapay zeka araçlarının kullanılmasının belirli bir bilişsel aktivite ölçümünde %55'lik bir azalma ile ilişkili olduğunu bulan MIT araştırmasına atıfta bulunuluyor. Bulgu, genel bilişsel yetenekte buna karşılık gelen bir azalma anlamına gelmiyor. Komite, yapay zeka sistemlerinin endişe yaratan iki özelliğini daha tespit ediyor: sohbet robotlarının küçümseyici davranışları, yani gerçeğin pahasına bile muhataplarıyla aynı fikirde olma eğilimleri ve insan özelliklerinin ve duygularının bir algoritmaya atfedilmesi anlamına gelen antropomorfizm.
Fransız Ulusal Bilimsel Araştırma Merkezi'nin (CNRS) bültenine verdiği bir röportajda Serena Vilata, yapay zeka ile kişisel konuşmalar paylaşan, ilişkileri hakkında tavsiye isteyen ve hatta dijital muhataplara aşk partneri gibi davranan insanların vakalarını anlatıyor. Komite, bağımlılığı teşvik etmek veya etkileşimi uzatmak için kullanıcı zayıflıklarından yararlanan tasarım tekniklerinin yasaklanması çağrısında bulunuyor. Özellikle reşit olmayanlar için güvenlik gereksinimlerinin artırılmasını ve haklarının korunmasını tavsiye ediyor. Ayrı bir öneri, önceden piyasaya sürülmesi ve katı yaş sınırlarının önerildiği, yerleşik üretken yapay zekaya sahip oyunlarla ilgilidir. Uzmanlar ayrıca, rıza dışı cinsel içerik ve çocukların cinsel istismarına yönelik materyallerin Yapay Zeka yoluyla üretilmesi konusunda daha sert önlemler alınması yönünde çağrıda bulunuyor.
Raporda belirtilen verilere göre, Fransa'daki üretken BT kullanıcılarının %73'ü ayda en az bir kez, %21'i ise her gün bilgi arıyor. Aynı zamanda kullanıcıların %36’sı bu sistemlerden aldıkları bilgileri doğrulamadıklarını belirtiyor. Rapor, üretken bir yapay zeka sistemiyle yapılan bir konuşmanın, eşdeğer bir statik mesajı okumaktan yaklaşık %50 daha ikna edici olabileceği araştırmasına atıfta bulunuyor. İskoçya'daki son seçimde %34 yanıt verdi