LeMonde
Fransa Yapay Zeka ve Dijital Teknoloji Konseyi (CIANum) tarafından 10 Kasım Salı günü Fransa Cumhurbaşkanı Emmanuel Macron'a sunulan rapor, yapay zeka asistanlarına yönelik düzenlemelerin "derhal" güçlendirilmesi gerektiği sonucuna varıyor. Otorite, 20 Şubat'ta Yeni Delhi'deki yapay zeka zirvesi sırasında yapay zeka ve dijital işlerden sorumlu Fransız küçük bakanı Anne Le Hénanff tarafından bu görevle görevlendirildi. Amaç, ChatGPT, Gemini, Grok ve Meta AI gibi ana akım AI hizmetlerinin kullanıcıların "zafiyetlerinden" nasıl yararlandığını incelemekti.
Yaklaşım, ekran kullanımı ve 15 yaşın altındakiler için sosyal medyanın yasaklanmasını öneren bir yasa tasarısının ortaya çıkmasına yol açan önceki komisyonları ve TikTok'u hatırlatıyor. CIANum direktörü Arthur Barichard, bu hizmetlerin eğitimsel faydalarını ve Anayasa Konseyi'nin sosyal medya yasağını engellediği gerçeğini öne sürerek, "Raportörlerin görüşleri yapay zeka asistanları için böyle bir yasak önerme yönünde birleşmedi" dedi. "Ancak rapor, yapay zeka sohbet robotlarına, özellikle de küçüklerin erişimine açık olduklarında, sıkı düzenleme yapılmasını öneriyor" dedi.
Rapor yapay zekaya "bağımlılık riski" konusunda uyarıda bulunuyor. Aynı zamanda "dijital platformların yalnızca kullanıcıların dikkatini çekmekle kalmayıp aynı zamanda onların bilişsel yeteneklerinden, duygusal tepkilerinden ve psikolojik profillerinden de kazanç elde etmeyi amaçladığı yeni bir para kazanma biçimi olan biliş ekonomisinin" yükselişine ilişkin endişeleri de artırıyor. Bu trend, "verilerin eşi benzeri görülmemiş bir ayrıntı düzeyinde toplanmasıyla mümkün kılınan etkileşimlerin aşırı kişiselleştirilmesi" nedeniyle yapay zeka asistanları tarafından yönlendiriliyor. Yazarlar "bağımlılığı teşvik eden ve insan ile makine arasındaki çizgiyi bulanıklaştıran mekanizmaları sıkı bir şekilde düzenlemeyi" öneriyorlar. Kullanıcılara bir yapay zeka ile etkileşimde olduklarını hatırlatan mesajların güçlendirilmesini ve "yapay zekanın antropomorfizasyonunu ve dalkavukluk mekanizmalarını temsil eden, teşvik eden veya kışkırtan özellikleri" varsayılan olarak devre dışı bırakmayı öneriyorlar.
Rapor ayrıca, kullanıcıları "uygun destek hizmetlerine" yönlendirmek amacıyla intihar, kendine zarar verme veya yeme bozuklukları ile ilgili konuların daha iyi tespit edilmesi yönünde çağrıda bulunuyor; bu hükümler, ChatGPT gibi asistanlara yönelik bazı ebeveyn kontrol sistemlerinde halihazırda bulunmaktadır. Daha genel anlamda yazarlar, sorunlu yanıtlar için yalnızca kullanıcıların değil aynı zamanda uzman kuruluşların da erişebileceği bir "rapor düğmesi" talep ettiler. Bu makalenin okunacak %53,72'si kaldı. Gerisi sadece aboneler içindir.