Bu içeriği YouTube'dan görüntülemek için reklam izlemeyi ve kitle ölçümünü etkinleştirmeniz gerekir. Tarayıcı uzantılarınızdan biri video oynatıcının yüklenmesini engelliyor gibi görünüyor. Bu içeriği izlemek için bu sitede devre dışı bırakmanız gerekebilir. Fransa'daki huzursuzluk sırasında yaşlı bir çiftin "soyunduğunu ve soyulduğunu" iddia eden, yapay zeka tarafından oluşturulan fotoğraflar milyonlarca görüntülemeye ulaştı. Aşırı sağcı açıklamalarla güçlendirilen görüntüler, Müslümanlar, Yahudiler ve ayaklanmalar hakkında kışkırtıcı iddiaları alevlendirdi. FRANCE 24 Observers, İsrail yanlısı bir hesap tarafından yayınlanan bir yapay zeka fotoğraf montajına ait bir görüntünün izini sürdü. Görüntüler OpenAI araçları kullanılarak oluşturuldu ve iddia edilen saldırı henüz doğrulanmadı ve saldırıyı doğrulayan hiçbir resmi rapor yok.
Sahte bir şekilde Fransa'daki huzursuzluk sırasında 80'li yaşlarındaki yaşlı bir çiftin "soyunup soyulduğunu" iddia eden yapay zeka tarafından oluşturulan iki fotoğraf, internette milyonlarca görüntülemeye ulaştı. Görüntüler X'te, özellikle de aşırı sağcı hesaplar arasında geniş çapta yayıldı. Bazı kullanıcılar bunları "17 Ekim'in en korkunç görüntüsü" olarak nitelendirirken, bazıları da "Fransa'nın düştüğünü" gösterdiğini iddia ederek, sırada Avrupa'nın geri kalanı ve İngiltere'nin geleceği uyarısında bulundu. Bazı hesaplar ayrıca çiftin Yahudi olduğunu iddia ederek, Fransa Cumhurbaşkanı Emmanuel Macron'u "İsrail halkını" yüzüstü bırakmakla suçladı ve iddia edilen saldırıyı 1941'de Ukrayna'daki bir pogromla karşılaştırdı. Amerikalı aşırı sağ komplo teorisyeni Alex Jones da sahte görüntülerden birini paylaşarak iddia edilen şiddet olayını "batıya ve beyazlara karşı nefretleriyle birleşen Müslümanlar ve komünistlerden oluşan suç konsorsiyumuna" yükledi.
Görüntüler sadece sosyal medyada dolaşmadı. Fransız dijital medya kuruluşu Sirenes, Instagram'da bir paylaşım yaparken, İsrailli sağcı haber kanalı C14 de bunu "İslam Avrupa'yı Fethediyor" başlığıyla yayınladı. Ancak her iki görüntü de yapay zeka tarafından oluşturulmuştur. TheFRANCE 24Observers, yapay zeka tarafından oluşturulan içeriği tanımlamaya yardımcı olmak üzere tasarlanmış görünmez bir dijital filigran olan SynthID'yi kullanarak yapay kökenlerini doğruladı. Her iki görüntünün de OpenAItools kullanılarak oluşturulduğu tespit edildi. Fotoğraflardan birinde manipülasyona işaret eden çeşitli görsel ipuçları da var. Kadının elinde sadece dört parmak var ve başparmak da büyümüş, deforme olmuş gibi görünüyor. Tek bir gövde olmasına rağmen iki maskeli kafa görülebiliyor, yerde yatan bir baba ise Paris'teki tipik tipe benzemiyor.
FRANCE 24 Gözlemcileri, Avrupa Yayın Birliği'nin Spotlight ağı ve Belçika'nın RTBF doğrulama ekibinin yardımıyla görüntünün kaynağının izini sürdü: İsrail yanlısı hesap Infos-Israel.news tarafından 17 Ekim sonlarında yayınlanan bir montaj. Montaj, yapay zeka tarafından oluşturulan birkaç görüntü içeriyordu ve yapay zeka içeriği olarak işaretlendi. Orijinal montajda görselin çevresinde görülen aynı beyaz kenarlık, X'te dolaşan gönderilerde de görülüyor ve bu, fotoğrafın kaldırılıp doğrudan o koleksiyondan yeniden paylaşıldığını gösteriyor. Ancak görüntüler sahte olsa da, yaşlı bir çiftin saldırıya uğradığına dair temel iddiaya ne dersiniz? İddia, Fransız gazeteci Dominique Rizet'in BFM'deki yayında bir polis kaynağına dayanarak Paris'te yaşlı bir çiftin saldırıya uğradığını söylemesinin ardından ilgi gördü. İddia edilen saldırıyı doğrulayan hiçbir resmi fotoğraf veya kaynak olmasa da raporu daha sonra diğer medya kuruluşları tarafından da ele alındı.
FRANCE 24, Rizet ile temasa geçti ve Rizet, bilgiyi cumartesi günü saat 20.47'de bir polis kaynağından aldığını ve bilginin "doğrulandığını" söyledi. Ancak Fransız haber ajansının kontrol hizmeti CheckNews