Colegio Modelo Lomas'ta öğrencilerin yapay zeka kullanarak sınıf arkadaşlarının fotoğraflarını soydukları iddia edilen olay; Escuela Superior de Comercio Carlos Pellegrini ve Colegio Nacional de Buenos Aires'teki benzer vakalara eklenerek odak noktasını bir kez daha 'deepfake' (derin sahte) teknolojisine çevirdi. Buenos Aires Şehri Ombudsmanlığı'nın ergenlerin dijital şiddet ve deepfake teknolojileriyle deneyimlerini inceleyen son raporu, yeni ortaya çıkan bir fenomeni gözler önüne seriyor. 12 ila 19 yaş arasındaki 912 öğrenciyi kapsayan örneklemin yalnızca %1 %1'i doğrudan mağdur olduğunu bildirirken, %3 %13'ü okul çevresinde bu tür vakalar bildiğini belirtiyor. Aynı zamanda öğrencilerin %4 %43'ü yapay zeka ile düzenlenmiş görsel veya videolar aldığını ifade ediyor.
Aynı doğrultuda, Buenos Aires Şehri Özel Bilişim Suçları ve Kabahatleri Savcılığı (Ufedyci) yetkilileri, okullardaki bu soruna dair uzun süredir ihbarlar aldıklarını belirtiyor. LA NACION'a yapılan açıklamaya göre; eğitim kurumlarında yapay zeka ile oluşturulan görüntülerin yayılmasına ilişkin 2023 yılında 4, 2024'te 5, 2025'te 9 şikayet girerken, 2026 yılının Temmuz ayına kadar bu sayı 4'e ulaştı.
"Ciberfeminismo, la hora de la acción" (Siberfeminizm, Eylem Zamanı) kitabının yazarı Ana Correa durumu şu şekilde tanımladı: "Yaşananlar bizi küçümsenemeyecek bir gerçeklikle karşı karşıya bırakıyor: Ergenlerin rızası olmadan cinsel içerikli yapay zeka görselleri üretmek, dijital cinsel şiddetin bir biçimidir. Bu görüntülerin yapay olması, zararın kurgusal olduğu anlamına gelmez. Mağdur kız öğrencilerin haysiyeti, mahremiyeti ve bütünlüğü ihlal edilmektedir." Correa, dijital bütünlüğün, rızanın ve görsel manipülasyonundan kaynaklanabilecek zararların açık bir şekilde dahil edilerek Kapsamlı Cinsel Eğitimin (ESI) güçlendirilmesi gerektiğini vurguladı.
Correa, "Bu riskleri teknolojik inovasyonun kaçınılmaz sonuçları olarak ele almaya devam edemeyiz. Elbette okullar ve aileler uyanık olmalı, ancak araçlara, kaynaklara ve kurumsal desteğe ihtiyaçları var. Çocuklar ve gençler; rıza, dijital cinsel şiddet ve toplumsal cinsiyet ilişkileri üzerine sistematik farkındalık, önlem ve yansıtma alanlarına ihtiyaç duyuyor" dedi.
Ve sözlerini şöyle derinleştirdi: "Aynı zamanda, mağdur ergen kızların acil yanıtlara ihtiyacı var: Kurumsal yanıt onları yeniden mağdur etmeden; şikayet etmek, içerikleri kaldırmak, yeniden dağıtımlarını önlemek ve destek almak için erişilebilir mekanizmalar. Eğer ancak görüntüler dolaşıma girdikten sonra müdahale edersek, çok geç kalmış oluyoruz. Acilen bundan önce harekete geçmek gerekiyor. Ve bu, dijital şiddeti yalnızca bireysel davranışların bir sorunu olarak görmekten vazgeçmeyi gerektirir."
Kadınlara yönelik dijital ortamlardaki her türlü şiddeti tanıyan ve bunun önlenmesi ile cezalandırılması için mekanizmalar içeren sözde Olimpia Yasası yürürlükte olsa da, pornografik görüntü veya videoları sahteleştirmek için yapay zekanın kullanılması özel olarak cezalandırılmamaktadır. Rıza dışı samimi materyallerin yayılması da cezalandırılmamaktadır. Reşat olmayan kişilerin dahil olduğu görüntülerin yayılması söz konusu olduğunda, yani yapay olarak oluşturulmuş çıplak bir bedenle kısmi bir yapay zeka üretimi yapıldığı ancak bir ergenin kimliğinin tanınabildiği durumlarda, Ufedyci genellikle çocukların ve ergenlerin cinsel sömürü materyali üretimi ve dağıtımı suçunun (Ceza Kanunu'nun 128. maddesi) mevcut olduğunu düşünmektedir.
"Cinsel deepfake'ler için tasarlanmadı. İdeal olan özel bir suç tipi yaratmaktır. F...