OpenAI Perşembe günü yaptığı açıklamada, İran'ın gizli bir etki operasyonunun parçası olarak sosyal medya yorumları üretmek, en az yedi sahte gazeteci kimliği oluşturmak ve küresel medya kuruluşlarına uzun makaleler sunmak için yapay zekayı kullandığını doğruladı.
OpenAI, Rusya ve İran kaynaklı olmak üzere, Rusya-Ukrayna ve ABD/İsrail-İran savaşları hakkındaki anlatılarını teşvik etmek için "sahte cephe varlıkları" oluşturmak amacıyla kendi teknolojilerini kötüye kullanan iki etki operasyonunu engellediğini belirtti. Şirket, her iki kampanyanın da "operatörlerin etkinliğini abartmak için şüpheli veya doğrudan aldatıcı metodolojiler" kullandığını kaydetti.
Etki operasyonları yapay zekanın ilerlemesinden önceye dayansa da OpenAI, teknolojinin bu operasyonların yürütülmesini daha kolay hale getirdiğini kabul etti. İran'ın sahte gazetecilerinin, 2017 yılında bir Rus etki kampanyasının parçası olarak yaratılan kurgusal bir gazeteci olan "Alice Donovan"a çok benzediğini kaydetti.
OpenAI, İran kampanyasını, birin en düşük seviyeyi ve altının en yüksek seviyeyi temsil ettiği altı puanlık Etki Operasyonu ölçeğinde dört olarak derecelendirdi. Bu derecelendirme, kampanyanın ana akım medya kuruluşlarında içerik yayımlamadaki başarısını yansıtıyordu. Şirket, önceki iki buçuk yıl içinde ortaya çıkardığı 30 gizli operasyona atıfta bulunarak, bu tür kampanyaların erişim alanlarını ve etkilerini genişletmek için meşru medya kuruluşları tarafından yayımlanan sosyal medya gönderileri ve diğer içerikleri elde etmeyi amaçladığını söyledi.
Yapay zeka, sahte yazarlar aracılığıyla yanlış bilgi yaymak için kullanıldı
OpenAI, operatörlerin içeriği daha geniş kitlelerin önüne koymasına yardımcı olmanın ötesinde, yapay zekanın kötü niyetli aktörlerin operasyonları daha büyük ölçekte, verimlilikte, dilsel akıcılıkta ve editoryal yetenekte yürütmesini sağladığını belirtti.
OpenAI'ye göre, İran kaynaklı bir ChatGPT hesap grubu, hem Farsça hem de İngilizce içerik üretmek için kullanıldı. Aktörlerin VPN aracılığıyla ChatGPT'ye eriştiği ve sahte imzalar altında yayımlanan uzun makaleleri ve editoryal yazıları geliştirmek için modeli kullandığı bildirildi.
Sahte imzalar Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams ve Alice Johnson'a aitti. Hepsi uluslararası siyaset, Orta Doğu, insan hakları veya çatışma odaklı Batılı gazeteciler olarak sunuldu.
The Jerusalem Post, International Policy Digest'te İsrail'deki siyasi güvensizliği tasvir etmeyi amaçlayan "Noah Lamington" imzalı bir makale tespit etti. Makale "Netanyahu'nun Önleyemediği Knesset İsyanı" başlığını taşıyordu.
"Sophia Gonzalez" imzalı bir makale de News Register'da "Sophia Gonzalez: Diplomasi savaşın başka bir silahı haline geldiğinde" başlığıyla bulundu. Bu arada, "Ericka Feusier"in Eurasia Review, Common Dreams ve IA Forum gibi web sitelerinde Irak'taki güvensizlik ve Amerikan işsizliği üzerine kapsamlı yazılar yayımladığı görüldü.
Makaleler öncelikli olarak ABD-İran savaşına odaklanırken, üretilen yorumların daha küçük bir kısmı ABD iç politikasına değindi. OpenAI, operasyon tarafından üretilen ve dünya çapındaki sendike yayınlarında ve küçük ve orta ölçekli medya kuruluşlarında yer alan yaklaşık 100 makale tespit etti.
OpenAI tarafından tespit edilen en erken makale Temmuz 2025'te yayımlanırken, en sonuncusu Ekim 2026'da görüldü. İçerik hacmi, ABD-İran çatışmasının patlak vermesinin ardından arttı.
Çevrim içi mecralar, yapay zeka makalelerini milyonlarca sosyal medya takipçisiyle paylaştı
Etki kampanyasından makaleler yayımlayan çevrim içi bir mecranın yaklaşık iki milyon Facebook takipçisi ve yaklaşık 355.000 takipçisi vardı.