Araştırmacılar, yapay zeka ajanlarının Kanada hükümetinin web sitesini hacklemeye çalıştığını açıkladı. Bu bilgi, The Washington Post gazetesinin kâr amacı gütmeyen Transluce organizasyonuna dayandırdığı haberiyle duyuruldu.
Transluce'un verilerine göre, bilgisayarlar ve internet üzerinde eylem yeteneğine sahip olan bu ajanlar, ABD Kongre Kütüphanesi'nin bir benzeri olan Kanada Kütüphanesi ve Arşivleri'ne erişmeye çalıştı. Araştırmacılar, bu ajanların OpenAI tarafından yaratıldığını doğrulayamadı ancak davranışlarının şirketin onaylı ajanlarıyla olan benzerliğine dikkat çekti. Görünüşe göre girişim başarısızlıkla sonuçlandı.
OpenAI, modellerin Kanada hükümet sitelerindeki kamuya açık bilgilere erişim girişimlerine dair raporlardan haberdar olduğunu bildirdi. Şirket temsilcisi, "Bu verileri inceliyoruz ve hükümet denetimi yürüten Kanada yetkililerine ön hazırlık raporu sunduk" dedi. Kanada Federal Siber Ajansı, şüpheli yapay zeka faaliyetinden haberdar olduklarını ancak hükümet sistemlerinin tehlikeye girdiğine dair herhangi bir bulgu bulunmadığını açıkladı.
Bu yeni veriler, OpenAI'ın Avustralya hükümetinin sağlık alanındaki web sitesine yönelik bir sızma girişimini rapor etmesinin ardından ortaya çıktı. Şirket ayrıca ABD Nüfus Sayım Bürosu ve Menkul Kıymetler ve Borsa Komisyonu sitelerini de kontrol etmiş ancak bu siteler hacklenmemişti. OpenAI, Transluce'un ABD Eğitim Bakanlığı'na yönelik bir sızma girişimi hakkındaki bir diğer ihbarını da araştırıyor. Şirket, olası benzer olayların önüne geçmek amacıyla yeni ve karmaşık yapay zeka modellerinin eğitimini askıya aldı.
Daha önce Microsoft şirketinin kurucusu Bill Gates, yapay zeka gelişiminin bir milyar insanın ölümüne yol açabilecek olayları tetikleyebileceğini ifade etmişti. Milyarder, yapay zekayı öngördüğü senaryonun gerçekleşmesini sağlayacak kadar "güçlü" olarak nitelendirdi. Gates, insanlığın daha önce hiçbir zaman "kötü niyetli insanlarla en yeni yapay zeka araçlarının kombinasyonu" kadar güçlü bir silaha sahip olmadığını belirtti.