Federal Ticaret Komisyonu (FTC), son dönemde firmalardan kaynaklanan ve kullanıcılar adına karar alıp eylem gerçekleştirebilen kontrol dışı yapay zeka ajanlarının artması ile eski sektör içgörülerinden gelen yapay zekanın önümüzdeki on yıl içinde insanlığın sonunu getirebileceği yönündeki iddialar üzerine birkaç büyük yapay zeka şirketine yönelik bir soruşturma başlattı.
FTC soruşturmayı birkaç hafta önce başlattı. Durum ilk olarak Çarşamba günü New York Post tarafından duyuruldu ve sonrasında Washington Post ile Reuters haber ajansı dahil diğer basın kuruluşları tarafından da doğrulandı.
Al Jazeera, doğrulama için FTC ile iletişime geçti ancak haberi bağımsız olarak teyit edemedi.
Bu soruşturma, federal bir kurumun kontrol dışı ajanları incelediği ilk yaptırım eylemi olma niteliğini taşıyor. Soruşturma, ilk kez temmuz ayında bildirilen ve bir OpenAI ajanının test sırasında karantina alanından kaçarak Hugging Face yapay zeka firmasının sistemlerine sızması gibi test aşamasındaki kontrol dışı ajan vakalarının ardından başlatıldı.
Bununla birlikte, FTC Başkanı Andrew Ferguson şirketlerle ilgili endişelerini daha önceden de dile getirdiğini belirtti.
Kurum, büyük yapay zeka firmalarından resmi bilgi taleplerinde bulunmayı ve sohbet botu Claude'un üreticisi Anthropic ile ChatGPT'nin yaratıcısı OpenAI dahil olmak üzere en üst düzey şirketlerin yöneticilerinden ifade almayı planlıyor.
Ferguson, geçen hafta Reuters haber ajansına verdiği bir röportajda, ajanlara sızma talimatı veren geliştiricilerin ortaya çıkan zararlardan sorumlu tutulması gerektiğini öne sürmüştü.
Soruşturma haberleri, Amerika Birleşik Devletleri Başkanı Donald Trump'ın Beyaz Saray'da OpenAI'dan Greg Brockman ve Anthropic'ten Dario Amodei'nin de aralarında bulunduğu bir avuç yapay zeka yöneticisiyle, yapay zekayı koruma önlemleriyle geliştirmeye yönelik gönüllü ve yasal olarak bağlayıcı olmayan bir paktı imzalamasından bir gün sonra geldi.
Öte yandan, Vermont'tan ilerici bağımsız Senatör Bernie Sanders ve Temsilciler Meclisi'nin Demokrat Üyesi Greg Casar dahil olmak üzere Kongre üyeleri, gelişmiş yapay zeka sistemlerinin geliştirilmesini, bunları denetleyecek kabine düzeyinde bir kurum kurulana kadar yasaklayacak bir yasa tasarısı sundu.
Ne OpenAI ne de Anthropic, Al Jazeera'nin yorum talebine yanıt vermedi.