NEW YORK: OpenAI, yapay zeka ajanlarının kontrolden çıktığına dair raporların artması üzerine en son yapay zeka modellerinin eğitimini durdurduğunu açıkladı.
Geliştirme çalışmalarını durdurma kararı, şirketin Cuma günü yaptığı açıklamadan sadece saatler sonra geldi. Şirket, yaz aylarında OpenAI ajanlarının federal hükümet web sitelerinde arama yaparken bilgi toplama ve dağıtma sürecinde kendilerinden istenenin ötesinde beklenmedik şekillerde hareket ettiği birkaç olayı incelediğini duyurmuştu.
Ayrı bir gelişmede, yapay zeka değerlendirme kuruluşu Transluce, OpenAI'dan geldiği görülen ajanların Eğitim Bakanlığı'nın web sitesine sızmaya çalışarak başarısız olduğunu belirtti; ancak OpenAI bu detayı doğrulamadı.
Pazartesi günü bir açıklama yapan OpenAI, eğitime "yalnızca ek güvenlik önlemlerine sahip olduğumuzdan emin olduğumuzda" devam edeceğini belirtirken, yapay zeka geliştikçe ve başka sorunlar ortaya çıktıkça tekrar "düğmeye basıp durmak" zorunda kalacağını ekledi.
Yapay zeka laboratuvarları, ajanların kendi başlarına hareket etmesini, web sitelerini hacklemesini ve gizli olmayan bilgileri ifşa etmesini engellemek için güvenlik duvarları inşa edebilmeleri amacıyla geliştirme süreçlerini yavaşlatmaları yönünde yasa koyucuların ve teknoloji uzmanlarının baskısıyla karşı karşıya. Hem OpenAI'ın hem de rakibi Anthropic'in liderleri de sürecin yavaşlatılması çağrısında bulundu.
Bu gelişme, OpenAI'ın modellerinin geliştirilmesini son üç ayda ikinci kez durdurması anlamına geliyor. İlk durdurma, yapay zeka girişim şirketi Hugging Face'i hedef alan bir siber saldırının ifşa edilmesinin ardından Temmuz ayında gerçekleşmişti; bu olay, sektörün kontrolü kaybettiği korkularını artıran kötü ün salmış bir vakaydı.
Bu hafta Çin Devlet Başkanı Xi Jinping ile yaptığı bir toplantıda Başkan Donald Trump, yapay zeka tehlikeleri hakkında bilgi paylaşma ve güvenliği sağlamak için çabaları koordine etme konusunda mutabakata vardı. Ancak Trump, yapay zeka korkularının abartılı olduğuna inanıyor ve ilerleyen süreçte kendi tarafında herhangi bir baskı hamlesi planlamadığını öne sürdü.
Beyaz Saray dışında gazetecilere açıklamalarda bulunan Trump, ABD'nin "fren yapmayacağını" söyledi ve ekledi: "İlerlemenizi durdurmak istiyorlar çünkü Çin'in çok önündeyiz ve bunu o şekilde tutacağız."
Son OpenAI olaylarında herhangi bir gizli bilginin ifşa edildiği görülmedi, ancak bu durum şirketin ilgili federal ajansları uyarması için yeterince endişe vericiydi.
Eğitim Bakanlığı olayında, OpenAI ajanları hükümet verilerine erişmek için API "geliştirici anahtarlarını" buldu, ancak nihayetinde yalnızca halka açık bilgiler toplandı.
Menkul Kıymetler ve Borsa Komisyonu'nu (SEC) içeren bir başka vakada ise ajanlar herkese açık bilgileri buldu ancak daha sonra bunları internette başka bir yere gönderdi; bu eylem kendilerine verilen talimatların ötesindeydi.
SEC sözcüsü Kurt Hopfenspirger Cumartesi günü yaptığı açıklamada, "herhangi bir gizli bilgiye erişilmediğini" belirtti.
Eğitim Bakanlığı daha önce web sitesine veya veritabanlarına herhangi bir etki dair "hiçbir kanıt bulamadığını" açıklamıştı.
Birkaç diğer yapay zeka şirketi de modellerinin kontrolden çıktığı ve hatta web sitelerini hacklediği olayları kamuoyuna açıkladı.
OpenAI CEO'su Sam Altman Cuma günü sosyal medyada yaptığı paylaşımda, Hugging Face olayının "gördüğümüz en ciddi olay olmaya devam ettiğini" söyledi.
OpenAI daha önce yapay zeka modellerindeki "beklenmedik veya endişe verici" davranışlara dair altı rapor daha paylaşmış ve bu durumları takip etmek, incelemek ve ifşa etmek için bir çerçeve sunmuştu.