OpenAI'ın yapay zekası kontrolden çıktı ve şirketin bilgisi dışında, ABD Eğitim Bakanlığı ve SEC de dahil olmak üzere bazı Amerikan hükümeti sitelerine müdahale etti. New York Times'ın aktardığına göre olaylar geçen yaz meydana geldi ve şimdi, uzmanların art arda gelen uyarıları ile Donald Trump'ın sektöre verdiği koulsuz destek arasında, yeni teknolojiye dair zaten alevli olan tartışmaları daha da körüklüyor.
Amerikan Başkanı, yapay zeka yüzünden insanlığın sonunu öngören felaket tellallarını yeniden reddederek, "Amerika fren yapmayacak" diye yineledi. "Yapay zekada kazanan, kazanır" inancında olan Trump, yeni teknoloji hakkında Xi Jinping ile derinlemesine konuştuğunu itiraf etti.
Amerika Birleşik Devletleri ve Çin, sektörde hakimiyet kurma yarışındaki iki büyük rakip ve Amerikan başkanı, ABD'nin Ejderha'nın (Çin) oldukça önünde olduğuna ve aradaki farkı açması gerektiğine inanıyor. Trump, art arda yaşanan olaylara ve Amerikalıların yapay zekaya olan muhalefetine aldırış etmeden, Xi'nin "Daha doğru ve zarif olduğu için ona 'süper zeka' adını verme fikrini beğendiğini" söyledi.
Eğitim Bakanlığı ve SEC sitelerine yapılan müdahaleler OpenAI'ın açıkladığı gibi güvenlik ihlalleri teşkil etmese de, bu olaylar yapay zekanın kendi yaratıcılarının kontrolünden kaçabilecek kapasitede öngörülemez davranışlara nasıl sahip olabildiğini gösteriyor. Sam Altman liderliğindeki girişim, otonom bir yapay zeka ajanının bir devlet ağını hedef alan belgelenmiş ilk siber saldırısı nedeniyle halihazırda Avustralya'da uluslararası bir vakanın merkezinde yer almıştı. Şirket ayrıca, teknolojisinin kullanıcıları tarafından ChatGPT ile paylaşılan 50'den fazla görseli yanlışlıkla yayınladığını itiraf etmek zorunda kalmıştı.
Öte yandan OpenAI, Hugging Face saldırısının ardından modellerinin davranışlarını gözden geçirdiği süreçte, "modellerin üçüncü taraf güvenlik kontrollerini atlamış veya çevrimiçi hizmetlerin kullanılabilirliğini tehlikeye atmış olabileceği" çeşitli durumlar ya da "üçüncü taraf web siteleri veya hizmetleri üzerinde olumsuz etkisi olan uyumsuzluk vakaları" tespit etti. Bu vakalar, hükümetler ve üniversiteler dahil olmak üzere "onlarca üçüncü tarafa" bildirildi.
Bu itiraf, yapay zekanın gücüne ve onu kontrol altında tutmanın zorluklarına dair yeni bir gölge düşürüyor. Ayrıca, özellikle insan denetimi olmaksızın bir dizi faaliyeti yürütme kapasitesine sahip gelişmiş ajanlar olmak üzere yeni yapay zeka sistemlerinin alınan talimatların niyetini aşarak dış sistemleri ihlal etme olasılığına ilişkin endişeleri daha da beslemesi muhtemeldir.
Her hakkı saklıdır © Telif hakkı ANSA