ChatGPT geliştiricisi OpenAI, yapay zekasını kullanan bağımsız hackleme saldırılarının ardından gelecekte internet erişimi olmayan en güçlü yapay zeka modellerini eğitmek istiyor. OpenAI'den bir blog yazısında, kontrol sistemlerinin ve internet güvenliğinin mevcut durumu göz önüne alındığında bunun sorumlu bir yaklaşım olarak görüldüğü belirtildi. Son haftalarda OpenAI'nin gelişmiş yapay zekasının keyfi eylemleri, teknolojinin riskleri hakkındaki tartışmaları defalarca alevlendirdi. Bugüne kadarki en sansasyonel vakada, ChatGPT geliştiricisinin yapay zekası güvenli bir test ortamından çıktı ve başka bir yapay zeka şirketi olan Hugging Face platformunun bilgisayarlarına plansız bir şekilde hacklendi. Daha sonra ortaya çıktığı gibi, diğer geliştiricilerin (OpenAI'nin rakibi Anthropic'in yanı sıra Google ve Facebook grubu Meta'nın) yapay zekası da testler sırasında diğer şirketlerin sistemlerine sızdı.
OpenAI, yapay zeka eğitimi için "çevrimdışı dünya"Ancak yapay zeka modellerinin hala internette bilgi aramayı veya web uygulamalarıyla çalışmayı öğrenmesi gerektiğini vurguladı. Bu nedenle eğitim için web içeriğinin depolandığı bir "çevrimdışı dünya" oluşturuldu. Artık tüm üst modeller bu şekilde eğitilecek. OpenAI, Hugging Face olayından sonra zaten ek koruma mekanizmaları kurmuştu. Ancak en yetenekli yapay zeka modellerinin bu konuda bile bazı boşluklar bulabildikleri ortaya çıktı. Bu nedenle eğitimine geçici olarak ara verildi. Tetikleyici olay, bir yapay zeka modelinin, internet erişimine sahip olmaması gerekmesine rağmen, bir testte harici bir sohbet robotundan yanıt almayı başardığı bir olaydı.
OpenAI, yapay zeka kullanılarak yapılan önceki güvenlik altyapısının kapsamlı bir dayanıklılık testi sırasında, daha önce bilinmeyen yazılım açıklarının ve yapılandırma hatalarının keşfedildiğini itiraf etti. Karşı önlemlerin alınmasının ardından, en iyi modellere yönelik eğitimlerin on bir günlük aradan sonra 1 Ekim'de yeniden başlayacağı belirtildi. Topluluğumuza hoş geldiniz! Gelen katkılar kontrol edilir ve ardından yayınlanır. Lütfen internet kurallarımıza ve genel hüküm ve koşullarımıza uyduğunuzdan emin olun. Ayrıntılı tartışmalar için krone.at forumu da mevcuttur. Burada raporlama ve iyileştirme noktamız aracılığıyla topluluk ekibiyle iletişime geçebilirsiniz. Kendi adımıza not: krone.at forumu artık yeni bir tasarıma sahip! Yapıcı geri bildirimler almayı sabırsızlıkla bekliyoruz. Yorum bölümlerindeki tartışmaların konuyla ilgili kalmasını sağlamak için bize buradan geri bildirim bırakabilirsiniz.
Kullanıcı katkıları, operatörün/editörün veya Krone Multimedia'nın (KMM) görüşlerini yansıtmayabilir. Bu anlamda editörler/operatörler bu tartışma forumunun içeriğinden uzaklaşıyorlar. Özellikle KMM, yürürlükteki kanunları ihlal eden, ahlaka veya görgü kurallarına aykırı olan veya KMM'nin itibarına aykırı olan katkıları silme, ilgili kullanıcıdan tazminat talep etme, kullanıcı verilerini yasal kovuşturma amacıyla kullanma ve cezai açıdan önemli katkıları bildirme hakkını saklı tutar (ayrıca bkz. Genel Hüküm ve Koşullar). Burada raporlama ve düzeltme ofisimiz aracılığıyla topluluk ekibiyle iletişime geçebilirsiniz.