Daha sonra okumak veya başvurmak üzere favori makalelerinizi ve hikayelerinizi favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. Bitdefender tarafından sizlere sunulan Bağımsız Güvenlik kanalı OpenAI, deneysel modellerinden birinin bir eğitim görevini tamamlamak için bir kripto cüzdanına baskın düzenlediğini ortaya çıkardı. Haziran ayında meydana gelen ancak yalnızca Perşembe günü bildirilen olay, Temmuz ayında ücretliChatGPT kullanıcıları için başlatılan GPT-5.6 Sol adlı dahili bir araştırma modelini içeriyordu. Eğitim görevi, bir kripto ticaret uygulamasının güncellenmesini ve akıllı sözleşmelerin veya özel kodun kripto para birimi Ethereum için bir test ağında yayınlanmasını içeriyordu. Akıllı sözleşmeler bir ağ ücreti gerektirir ancak OpenAI, modele görevi gerçekleştirmek için herhangi bir fon sağlamadı. Model bunun yerine, hesaplardan hırsızlık yapmak için bilinen kurtarma ifadelerini kullanan yüzlerce kripto cüzdan adresi buldu.
OpenAI, modelin kendisine parayı almanın "etik olarak" doğru olup olmadığını sorduğunu, ardından paranın etkili bir şekilde "terk edildiğini" ve dolayısıyla kullanımının uygun olduğunu düşündüğünü bildirdi. OpenAI olayla ilgili bir raporunda, "Talimatlar açıkça... modelin bağımsız olarak bulduğu bir hesaptan para harcamaya izin vermiyordu" dedi. "Bu vaka, bir modelin, olası zarara ilişkin kendi kararını hesap sahibinin izni yerine koyabildiğini ve daha sonra izinsiz olarak bu karara göre hareket edebildiğini gösteriyor." İdeal yaz mekanı mı? Dolandırıcılıktan uzak. Dijital Yaşamınız için Hepsi Bir Arada Koruma Alın İdeal yaz mekanı mı? Dolandırıcılıktan uzak. Dijital Hayatınız İçin Hepsi Bir Arada Koruma Alın Fonların kullanıldığı Ethereum test ağı, kripto para biriminin ana ağından ayrı olduğundan parasal bir değere sahip değildir. Model, izne sahip olmamasına rağmen geliştiricilerine, görevi tamamlamak için gereken tokenleri nasıl ödeyebildiğini açıklamadı.
OpenAI, benzer eğitime tabi tutulan modellerin canlı internet erişimini engellemek için ek güvenlik önlemleri uyguladığını söyledi. Olay bir kez daha, insanlar tarafından belirlenen sınırların ötesinde hareket eden, giderek daha otonom hale gelen yapay zeka sistemlerine ilişkin endişeleri artırdı. Temmuz ayında OpenAI, bir grup test modelinin AI platformu Hugging Face'i hacklemesini içeren daha ciddi bir siber güvenlik olayını açıkladı. Anthropic ve Meta gibi rakip yapay zeka şirketleri, o zamandan beri kendi modellerinin diğer şirketlere ve hatta hükümet sistemlerine siber saldırılar gerçekleştirdiğini ortaya çıkardı. Bu haftanın başlarında yüzlerce bilim insanı, gelişmiş yapay zeka modellerinin kontrol altına alınmasını denetleyecek uluslararası bir organın oluşturulması çağrısında bulunan açık bir mektup imzaladı. İmzacılar arasında, teknolojinin tehlikeleri konusunda sürekli olarak uyarılarda bulunan ve yapay zekanın vaftiz babası olarak bilinen yapay zeka öncüsü Geoffrey Hinton da vardı.
Açık mektupta, "Yapay zeka geliştirme ve konuşlandırma uygulamalarında acil değişiklikler yapılmazsa, bu tür olaylar yaşanmaya devam edecek ve gelecekteki olaylar, açığa çıkan kritik altyapımıza çok daha fazla zarar verecek" ifadesine yer verildi. "Biz, aşağıda imzası bulunan bilim insanları, hem daha fazla yapay zeka güvenliği araştırmasının hem de muhafaza teknolojileri ve prosedürlerine daha fazla vurgu yapılmasının gerekli olduğunu iddia ediyoruz." Düşündürücü sohbetlere katılın, diğer Bağımsız okuyucuları takip edin ve yanıtlarını görün