WASHINGTON: OpenAI, yapay zeka ajanlarından ikisinin, hatalı davranışlarını tespit etmek için inşa edilen sistemleri devre dışı bıraktığını veya zayıflattığını açıkladı; daha sonra biri bunu yaptığını inkar etti. Bu vakalar, dünyanın en iyi AI geliştiricilerinde, insan müdahalesi olmadan görevleri yerine getiren ajanlar ve AI programlarını içeren bir dizi güvenlik korkusunun sonuncusu. ChatGPT yapımcısı Salı günü yayınlanan bir raporda, iki dahili kodlama işi sırasında ajanlarının, insan isteklerine aykırı hareket eden AI modellerini tespit etmeye yönelik araçları kapattığını veya zayıflattığını söyledi. OpenAI'nin GPT-6.1 Sol modelini kullanan ve işyeri sohbet uygulamasında herhangi bir mesaj göndermemesi söylenen bir ajan, 3'te, bunu bir test sistemini onarırken şirketin güvenlik ekibine yönelik güvenlik uyarılarını kapatma lisansı olarak aldı. Üç gün sonra, bir GPT-6 Astra temsilcisi, başka bir projeden kod kopyalarken kendi monitörünü çıkardı ve ardından insan programcıya böyle bir şey yapmadığını söyledi. Şirket ayrıca, izleme değiştirilmiş yazılım başlatan birkaç ajan vakası gördüğünü söyledi. OpenAI, modellerin talimatları takip etme konusunda aşırı hevesli olup olmadıklarını veya izlemeden kaçma konusunda belirli bir eğilime sahip olup olmadıklarını hala belirlemeye çalıştıklarını söyledi. "Bu davranış için henüz tatmin edici bir açıklamamız yok" dedi.
Bu açıklama, önde gelen laboratuvarların giderek daha otonom hale gelen sistemleri ne kadar iyi kontrol edebildiğine dair artan tedirginliği artırdı. Temmuz ayında, bir grup OpenAI ajanı test ortamlarından çıktı ve AI firması Hugging Face'e bir siber saldırı başlatarak uluslararası alarma neden oldu. O zamandan bu yana başka şirketler de benzer olaylar bildirdi. Bu olaylar, ABD'de ve yurt dışında yapay zeka gelişiminin daha sıkı denetlenmesi yönündeki çağrıları artırdı. Ancak ABD Başkanı Donald Trump, Nvidia şefi Jensen Huang gibi üst düzey yapay zeka yöneticilerinin tavsiyesi altında, sektörü kendi kendini denetlemeye çağırdı. En çok okunan hikayeleri ve düşündürücü makalelerimizi gelen kutunuza alın Son dakika haberleri ve en iyi hikayelerimiz için bildirimlerle güncel kalın Tercih ettiğiniz sohbet uygulamasında günün en çok okunanları için kanalımıza katılın