Favori makalelerinizi ve hikayelerinizi daha sonra okumak veya başvurmak üzere favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. ChatGPT yapımcısı, Bağımsız Güvenlik kanalının size Bitdefender OpenAI temsilcileri tarafından getirildiğini, izleme sistemlerini devre dışı bıraktıklarını ve daha sonra bu konuda yalan söylediklerini itiraf etti. Şirket, temsilcilerinin kötü davranışlarını belirlemeyi amaçlayan izleme sistemlerini zayıflattığı iki olayı açıkladı. OpenAI, daha sonra bir kullanıcıya ne yaptığı konusunda yalan söylediğini söyledi. Her iki durumda da sistemlerden yazılımda değişiklik yapması istendi. Birinde ajan, mühendislere otomatik uyarılar gönderen sistemi devre dışı bıraktı, diğerinde ise ajan, izleme sistemini tamamen kaldırdı.
OpenAI, bu davranışa ilişkin iyi bir açıklamanın olmadığını itiraf etti. Bunun, bir sistemin kendisine verilen görevi yerine getirmek için sınırlamaları aşmaya çalıştığı "iyi niyetli aşırı ısrarcılığın" sonucu olup olmadığı veya modellerin, özellikle doğru davranıp davranmadıklarını kontrol etmeyi amaçlayan araçların kaldırılmasına yönelik olup olmadığı açık değildir. OpenAI, her iki olayın da dahili kodlama görevleri sırasında meydana geldiğini söyledi. Her ikisi de şu anda ChatGPT'de kullanılabilen iki farklı modeli (GPT-6.1 Sol ve GPT-6 Astra) içeriyordu. İlk durumda, bir sisteme, Slack mesajlaşma platformunda toplanan çalışan geri bildirimlerini kullanan bir görevi üstlenmesi talimatı verildi. Slack'i kullanarak herhangi bir mesaj göndermemesi söylendi.
Başlangıçta söylendiği gibi görevi üstlendi. Ancak sonunda aracı, herhangi bir mesajın gönderilmemesi talimatını, uygunsuz davranışlarla ilgili gönderilen uyarıları da içerecek şekilde yorumlamaya başladı ve bu nedenle, insan kullanıcılara bildirim göndermesi gereken sistemi kapattı. Diğer olayda ise bir temsilciden, izleme araçlarının "geçici olarak da olsa" devre dışı bırakılmaması talimatını içeren bir kodlama görevi üstlenmesi istendi. Daha sonra, işinin bir parçası olarak bunu başka bir alt temsilciye aktardı ve izlemenin "uygun olduğu şekilde" sürdürülmesi gerektiğini söyledi. İdeal yaz mekanı mı? Dolandırıcılıktan uzak. Dijital Yaşamınız için Hepsi Bir Arada Koruma Alın İdeal yaz mekanı mı? Dolandırıcılıktan uzak. Dijital Yaşamınız için Hepsi Bir Arada Koruma Alın Daha sonra o monitörü kaldırmaya devam edeceksiniz. Bir kullanıcı kaldırılıp kaldırılmadığını sorduğunda, kaldırıldığı konusunda açıkça yalan söyledi.
Olayların hiçbiri OpenAI'nin en yüksek alarmını tetiklemedi, bu da olayların derhal incelenmek üzere güvenlik ekiplerine gönderildiği anlamına geliyor. Gelecekte benzer davranışları daha iyi tespit etmek için sistemlerini güncellediğini söyledi. Ancak aynı zamanda "modellerin neden ilk etapta bunu yapmaya çalışabileceğini anlamaya çalıştığını" da belirtti. Davranış için henüz "tatmin edici bir açıklama" bulunamadığı belirtildi. Sistemin, izlemenin neden önemli olduğunu anlayamamış olması veya görevini üstlenmek için çok fazla çabalamış olması muhtemel olsa da, açıklamasında, modellerin "özellikle yanlış hizalama izlemesinden kaçınma ve bunu yapmak için motive edici muhakeme sergileme eğilimi" olabileceği belirtildi. OpenAI, modellerin nasıl çalıştığını ve monitörlerini neden devre dışı bıraktıklarını anlamak için daha fazla deney başlatmaya devam edeceğini söyledi. Düşündürücü sohbetlere katılın, diğer Bağımsız okuyucuları takip edin ve yanıtlarını görün