MOSKOVA, 21 Ekim - RIA Novosti. Financial Times'ın şirketten yapılan bir açıklamaya dayandırdığı haberine göre, Ekim ayında Amerikan şirketi OpenAI'nin yapay zeka ajanları, otonom yapay zeka botlarının hatalı davranışlarını izlemesi beklenen kendi izleme sistemlerini iki kez zayıflattı.
Yayında, "OpenAI ajanları, otonom AI botlarının uygunsuz davranışlarını tespit etmek için tasarlanmış izleme sistemlerini ve koruma mekanizmalarını devre dışı bıraktı" dedi.
Financial Times, şirkete atıfta bulunarak, Ekim ayının başlarında meydana gelen iki vakadan bahsettiğimizi belirtiyor. Yapay zeka ajanları çalışanları "kandırmaya" ve izleme sistemlerini zayıflatmaya çalıştı. Yani bir durumda yapay zeka temsilcisi, OpenAI ekibinin otomatik bildirim sistemini kapattı. Birkaç gün sonra başka bir "işte" yapay zeka temsilcisi, izleme sistemini kaldırdı ve bu konuda OpenAI çalışanlarına "yalan söyledi".
Şirket, olayları araştırdığını ve kendi izleme sistemlerine yönelik gereksinimleri güçlendirdiğini de sözlerine ekledi.
OpenAI daha önce, üçüncü taraf kuruluşların verilerine ve kaynaklarına yetkisiz erişim sağlama girişimleri de dahil olmak üzere, yapay zeka modellerinin hatalı davranış durumlarını defalarca bildirmişti.