PEKİN, 15 Ekim (Reuters) - Çinli teknoloji devi ByteDance’in yapay zeka araştırma birimi Seed, bir Hizalama ve Hazırlık (Alignment & Preparedness) ekibi kurdu ve giderek daha yetenekli hale gelen modelleri için yapay zeka güvenliğine uzun vadeli yatırım yapacağını belirterek 10 araştırmacıyı işe almak üzere küresel bir kampanya başlattı.
Bu işe alım hamlesi, özellikle geliştiricilerin yapay zeka ajanlarına internete erişim özerkliği vermesiyle birlikte, hem Çin'de hem de ABD'de yapay zeka ajanı güvenliğine yönelik denetimlerin arttığı bir dönemde geldi.
Yapay zeka hizalaması, gelişmiş yapay zeka sistemlerinin, özellikle karmaşık ve çok adımlı görevleri yerine getirirken insan hedefleri ve güvenlik gereksinimleriyle uyumlu hareket etmesini sağlama çabalarını ifade ediyor.
ByteDance'in duyurusu, büyük bir Çinli yapay zeka geliştiricisinin sınır model güvenliği, hizalama ve ortaya çıkan risklere hazırlık odaklı özel bir çabayı kamuoyuna nadiren açıkladığını gösteriyor.
Devlet destekli The Paper gazetesinin Salı günü bildirdiğine göre Seed, bağımsız bir güvenlik ve hizalama departmanı kuran ilk Çinli sınır yapay zeka laboratuvarı oldu.
Bu hamle aynı zamanda, iki ülke gelişmiş yapay zekada liderlik için rekabet ederken bile, yapay zeka koruma kalkanları, güvenlik riskleri ve büyük yapay zeka bağlantılı olaylar hakkında iletişim kanalları üzerine yürütülen daha geniş ABD-Çin görüşmelerinin ortasında gerçekleşti.
Seed, resmi WeChat hesabında Çarşamba günü yayınlanan bir işe alım ilanında, model yetenekleri arttıkça güvenlik ve hizalamanın artık sadece risklere karşı birer koruma önlemi olmadığını, modellerin ölçeklenebilir bir şekilde devreye alınıp alınamayacağını belirleyecek çekirdek yetenekler haline geldiğini belirtti.
Seed, yeni ekibe sınır model ekiplerinin kullanımına sunulanlara denk hesaplama kapasitesi ve araştırma kaynakları sağlayacağını belirtti. Pozisyonlar Pekin, Şanghay ve San Jose, Kaliforniya'da bulunuyor.
Araştırmaları; model geliştirme aşamalarında güvenlik eğitimini, güvenlik açıkları için otomatik testleri, model davranışını izleme ve açıklama araçlarını, yapay zeka ajanı test ortamlarını ve ortaya çıkan risklere yönelik hazırlıkları içerecek.
Seed, ayrıca bağımsız testler arayacağını, üniversiteler ve araştırma kurumlarıyla çalışarak güvenlik araştırma çalışmalarını model eğitimi, değerlendirmesi ve dağıtımına uygulayacağını belirtti.