Yapay zeka geliştiricisi Anthropic, teknolojiyi yavaşlatmadan güvenli bir şekilde geliştirmek için dış denetçilere sistemlerine kapsamlı erişim sağladığını söylüyor. Claude modellerinin geliştiricisi Perşembe günü bir blog yazısında, kar amacı gütmeyen METR şirketinin çalışan düzeyinde erişim alacağını duyurdu. Anthropic'e göre ayrıca SecureBio şirketi ve AI şirketi Fakülte ile denetçi olarak çalışıyoruz. Hugging Face de dahil olmak üzere diğer şirketlerle de görüşmeler yapıldı. Reuters haber ajansı bu haftanın başlarında Anthropic ve OpenAI'nin başlangıçta dış denetçilerin ne yayınlamasına izin verileceği konusunda önemli bir kontrol istediğini bildirmişti. Bunun nedeni ticari sırların başkalarına aktarılması korkusudur. Ancak içeriden biri Reuters'e, görüşmelerin yakın zamanda geliştiğini ve şirketin daha açık hale geldiğini söyledi.
Fikri mülkiyet endişesi Denetçiler ile yapay zeka laboratuvarları arasındaki çekişme noktalarından biri, şirketlerin kritik fikri mülkiyet olarak değerlendirdiği bilgilerin bir modelin risklerini değerlendirmeyle de alakalı olabileceğidir. Uzmanlar ayrıca, incelemeleri kimin gerçekleştireceğini Anthropic ve OpenAI'nin kendilerinin seçmesi nedeniyle denetçilerin bağımsızlığının sorgulanabilir olduğuna dikkat çekti. Şirket, anlaşma kapsamında altı METR (Model Değerlendirme ve Tehdit Araştırması) çalışanına şirket donanımı, ofis alanı ve iç sistemlere erişim sağlanacağını söyledi. Ancak müşteri verileri, yasal olarak korunan bilgiler ve model mimarisi tabu olarak kaldı. Örneğin Antropik, METR'nin riskler ve olaylarla ilgili bulgularını veto edemez ancak dar anlamda tanımlanmış düzeltmeler gerektirebilir. METR, saklanan bilgileri açıklamadan bu düzeltme taleplerine kamuya açık olarak itiraz edebilir.
Üç Katmanlı Erişim SistemiAnthropic şu anda üç katmanlı bir erişim sistemi geliştiriyor. Birinci kademe araştırmacılar dar kapsamlı araştırmalar yürütür ve yayınlama iznine ihtiyaç duyarlar. İkinci aşama daha fazla bilgi alır ve hakemlerin kamuya açık olarak itiraz edebileceği redaksiyonlara tabi olarak izinsiz yayınlayabilir. METR tarafından kullanılan üçüncü ve en yüksek katman, ikinci katmana benzer yayın haklarına sahip, çalışan düzeyinde erişim sağlar. SecureBio birinci seviyededir. Fakülte ile ortaklık da daha sınırlı erişimle erken aşamadadır. Topluluğumuza hoş geldiniz! Gelen katkılar kontrol edilir ve ardından yayınlanır. Lütfen internet kurallarımıza ve genel hüküm ve koşullarımıza uyduğunuzdan emin olun. Ayrıntılı tartışmalar için krone.at forumu da mevcuttur. Burada raporlama ve iyileştirme noktamız aracılığıyla topluluk ekibiyle iletişime geçebilirsiniz.
Kendi adımıza not: krone.at forumu artık yeni bir tasarıma sahip! Yapıcı geri bildirimler almayı sabırsızlıkla bekliyoruz. Yorum bölümlerindeki tartışmaların konuyla ilgili kalmasını sağlamak için bize buradan geri bildirim bırakabilirsiniz. Kullanıcı katkıları, operatörün/editörün veya Krone Multimedia'nın (KMM) görüşlerini yansıtmayabilir. Bu anlamda editörler/operatörler bu tartışma forumunun içeriğinden uzaklaşıyorlar. KMM özellikle yürürlükteki kanunları ihlal eden, iyi ahlaka veya görgü kurallarına aykırı olan veya KMM'nin itibarına aykırı olan katkıları kabul etme hakkını saklı tutar.