15 Ekim : Yapay zeka şirketleri teknolojiyi yavaşlatmadan güvenli bir şekilde geliştirmek için dış denetçileri bir güvence unsuru olarak sunarken, Anthropic kar amacı gütmeyen METR kuruluşuna sistemlerine çalışan düzeyinde erişim sağladı ve Hugging Face dahil diğer kuruluşlarla görüşmelerini sürdürüyor.
Claude modellerinin geliştiricisi, Perşembe günü yayınlanan bir blog yazısında, biyogüvenlik derneği SecureBio ve Accenture'ın yapay zeka birimi Faculty ile de denetçi olarak çalıştığını belirtti.
Reuters, bu hafta başında edindiği özel bilgilere dayanarak, bulguların ticari sırları sızdırabileceği endişesiyle Anthropic ve OpenAI'ın dış incelemecilerin neyi yayınlayıp yayınlayamayacağı konusunda ciddi bir kontrol talep ettiğini bildirmişti.
Konuya yakın bir kaynak Reuters'a yaptığı açıklamada, Anthropic ile yürütülen görüşmelerin son zamanlarda gelişme kaydettiğini ve şirketin müzakerelerde daha açık bir tutum sergilemeye başladığını aktardı.
[CNA reklam ve bulmaca bölümleri geçilmiştir]
Laboratuvarların geçmişteki faaliyetlerine aşina olan ayrı bir kaynak Reuters'a, denetçiler ile yapay zeka laboratuvarları arasındaki temel bir anlaşmazlık noktasının, şirketlerin kritik fikri mülkiyet olarak gördüğü bilgilerin aynı zamanda bir modelin risklerini değerlendirmekle de ilgili olabilmesi ve bunun anlaşmazlıklara ile metin çıkarımlarına (redactions) yol açması olduğunu belirtti.
Uzmanlar ayrıca, incelemeleri kimin gerçekleştireceğini Anthropic ve OpenAI seçtiği için denetçilerin bağımsızlığının bir endişe kaynağı olduğunu ifade etti.
Görüşmelerin sonucu, yaratıcılarından bazılarının insanlığın yönetme yeteneğinin ötesine geçiyor olabileceği konusunda uyardığı bir teknolojinin dünyaca nasıl denetleneceğini belirlemeye yardımcı olacak.
METR İŞ BİRLİĞİ
Anthropic Perşembe günü yaptığı açıklamada, Model Değerlendirme ve Tehdit Araştırması (METR) kuruluşunun altı çalışanına şirket donanımı, ofis alanı ve risk değerlendirme ekiplerininkine benzer düzeyde dahili sistem erişimi sağlandığını belirtti. Ancak müşteri verileri, yasal olarak imtiyazlı bilgiler ve model mimarisi kapsam dışı kalmaya devam edecek.
Şirket, METR'ın riskler, olaylar ve uygulamalarına ilişkin bulgularını veto edemeyeceğini, ancak dar kapsamlı tanımlanmış metin çıkarımları (redactions) talep edebileceğini bildirdi. METR da gizlenen bilgileri ifşa etmeden bu çıkarımları kamuoyu önünde sorgulayabilecek.
METR yorum talebine hemen yanıt vermedi. Kar amacı gütmeyen kuruluş Çarşamba günü yaptığı öneride, geliştiricilerin özel personel mülakatlarına, değerlendirmelerin zamanında yayınlanmasına ve erişim sınırları ile çıkarımlar konusunda şeffaflığa izin vermesini talep etmişti.
Anthropic, diğer denetçi ortaklıklarının daha sınırlı erişim ve yayın haklarıyla henüz erken aşamada olduğunu kaydetti.
Şirket, üç erişim kademesi geliştiriyor. İlk seviyedeki denetçiler dar kapsamlı araştırmalar yürütecek ve yayınlamak için onay almak zorunda olacak. İkinci seviyedekiler daha fazla bilgi alacak ve denetçilerin kamuoyu önünde itiraz edebileceği çıkarımlara tabi olmak kaydıyla onay gerektirmeden yayın yapabilecek.
METR tarafından kullanılan üçüncü seviye ise, ikinci seviyeye benzer yayın haklarıyla birlikte çalışan benzeri bir erişim sağlıyor.
SecureBio ilk seviyede yer alıyor ve önceki raporun pilot incelemesini yayınladıktan sonra Anthropic'in Ağustos ayındaki risk raporunun kimyasal ve biyolojik silahlar bölümünü inceliyor. Anthropic, incelemenin ardından SecureBio'nun erişim ve yayın haklarını genişletmeyi değerlendireceğini belirtti.
Anthropic ayrıca geçtiğimiz ay, model değerlendirmeleri, düşmanca testler (adversarial testing) ve modellerin amaçlandığı gibi davranıp davranmadığına ilişkin değerlendirmeleri kapsayan Faculty ile bir ortaklık üzerinde çalıştığını duyurmuştu.
Denetçiler ile yapay zeka laboratuvarları arasındaki temel bir anlaşmazlık noktası, şirketlerin kritik gördüğü bilgilerin...