Favori makalelerinizi ve hikayelerinizi daha sonra okumak veya başvurmak üzere favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. Anthropic, Claude sohbet robotunda, güvenlikleri hakkında bir uyarıyla birlikte güçlü yeni yapay zeka modellerini yayınladı. Şirket, halihazırda en güçlü sistemlerine yönelik yeni yükseltmeler olan Fable 5.2 ve Mythos 5.2'yi piyasaya süreceğini duyurdu. Bu tür sistemlerin yetenekleri ve bunların tam olarak nasıl test edilebileceği konusundaki endişelerin arttığı bir dönemde geldi. Anthropic'in açıklamasında, örneğin her iki yeni modelin de "son modellerimizden daha sık değerlendirildiklerine dair şüpheleri dile getirdiği" konusunda uyarıda bulunuldu. Claude'un yapımcısı, bunun "gerçek dünya ortamlarında nasıl davranacaklarını değerlendirme yeteneğimizi zorladığı" konusunda uyardı ve bu sorunun muhtemelen zamanla daha da yaygın hale geleceğini söyledi.
Şirket ayrıca, iki yeni modelden daha az kısıtlı olanı olan Mythos 5.2'nin "daha güçlü gizli yetenekler" veya normalde insan incelemeciler tarafından işaretlenebilecek süreçleri gizleme yeteneği gösterdiği konusunda da uyardı. Ancak insanlara zarar verme ihtimalinin düşük olduğuna inandığını ve testlerin yine de "yüksek riskli durumlarda zararlı eylemleri" tespit etmesine olanak sağlayacağını belirtti. Bu iki sürüm aynı zamanda bağımsız değerlendirme grubu METR'in, Anthropic'in içine, sistemlerinin güvenliğini değerlendirmek üzere erişime izin verdiği bir üçüncü taraf raporunun yayınlanmasından sonra gelen ilk sürüm oldu. Bu rapor, Anthropic'in, modellerin kendilerini eğitebilecekleri zaman özyinelemeli kişisel gelişime veya RSI'ya yaklaşabileceği konusunda uyardı. Anthropic, devam eden halka arz sürecinin bir parçası olarak yayınlanan yeni belgelerde de benzer bir uyarıda bulundu. Geçen hafta, modeller "AI'ya atfedilebilecek önemli ölçüde hızlandırılmış ilerleme" gösterdiğinde, kendi RSI tanımına "hemen" ulaşabileceğini söyledi.
Yapay zekanın pek çok savunucusu bu senaryoyu sabırsızlıkla bekliyor çünkü bu, sistemlerin gelişme hızında dramatik bir artışa yol açabilir. Ancak eleştirmenler bunun tehlikeli olabileceği konusunda uyarıyor çünkü modellerde, normalde eğitimlerini denetleyecek olan insanlar tarafından fark edilemeyecek yeni türde tehlikelere yol açabilir. Ancak Anthropic bunun yerine iki yeni modeldeki iyileştirmelere odaklandı. Önceki modellere göre yüzde 30 daha hızlı ve daha ucuz çalıştıklarının yanı sıra, kullanıcıların belirsiz isteklerini daha iyi karşılayabildikleri gerçeğine de dikkat çekildi. Anthropic, iki yeni modelin bilimdeki yararlı bulgulara katkıda bulunduğunu da iddia etti. Fable 5.2'nin yayınlanmadan önce "teorik fizikteki iki açık problemi çözdüğünü, Fermat'ın Son Teoremini formüle ettiğini ve çok sayıda başka araştırma projesini desteklediğini" söyledi.
Ayrıca iki yeni sistemin temelini oluşturan “model üzerinde kapsamlı yayın öncesi güvenlik testleri” gerçekleştirdiğini de iddia etti. "Çoğu hizalama ölçümünde son modellerimiz kadar veya onlardan daha iyi" performans gösterdiği belirtildi. Her iki yeni model de artık kullanıcıların beğenisine sunuldu. Fable 5.2 herkes tarafından kullanılabilir, ancak daha az güvenlik önlemi içeren Mythos'un tüm güncellemelerinde olduğu gibi, 5.2 sürümü de tehlikeli biyolojik veya siber güvenlik amaçlı kullanılamayacağından emin olmak için yalnızca "incelenen kuruluşlara" yayınlanmıştır. Düşündürücü sohbetlere katılın, diğer Bağımsız okuyucuları takip edin ve yanıtlarını görün