Amerikalı bir mahkeme, yapay zeka (AI) girişimi Anthropic'in Claude modelinin ordu tarafından kısıtlamasız kullanılmasına izin vermemesi üzerine Pentagon'un şirketi tedarikçileri arasından çıkarmasını 25 Eylül Cuma günü haklı buldu. Bu karar, ağustos ayı sonunda verilen başka bir hükümle kısmen çelişmektedir. Washington Temyiz Mahkemesi'nin üç yargıcından ikisi adına yazan Yargıç Gregory Katsas, aşırı kısıtlanmış bir yapay zekanın riskleri ile sınırsız bir yapay zekanın riskleri arasında "nasıl hakemlik yapılacağına karar vermenin cumhuriyetimizde başkan ve savunma bakanına düştüğünü" yazdı.
Mahkemeye göre, bir şirket yazılımının yaptıklarını "kötü niyet olmasa bile" kısıtlama kapasitesine sahip olduğu anda kapsam dışı bırakılabilir. Bununla birlikte, karşı oy kullanan Yargıç Karen Henderson, bundan böyle her tedarikçinin "bakanın taleplerini kabul etmek veya ulusal güvenlik tehdidi olarak etiketlenme riskini göze almak" arasında seçim yapmak zorunda kalacağı konusunda endişesini dile getirdi.
Sonuç olarak, Amerikan ordusunun yüklenicileri, Savunma Bakanlığı için çalışırken hâlâ Anthropic'i kullanamamaktadır.
Pentagon, mart ayı başlarında bu yapay zeka öncüsünü, statüsü şimdiye kadar düşman güçlerle bağlantılı yabancı şirketlere ayrılmış olan bir "tedarik zinciri riski" olarak nitelendirmişti. Bunun üzerine Savunma Bakanlığı, Anthropic'in rakiplerine yöneldi. ChatGPT'nin yaratıcısı ve en büyük rakibi olan OpenAI, dışlanmasından hemen sonra bir anlaşma imzalarken, Elon Musk'ın Grok'u geliştiren şirketi xAI şubat ayında bunu yapmıştı. Google ve Microsoft mayıs ayında onları takip etti.
Agence France-Presse'e konuşan bir Anthropic sözcüsü, "Mahkemenin kararına saygılı bir şekilde katılmıyoruz" diyerek şirketin "yeni bir temyiz başvurusu dahil tüm seçenekleri değerlendirdiğini" belirtti.
San Francisco'da (Kaliforniya) ağustos ayı sonlarında bir yargıç, Trump yönetiminin Claude'u kullanmayı bırakmaları yönünde tüm federal ajanslara verilen emir de dahil olmak üzere Anthropic'e yönelik diğer yaptırımlarını iptal etmişti. Yargıç Rita Lin, "Ulusal güvenliğin içi boş bir şekilde öne sürülmesi, hükümeti eleştirenleri cezalandırmak ve misilleme yapmak için açığa alınmış bir çek değildir" diye yazmıştı.
Washington mahkemesi ise duruma farklı baktı. Mahkemeye göre Pentagon, Anthropic'in açıklamalarını değil, ulusal güvenlik için gerekli görülen bir maddenin reddedilmesini cezalandırdı. Yargıç Katsas, "Bu anlaşmazlığın özü sözleşmeseldi" diye yazıyor.
Anlaşmazlık, şubat ayında Anthropic'in ordunun Claude'u Amerikalıların kitlesel gözetimi veya tamamen otonom öldürücü silahlar için kullanmasına izin vermeyi reddetmesinin ardından patlak vermişti.
Karara göre, Anthropic'li bir yönetici, Venezuela Devlet Başkanı Nicolas Maduro'nun 3 Ocak'ta yakalanmasını sağlayan askeri operasyon sırasında Pentagon yüklenicisi Palantir tarafından Claude'un kullanılmasını sorgulamıştı. Savunma Bakan Yardımcısı Emil Michael'a göre bu itiraz, Anthropic'in yazılımının "çalışmayı durdurmasından veya Amerikan askerlerinin hayatını tehlikeye atacak felaket niteliğinde bir eyleme neden olmasından" korkan bakanlığı "alarm durumuna" geçirdi.
Anthropic, orduya teslim edildikten sonra modellerini değiştiremediğini belirtiyor. Ancak Washington mahkemesi, şirketin her yeni sürümün davranışını belirlediğini ve ordunun en son versiyonlardan mahrum bırakılamayacağını değerlendirdi.
Uygulanan yasa, federal kamu alımları kodundan kaynaklanmaktadır