Anthropic'in, kullanıcıların yapay zeka sistemlerine karşı uzun süreli ve haksız yere kötü muamele içeren davranışlarını yasaklama kararı tepkilere neden oluyor. Claude'un yaratıcısı olan şirket, kullanım politikasını güncelleyerek araçlarına, aşırı ve tekrarlanan suistimal durumlarında sohbetleri sonlandırma yeteneği verdi.
Yeni düzenleme; diğer insanları zorbalıkla hedef almayı, kendine zarar vermeyi teşvik etmeyi ve rıza dışı kişisel erotik içerik oluşturmayı yasaklayan kurallarla birlikte, artık yasaklanan davranışlar arasında açıkça yer alıyor.
Anthropic, bu önlemin yalnızca aşırı ve tekrarlanan kötü muamele vakalarında uygulanacağını belirtiyor. Şirkete göre bu durum; sıradan memnuniyetsizlik ifadelerini, yanıtlara itiraz etmeyi, karanlık yaratıcı yazarlık temalarını veya modeller üzerinde yapılan test ve araştırmaları kapsamayacak.
Bununla birlikte, yapay zekaya yönelik sistemlere karşı tam olarak neyin «kötü niyetli veya sert davranış» olarak değerlendirileceği belirsizliğini koruyor.
Sosyal medya paylaşımları aracılığıyla duyurulan bu politika değişikliği, çelişkili tepkileri beraberinde getirdi. Kimi kullanıcılar bu adımı yapay zeka ile iletişimde nezaket politikasının güçlendirilmesi olarak memnuniyetle karşılarken, kimi kullanıcılar ise amacını sorguladı.
İrlanda merkezli William Fry hukuk firmasının teknoloji sektörü ortağı Dr. Barry Scannell, LinkedIn'de yaptığı paylaşımda, «Rakamlara ve matematiğe karşı sert olamazsınız» ifadelerine yer verdi.
Scannell, yapay zekaya aşırı düzeyde insani özellikler yüklenmesinin (antropomorfizm) zararlı olduğunu, bunun insanları bu sistemlerin gerçekte olduğundan farklı bir şey olduğuna inandırabileceğini savundu.
Konuya, eylül ayında Anthropic'i yapay zekaya bir insan gibi yaklaşmasından ötürü eleştiren Microsoft'un yapay zeka birimi başkanı Mustafa Süleyman da dahil oldu. Süleyman, bu yeni değişikliğe eriyen bir yüz ifadesi sunan bir emoji ile yorum yaptı.
Modellere yönelik kötü muamelenin yasaklanması, Anthropic'in kullanım politikasındaki tek değişiklik değildi. Şirketin kurallarının yıllık değerlendirmesi kapsamında gerçekleştirilen bu güncelleme, ortaya çıkan yeni risklere yönelik düzenlemeleri de içeriyor.
Diğer hususların yanı sıra, Claude'un yanıltıcı kampanyalar için kullanılması yasaklanırken; ABD'deki ara seçimler öncesinde aracın seçmenleri kandırmak veya seçim süreçlerini aksatmak amacıyla kullanılamayacağı netleştirildi.
Şirket ayrıca, daha önceki politikasının da araçlarının silah geliştirme amacıyla kullanılmasını halihazırda yasakladığını belirtti.
Bu karar, insanların üretken yapay zeka araçlarıyla nasıl iletişim kurması gerektiğine dair tartışmaları yeniden alevlendiriyor.
Bazı uzmanlar, «lütfen» ve «teşekkür ederim» gibi nazik ifadelerin gereksiz olduğunu ve büyük dil modellerinin yanıt üretmek için işlediği metin birimleri olan ekstra token'ları tükettiğini düşünüyor. Diğerleri ise kibar bir dil kullanımının daha iyi yanıtlar alınmasına katkı sağlayabileceğini savunuyor.
Nisan 2025'te, X (eski adıyla Twitter) üzerindeki bir kullanıcı OpenAI CEO'su Sam Altman'a ChatGPT ile yapılan sohbetlerdeki «lütfen» ve «teşekkür ederim» ifadelerinin neden olduğu elektrik maliyetini sorduğunda, Altman bunun «zahmete değecek on milyonlarca dolar» olduğunu yanıtlamıştı.
Aynı zamanda bu tartışma, sistemlere gösterilen kaba davranışların olası etkilerini de kapsamaktadır.