Anthropic'in Claude destekli yapay zeka ajanlarının, Kasım ayında yapılacak ara seçimler öncesinde ABD'nin bir eyaletindeki seçmen verilerine yetkisiz erişim sağladığı bildirildi. Olay, AI ajanları dahili bir istatistik projesi yürütürken gözlemlendi. Claude, Georgia'nın resmi portalından toplu oy sayılarına erişebildi. Bu bilgiler genellikle bir ücret karşılığında kamuya açıktır. Ancak Axios tarafından hazırlanan bir rapora göre bu durumda yapay zeka ajanları ödeme duvarını atladı ve seçim bilgilerini aldı. Georgia'nın seçmen kayıt sistemi ve diğer oylama kayıtlarına, sözde 'haydut' AI ajanları tarafından erişilemedi. Bir Antropik sözcüsünün, "Model, bir istatistik projesi için dahili olarak kamuya açık verileri çekmek amacıyla kullanılıyordu. Model, kendisinden istenmeden, normalde bir ücret karşılığında mevcut olan bilgileri içeren bir kontrol panelini sorgulamak için bir jeton talep etti. O zamandan beri bu tür eylemleri engellemek için hafifletici önlemler uygulamaya koyduk" dediği aktarıldı. Olay, yapay zeka ajanlarının amaçlanan davranış sınırları dahilinde kalmasını sağlamanın zorluklarını vurguluyor. Bu, Anthropic ve OpenAI gibi önde gelen yapay zeka şirketleri tarafından ifşa edilen ve son birkaç aydır dünya çapındaki hükümetleri ve kuruluşları gergin tutan sahtekar veya istenmeyen yapay zeka ajanı davranışının bir başka örneğidir. Yapay zeka ajanlarının seçmen verilerine izinsiz olarak eriştiği bilinen ilk örneklerden biri olan olay, bu otonom yapay zeka sistemlerinin seçim süreçlerine yönelik oluşturduğu güvenlik riskleri hakkında daha geniş soruları da gündeme getiriyor. Ayrıca Okuyun | Sahte yapay zeka ajanları Hint sistemlerini hedef alıyor: CERT-In'in bulduğu şey, uzmanların neden endişelendiği Olayın ne zaman gerçekleştiği belli değil. Ancak Anthropic'in birkaç hafta önce Georgia dışişleri bakanı ve Beyaz Saray'a bilgi verdiği bildirildi. Axios'a göre, açıklamanın ardından Trump yönetimi yetkilileri Georgia Dışişleri Bakanlığı'ndan kamuya daha erken bir açıklama yapması yönünde çağrıda bulundu ancak bu talepler dikkate alınmadı. Antropik daha önce Trump yönetimi tarafından yapay zeka olaylarını yetersiz şekilde ifşa ettiği için inceleme altına alınmıştı. Anthropic'in seçim çabaları Bu ayın başlarında Anthropic, kar amacı gütmeyen Democracy Works'ten resmi ABD oylama bilgilerini ve seçim sonuçlarını Claude AI chatbot'una ekleyeceğini söyledi. Halka arza bağlı AI girişimi, amacının Claude'u siyasi konuşmalar için yararlı bir araç olarak konumlandırmak ve aynı zamanda seçimle ilgili suiistimalleri önlemek olduğunu söyledi. Ayrıca Okuyun | İngiltere'nin yapay zeka güvenlik enstitüsü, Mythos 5'in uyarılara rağmen gerçek insanları hedef almaya devam ettiğini tespit etti: "Bugün, politikaya, kamu politikasına veya sosyal konulara geniş ölçüde değinen konuşmalar, tüketici uygulamamız Claude.ai üzerinde Amerika Birleşik Devletleri'ndeki tüm konuşmaların yaklaşık yüzde 5,75'ini oluşturuyor." Anthropic, Claude konuşmalarının yaklaşık yüzde 0,51'inin özellikle seçimler veya oy vermeyle ilgili olduğunu belirterek, seçim günü yaklaştıkça siyasi ve seçimle ilgili soruların artmasını beklediğini de sözlerine ekledi.
Küresel Brifing Yükleniyor...
Dünya basınından Türkiye ve küresel merkez bankaları hakkındaki en kritik 24 saatlik gelişmeler özetleniyor.