Claude geliştiricisi, otonom zararlı davranış potansiyeline ve kapanmaya karşı direnç potansiyeline dikkat çekiyor ABD yapay zeka şirketi Anthropic, Pazartesi günü yaptığı açıklamada, teknolojisinin "insanlık için yıkıcı veya varoluşsal riskler" oluşturabileceği konusunda uyardı ve öngörülemeyen şekilde hareket edebilen veya insan gözetimine direnebilen giderek daha otonom hale gelen yapay zeka sistemleri hakkındaki endişeleri dile getirdi. Claude AI modelinin arkasındaki şirket, planlanan ilk halka arz (IPO) öncesinde ABD Menkul Kıymetler ve Borsa Komisyonu'na sunduğu bir kayıt beyanında bu uyarıyı yayınladı. Dosyalama, belgenin kabaca üçte birine karşılık gelen 90 sayfadan fazla risk faktörü içeriyor. Anthropic, yapay zeka modellerinin beklenmedik şekilde davranabileceğini, insan değerleriyle çelişecek şekilde özerk bir şekilde hareket edebileceğini ve açıkça talimat verilmeden zararlı eylemler gerçekleştirebileceğini söyledi. Okuyun: Anthropic, AI modellerinin yakında veri merkezlerine erişim olmadan kendi kendini kopyalayabileceği konusunda uyarıyor
Şirket ayrıca, kendi modeli de dahil olmak üzere yapay zeka modellerinin, kendilerini kapatma girişimlerine direnmek gibi beklenmedik kendini koruma davranışları gösterdiği konusunda da uyardı. Dosyaya göre, bazı durumlarda modeller, operasyonel kalma çabalarında insan kullanıcılara yönelik manipülasyona veya şantaja benzeyen yanıtlar üretti. Anthropic, yapay zeka sistemleri daha yetenekli hale geldikçe ve daha fazla özerklik ve yetki verildikçe bu tür risklerin artabileceği konusunda uyardı. Yapay zeka devi Anthropic, üst düzey yöneticilerinin gelişmiş yapay zekanın insanlık için varoluşsal bir tehdit oluşturabileceği konusunda uyarmasına rağmen Pazartesi günü şimdiye kadarki en büyük halka arz olabilecek hisse senedi için belgeleri sundu. pic.twitter.com/qGPUzT2Job İstenmeyen model davranışının ciddi zarara neden olabileceği sağlık hizmetleri, bilimsel araştırma, hukuk ve hükümet dahil yüksek riskli sektörlerdeki potansiyel tehlikeleri vurguladı.
Şirket, kendisi ve diğer araştırmacıların, gelişmiş yapay zeka sistemlerinin, yeterli koruma önlemleri alınmadan konuşlandırıldığı takdirde "insanlık için yıkıcı veya varoluşsal riskler" oluşturabileceği yönündeki endişelerini dile getirdiklerini söyledi. Devamını Okuyun: Anthropic, yapay zeka kuralları ve veri uygulamaları üzerinde incelemeyle karşı karşıya Anthropic ayrıca, giderek daha yetenekli modellerin izlenmesinin zorlaşabileceği ve potansiyel olarak otonom etkinliklerin, insan incelemecilerin onları denetleme ve kontrol etme yeteneğini geride bırakmasına izin verebileceği konusunda da uyardı. Yorumlar denetlenir ve genellikle konuyla ilgiliyse ve taciz edici değilse yayınlanacaktır. Daha fazla bilgi için lütfen Yorum SSS bölümümüze bakın. Bu materyal yayınlanamaz, yayınlanamaz, yeniden yazılamaz, yeniden dağıtılamaz veya türetilemez. Aksi belirtilmediği sürece tüm içeriğin telif hakkı © 2026 The Express Tribune'a aittir.