Favori makalelerinizi ve hikayelerinizi daha sonra okumak veya başvurmak üzere kaydetmek ister misiniz? Bugün Independent Üyeliğinizi başlatın.
OpenAI, milletvekillerinin teknoloji firmalarının yöneticilerini yapay zeka ajanlarının emniyeti ve güvenliği konusunda sorgulaması üzerine, yapay zeka güvenliği konusunda "dibi görme yarışında" olmadığını belirtti.
Öte yandan Claude'un ana şirketi Anthropic, hızla değişen bu teknolojinin kötü niyetli kişiler tarafından "biyolojik veya kimyasal silahlar yaratmak" amacıyla kullanılabileceği riskleri bulunduğunu öne sürdü.
Bu açıklama, Parlamento'nun iş dünyası, inovasyon, bilim ve ticaret ihtisas komisyonunun OpenAI, Anthropic, Google DeepMind ve Meta'dan yöneticileri sorgulaması sırasında geldi.
OpenAI'ın Avrupa, Orta Doğu ve Afrika politikalarından sorumlu başkan yardımcısı ve başkanı Tom Duff Gordon, grubun en son modeli olan GPT-6.1 Astra'nın piyasaya sürülmesini güvenlik endişeleri nedeniyle iptal ettiklerini söyledi.
Gordon, modelin piyasaya sürülmesini durdurma kararının, teknolojisini geliştirirken güvenliği sürdürme arzusunun altını çizdiğini vurguladı.
Gordon şunları kaydetti: "Yeterince reddetmediğini, uyum konusunda yeterince ilerleme kaydetmediğini gördük.
"Bu durum, OpenAI'ın güvenliği gerçekten çok ciddiye aldığının ve dibi görme yarışında olmadığımızın kanıtıdır."
Anthropic'in Avrupa, Orta Doğu ve Afrika politikaları başkanı Lord Booth-Smith, şirketin "titiz" güvenlik süreçlerine sahip olduğunun altını çizdi.
Booth-Smith şu ifadeleri kullandı: "Kullanıma sunduğumuz modellerimizin güvenli olduğunu düşünüyoruz ve halihazırda aldığımız önlemler var.
"Ancak aynı zamanda, bu modellerin nasıl kullanıldığına dair süreç içerisinde çok şey öğrendiğimizi belirtmekte fayda var.
"Şu anda Anthropic'te acil riskin odak noktası kesinlikle siber alandır. Mythos, ayda on binlerce açığı tespit ediyor.
"Bu odak noktasının biyolojiyi ve diğer alanları kapsaması da mantıklıdır.
"İnsanların biyolojik veya kimyasal silahlar yaratmasına yardımcı olma alanında gerçek zararların ortaya çıkması mümkündür."