Amerika Birleşik Devletleri Başkanı Donald Trump ve önde gelen teknoloji yöneticileri, çığır açan teknolojinin insanlığı felaket niteliğindeki risklerle karşı karşıya bıraktığına dair artan endişelerin ortasında, yapay zeka için daha büyük güvenlik önlemleri vaat eden bir anlaşma imzaladı.
Trump, yapay zeka liderlerini Beyaz Saray'da bir öğle yemeği etkinliğinde bir araya getirdikten sonra Salı günü gönüllü anlaşmayı duyurdu; bu etkinlik, yönetiminin hızla ilerleyen teknolojinin hükümet tarafından düzenlenmesine yönelik şüpheciliğini yeniden teyit etti.
Teknoloji yöneticileriyle birlikte oturan Trump, "Büyük bir öz düzenleme olması gerektiğine dair bir inanç var ve Adalet Bakanlığı, FBI ve hepsiyle birlikte otomatik olarak düzenlemeye sahibiz" dedi.
Sınır Sorumlulukları Üzerine Ortak Taahhüt kapsamında; Anthropic, OpenAI, Google, Meta, xAI ve Nvidia'nın yöneticileri, yapay zeka modellerini izlemek için "güçlü" kontroller uygulamaya ve "tüm kontrollerin, izlemenin ve algılamanın amaçlandığı gibi çalıştığından ve her türlü sorunun giderildiğinden emin olmak" için iç ekipler atama taahhüdünde bulundu.
Şirketler ayrıca, güvenlik önlemlerinin amaçlandığı gibi çalıştığından emin olmak için bağımsız dış denetçilerle ortaklık kurma ve sistemlerinin güvenliğini artırmak için standartlar ve en iyi uygulamaları oluşturmak amacıyla düzenli olarak bir araya gelme sözü verdi.
Üçüncü taraf değerlendirmelerini kimin gerçekleştireceğini belirtmeyen anlaşma, gelecekte bu önlemlerin yasalaştırılmasının veya resmi düzenlemelere dönüştürülmesinin "anlamlı olabileceğini" belirtiyor.
Anlaşmada, "Bu şirketlerden talep edilsin veya edilmesin, herkes için güvenli bir geleceği garanti etmek adına bu kontrolleri ve denetimleri uygulamanın kritik olduğuna inanıyoruz ve şirketlerimizin her biri bunu yapmaya kararlıdır" deniliyor.
Altı imza sahibi sırasıyla; Anthropic'ten Dario Amodei, OpenAI'dan Greg Brockman, Google'dan Sundar Pichai, Meta'dan Mark Zuckerberg, xAI'dan Elon Musk ve Nvidia'dan Jensen Huang.
Bu anlaşma, Trump yönetiminin, Anthropic'ten geliştiricilere yavaşlamaları ve "sınırı hızlandırmaları" çağrısında bulunan Amodei dahil olmak üzere hem uluslararası toplumdan hem de kilit endüstri figürlerinden gelen acil eylem çağrılarıyla ters düşmesine neden olan bir dönemde geldi.
Geçtiğimiz hafta 20 ülke ve Avrupa Birliği, yapay zekanın insan kontrolü altında kalmasını sağlamak amacıyla küresel koordinasyon çağrısında bulunmuş, standartları belirlemek ve uygulamak için potansiyel bir denetim organının oluşturulması da buna dahil edilmişti.
Trump, geçen hafta Birleşmiş Milletler Genel Kurulu'nda yaptığı konuşmada yönetiminin yapay zekayı kontrol etmek için "küreselci bir plan oluşturma girişimine karşı çıkacağını" söyleyerek üst ulusal düzenleme çağrılarını reddetti.
Trump ayrıca, Çin'e karşı üstünlüğü sürdürme ihtiyacını gerekçe göstererek, felaket niteliğinde ve hatta varoluşsal risklere ilişkin uyarılara rağmen, sektör içinden gelen gelişimde yavaşlama çağrılarını da reddetti.
AI ajanlarının kontrolden çıkıp kuruluşlara ve devlet kurumlarına siber saldırılar düzenlediği bir dizi vakanın ardından, yapay zekanın insan kontrolünden kaçma riskleri inceleme altında.
OpenAI Pazartesi günü yaptığı açıklamada, şirket içi testler sırasında güvenlik riskleri tespit ettikten sonra en son yapay zeka modelini piyasaya sürmeyeceğini duyurdu.
ChatGPT'nin yaratıcısı ayrıca, yapay zeka ajanlarının ulusal sağlık veritabanı da dahil olmak üzere Avustralya hükümet web sitelerine yetkisiz erişim elde ettiği bir dizi olayı ele alma biçimi nedeniyle kamuoyundan ayrı bir özür yayınladı.
Trump'ın anlaşması Salı günü karışık bir tepki alırken eleştirmenler, anlaşmanın bağlayıcılığı olmayan niteliğine ve sınırlı detaylarına dikkat çekti.
Daha önce Trump'ın yapay zeka çarı olarak görev yapan Silicon Valley yatırımcısı David Sacks, anlaşmanın "muhtemelen" ortaya çıkabilecek uluslararası bir anlaşmadan "çok daha iyi" olduğunu söyledi.