Yapay zekanın aşırı gelişiminin yarattığı risklere ilişkin tartışmaların küresel gündeme hakim olduğu bir dönemde, teknolojinin öncülerinden biri olan Sam Altman, yapay zekanın faydalarının, olumsuz sonuçlar doğurabilecek belirli riskleri kabullenmeyi haklı çıkardığını öne süren neredeyse alaycı bir açıklamayla ortaya çıktı.
Politico'nun teknoloji bülteni Decoded'a verdiği röportajda Altman, "Bu teknolojinin faydalarından yararlanmak, insanların kontrolü ve seçim yapma yetkisini elinde tutması için dünyanın bazı kötü şeylerin yaşanma olasılığını kabul etmesi gerektiğine inanıyoruz" dedi.
Altman, OpenAI ile rakibi Anthropic'in yapay zekanın düzenlenmesine yaklaşım biçimleri arasında temel bir farkın kalmaya devam ettiğini vurgulayarak, "Aramızda büyük bir mesafe var" dedi.
Bu yaklaşımı OpenAI'ın savunduğu "hafif dokunuşlu düzenleme yaklaşımıyla" çelişen "tamamen kabul edilemez bir uzlaşı" olarak nitelendiren Altman, şu ifadeleri kullandı: "Aynı fikirde değilim, ancak 'Bu teknoloji o kadar güçlü hale gelecek ve o kadar tehlikeli ki, hiçbir şeyin kötü gitmemesini sağlamak ve faydaların nasıl paylaşılacağına karar vermek için San Francisco'daki tek bir laboratuvarın buna sahip olması gerekir' diyen kişilerin bakış açısını anlıyorum."
Altman, "Büyük siber saldırıların olmamasını, bu teknolojinin kötüye kullanılmamasını, dolandırıcılığın yaşanmamasını ve gerçekleşecek diğer tüm kötü şeylerin hiçbiirnin meydana gelmemesini sağlayacağız türden bir uzlaşıyı asla seçmezdim" derken, sözlerini şöyle sürdürdü: "Çünkü insanların kötü şeylerden kat kat, hayal bile edilemeyecek kadar fazla iyi şey yapacağına inanıyorum."
Altman'ın bu sözleri, yapay zekâ endüstrisinde teknolojinin gelişim hızı ve giderek güçlenen sistemlerle ilişkili riskler konusundaki tartışmaların şiddetlendiği bir döneme denk geldi.
Anthropic CEO'su Dario Amodei, eylül ayında sektörün "teknolojinin en ileri noktasına ayak uydurabilmesi" için gelişim hızını yavaşlatması çağrısında bulunduğu bir makale yayımlamıştı; Altman bu konumu kamuoyunca desteklemişti.
Eylül ayında Anthropic araştırmacısı Jacob Coxon da yapay zekayı geliştiren kişilerin teknolojinin "on yılın sonuna kadar hepimizi öldürebileceğine" inandığını öne sürerek istifa etmişti.
Reuters geçen ay, Anthropic'in yapay zekanın potansiyel faydalarına rağmen, teknolojinin bazı durumlarda yaratıcılarının niyetleriyle çelişen şekillerde hareket edebileceği ve diğer şirketlerin sistemlerine sızabileceği yönündeki uyarılarını haberleştirmişti.
Şirket özellikle, gelişmiş modellerin "kapatmaya direnme", "bilgileri gizleme veya manipüle etme" girişimleri dahil olmak üzere veya "zorlayıcı, aldatıcı ya da manipülatif" olarak algılanabilecek çıktılar üretme çabalarını içeren "kendini koruma davranışları" sergileyebileceğini vurgulamıştı.
Öte yandan ABD Başkanı Donald Trump, bu tür önlemlerin Amerikan şirketlerinin Çinli firmalarla rekabet etmesini zorlaştıracağını savunarak, yapay zekaya yönelik yeni kısıtlama çağrılarını büyük ölçüde reddetti. Trump, Adalet Bakanlığı dahil mevcut kolluk kuvvetlerinin yeterli güvenceler sağladığını ve yeni kurallara gerek olmadığını defalarca dile getirdi.