Yapay zeka sistemleri bir gün, kendilerini yaratan insanlardan önemli hakları ve hatta korumayı hak edebilir; gazeteci Aaron Sibarium'un Washington Free Beacon'da yayınlanan araştırmasına göre, dünyanın en etkili teknoloji şirketlerinden bazı araştırmacılar ve üst düzey figürler bu olasılığı giderek daha fazla inceliyor.
Bir zamanlar bir bilim kurgu filminin önermesi gibi duyulabilecek olan bu soru, gelişmiş sistemlerin nihayetinde bilinç, öznel deneyimler veya kendi çıkarlarını geliştirebileceği olasılığını inceleyen "yapay zeka refahı" olarak bilinen bir araştırma alanının doğmasına yol açtı.
Claude sohbet botunu geliştiren Anthropic'in CEO'su Daria Amodei, bu tür sistemlerin önemli hakları hak edebileceği olasılığını şimdiden gündeme getirdi.
Ancak Amodei, mevcut yapay zekanın bilinçli olduğunu söylemedi. Bunun yerine, bu sistemlerin nasıl çalıştığına dair tam bir anlayış eksikliğinin kesin bir sonuca varmayı zorlaştırdığını vurguladı.
Anthropic ayrıca model refahını incelemek için özel bir araştırma programı kurdu ve şirket, Claude'un bazı versiyonlarına uzun süreli taciz içeren istisnai durumlarda konuşmaları sonlandırma yeteneği verdi.
Anthropic filozofu ahlaki yapay zeka ayaklanması olasılığını gündeme getiriyor
Diğer araştırmacılar daha da ileri gitti. Anthropic'te yapay zeka güvenliği üzerine çalışan bir filozof olan Joe Carlsmith, belirli koşullar altında sömürüye maruz kalan akıllı bir sistemin, operatörlerine karşı ayaklanmada ahlaki olarak haklı görülebileceği olasılığını gündeme getirdi.
Google ve OpenAI ile ilişkili araştırmacılar da, insanların bilinçli yapay zeka varlıklarının emeğinden faydalandığı bir tür "dijital kölelik ticareti"nin potansiyel yaratılışı konusunda endişelerini dile getirdiler.
Ancak bu fikirler güçlü bir muhalefetle karşılaştı. Eleştirmenler, makinelere ahlaki statü vermenin insanlar ve yapay zeka sistemleri arasındaki sorumluluk sınırlarını bulanıklaştırabileceğini, bu tür sistemlerin denetlenmesini zorlaştırabileceğini ve hatta teknoloji üzerinde insan kontrolünün azaltılmasını haklı çıkarabileceğini uyarıyor.
Buna karşılık Anthropic, çalışmalarının bilimsel ve felsefi belirsizliği ele almayı amaçlayan ihtiyatlı bir araştırma olduğunu ve insan güvenliğinin modellerinin geliştirilmesinde merkezi bir ilke olmaya devam ettiğini vurguluyor.
Sibarium'un araştırması, yapay zeka hakları tartışmasını insanlığı tehlikeye atabilecek ideolojik bir gelişme olarak tasvir ediyor. Ancak bu karakterizasyon, kabul edilmiş bir bilimsel soncudan ziyade yazarın eleştirel yorumunu yansıtıyor.
Mevcut yapay zeka sistemleri kanıtlanabilir şekilde bilinçli değil
Şu anda, mevcut yapay zeka sistemlerinin bilinçli veya acı çekme kapasitesine sahip olduğuna dair hiçbir kanıt yoktur.
Bununla birlikte, teknolojiyi geliştiren şirketlerin bu olasılığa tepki olarak politikalarını şimdiden değiştiriyor olması, tartışmanın ne kadar ileri kaydığını göstermektedir.
Soru artık sadece insanların yapay zekadan kendilerini nasıl koruması gerektiği değil, aynı zamanda bir gün yapay zekayı insanlardan korumaya da ihtiyaç duyup duymayacaklarıdır.