Otoriter kontrol için çok güçlü bir sayısal puanlama projesi olarak basmakalıp bir şekilde hayal edilen Çin'in sosyal kredi sistemi, Batı'da ün kazandı; ancak ülke içindeki insanlar aslında onun varlığını veya pratik etkisini çok az hissediyorlar. Ancak hükümet tarafından finanse edilen bir çalışmada Çinli bir hukuk uzmanı, yapay zekanın (AI) kullanılmasının derecelendirme sistemini "büyük ölçekli bir gözetim aracına" dönüştürme riski taşıdığı konusunda uyardı. Makale geçen ay Sichuan Normal Üniversitesi Dergisi'nde yayınlandı. Yazar Lin Jianxing, vatandaşların faaliyetlerini ölçülebilir ölçümlere dönüştürmek için büyük veri ve algoritmalar kullanan sosyal derecelendirmenin "devlet kurumlarının risk değerlendirmesini ve otomatik düzenleme yeteneklerini güçlendirebileceğini" belirtti. Sichuan Üniversitesi Hukuk Fakültesi'nde doktora adayı olan Lin, risk değerlendirmesiyle karakterize edilen bu tür algoritmik yönetimin "opaklık, büyük ölçekli gözetim ve ayrımcılık gibi sorunları tetikleyebileceği" yönündeki endişelerini dile getirdi.
Araştırma, Sichuan eyaletindeki sosyal yönetişim modelleri ve kurumsal inovasyona ilişkin ampirik çalışmalar üzerine bir proje tarafından finanse edildi. Lin'in tanımına göre sosyal derecelendirme, insanların çevrimiçi ve çevrimdışı etkinliklerini ölçülebilir puanlara dönüştürmek için büyük veri madenciliği ve tahmine dayalı algoritmalar kullanan idari organları ifade ediyor. Bu, bireyin potansiyel eylemlerini ve risklerini tahmin etmeyi ve böylece o kişiyle ilgili önemli kararlar almayı amaçlamaktadır. Araştırmacı, yüksek veya düşük bir puanın yüzeyde bireyin hak ve yükümlülüklerini doğrudan etkilemiyor gibi görünse de gerçekte sağlık, finansal krediler ve devlet hizmetleri gibi alanlarda aldıkları muameleyi etkilediğini belirtti. Araştırmada incelenen "sosyal derecelendirme sistemi", Çin'in daha iyi bilinen ve tartışmalı sosyal kredi sisteminin daha geniş çerçevesine giriyor.
Geçen yıl Stanford Üniversitesi'nin web sitesinde yayınlanan bir makaleden alıntıya göre, Çin'in sosyal kredi çerçevesi tek bir birleşik ağ yerine farklı kurumlar tarafından yürütülen birden fazla deneyi içeriyor. Makaleye göre bunlar, ciddi yasal ihlallere yönelik kara listeler ve finansal kredi raporlama sistemi dahil olmak üzere dört türe ayrılabilir. Başka bir kategori, davranışsal verileri toplayan ve ödülleri cezalarla birleştiren, Lin tarafından tartışılan mekanizmaları hatırlatan, belediye yönetimi tarafından işletilen sistemleri içerir. Pekin yapay zekanın sosyal yönetimde uygulanmasını ilerletiyor. Geçen yıl Danıştay tarafından yayınlanan bir eylem planı, yapay zekanın hükümet sektörlerinde güvenli, istikrarlı ve düzenli bir şekilde ilerlemesi çağrısında bulunarak "ihtiyaçları doğru bir şekilde tanımlayan, hizmetleri proaktif olarak planlayan ve tamamen akıllı işleme sunan" yeni bir kamu hizmeti modeli yaratmayı hedefliyordu. Örneğin, merkezi Anhui eyaleti dinamik bir sosyal yardım izleme platformu geliştirmiştir.
Düşük gelirli nüfusa ilişkin bir bilgi veri tabanı oluşturarak ve çeşitli devlet daireleri arasında veri paylaşımını teşvik ederek sosyal hizmetleri artırmayı amaçlıyor. Ancak Lin, kredi sisteminde yapay zekayı benimsemenin bazı riskleri beraberinde getirebileceği konusunda uyardı. Risklerden biri, toplanan bireysel verilerin kalitesi ve model tasarımı gibi faktörlerden etkilenebilecek algoritmaların güvenilirliğidir. Katı veri uyumluluğu düzenlemeleri ve gözetim mekanizmalarının yokluğunda, vatandaşların bıraktığı çeşitli veri ayak izlerini kesin profiller oluşturmak için kullanmak, mekanizmanın "bir riskten evrimleşmesine" neden olabilir.