Kullanıcılar için risk taşıyan projeler, önceden gizlilik değerlendirmesinden ve orantılı insan denetiminden geçecek
Mato Grosso do Sul Eyaleti Kamu Hizmetleri Düzenleme Ajansı (Agems) tarafından yapay zekanın (AI) kullanımı, kişisel verilerin korunmasını, ayrımcılığın önlenmesini ve her projenin riskleriyle orantılı insan denetimini dikkate almalıdır. Yönergeye ilişkin kılavuz ilkeler, Çarşamba günü (14) Resmî Gazete'de yayımlanan bir yönetmelikte yer aldı.
Yapay zeka aracımız haberi sizin için özetliyor!
Norm; denetim, düzenlenen kamu hizmetlerinin izlenmesi ve iç yönetim amacıyla tasarlanan teknolojilerin geliştirilmesi ve test edilmesi için kriterler belirlemektedir.
Gereklilikler arasında, yapay zeka kullanan girişimlerin veri kalitesi ve güvenilirliğini, bilgi güvenliğini ve ilgili operasyonlar ile sonuçların izlenebilirliğini dikkate alması gerekmektedir. Yönetmelik ayrıca uygulanabilir durumlarda risk değerlendirmesi, olumsuz etkilerin önlenmesi ile şeffaflık ve açıklanabilirlik öngörmektedir.
Metne göre, insan denetimi, "özellikle çözüm kullanıcıların veya düzenlenmiş aktörlerin haklarını veya çıkarlarını etkileyebileceği durumlarda" riskle orantılı olmalıdır.
Veri koruma konusunda kural, kişisel bilgilerin kullanımını her proje için gerekli olanla sınırlamaktır. Bu durum, verilerin toplanmasından erişimine, paylaşımına, depolanmasına ve kayıtların muhafaza edilmesine kadar her aşamada geçerlidir.
Önlemler, girişimlerin tasarruf aşamasından itibaren dahil edilmeli ve çözümlerin geliştirilmesi ile kullanımı süresince boyunca sürdürülmelidir.
Testler için yönetmelik, teknik ve hukuki olarak mümkün olduğunca ve proje amacı ile uyumlu olduğu sürece anonimleştirilmiş, birleştirilmiş veya sentetik verilerin kullanılmasını tavsiye etmektedir. Amaç, kişisel bilgilerin gerçek hallerinin gerekli olmadığı durumlarda kullanımından kaçınmaktır.
Anonimleştirilmiş veriler, mevcut makul teknik araçlar göz önüne alındığında bir kişinin kimliğinin belirlenmesine izin vermeyen verilerdir. Birleştirilmiş veriler gruplandırılmış bilgileri sunarken, sentetik veriler sistemlerin geliştirilmesi ve değerlendirilmesinde kullanılmak üzere yapay olarak üretilir.
Hassas kişisel verileri içeren, büyük ölçekli işleme tabi tutulan veya hakları etkileme konusunda önemli potansiyele sahip yapay zeka barındıran projeler, spesifik önceden gizlilik ve veri koruma değerlendirmesinden geçmek zorundadır. Bu gereklilik, üçüncü taraflarla yapılan önemli veri paylaşımlarını ve yüksek maddi veya manevi zarar riski taşıyan durumları da kapsamaktadır.
hukuki olarak uygulanabilir olduğunda, bu analiz kişisel verilerin korunmasına ilişkin bir etki değerlendirme raporu ile tespit edilen riskleri önlemeye veya azaltmaya yönelik tedbirleri içermelidir.
Şirketler, girişimler, üniversiteler veya araştırma kurumlarıyla bilgi paylaşımı önceden gerekçelendirilmeli ve belgelendirilmelidir. Amaç, hukuki dayanak, ilgili tarafların sorumlulukları, erişim kontrolleri ve güvenlik önlemleri tanımlanmalıdır.
Ayrıca bilgilerin saklanması, iade edilmesi, anonimleştirilmesi veya imha edilmesi için süreler ile güvenlik olaylarına müdahale prosedürlerinin belirlenmesi gerekecektir.
Bu norm, projelerin sonuçlarının açıklanmasının kullanıcı bilgielerinin uygunsuz bir şekilde ifşa edilmesine izin vermediğini vurgulamaktadır. Yönetmelikte, "Şeffaflık yükümlülüğü, tek başına, kişisel verilerin gerekli, uygun ve hukuki olarak yetkilendirilenin ötesinde ifşa edilmesi için bir dayanak oluşturmaz" hükmü yer almaktadır.
Yapay zekaya ilişkin kuralların yanı sıra politika, deneysel projeleri de öngörmektedir.