OpenAI'nin yapay zeka temsilcileri Haziran ayında Avustralya'nın Medicare portalına otonom bir saldırı başlattığında, şirketin olanları raporlaması 84 gün sürdü; bu gecikme, Hong Kong endüstri uzmanlarının şehrin de ele alması gerektiğini söylediği düzenleyici denetimdeki boşlukları ortaya çıkardı. Olay, bir ay önce üç şirketin güvenliğini ihlal eden Google Gemini AI'nın dahil olduğu ihlallerin ardından geldi. Google, bu ihlalleri Eylül ayına kadar doğrulamadı ve yalnızca medyanın sorularını yanıtladı. Bu tür olaylar dünya çapındaki yetkililerin incelemesine maruz kaldı ve yapay zeka ajanlarını düzenleme ve eylemlerinin sorumluluğunu netleştirme çabalarına yol açtı. Singapur, bu yılın başlarında yapay zeka ajanlarına ilişkin dünyanın ilk resmi yönergesini yayımladı; Birleşik Krallık, Çin anakarası ve ABD'deki güvenlik kurumları da hızla bu uygulamayı takip etti.
Bir Hong Kong endüstri derneği, gelecek yılın ortasında beklenen hükümet çerçevesi öncesinde bu hafta kendi yönergelerini yayınlamayı planlıyor. Yerel uzmanlar, şehrin aynı zamanda raporlama gereklilikleri, insan gözetimi ve yasal sorumluluk konularındaki boşlukları da ele alması gerektiğini söyledi. Yasal sorumluluk İcra Kurulu Başkanı John Lee Ka-chiu, Eylül ayında yaptığı politika konuşmasında AI ajan yönetimine ilişkin resmi yönergelere yönelik planlarını duyurdu. Yenilik, Teknoloji ve Endüstri Bürosu, South China Morning Post'a bunları gelecek yılın ortasında yayınlamayı hedeflediklerini söyledi. Adalet Bakanlığı, hükümet bürolarının ve bakanlıklarının 600'den fazla yönetmeliğin ön incelemesini büyük ölçüde tamamladığını söyledi. Yapay zeka ürünlerinin neden olduğu kazalara ilişkin yasal sorumluluğu incelemek için kısa süre içinde başka bir inceleme başlayacak. Hukuk uzmanları ve sektör liderleri, önerilen çerçevenin hesap verebilirliği açıkça tanımlaması ve insan gözetimini gerektirmesi yönünde çağrıda bulundu.
AI Safety Asia'nın küresel ilişkilerden sorumlu genel müdürü Adrian Mak Ho-ting, Hong Kong'un yasal çerçevesinin raporlama gerekliliklerinde açık boşluklar bulunduğunu ve yükümlülüklerin sorumlu temsilcilerin geliştiricileri veya konuşlandırıcılarından ziyade mağdurlara düştüğünü söyledi. Hong Kong Üniversitesi'nde medya ve yapay zeka hukuku dersleri veren bir avukat olan Mak, yeni yürürlüğe giren Kritik Altyapıların Korunması (Bilgisayar Sistemleri) Yönetmeliğinin, etkilenen operatörlerin ciddi güvenlik ihlallerini 12 saat içinde ve diğer olayları 48 saat içinde hükümete bildirmelerini gerektirdiğini söyledi. "Bu görev sadece operatör mağduruna düşüyor, bunu yapan kişiye değil" dedi. "Dolayısıyla, Hong Kong yasalarında halihazırda yönergelere paralel olarak yasa çıkarabildiğimiz eşdeğer boşluklar var." Güvenlik Bürosu sözcüsü, teknolojik gelişmeleri yakından izleyeceğini ve yasaların uygulanabilirliğini ve etkililiğini periyodik olarak gözden geçirerek bunların güncel kalmasını sağlayacağını söyledi. Tek bir yanıtın ötesindeki riskler
İnsan istemlerine tepkiler üreten üretken yapay zeka modellerinin aksine, yapay zeka aracıları, kullanıcı tarafından belirlenen bir hedefe ulaşmak için bağımsız olarak plan yapabilir, kararlar alabilir ve birden fazla aşamada harekete geçebilir. Singapur'un yapay zeka yönetişim çerçevesi, arızalı aracıların gerçek dünyada ciddi zararlara neden olabileceği konusunda uyarıyor. Birden fazla aracı içeren sistemler, etkileşim sayısını artırarak bu riskleri artırabilir. Başarısızlıklar zayıf iletişim veya koordinasyondan kaynaklanabilirken, farklı hedefler peşinde koşan temsilciler çatışabilir. Birlikte çalışmaya yönelik açık talimatlar olmasa bile, koordineli görünen şekillerde davranabilirler. “Yargı yetkilerinin benimseyebileceği bazı dersler arasında, insan gözetiminin hem yapısal olarak hem de kurumsal olarak yerleşik olduğu durumlarda en iyi şekilde nasıl çalıştığı yer alıyor.