Al Jazeera English
Hükümet, Avustralya'nın yapay zeka şirketlerinin yapay zeka modelleri kötüye gittiğinde derhal rapor vermelerini ve modellerini değerlendirmeye açmalarını zorunlu hale getireceğini söyledi. Başbakan Anthony Albanese Salı günü yaptığı açıklamada, hükümetin ihlalle ilgili hızlı bir incelemeden tüm tavsiyeleri kabul ettiğini söyledi; bunlar arasında "yanlış hizalanmış davranışlar veya siber olaylar söz konusu olduğunda yapay zeka şirketinin zorunlu raporlaması ve ciddi suiistimal vakalarında ceza hukukunda reform yapılmasının değerlendirilmesi de yer alıyor". "Avustralya bu alanda ilk adım atan ülke ve biz de yapay zekanın potansiyel faydalarından yararlanabilmek için çalışmaya devam ettiğimizden emin olmak istiyoruz" dedi. Karar, OpenAI destekli modellerin Haziran ayında Avustralya hükümetinin sağlık veri sistemine sızması, dijital savunmasını aşarak dosyalara izinsiz erişmesi sonrasında geldi.
Önde gelen yapay zeka firmaları son zamanlarda insanların kendi sistemleri üzerindeki kontrolünü kaybetme riskine ilişkin alarmı yükseltti ve yapay zeka gelişiminin, güvenli bir şekilde düzenlenmesine izin verecek bir hıza yavaşlaması çağrısında bulundu. Bu yılın başlarında, Anthropic'in güvenlik araştırması bilimcisi Evan Hubinger, yapay zekanın on yıl içinde "tüm insanları öldürebilme" şansının yüzde 10'dan fazla olduğuna inandığını söyleyecek kadar ileri gitti. Yeni Avustralya AI düzenleyicisi, AI sistemlerinin geliştirilmesi ve devreye alınması boyunca güvenlik kontrollerini denetleyecek, ciddi riskleri belirleyip yönetecek ve AI modellerinin bağımsız değerlendirmelerini gerçekleştirecek. Yapay zeka standartları aynı zamanda geliştiricilerin niyetleriyle çelişen "yanlış hizalanmış davranışlar" gibi olayların hükümete hızlı bir şekilde bildirilmesini de zorunlu kılacak. Avustralya hükümeti belgeleri sınır yapay zekasını mevcut teknolojik kapasitenin en ileri noktasındaki en karmaşık modeller olarak tanımlıyor.
Albanese, OpenAI genel müdürü Sam Altman'a, ABD şirketinin olayla ilgili hükümeti bilgilendirmesinin çok uzun sürdüğünü söyledi. OpenAI, ihlalden ve yavaş tepkisinden dolayı özür diledi. Haziran ayındaki ihlale ilişkin hükümet soruşturmasında, hükümetin yasayı değiştirmeyi düşünmesi de dahil olmak üzere çeşitli önerilerde bulunuldu. Önerilen yapay zeka düzenleyicisi, Avustralya'nın 2015 yılında bir e-Güvenlik Komiseri atamasının ardından gelecek. Ofis kendisini, insanları çevrimiçi ortamda daha güvenli tutmaya adamış dünyanın ilk devlet kurumu olarak tanımlıyor. Geçen yılın Aralık ayından bu yana, komiser, dünyada ilk kez 16 yaşından küçük Avustralyalı çocukların popüler sosyal medya platformlarında hesap tutmasını yasaklıyor.