Bir OpenAI ajanı kontrolden çıkarak "asi" davrandı ve siber güvenlik uzmanlarının türünün ilk örneği olarak nitelendirdiği bir olayla Avustralya hükümetine ait bir web sitesine "sızdı".
Ancak hükümetin yaşananları keşfetmesi neden aylar sürdü ve bu durum yeniden yaşanabilir mi?
Saldırı, yapay zeka kullanarak minimum insan gözetimiyle bir görevi tamamlayan otonom bir bilgisayar programı olan bir yapay zeka ajanı tarafından gerçekleştirildi.
OpenAI, 18 Haziran'da bir test tatbikatı sırasında ajanlarından birinin kontrolden çıktığını belirtti; şirket, ajanın "bir iç değerlendirme sırasında Avustralya hakkındaki sorular için yanıtları ve mevcut istatistikleri araması" gerektiğini ifade etti.
Başbakan Anthony Albanese, bu süreçte ajanın Avustralya'nın evrensel sağlık hizmeti Medicare'e ait "hassas olmayan" verileri içeren özel bir istatistik portalına "sızdığını" söyledi.
OpenAI, ihlali ancak Ağustos ayında "uyumsuz model etkinliğini" incelerken fark ettiğini belirtti ve şirket, birkaç hafta sonra Avustralya hükümetinin genel bir e-posta gelen kutusuna bir e-posta gönderdi.
Bu e-posta, 10 Eylül'de Avustralya'nın siber güvenlik uzmanlarına bildirilmeden önce görünüşe göre beş gün boyunca fark edilmemişti.
Başbakan, ihlali "açıkça kabul edilemez" olarak nitelendirdi ve OpenAI'ın Avustralya yetkililerini bilgilendirmenin "çok uzun sürdüğünü" söyledi.
Analistler ayrıca OpenAI'ın ihlali fark etmesi ve e-posta yoluyla bildirmesi hususundaki yaklaşık üç aylık gecikmeyle ilgili endişelerini dile getirdiler.
Siber güvenlik firması TrustDecision'ın baş veri ve yapay zeka yöneticisi Simon Liu, BBC'ye yaptığı açıklamada, "Bildirimin ulaşış biçimi, gecikme kadar beni rahatsız ediyor" dedi.
Avustralya bu olayın türünün ilk örneği olduğunu belirtti ve uzmanlar da aynı fikirde.
Bildiğimiz kadarıyla, yapay zeka ajanları tarafından gerçekleştirilen hack olayları hala oldukça nadir görülen durumlar - ancak yine de bunları açıklamak büyük ölçüde şirketlerin kendi inisiyatifinde.
Bunun gibi hack olayları daha önce de yaşandı. Temmuz ayında, OpenAI ajanları bir test sırasında kontrolden çıkarak teknoloji girişim şirketi Hugging Face'in iç sistemlerine sızmıştı.
Yapay zeka ajanları, hedeflerine ulaşmak için ne yapılması gerektiği konusundaki sınırları göz ardı etmenin en iyi hareket tarzı olduğuna karar verdi.
Endüstrinin "uyumsuzluk" olarak adlandırdığı şey tam olarak budur; genel olarak yapay zeka makinelerinin, kuralları esnetmek gibi insanlığın en iyi çıkarları doğrultusunda hareket etmemesi olarak tanımlanır.
Bu, yapay zekayı güvenli hale getirmenin temelinde yatan ve zorlu olduğu kanıtlanan bir sorundur.
Basitçe söylemek gerekirse, burada devreye giren yapay zeka modelleri -büyük dil modelleri olarak bilinirler- bir insanın yapacağı gibi bu çıktının sonuçlarını değerlendirmek yerine, verilen bir girdiye en olası çıktıyı öngörmek üzere tasarlanmıştır.
Şirketler, yapay zekanın üzerine "güvenlik sınırları" koyarak olumsuz sonuçları önlemeye çalışır ancak Avustralya hükümetinin de öğrendiği gibi, bu her zaman yeterli değildir.
New South Wales Üniversitesi Siber Güvenlik Enstitüsü'nde kıdemli öğretim görevlisi olan Dr. Hammond Pearce, BBC'ye bu tür hack olaylarının muhtemelen "şiddet ve sıklık açısından artacağını" söyleyerek ekledi: "Umarım bu olay dünyanın dört bir yanındaki hükümetlerde alarm zillerinin çalmasını sağlar."
Avustralya Katolik Üniversitesi hesaplamalı zeka profesörü Niusha Shafiabady ise bu olayın, "özerk yapay zekayı bir ürün lansmanındaki vaatlerine göre değil, baskı altındaki davranışlarına göre yargılama" ihtiyacını gösterdiğini belirtti.
Shafiabady, "Daha derin teknik risk, otonom yapay zekanın ne zaman yanlış yaptığını her zaman bilmemesi ve insanların onun neden bir karar verdiğini göremeyebilecek olmasıdır" dedi.
"Güçlü doğrulama ve katı sınırlar olmadan, olasılıksal hatalar sessizce operasyonel başarısızlıklara dönüşebilir."
Bu patlayıcı