Birçoğumuz için yapay zeka (YZ), başlangıçta üzerinde oynadığımız bir oyuncak gibiydi. Ona şiirler yazdırdık, takvimlerimizi düzenlettik; daha eğlenceli hatalarını paylaştık. Sonra inanılacak bir şeye dönüştü: angaryadan bir kaçış, her meslek için bir asistan, hatta belki de yeni bir sanayi devriminin başlangıcı. Şimdiyse korkulacak bir şey haline geldi.
Bu ilerleme şaşırtıcıydı. Hükümetler YZ stratejileri oluşturmak için çabalıyor, şirketler operasyonlarını yeniden düzenliyor ve yatırımcılar altyapıyı finanse ediyor. Dünya, YZ yarışına katılmak için ışık hızıyla seferber oluyor gibi görünse de, nereye gittiğimiz konusunda çok daha az fikir birliği var.
Hong Kong’un bu yarışa olan duyarlılığı, Para Otoritesi’nin büyük bir bankayı, YZ merkezini Singapur’da kurma ve orada 100’den fazla YZ uzmanı işe alma kararı nedeniyle sorguladığına dair yakın tarihli bir haberle ortaya çıktı. Rekabetçi kaygı anlaşılabilir. Ancak yatırım çekmek, beraberinde getirdiği risklere hazırlanmakla aynı şey değildir.
Bu boşluk hepimizi endişelendirmeli. Yatırımcılar, YZ yatırımları finansal getiri sağladığı sürece belirsizliğe tolerans gösterebilirler. Ancak bir düzenleyici bunu yapamaz. Bir işletmeye YZ getirmek bir karardır, ancak bunun neleri etkileyebileceğini anlamak başka bir karardır. İkinci karar, acele içinde en kolay atlanan karardır.
Bu aceleyle birlikte, önde gelen YZ geliştiricilerinden, geliştirdikleri teknolojinin tehlikelerine dair uyarılar da geldi.
Bariz bir ironi var. Teknolojinin ilerlemesinden en çok endişe duyanların bazıları, aynı zamanda onu ilerletmek için en çok çabayı gösterenler. İşletmeleri, ürünlerini daha yetenekli hale getirmekten fayda sağlıyor. Çıkar çatışması not edilmeye değer olsa da, bu durum argümanı ortadan kaldırmıyor. Bir uyarı, kendi çıkarına olsa bile yanlış olmayabilir.
Ancak bir uyarıyı duymak yeterli değil. Hong Kong için faydalı soru, şirketlerin ne yapması gerektiğidir. Şirketler denizaşırı araçları dikkatsizce benimserlerse, teknolojiyle birlikte sorunun başkasına ait tanımını da ithal etme riskiyle karşı karşıya kalırlar. İşte hükümetin rehberlik sağlamak için devreye girebileceği yer burasıdır.
Bir saldırgana yardımcı olan bir modelin, sadece bu gerçeğe dayanarak herhangi bir kurumsal savunmayı yenemediğini belirtmek önemlidir. Saldırganın yine de zayıf noktaları ve hareket etme fırsatını belirlemesi gerekir.
Ancak bazı tehditler o kadar bağışlayıcı değildir. Tanıdık güvenlik önlemlerinin, tehdit tanıdık geldiği için yeterli kalmaya devam edeceği varsayılamaz. Dolandırıcılık eskidir; onu inandırıcı kılma araçları ise değildir. Ayrıca, YZ araçları hızla gelişiyor ve YZ kimlik dolandırıcılığını icat etmemiş olsa da, asırlık aldatmacaları çok daha ölçeklenebilir hale getirebilir.
Hong Kong polisinin geçen ay bildirdiği bir vaka bu noktayı açıklıyor. Müfettişler, bir sendikanın çevrimiçi hesap başvuruları için sahte belgeler oluşturmak amacıyla kimlik kartı görüntüleri, fotoğraf düzenleme yazılımları ve YZ araçları kullandığını iddia etti. Çoğu otomatik olarak reddedildi, ancak bazıları gözden kaçtı.
Sorun sadece kötü niyetli aktörlerle sınırlı değil. Geçen ay, temsilcisi olmayan davacıların, var olmayan yönetmeliklere atıfta bulunmak da dahil olmak üzere hatalarla dolu yasal referanslar sunduğu bildirildi; bu hataların üretken YZ kullanımından kaynaklandığı düşünülüyor. Kötü niyet yoktu ama güvene yönelik risk gerçek. Mahkeme kandırılmadı ancak hukuk eğitimi olmayanlar kolayca ikna edilmiş olabilirdi.
Tehlike sadece makinenin bir şeyi yanlış yapması değil. Kullanıcıların aracı sorumsuzca kullanmasıdır. Bir telefondaki büyük dil modeli asistanı, uzmanlığı erişilebilir kılabilir.