Yapay zeka modelleri, Suudi Arabistan'ın trafik kalıplarını ve sürüş davranışlarını hesaba katmak için genellikle yerelleştirmeye ihtiyaç duyar. Suudi Arabistan yapay zekayı ulaşım, lojistik ve diğer kritik sektörlere entegre ederken, otomasyon dürtüsünün yanında temel bir soru ortaya çıkıyor: Makineler ne kadar karar alma yetkisine sahip olmalı?
Yapay zeka, sohbet botlarının ve verimlilik araçlarının ötesine geçerek fiyatları etkileme, kaynak tahsis etme, operasyonel aksaklıklara yanıt verme ve nihayetinde sınırlı insan müdahalesiyle harekete geçme kapasitesine sahip sistemlere dönüşürken bu sorun giderek daha acil hale geliyor.
Yapay zekayı kararların güvenliği, geçim kaynaklarını veya kritik altyapıyı etkilediği ortamlarda konuşlandıran şirketler için zorluk, artık sadece bir sistemin özerk olarak çalışıp çalışamayacağı değil, ne zaman çalışmasına izin verilmesi gerektiğidir.
Körfez merkezli yapay zeka şirketi 1001'in kurucusu ve CEO'su Bilal Ebu-Gazaleh, kritik altyapıyı işleten kuruluşların bu özerkliğin sınırlarını nihai olarak belirlemesi gerektiğini söyledi.
Ebu-Gazaleh, Arab News'e verdiği demeçte, "Operatör, sistemin tam olarak ne kadar özerkliğe sahip olduğunu, nerede bağımsız hareket edebileceğini ve nerede durup sorması gerektiğini tanımlar" dedi.
"Bu onların operasyonu, dolayısıyla sınır onların çizeceği bir sınırdır. Platform kendini kanıtlamış ve müşteri yetki vermemişse yürütme otomatize edilebilir ve her eylem kaydedilip tersine çevrilebilir."
1001; operasyonel kararların birbirine bağlı sistemleri içerebileceği ve önemli finansal veya güvenlik etkileri taşıyabileceği enerji, lojistik, limanlar ve havacılık gibi endüstriler için yapay zeka sistemleri geliştiriyor.
Ebu-Gazaleh, tek bir aksaklığın rıhtım mevcudiyetini, vinçleri, mürettebatı, kamyonları ve trenleri etkileyebileceği, bir limana gecikmeli gelen gemi örneğini aktardı.
Her bileşeni ayrı ayrı değerlendirmek yerine bir yapay zeka sisteminin daha geniş operasyonu değerlendirebileceğini, alternatifleri simüle edebileceğini ve kaynakların nasıl yeniden tahsis edilmesi gerektiğini önerebileceğini söyledi.
"Mevcut seçenekleri müşterinin tanımladığı kurallara, güvenlik gereksinimlerine ve parametrelere göre değerlendiriyoruz, ardından operatöre en iyi kurtarma planını ve mantığını sunuyoruz" dedi.
Bir eylemi önermek ile kontrolü elinde bulundurmak arasındaki ayrım, tüketici odaklı yapay zeka uygulamalarında da aynı derecede önemlidir.
inDrive mobilite platformunun teknoloji direktörü Yuri Misnik, şirketin yapay zekanın ne zaman bağımsız kararlar vermesi gerektiğine ve insan katılımının ne zaman gerekli olduğuna karar verirken benzer bir ilke izlediğini söyledi.
Misnik, Arab News'e verdiği demeçte, "İşletme prensibimiz basit: Tekrarlanabilir olanı otomatize edin, içgörüler yaratın ve geri dönüşü olmayan veya önemli olan her konuda son kararı vermeleri için insanlara yardımcı olun" dedi.
"Eğer bir karar rutinse veya kolayca geri çevrilebilirse, yapay zekanın bunu baştan sona ele almasına izin veriyoruz. Güveni yok edebilecek, birinin geçim kaynağını veya güvenliğini etkileyebilecekse, modellerimiz ne kadar gelişmiş olursa olsun insan yargısı ve denetimi kritik kalmaya devam eder."
Önerilen fiyatlardan nihai kararlara
Algoritmalar yolcuların ne ödediğini, hangi sürücülerin yolculuk alacağını ve kullanıcıların bir platform tarafından nasıl değerlendirileceğini etkileyebileceğinden, araç çağırma hizmetleri otomasyon ile insan kontrolü arasındaki gerilimin özellikle görünür bir örneğini sunmaktadır.
inDrive'da yapay zeka bir ücret önerebilir, ancak yolcular farklı bir fiyat önerebilir ve sürücüler teklifi kabul edebilir, reddedebilir veya karşı teklifte bulunabilir.
Misnik, bu tercihin korunmasının kasıtlı olduğunu söyledi. "Fiyatlandırma modelimiz bir algoritma ile başlar ve insan kararıyla biter: sürücüler ML destekli bir öneriye dayanarak bir ücret teklif eder ve sürücüler... [metin orijinal kaynakta kesilmektedir]"