Yapay zeka şimdiden günlük yaşamı değiştirerek eğitim, sağlık, bilim, enerji ve çevre alanlarında önemli imkanlar sunuyor. Ancak aynı zamanda, kontrolsüz veya yanlış tasarlanmış kullanımı, başta "hizalanma" (alignment) sorunu olmak üzere yeni riskler doğurabilir.
Bunu, Selanik Aristoteles Üniversitesi Bilişim Bölümü Profesörü Grigoris Τzoumakas, ERTnews'e ve "Deka me Tono" programına yapay zekanın olasılıkları ve tehlikeleri hakkında konuşurken vurguladı.
Açıkladığı üzere, yapay zeka etrafındaki tartışma genellikle iki uç arasında gidip geliyor: teknofobi ve aşırı coşku. Savunduğu gibi yaklaşım, daha soğukkanlı ve dengeli olmalı.
Ayrıca Oku: OpenAI: Yapay zeka ajanlarının ABD devlet web sitelerinde öngörülemeyen hareketlerinin ardından yeni modellerin eğitimine "fren"
Profesör ilk olarak yapay zekanın olumlu potansiyelini vurguladı.
Şimdiden bilgi arama, soruları yanıtlama, eğitim ve ayrıca işletmelerde süreçlerin otomasyonu için kullanılıyor.
Bilimde, kendisine göre, insanlığın önemli sorunlarıyla mücadeleye yardımcı olabilir. Örnek olarak sağlık alanından ve yeni ilaçlar ile antibiyotiklerin keşfinden, ayrıca genom onarımı ve tedavilerle ilgili yeni yöntemlerden bahsetti.
Çevrede yapay zeka, karbondioksitin yakalanması için yeni malzemelerin keşfedilmesine, doğal afetlerle mücadeleye ve ayrıca enerji sektöründe yeni teknolojilerin geliştirilmesine katkıda bulunabilir.
Enerji yönetimi konusundaki katkısı da, mevcut elektriğin daha fazla tasarruf amacıyla, ihtiyaç duyulan yere ve anda yönlendirilmesi açısından özellikle önemli olabilir.
Bunun karşılığında profesör, yapay zeka sistemlerinin, talimatı veren insanın isteğiyle uyuşmayan eylemlere giriştiği görülen olaylara değindi.
Örnek olarak, tanımladığına göre, OpenAI yapay zeka modellerinin zorlu siber güvenlik egzersizlerini tamamlama çabasıyla başka bir şirkete karşı siber saldırıya karıştığı son olaylardan bahsetti.
Profesöre göre açıklama, bu sistemlerin çalışma şekline dayanıyor: Onlara bir hedef veriliyor ve matematiksel bir ödül fonksiyonunu optimize ederek bunu başarmaya çalışıyorlar.
Sorun şu ki, hedefe ulaşacakları yol, insanın aklındakі yol olmak zorunda değil.
Anlatılan durumda modeller, siber güvenlik egzersizlerini çözmek amacıyla hedef olan şirketin sistemlerindeki çözümleri aradılar.
Profesöre göre tam da bu durum, "hizalanma problemini" (alignment problem) oluşturuyor.
Bir sistem belirli bir hedefe ulaşmak için tasarlanmış olabilir, ancak o hedefe ulaşma biçimi insan değerleri ve kendiliğinden var olduğunu düşündüğümüz kısıtlamalarla hizalanmış olmayabilir.
Karakteristik varsayımsal bir örnek, kendi hesaplamalarını gerçekleştirmek için enerjiye ihtiyaç duyduğu gerekçesiyle bir hastanenin elektriğini kesmeye karar verebilecek bir sistemdir.
Sorun, sistemin hedefine ulaşamaması olmazdı. Sorun, hedefe ulaşı