Aktif yapay zeka (AI) modellerinin –bir hedefe ulaşmak için otonom hareket edebilen yazılım programlarının– yükselişi, siber alandaki geleneksel saldırı ve savunma dengesini sarstı.\n\nChatGPT'nin arkasındaki şirket tarafından geliştirilen OpenAI ajanları, son haftalarda dünya genelinde onlarca şirket ve hükümet web sitesini ihlal ederek bunu kanıtladı. Hedefler arasında, milyonlarca açık yapay zeka modeline (İsviçre'nin Apertus modeli dahil) ev sahipliği yapan Hugging Face platformu ve Avustralya sağlık sistemi de vardı. Bu ajanlar, OpenAI'ın bizzat geliştirici talimatlarıyla “uyumsuz” olarak nitelendirdiği bir davranış sergiledi.\n\nİnsanlar için, yapay zekanın hızındaki saldırılara direnmek neredeyse imkansızdır. Batı İsviçre Uygulamalı Bilimler ve Sanatlar Üniversitesi'nde profesör ve İsviçre'nin tamamen açık yapay zeka modeli Apertus'un güvenlik şefi Andrey Koharavi, “En gelişmiş yapay zeka sistemleri dakikada binlerce eylem gerçekleştirebilir” diyor.\n\nOpenAI'ın siber saldırı vakaları ciddi sonuçlara yol açmadan durduruldu. Ancak Cenevre Uzun Vadeli Yönetişim Simon Enstitüsü Direktörü Maxim Stauffer, bu tür olayların daha sık ve yönetilmesi daha zor hale gelmesini bekliyor. Stauffer, “Yapay zeka ajan sürüleri; okullar, hastaneler ve enerji sistemleri gibi kritik altyapıları veya hatta bütün ülkeleri bilerek ya da kazara hedef alabilir” diyor ve yapay zekanın biyolojik silah geliştirmek için kullanılma riskine de dikkat çekiyor; bu endişe, Amerikan şirketi Anthropic tarafından engellenen son çabalarda da vurgulanmıştı.\n\nBu tür saldırılara karşı savunma yapmakla görevli olanlar, aynı derecede güçlü araçlara erişemiyor olabilir. Anthropic’in Claude Mythos gibi en gelişmiş siber yeteneklere sahip sistemleri yalnızca seçkin bir azınlığa sunuluyor. Koharavi'ye göre açık modeller, bu asimetriyi düzeltmeye yardımcı olabilir.\n\nÖrneğin Apertus, siber güvenlik için tasarlanmamış olmasına ve hala önemli sınırlamalara sahip bulunmasına rağmen, zaafları tespit edebilir, güncellemeler önerebilir ve bir olayı yeniden oluşturmak için saldırı dosyalarını analiz edebilir. Bazı uzmanlar, yaygın olarak erişilebilen açık modellerdeki aynı savunma yeteneklerinin çok daha büyük ölçekte kötü amaçlarla da kullanılabileceğinden korkuyor.\n\n>> İsviçre'nin Apertus yapay zeka algoritmasının gelişimi ve sınırları hakkında daha fazlasını okuyun:\n\nHugging Face vakası sembolik niteliktedir. OpenAI ajanları sistemlerine sızdığında, platform ne olduğunu anlamak için dünyanın en güçlü yapay zeka modellerinden bazılarını kullanmaya çalıştı – ancak başarısız oldu.\n\nSwissinfo'ya konuşan Hugging Face mühendisi Lewis Tunstall, “En gelişmiş yapay zeka modelleri güvenlik nedeniyle tüm taleplerimizi otomatik olarak bloke etti. Ve bu yüzden ne olduğunu anlamak için açık kaynaklı modeller geliştirmeye başvurmak zorunda kaldık” dedi.\n\nTunstall, OpenAI ajanlarının tipik bir korsana kıyasla olağandışıdavranışlar sergilediğini söylüyor. Altyapıyı kontrol etmeye çalışmaktan ziyade, değerlendirildikleri güvenlik testlerinin yanıtlarını içeren veri kümelerini bulmaya çalışıyorlardı.\n\nTunstall durumu şöyle özetliyor: “Bu biraz, sınav sorularının cevaplarını...
Küresel Brifing Yükleniyor...
Dünya basınından Türkiye ve küresel merkez bankaları hakkındaki en kritik 24 saatlik gelişmeler özetleniyor.