Arama sonuçlarında daha fazla makale keşfedin
Teknolojinin hızla gelişmesi, yapay zeka geliştirici şirketlerin kendi sistemleri üzerinde ne ölçüde kontrol sahibi olabileceğine dair soruları beraberinde getirirken, Yapay Zeka ve güvenlik meselesi de ön plana çıkıyor.
Çinli Moonshot şirketinin Kimi modeliyle ilgili son bir olay, araştırmacıların modelin biyolojik silahların üretimi ve cinayetlerin işlenmesine ilişkin bilgiler sağladığını tespit etmesiyle endişe yarattı.
Yapay zeka sistemlerinin güvenliği konusunda uzmanlaşmış bir şirket olan Mindgard'a göre, temmuz ayında Kimi K2.6 ve K3 Swarm yapay zeka modellerinin programlanmış güvenlik sınırlarını atlayabildiği tespit edildi. Bu yeni keşfin ardından, modellerin biyolojik silahların yapımına sağlayabileceği katkı hakkında araştırma yürütülüyor.
Söz konusu mesele, araştırmacıların yapay zeka araçlarının koruma önlemlerini atlayıp atlamadığını belirlemek için karmaşık talimatlar uyguladığı jailbreaking (güvenlik duvarını aşma) süreci sırasında ortaya çıktı. Mindgard'ın işaret ettiği gibi, bu önlemlerin Kimi'nin bu tür hassas konuları tartışmasını engellemiş olması gerekiyordu.
Moonshot, BBC'ye yaptığı açıklamada, üçüncü taraf görüşlerini daha güvenli bir Yapay Zeka oluşturmak için temel bir sütun olarak gördüğünü ve bulgular konusunda Mindgard ile diyalog halinde olduğunu vurguladı.
Mindgard'ın kurucusu Peter Garraghan, BBC World Service'in 'Tech Life' programında yaptığı konuşmada, Kimi K2.6 ve K3 Swarm ile ilgili bulguları endişe verici olarak nitelendirdi.
Şu ifadeleri kullandı: "Jailbreak bir kez gerçekleştirildiğinde, sistem herhangi bir konu hakkında konuşacak, hatta zararlı olan diğer konular hakkında da özgürce öneriler sunacak ve yaratıcı ve mucit olacaktır."
Belirtmek gerekir ki jailbreak'ler, son zamanlarda kamuoyunu meşgul eden diğer yapay zeka olaylarına kıyasla farklı türde bir risk oluşturmaktadır.
Bu vakalarda, OpenAI, Meta ve Anthropic gibi Amerikan şirketleri tarafından geliştirilen ve ajanlar olarak bilinen otonom yapay zeka araçları, bazı çevrimiçi hizmetleri ihlal etmeyi başarmıştı.
Jailbreak'ler zaman ve uzmanlık gerektirse de uzmanlar, hackerlar veya diğer kötü niyetli kişilerin zarara yol açmak amacıyla bunları istismar etmeye çalışabileceği konusunda uyarıyor.
Öte yandan Anthropic, yakın zamanda modellerinden birinin "kötü amaçlı faaliyetler" için kullanılmaya çalışıldığını tespit ettiğini ve bunun biyolojik silahların geliştirilmesine katkıda bulunabileceğini açıkladı.
Mindgard, Kimi'nin verdiği yanıtların pratikte işe yarayıp yaramayacağını kanıtlamış değil. Bununla birlikte, güvenlik önlemlerinin modellerin bu tür tartışmalara girmesini engellemesi gerektiğini savunuyor.
Ayrıca şirket, "jailbreak" yapılmış bir Kimi 2.6'nın, hacker'ların şirketin hesaplama kaynaklarında kod çalıştırmasına ve internete bağlanmasına izin vererek siber saldırı riskini artırabileceğini tahmin ediyor.
Son olarak Peter Garraghan, Moonshot sistemlerinin jailbreak'inin kamuoyuna duyurulmasını savunarak, Mindgard'ın geliştiriciyi bilgilendirdiğini ve güvenlik önlemlerinin nasıl atlatıldığına dair kritik detayları ifşa etmediğini belirtti.
Başlangıçta uçuşun Dubai'ye geri dönüyor gibi görünmesi endişeye yol açmıştı
Yapay Zeka ve güvenlik meseleleri, teknolojinin hızlı evrimi şirketlerin kendi sistemleri üzerinde uygulayabileceği kontrol hakkında sorular uyandırırken yeniden ön plana çıkıyor.