RTU MIREA'nın güvenilir yapay zeka laboratuvarının başkanı Yuri Silaev, önerilen kombinasyon karmaşık görünse ve görünüşte rastgele bir dizi harf, sayı ve özel karakter içerse bile, şifre oluşturmak için sinir ağlarını kullanmanın güvenli olmadığını söyledi. Lenta.ru ile yaptığı bir görüşmede, bir sinir ağının bağımsız olarak bir şifre bulması durumunda, kriptografik olarak güçlü bir rastgele nesil sağlamadığını açıkladı. Bu nedenle, karmaşık görünen kombinasyonlar öngörülebilir kalıplar içerebilir ve aynı isteklerle bazen tamamen eşleşen şifreler bile bulunur.
Silaev, "Büyük dil modelleri, eğitim sırasında belirlenen olasılıklara dayalı olarak ve isteğin bağlamını dikkate alarak sırayla metin üretir. Sonuç olarak, bazı semboller ve bunların kombinasyonları diğerlerinden çok daha sık kullanılabilir ve belirli diziler tekrarlanabilir. Özel şifre oluşturucular farklı çalışır: kriptografik olarak güçlü rastgele sayı üreteçleri kullanırlar ve oluşturdukları kombinasyonların tahmin edilmesi neredeyse imkansız hale gelir. Bu nedenle, farklı durum, sayı ve özel karakterlere sahip harflerin varlığı tek başına şifrenin güvenilirliğini garanti etmez."
Uzman, bu öngörülebilirliğin hesapların güvenliği açısından ek riskler yarattığını vurguladı. Saldırganlar, dil modellerinin önerdiği şifrelerdeki kalıpları inceleyebilir ve otomatik tahminde en olası kombinasyonları kullanabilir. Bu tür saldırıların başarısı aynı zamanda belirli bir hizmetin güvenlik mekanizmalarına da bağlıdır ancak öngörülebilir bir parola kullanmak, bu hizmetin ele geçirilmesi riskini artırır. Aynı şifreyi birden fazla hizmette kullanmak özellikle tehlikelidir. Şifre oluşturmak için tarayıcılarda, işletim sistemlerinde yerleşik kanıtlanmış oluşturucuları veya özel şifre yöneticilerini kullanmak daha iyidir. Bu tür araçlar rastgele kombinasyonlar oluşturmanıza olanak tanır ve şifre yöneticileri bunları güvenli bir şekilde saklamanıza yardımcı olur
Uzman, her hesap için ayrı bir uzun şifre kullanılmasını ve mümkünse ek olarak çok faktörlü kimlik doğrulamanın etkinleştirilmesini önerdi. Ayrıca, güçlerini kontrol etmek için chatbotlara geçerli şifreler göndermemelisiniz: üçüncü taraf çevrimiçi hizmetleri kullanırken, gizli bilgiler harici bir sisteme aktarılır ve işletim kurallarına uygun olarak saklanabilir ve işlenebilir. Daha önce Silaev, belgeleri kamuya açık sinir ağlarına yükleyerek kullanıcının bunlar üzerindeki kontrolünü kaybettiği konusunda uyarmıştı. Bunun öncelikle kişisel veriler, mali belgeler ve tıbbi raporlar ile ilgili olduğunu belirtti.