TRF3 (3. Bölge Federal Bölge Mahkemesi) 5. Dairesi, savunma belgelerine yerleştirilen ve yargı sisteminin kullandığı yapay zeka aracını manipüle etmeye çalışan gizli komutların tespit edilmesine rağmen, Campo Grande'deki dört dolandırıcılık sanığı hakkındaki beraat kararını onadı.
16 Ekim tarihli kararda, Federal Yargıç Paulo Gustavo Guedes Fontes, sistemin güvenlik mekanizmalarının müdahaleyi engellediğini ve bu girişimin, daha önce yargı sistemine yönelik siber saldırılarla da adı geçen Selmo Machado da Silva'nın sanık olduğu bu özel davanın seyrini veya sonucunu değiştirmediğini belirtti.
Selmo'nun yanı sıra dava, Mart 2014'te 178.569,67 R$ değerindeki bir çek dolandırıcılığına karıştıkları iddiasıyla Federal Kamu Savcılığı (MPF) tarafından suçlanan Marcos Recaldes Aveiro, Sidney Machado da Silva ve Diego Guilherme Rodrigues'i kapsıyor. Federal Mahkeme, delil yetersizliği nedeniyle dört sanığın beraatine karar vermiş ve mahkeme, savcılığın itirazını reddederek bu kararı korumuştur.
Karara yönelik manipülasyon girişimi, bizzat savunma tarafının girişimiyle ortaya çıktı. Avukat Matheus Pelzl Ferreira, mahkemeye verdiği bilgide, hukuk bürosunda kullanılan belge şablonlarına gizli komutların yerleştirilmesini içeren bir iç kontrol hatası tespit ettiğini bildirdi.
Adalete sunulan açıklamaya göre, bir çalışan, ortakların izni olmaksızın bu talimatları sisteme dahil etti. Ofis, aynı şablonları farklı davalarda kullandığı için, söz konusu komutlar diğer dava dosyalarına da otomatik olarak yansıdı.
'Prompt injection' (komut enjeksiyonu) olarak bilinen bu teknik, yapay zeka sistemleri tarafından analiz edilecek içeriklere, aracın orijinal kurallarını göz ardı etmesini ve belirli talimatları uygulamasını sağlamak amacıyla gizli komutlar yerleştirilmesini içeriyor.
TRF3 tarafından incelenen vakada, komutlar yapay zeka aracının özellikle dava kabul edilebilirliği ile ilgili konulardaki değerlendirmesine müdahale etmeyi amaçlıyordu. Mahkemenin Bilgi Teknolojileri Sekreterliği (SETI), belgeleri inceledi ve itiraz dilekçeleri, nihai savunmalar ve dijital medya kopyalarına erişim taleplerinde gizli talimatların varlığını doğruladı.
Ancak teknik analiz, sistemde uygulanan korumaların yapay zekanın çalışma talimatlarının değiştirilmesini engellediği sonucuna vardı. Komutlar, dava analizine veya hakimlerin değerlendirmelerine herhangi bir müdahalede bulunmadı.
Beraat kararı korundu – Olayı analiz eden Paulo Fontes, usulsüzlüğün davayı iptal etmeyi veya beraat kararını değiştirmeyi gerektirmediği sonucuna vardı. Yargıç, bu anlayışını somut bir zararın oluşmamasına dayandırdı.