Amit Kapur ve Arya Tripathy'nin kaleme aldığı makaleye göre, yapay zekâ (YZ) yedi onlar aşkın süredir vizyoner matematikçilerin, bilgisayar bilimcilerinin, araştırmacıların ve mühendislerin çalışmalarıyla gelişti. 1950'lerin bilgisayar makinelerini büyük ölçekli hesap makineleri olarak konumlandıran teorik çerçevelerinden, günümüzde endüstrileri yeniden şekillendiren üretken yapay zekâya kadar YZ artık günlük hayatımızın bir parçası haline geldi. Deneysel aşamaları geride bırakan yapay zekânın hukuki ve adli işlerde kullanımı; araştırma, taslak hazırlama, dava açma ve yönetimi, duruşma deşifresi, özetleme ve ceza kararlarındaki riskleri işaretleme gibi alanlarda yoğunlaşmaktadır. Buradaki tartışma yapay zekânın kullanılıp kullanılmaması gerektiği değil, rolünün nerede sona ermesi gerektiği ve hatalarından veya kontrolden çıkmasından kimin sorumlu olacağıdır.
Legal Minds | Makale | Beyaz yaka hukukundaki değişimler kefalet stratejisini nasıl etkiliyor? Hukuki ve adli çalışmalarda yapay zekânın kullanımı için ikna edici gerekçeler bulunmaktadır. Hâkimler de birer insandır. Ölümlü kapasiteleriyle sınırlı ve yorgunluğa yatkındırlar. Genellikle geçmişin muhasebesinden, mevcut durumlardan ve bazen de tamamen bilinçsiz önyargılardan etkilenirler. Bunlar, dava yığılmaları ve bireylerin zamanında adalete erişim hakkı üzerinde sistematik bir etki yaratmaktadır. Yapay zekâ, bu sorunların çözümünün kilidini açabilir, hatta yasal normları okuma ve hesaplamada insan fiziksel sınırlarını aşarak hukukçulardan ve adli mercilerden daha üstün performans gösterebilir ve daha hızlı, daha verimli süreçlere katkıda bulunabilir.
Yabancı yargı sistemlerinde yapay zekâ desteği Çin'deki Hangzhou internet mahkemeleri, yapay zekâ destekli dava yönetiminin duruşma sürelerini yüzde 50'den fazla kısalttığını bildirirken; Estonya, karar alma süreçlerine adli zaman kazandırmak amacıyla "Salme" aracılığıyla deşifre ve metin gizleme (redaksiyon) işlemlerini otomatikleştirmektedir. Bize daha yakın bir örnek olarak Sikkim Yüksek Mahkemesi, yapay zekâ kullanımının asistanlık işlevleri için alt mahkemelerde test edilmesiyle tamamen kağıtsız ilk mahkeme olmuştur.
Legal Minds | Makale | Bir hâkimin yükü: Hindistan'ın adli reformları neden temelden başlamalı? Buna karşılık, bir grup kanıt avukatları temkinli olmaya çağırıyor. Makine devraldığında önyargı ortadan kalkmaz; aksine eğitim verilerinin içine gizlenir. ABD'de kullanılan bir suç risk değerlendirme aracının siyah sanıklara daha ağır puanlar verdiği görülürken, Hollanda'daki bir sosyal yardım dolandırıcılığı tespit sistemi başvuru sahiplerini uyruklarına göre cezalandırdı. Bu tür kusurlu tahminler; daha fazla polis müdahalesi, hakların reddi ve gizlilik beklentilerinin ihlali dahil olmak üzere katlanarak artan etkilere yol açabilir.
Bu sorun, yapay zekânın uydurmaları (halüsinasyonlar) ile daha da büyümektedir. Bir dil modeli, hukuki bir veri tabanının yaptığı gibi içtihada ulaşmaz; bunun yerine bir dizideki istatistiksel olarak en muhtemel kelimeyi üretir ve hukuki alıntılar öngörülebilir bir formatı takip ettiği için uydurma bir alıntı tamamen otantik görünebilir! Stanford ve Yale tarafından yürütülen 2024 yılına ait bir araştırma, hukuka özgü yapay zekâ araçlarının bile yüzde 17 ila yüzde 34 oranında halüsinasyon marjına sahip olduğunu göstererek riskin sistemik doğasının altını çizmektedir.
Bunun yanı sıra, yapay zekânın kara kutu yapısı nedeniyle muhakeme şeffaflığının eksikliği ve tasarım etrafındaki açıklamaların yetersizliği riskleri şiddetlendirmektedir. Hatalı yapay zekâ çıktıklarına körü körüne güvenmek, adli dürüstlük ve usul güvencesi endişesine dönüşerek tüm çekişmeli yargılama sürecini zayıflatabilir. Hukuk davalarında bu durum, davacılar için güvenilirliği ve sorumluluk sonuçlarını etkiler. Ceza davalarında ise, otantik gibi görünen bir delilin muhtemelen inandırıcılığa dayandığı durumlarda, manipüle edilmiş sentetik içeriğin etkisi yıkıcı olabilir.
Küresel olarak ABD, İngiltere, Kanada ve Avrupa Birliği dahil olmak üzere mahkemeler bu olumsuzluklara yanıt vermek zorunda kalmıştır. Bu tür olayları takip eden bir izleme sistemi, 1.725'ten fazla olayı kaydetmiştir.