Arizona'da bir temyiz mahkemesi Çarşamba günü, kurbanın katilini affettiğini tasvir eden yapay zeka tarafından oluşturulmuş bir videonun mahkemede oynatılmasının ardından, adam öldürme suçundan mahkum edilen bir adamın hapis cezasını iptal etti.
Üç hakimden oluşan heyet, 37 yaşındaki Christopher Pelkey'in 2021 yılında yol verme kavgası sonucu vurularak öldürülmesi olayında 10 buçuk yıl hapis cezasına çarptırılan 55 yaşındaki Gabriel Horcasitas'ın mahkumiyetini onadı ancak yeniden cezalandırılması gerektiğine hükmetti.
Hakimler, ilk derece mahkemesi hakiminin, Pelkey'in sesini ve görünümünü taklit eden bir yapay zeka videosuna izin vermesinin ve buna güvenmesinin "temel bir hata" olduğu sonucuna vardı. Temyiz mahkemesi, görüntüdeki ifadeleri doğrudan kurbanın ağzından çıkıyormuş gibi sunan videonun "gerçek olayları yansıtmadığını" tespit etti.
Temyiz mahkemesi, yapay zeka ürünü videonun kullanılmasının yeni bir hukuki mesele ortaya çıkardığını ve daha önce Arizona'da hiçbir davanın cezalandırma aşamasında bir kurbanın bu şekilde tasvir edilmesinin kabul edilebilirliğini ele almadığını kaydetti.
Video, geçtiğimiz yıl Horcasitas'ın cezalandırılması sırasında mahkeme salonunda bulunan Pelkey'in ailesi ve arkadaşlarının yaptığı kurban etki beyanlarıyla birlikte kullanıldı.
Cezalandırma duruşmasında, Pelkey'in ablası Stacey Wales, Pelkey'in Horcasitas'a hitap ettiğini gösteren yapay zekayla üretilmiş videoyu sundu.
Videoda, "Affetmeye ve affeden Tanrı'ya inanıyorum" deniliyordu. Video ayrıca Pelkey'in mahkemeye hitap ederek, "Bu, kim olduğumun gerçek bir temsilidir" dediğini tasvir ediyordu.
Maricopa İlçesi Yüksek Mahkemesi'nden cezalandırma hakimi Todd F. Lang, videoyu öven bir açıklama yaparak, "O yapay zekaya bayıldım" dedi. Videoyu "samimi" olarak nitelendirdi ve kurbanın "kalbinden konuşmasına" izin verildiğini belirtti. Ardından, savcıların talep ettiği dokuz yıldan daha fazla olan azami cezayı hükmetti.
Eleştirmenler, yapay zekanın yasal süreçlere dahil edilmesinin, kurban etki beyanlarında bulunma gibi zaten duygusal olan süreci daha da karmaşık hale getirerek manipülasyon ve aldatmaya kapı aralayabileceğini savundu.
Temyiz mahkemesi, bir kurbanın konuşma hakkının, bir sanığın doğru ve güvenilir bilgilere dayanarak cezalandırılma hakkını ezemeyeceğini savundu. Hakimler, videonun "ailenin kurbanın ne söylemiş olabileceğine dair inancı ile kurbanın kendi sesi ve görüşleri arasındaki yorumlayıcı mesafeyi ortadan kaldırdığını" yazdı.
Mahkeme, videoya güvenilmesinin ceza prosedürünü temelden adil olmaktan çıkardığına karar verdi.
Pelkey ve Horcasitas'ın avukatları Pazar günü yorum taleplerine hemen yanıt vermedi.
Wales geçen yıl The New York Times'a yaptığı açıklamada, iki yıldır kendi kurban etki beyanını hazırladığını ancak bunun kritik bir unsurdan yoksun olduğuna inandığını söyledi.
Times'a konuşan Wales, "Chris'in ne söyleyeceğini sürekli duyuyordum" dedi.
Wales, kocasının ve çiftin uzun süredir birlikte çalıştığı iş ortağının, yıllar önce ölmüş bir şirketin CEO'sunun benzerliğini içeren bir sunum da dahil olmak üzere kurumsal müşterilere sunum yapılmasına yardımcı olmak için yapay zeka kullandığını söyledi.
Kocasının ve iş ortağının yardımıyla, Pelkey'in sesini, gaziler için bir tesiste travma sonrası stres bozukluğu tedavisini tamamladıktan sonra konuşurken çekildiği bir YouTube videosundan aldıklarını belirtti.
Yüzü ve gövdesi için, cenaze töreninden Pelkey'e ait bir poster kullandıklarını, kalın sakalını dijital olarak düzelttiklerini, gözlüklerini çıkardıklarını ve şapkasındaki bir logoyu sildiklerini söyledi.
Wales, kardeşinin yapay zeka benzeri tarafından okunan metni kendisinin yazdığını belirtti.
Wales geçen yıl, "Yapay zekanın kötü niyetlerle kullanılabileceğini biliyorum ve bu bazıları için rahatsız edici" dedi. "Ancak bu sadece...