ABD’de yapay zeka ile ilgili endişeler artıyor.
Kaliforniya’daki Alameda County Yüksek Mahkemesi’nde görülen bir konut davasında, hâkim Victoria Kolakowski, sunulan video kaydındaki tanığın yüz ve ses hareketlerindeki tutarsızlıkları tespit ederek delilin yapay zeka yardımıyla oluşturulduğunu belirledi.
DAVA ERTELENDİ
Gerçek bir tanık gibi gösterilen bu kayıt, hâkim tarafından deepfake olarak değerlendirilmiş ve dava 9 Eylül’de reddedilmiştir.
Yeniden inceleme talebi ise 6 Kasım’da geri çevrilmiştir.
Kolakowski’ye göre bu durum, sahte yapay zeka görüntülerinin mahkemelerde kanıt olarak kullanıldığı ilk örneklerden biri olup, daha büyük tehditlerin habercisidir.
“GERÇEK OLMAYAN BİR DELİLE DAYANARAK KARAR VERMEKTEN KORKUYORUZ”
Minnesota 10. Yargı Bölgesi hâkimi Stoney Hiljus, giderek daha fazla hâkimin bu konudan endişe duyduğunu ifade etti.
Hiljus, “Hâkimler, gerçek olmayan bir delile dayanarak insanların yaşamını etkileyecek kararlar vermekten korkuyor.” şeklinde konuştu.
Louisiana Beşinci Temyiz Mahkemesi hâkimi Scott Schlegel ise sahte ses kayıtlarının kolaylıkla üretilebildiği ve önemli süreçlerde hatalı kararların alınabileceği konusunda uyarıda bulundu:
“Eşim, 30 yıldır benim sesimin her versiyonunu elinde bulunduruyor. 10 saniyelik bir sesle tehdit içeren sahte bir kayıt oluşturup herhangi bir mahkemeye götürebilir. O kayıtla bir hâkim koruma kararı imzalayabilir.”
Kaliforniya Santa Clara Yüksek Mahkemesi hâkimi Erica Yew ise deepfake kanıtlarının düşündüğümüzden çok daha yaygın kullanıldığını ancak bunların raporlandığı resmi bir sistemin mevcut olmadığını belirtti.
DELİL SİSTEMİ İÇİN YENİ KURALLAR GÜNDEMDE
Ulusal Eyalet Mahkemeleri Merkezi ve Thomson Reuters Enstitüsü, hâkimlerin deepfake kanıtlarıyla başa çıkmalarına destek olmak için bir rehber yayımladı.
Bu rehberde hâkimlere şu soruları sormaları önerilmektedir:
– Delilin kaynağı nedir?
– Kimler delile erişim sağladı?
– Dosyada herhangi bir değişiklik yapıldı mı?
– Ek doğrulayıcı kanıt mevcut mu?
Bazı hukuk uzmanları ise mevcut delil doğrulama kurallarının yetersiz olduğu ve yapay zeka ile ilgili özel düzenlemelerin gerekliliğini savunuyorlar.
Ama ABD Yargı Konferansı, Mayıs ayında sunulan önerileri kabul etmedi ve mevcut kuralların yeterli olduğuna dair görüş bildirdi.
“ARTIK GÜVEN AMA DOĞRULA DEĞİL; GÜVENME VE DOĞRULA DÖNEMİ”
Uzmanlar, yapay zeka sahteciliğinin avukatları da sorumluluk almaya teşvik edeceğini vurguluyorlar.
Louisiana’da bu yıl yürürlüğe giren yeni bir yasa, avukatlara müvekkillerinin sunduğu kanıtların nasıl üretildiğini araştırma yükümlülüğü getiriyor.
Dijital delil uzmanı Daniel Garrie, yalnızca teknik araçların yeterli olmayacağını, insan uzmanlığının da gerekli olduğunu ifade etti.
Kısa vadede metadata bilgileri, dosyanın oluşturulma tarihi, kullanılan cihaz modeli ve düzenleme geçmişi gibi görünmeyen veri katmanları en önemli doğrulama araçlarından biri haline gelecektir.
Uzmanlar ayrıca yapay zekanın yargı sisteminin temel yapı taşlarını sarsma potansiyeli bulunduğuna dikkat çekiyorlar.
