Mahkemelerde yapay zeka alarmı: Sahte deliller ortaya çıkmaya başladı

Yapay Zeka Kullanılarak Üretilen Delil Mahkemeleri Endişelendiriyor

Yapay Zeka ile Üretilen Delil Duruşmayı Sonlandırdı

Alameda County Yüksek Mahkemesi’nde yapılan bir konut davasında, hâkim Victoria Kolakowski, tanığın yüz ifadeleri ve ses tonundaki tutarsızlıklar üzerine dikkat çekici bir tespitte bulundu: sunulan video kaydının yapay zeka ile üretildiğini belirledi. Bu sahte kayıt deepfake olarak tanımlandı ve dava 9 Eylül’de reddedildi. Yeniden inceleme talebi ise 6 Kasım’da reddedildi.

Yapay Zeka Görüntüleri Tehdit Ediyor

Kolakowski’ye göre, bu olay, mahkemelerde sahte yapay zekâ görüntülerinin delil olarak sunulduğu nadir örneklerden biri ve daha büyük bir tehlikenin habercisi. Hâkim Stoney Hiljus, Minnesota 10. Yargı Bölgesi’nden, meslektaşlarının bu durum karşısında artan endişelerini açıkladı. Gerçek dışı delillere dayanarak alınacak kararlardan çekinildiğini belirten Hiljus, insan hayatını etkileyebilecek kararlar vermekten kaçınılması gerektiğini vurguladı.

Delillerin Doğruluğu Tartışma Konusu

Louisiana Beşinci Temyiz Mahkemesi hâkimi Scott Schlegel, sahte ses kayıtlarının kolayca üretilebileceği ve kritik süreçlerde yanlış kararların alınabileceği uyarısında bulundu. Schlegel, eşinin yıllar içinde kaydettiği seslerle sahte tehdit içeren bir kayıt oluşturarak mahkemede kullanabileceğini dile getirdi.

Deepfake Delillerinin Yaygınlığı

California Santa Clara Yüksek Mahkemesi hâkimi Erica Yew’e göre, deepfake delillerinin kullanımı yaygın olmasına rağmen, bu tür vakaların raporlanmadığı bir gerçek. Ulusal Eyalet Mahkemeleri Merkezi ve Thomson Reuters Enstitüsü, hâkimlere deepfake delillerle mücadele konusunda rehberlik etmek amacıyla bir rehber yayınladı. Rehber, hâkimlere doğru soruları sormalarını ve delillerin kaynaklarını detaylıca incelemelerini önerdi.

Yapay Zeka ve Hukuk İlişkisi

Hukukçular, mevcut delil doğrulama kurallarının yapay zekâ teknolojileri için yetersiz olduğunu savunuyor. Ancak ABD Yargı Konferansı, mevcut kuralların yeterli olduğu görüşünü benimseyerek özel düzenlemeleri reddetti.

Avukatların Sorumluluğu

Louisiana’da çıkarılan yeni bir yasa, avukatlara, müvekkillerinin sunduğu delillerin nasıl üretildiğini araştırma yükümlülüğü getiriyor. Uzmanlar, yakın gelecekte metadata bilgilerinin, dosyanın doğruluğunu sağlayan en önemli unsurlardan biri olacağını belirtiyor.

Yapay Zeka Sahteciliği ve Yargı Sistemi

Bilgisayar Bilimi uzmanı Maura Grossman, herkesin sahte delil üretebileceği teknolojiyle karşı karşıya olduğumuzu belirtiyor. Bu nedenle, güven ama doğrula yerine, güvenme ve doğrulama zamanının geldiğini ifade ediyor.