Yüksek Mahkeme’den Tarihi Uyarı: Yapay Zeka Halüsinasyonları Yargıyı Tehdit Ediyor

Hindistan Yüksek Mahkemesi, hukuk sisteminde yapay zeka araçlarının kontrolsüz ve doğrulanmadan kullanımıyla ilgili tarihi ve emsal teşkil edecek bir karara imza attı. Mahkeme, Ulusal Şirketler Hukuku Temyiz Mahkemesi’nin (NCLT) Essel Infraprojects davasında yapay zeka tarafından uydurulan (halüsinasyon kaynaklı) sahte yargı kararlarına dayanarak karar verdiğini tespit etti ve söz konusu kararı tamamen bozdu.

Hukuk Sisteminde Metil İzosiyanat Uyarısı

Yargıçlar PS Narasimha ve Alok Aradhe’den oluşan mahkeme heyeti, sahte ve halüsinasyon içerikli yapay zeka çıktılarının mahkemelerde emsal gösterilmesini sert bir dille eleştirdi: “Yargı süreçlerinde doğrulanmamış YZ emsallerinin kullanılması, adalet sistemine metil izosiyanat gazı salmak gibidir; sinsi, görünmez ve fark edildiğinde çoktan felakete yol açmış.” Heyet, avukatların sahte YZ emsalleri kullanmasını “mesleki suistimal”, yargıçların bu verilere dayanmasını ise “ağır ihmal” olarak tanımladı.

Barolar Birliği Görevlendirildi

Yüksek Mahkeme, bu tür teknolojik suistimallerin önüne geçmek amacıyla Hindistan Baro Konseyi’ni (BCI) mahkemelerde yapay zeka kullanımıyla ilgili nitelikli etik kurallar belirlemek ve ihlallere karşı yaptırım mekanizmaları kurmakla görevlendirdi. Bu karar, yapay zeka destekli hukuki araçların dünyada yaygınlaştığı bir dönemde yargı güvenliğini korumak adına çizilmiş net bir sınır olarak yorumlanıyor.