Pria AS Coba Manipulasi AI Pengadilan, Akhirnya Kena Sanksi

Matthew Elliott, seorang pria di Connecticut, Amerika Serikat, dijatuhi sanksi oleh pengadilan setelah berupaya memanipulasi putusan perkara menggunakan teknik prompt injection. Elliott menyisipkan instruksi tersembunyi berukuran mikro dengan warna putih di atas latar putih pada berkas gugatannya terhadap penyedia layanan kesehatan. Perintah rahasia tersebut dirancang untuk memengaruhi kecerdasan buatan (AI) agar memenangkan perkaranya.

Upaya manipulasi tersebut gagal karena pengadilan Connecticut tidak menggunakan AI dalam meninjau atau memutus dokumen perkara. Meski demikian, Hakim Walter Spader Jr. menilai tindakan Elliott sebagai preseden berbahaya. Pelanggaran terus berlanjut bahkan setelah adanya peringatan resmi, di mana Elliott tetap menyisipkan pesan tersembunyi dan tautan video dengan dalih bercanda serta menguji sistem pengadilan.

Atas pelanggaran berulang tersebut, hakim menjatuhkan sanksi administratif berupa pencabutan hak pengajuan dokumen perkara secara elektronik dan mewajibkan Elliott menyerahkan dokumen fisik secara manual. Kasus ini menjadi salah satu contoh awal upaya eksploitasi prompt injection dalam sistem peradilan AS.