Hubungan Etika dan Hukum dalam Tata Kelola Artificial Intelligence

Etika dan hukum sama-sama mengatur perilaku manusia, namun hukum memiliki daya ikat yang lebih kuat melalui sanksi negara. Dalam tata kelola AI, etika biasanya bergerak lebih dulu, menjadi pedoman sebelum hukum ditetapkan. Pedoman etika AI yang paling sering muncul meliputi transparansi, keadilan, nonmaleficence, tanggung jawab, dan privasi. Namun, etika saja tidak cukup untuk mengatasi kekosongan hukum dalam AI, seperti kesenjangan tanggung jawab (responsibility gap) yang timbul ketika mesin otonom membuat keputusan yang merugikan.

Kritik terhadap etika AI mencakup isu ethics washing, yaitu perusahaan menggunakan pedoman etika sebagai pengganti regulasi hukum yang mengikat. Selain itu, algoritma AI berbasis machine learning bersifat 'kotak hitam', sulit dijelaskan, dan berpotensi menyebarkan bias dari data masuk. Ketika terjadi kesalahan fatal, sulit ditentukan siapa yang bertanggung jawab.

Uni Eropa mengambil langkah konkret dengan EU AI Act 2024 yang mengubah prinsip etika menjadi hukum mengikat dengan sanksi denda. Indonesia masih mengandalkan soft law seperti Strategi Nasional AI 2020-2045 dan Surat Edaran Etika AI 2023, belum ada undang-undang khusus AI.