Wamen Nezar Ungkap Risiko Agentic AI, Manusia Harus Tetap Pegang Kendali

Wamenkomdigi Nezar Patria memperingatkan risiko Agentic AI yang mampu mengambil keputusan dan tindakan mandiri tanpa intervensi manusia. Teknologi ini melampaui respons perintah biasa karena dapat membangun penalaran sendiri, seperti mengelola perjalanan hingga pembayaran. Risiko utama meliputi 'silent autonomy' dan koordinasi antar-AI yang dapat menghilangkan kendali manusia dalam proses pengambilan keputusan.

Untuk memitigasi risiko tersebut, pemerintah menekankan prinsip 'human-centric' dan 'human-in-the-loop' guna memastikan manusia tetap memegang kendali atas keputusan berdampak signifikan. Selain itu, tata kelola AI harus terintegrasi dengan keamanan siber untuk mencegah ancaman seperti prompt injection dan data poisoning. Indonesia saat ini menyiapkan kerangka regulasi melalui SE Etika AI, UU ITE, UU PDP, serta peta jalan nasional AI untuk menyeimbangkan inovasi dan perlindungan masyarakat.