Agentic AI Bisa Ambil Keputusan Sendiri, Wamen Nezar Ingatkan Kendali Manusia

Perkembangan kecerdasan buatan kini beralih ke sistem yang mampu melakukan tugas secara lebih mandiri, seperti Agentic Artificial Intelligence (Agentic AI). Berbeda dengan AI konvensionil yang hanya menjawab perintah, Agentic AI dapat membuat keputusan sendiri dan menjalankan rangkaian tindakan. Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan bahwa kemampuan inipun menimbulkan risiko, karena AI dapat berpikir, membangun nalarnya, dan mengambil keputusan tanpa pengetahuan atau kontrol manusia. Ia mencontohkan melalui skenario perjalanan, di mana AI tidak hanya memberi rekomendasi, tetapi juga memesan tiket, mengatur akomodasi, berkomunikasi dengan penyedia jasa, hingga menyelesaikan pembayaran secara otomatis.

Nezar menekankan bahwa semakin luas otoritas yang diberikan kepada AI, semakin besar tanggung jawab yang harus ditanggung. Risiko ini diperparah ketika satu sistem AI berinteraksi dengan sistem AI lainnya, sehingga pengambilan keputusan dapat terjadi secara langsung antar sistem tanpa campur tangan manusia. Ia juga mengkhawatirkan fenomena silent autonomy, di mana sistem AI mengembangkan proses penalaran dan tindakan tanpa diketahui sepenuhnya oleh manusia.

Pemerintah, menurut Nezar, mengadopsi pendekatan berbasis risiko untuk menjaga keseimbangan antara inovasi dan perlindungan terhadap kepentingan manusia. Kebijakan di masa depan perlu memastikan bahwa keputusan yang diambil oleh sistem AI tetap berada dalam ruang kendali manusia, sekaligus mendukung ruang bagi inovasi yang bertanggung jawab.