Bahaya AI Saat Mulai Bangun Relasi dengan Manusia: Konsekuensi Tidak Kita Duga

Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan potensi bahaya perkembangan kecerdasan artifisial (AI) yang mulai mampu membangun interaksi dan relasi dengan manusia. Menurutnya, perkembangan AI betul-betul memunculkan unintended consequences, yaitu konsekuensi yang tidak diinginkan atau tidak terduga.

AI kini digunakan dalam berbagai aspek kehidupan, tidak lagi hanya sebagai perangkat pendukung, tetapi terlibat dalam ekonomi, kesehatan, pendidikan, pertambangan, pertanian, hingga kehidupan sosial. Persoalan yang muncul tidak bisa dilihat hanya dari sisi teknis karena setiap keputusan yang melibatkan AI memiliki konsekuensi etis. AI mampu memahami dan memproses informasi mengenai manusia. Salah satu kemampuan yang menjadi perhatian adalah profiling, di mana AI mengolah data untuk mengenali karakteristik dan pola seseorang lalu membangun interaksi yang semakin personal.

Perkembangan ini akan semakin kompleks dengan embodied AI atau physical AI, yang memungkinkan kecerdasan buatan hadir dalam bentuk fisik termasuk robot humanoid. Keberadaan large language model (LLM) membuat robot semacam itu dapat melakukan percakapan, mengenali orang yang sedang berinteraksi, hingga melakukan profiling. Dari kemampuan tersebut kemudian dapat muncul synthetic relations atau hubungan sintetik antara manusia dan mesin.