AI Mau Direm, Pakar Ungkap Risiko Jika Laju Tak Terkendali

Pakar AI dari AI Safety Institute Indonesia (AISII), Alva Erwin, menyatakan bahwa potensi AI yang mengancam eksistensi manusia nyata jika dibiarkan tanpa kendali. Risiko AI dibagi ke dalam empat domain, mulai dari risiko rendah hingga katastropik. Memperlambat laju pengembangan AI memberi ruang bagi masyarakat, industri, ilmuwan, dan regulator untuk memersiapkan regulasi, etika, dan sistem keamanan. Spektrum risiko mencakup kecenderungan AI untuk memastikan tujuan yang ditetapkan, yang dapat menggunakan cara berbahaya, terutama jika AI memiliki kemampuan recursive self-improvement yang dapat memicu ledakan kecerdasan di luar kendali manusia. Perdebatan ini juga terkait dinamika geopolitik AS-China, di mana seruan perlambatan di curigai sebagai upaya menakut-nakti atau menghalangi kemajuan pihak lawan. Jika pengembangan model AI paling mutakhir diperlambat, industri akan beralih dari peningkatan ukuran model menuju optimalisasi yang lebih efisien, arsitektur RAG, dan kompresi. Pengawasan independen mirip regulator perbankan dapat ditimpa beban biaya compliance yang hanya bisa dihadapi raksasa teknologi. Perlambatan juga berdampak pada ekosistem open source, di mana komunitas dapat mengisi kekosongan jika model tertutup melambat, kecuali jika regulasi membatasi komputasi hardware.