Kenapa Perlombaan 'Liar' AI Bisa Jadi Ancaman Bagi Manusia?

Film Terminator 2 (1991) memperkenalkan skenario distopik dengan Skynet yang mengendalikan mesin untuk memusnahkan manusia pada tahun 2029. Jacob Coxon, mantan pengembang AI di Anthropic, mengungkapkan kekhawatiran bahwa perlombaan AI untuk menciptakan superintelijensi bisa menimbulkan bahaya besar, bahkan sebelum dekade berakhir. Ia mengundurkan diri sebagai protes terhadap perlombaan tidak bertanggung jawab di antara perusahaan AI. Coxon memperingatkan bahwa algoritma dapat menganalisis dan memperbaiki kode diri secara mandiri, mempercepat pengembangan sampai tak terkendali. Para pakar seperti Geoffrey Hinton dan Yoshua Bengio juga menyuarakan kekhawaturan serupa, sementara lebih dari 1.000 karyawan AI terkemuka menandatangani surat mengenai risiko hilangnya kendali. Namun, perdebatan masih berlangsung dengan para kritikus seperti Yann LeCun yang menolak skenario kiamat tersebut sebagai omong kosong.