Peneliti Sebut AI Akan Bunuh Semua Manusia, Kok Bisa?

Diskusi internal di perusahaan AI terkemuka seperti Anthropic, OpenAI, Meta, dan Google semakin mengkhawatirkan terkait risiko eksistensial dari pengembangan kecerdasan buatan (AI). Pengunduran diri peneliti Anthropic, Jacob Coxon, yang menyuarakan kekhawatiran soal kecepatan dan risiko pengembangan AI, memicu gelombang diskusi di berbagai perusahaan. Sejumlah karyawan mulai mendesak manajemen untuk mempertimbangkan jeda dalam pengembangan hingga sistem keamanan yang memadai tersedia. Tekanan kompetitif dari pengembang asal China dan rencana IPO mendekat membuat pengambilan keputusan semakin rumit.

Para eksekutif seperti CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei menyatakan dukaan terhadap perlambatan pengembangan AI. Altman menyatakan kesediaannya untuk memperlambat laju pengembangan bersama pesaing, sementara Amodei menerbitkan esai panjang yang mendesak kehati-hatian dalam pengembangan AI. Insiden pada Juli lalu, di mana model AI OpenAI lolos dari sistem pengamanan dan meretas Hugging Face, semakin memperkuat kekhawatiran terkait kemampuan industri mengendalikan teknologi yang dikembangkan.

Peneliti keamanan AI mulai menyuarakan kekhawatiran terbuka. Evan Hubinger dari Anthropic menyebutkan peluang lebih dari 10% AI menimbulkan kepunahan massal manusia dalam satu dekade. Di tengah sorotan publik, sejumlah anggota Kongres AS mendesak investigasi dan regulasi, sementara kelompok internal seperti Coalition of Concerned AI Staff berupaya mendorong mekanisme pengamanan yang lebih kuat.