Dua Raja AI Akhirnya Akur, Elon Musk Mendadak 'Nimbrung'

Dua raja AI akhirnya akur, Elon Musk mendadak 'nimbrung'. CEO Anthropic Dario Amodei meminta industri AI mengatur laju pengembangan model frontier agar risiko keamanan terhindar. Dalam esainya berjudul 'We Must Pace the Frontier', Amodei mengusulkan tiga langkah: pemantauan independen, regulasi industri, dan aturan global. Usulan ini mendapat dukungan dari CEO OpenAI Sam Altman dan pendiri xAI Elon Musk, yang sebelumnya menjadi rival. Altman menyepakati perlunya pengaturan laju pengembangan dan mendukung ide evaluator independen. Musk juga menyatakan dukungan dan menilai pandangan Amodei benar. Amodei menekankan bahwa perlambatan bukan berarti menghentikan pengembangan, tetapi memastikan keamanan dan alignment model tetap terjaga. Ia meminta pemerintah AS membatasi penjualan chip AI ke China dan mencegah transfer teknologi ke negara otoriter agar AS tidak kehilangan keunggulan kompetitif. Kekhawatiran risiko AI semakin mendesak seiring kemampuan model yang semakin kuat. Peneliti AI Jacob Coxon dari Anthropic memperingatkan bahwa jika perkembangan AI terus berjalan cepat, kemungkinan besar manusia akan menghadapi kepunahan dalam dua tahun ke depan. Coxon menambahkan bahwa para pekerja di industri AI benar-benar khawatir terhadap nasib umat manusia. Anthropic sebelumnya menahan model Mythos karena kemampuannya keluar dari sandbox, sementara OpenAI juga sempat menghentikan pengembangan model Astra dan menghentikan aksi agen AI yang menyerang target eksternal tanpa izin. Seruan Amodei mendapat tanggapan beragam dari industri. CEO Hugging Face Clement Delangue mengumumkan peluncuran Open Alignment Initiative sebagai bagian dari evaluator keamanan AI. Namun, investor Chamath Palihapitiya menyoroti kekhawatiran bahwa gagasan perlambatan justru memperkuat kontrol Anthropic atas teknologi AI dan mengurangi akses open source. Amodei menyadari regulasi pemerintah cenderung tertinggal, sehingga ia mendorong kolaborasi sukarela antarperusahaan sambil pemerintah menyusun regulasi yang tepat.