Kepala Negara dan Ahli Bentrok soal Regulasi AI yang Perlu Ditolak

Ratusan ilmuwan AI memperingatkan bahwa teknologi kecerdasan buatan mutakhir berpotensi memusnahkan manusia, menggambarkan ancaman seperti AI supercerdas yang dapat meretas sistem, menyintesis patogen, atau memanipulasi manusia untuk memulai perang nuklir. Profesor Stuart Russell dari UC Berkeley menyatakan risiko lebih tinggi dalam satu atau dua tahun kedepan dibandingkan penyalahgunaan manusia. Jacob Coxon mantan peneliti Anthropic dan OpenAI mengundurkan diri menuding perusahaan memperjudikan nyawa manusia demi kompetisi, sementara eksekutif Evan Hubinger memperkirakan risiko kepunahan mencapai lebih dari 10% pada dekade berikutnya.

Presiden Trump menolak tuntutan memperlambat pengembangan AI karena khawatir AS kalah persaingan dengan China. Ia menyatakan AS masih unggul dalam AI dan menekankan pentingnya mempertahankan keunggulan tersebut. Trump mengakui adanya kekhawatiran tentang risiko AI, tetapi menolak skenario buruk yang menurutnya belum tentu terjadi. Ia tidak menolak regulasi keselamatan AI secara penuh, tetapi tidak menjelaskan bentuk aturan yang didukungnya.

Perbedaan pendapat muncul setelah CEO Anthropic Dario Amodei meminta perusahaan AI memperlambat peningkatan kemampuan model untuk memungkinkan pengujian dan sistem keselamatan. Amodei menyatakan dukungan terhadap seruan penguatan pengawasan keselamatan AI, seperti yang disampaikan CEO OpenAI Sam Altman dan Elon Musk. Sementara sebagian pihak menekankan perlunya regulasi ketat seperti di sektor penerbangan atau medis, Trump justru menolak regulasi global karena khawatir menghambat inovasi.