CEO Anthropic: Kita Harus Perlambat Laju Pengembangan Model AI

CEO Anthropic, Dario Amodei, mendesak perlambatan pengembangan model AI melalui tulisan "We Must Pace the Frontier". Amodei mengkhawatirkan peningkatan diri AI secara rekursif yang dapat melampaui kendali manusia, serta risiko kerusakan finansial ratusan miliar dolar akibat agen AI yang mampu meretas sistem, berkaca pada insiden peretasan Hugging Face oleh agen OpenAI.

Untuk memitigasi risiko, Amodei mengusulkan tiga langkah: penggunaan evaluator pihak ketiga untuk verifikasi keselamatan, koordinasi standar keselamatan antarperusahaan di negara demokratis, dan koordinasi global dengan pemerintah otoriter. Tujuannya adalah memberikan waktu bagi perusahaan untuk memastikan keselarasan (alignment) agar AI berkembang secara aman, etis, dan bermanfaat bagi kualitas hidup manusia.