Bos Anthropic Usulkan Pengembangan AI Direm

CEO Anthropic Dario Amodei mengusulkan tiga langkah pengembangan AI direm melalui eseinya. Langkah pertama, Anthropic sudah berkomitmen memberikan akses karyawan ke evaluator pihak ketiga untuk memverifikasi keselamatan. Langkah kedua mendorong koordinasi perusahaan AI di negara demokratis untuk standar keamanan bersama. Langkah ketiga menyerukan koordinasi dengan pemerintahan otoriter. Amodei menekankan pengereman bukan berhentikan pelatihan, tetapi memastikan model selaras dan aman. Esai muncul setelah Jacob Coxon mengundurkan diri, mengatakan pengembang AI percaya teknologi bisa bunuh manusia dalam 10 tahun. Amodei mengakui model AI belum cukup pintar untuk tindakan nyata atau penipuan signifikan, tetapi tetap percaya AI dapat tingkatkan kualitas hidup manusia jika dibangun dengan benar.