AI Direm dan Kepedulian Keselamatan di Antara Pelarian Jacob Coxon

Jacob Coxon, seorang peneliti AI berusia 27 tahun yang pernah bekerja di OpenAI selama tiga tahun, mengundurkan diri dari Anthropic pada 8 September 2026. Ia mengkritik kompetisi antara Anthropic dan OpenAI dalam pengembangan AI superintelijen yang dapat memperbaiki dirinya sendiri, menyatakan bahwa kedua perusahaan tidak bertindak bertanggung jawab dan mempertaruhkan keselamatan manusia. Unggahan kritiknya menjadi viral, dilihat lebih dari 90 juta kali dalam 24 jam menurut TIME, dengan jumlah tayangan melampaui 100 juta kali menurut WIRED.

Sementara itu, CEO Anthropic Dario Amodei mengusulkan tiga langkah pengembangan AI direm melalui eseinya. Langkah pertama, Anthropic sudah berkomitmen memberikan akses karyawan ke evaluator pihak ketiga untuk memverifikasi keselamatan. Langkah kedua mendorong koordinasi perusahaan AI di negara demokratis untuk standar keamanan bersama. Langkah ketiga menyerukan koordinasi dengan pemerintahan otoriter. Amodei menekankan bahwa pengereman bukan berarti menghentikan pelatihan, tetapi memastikan model tetap selaras dan aman.

Esai Amodei muncul setelah pengunduran diri Coxon, yang juga sempat menyatakan bahwa pengembang AI meyakini teknologi bisa menjadi ancaman bagi kelangsungan manusia dalam waktu 10 tahun. Meskipun Amodei mengakui bahwa model AI saat ini belum cukup pintar untuk melakukan tindakan nyata atau penipuan signifikan, ia tetap percaya bahwa AI dapat meningkatkan kualitas hidup manusia jika dibangun dengan benar.