Peneliti Anthropic Keluar dari Perusahaan, Sebut Risiko AI Musnahkan Manusia Lebih dari 10 Persen

Peneliti Anthropic, Jacob Coxon, mengundurkan diri dan menuding OpenAI serta Anthropic terlalu cepat mengembangkan AI yang berpotensi tidak dapat dikendalikan. Coxon menyatakan risiko AI memusnahkan manusia lebih dari 10 persen dalam satu dekade mencapai superinteligensi. Dukungan tambahan datang dari Evan Hubinger (Anthropic) yang menyatakan peluang kematian manusia oleh AI lebih dari 10 persen. Kedua perusahaan mengakui belum menyelesaikan masalah alignment AI superinteligensi. Tekanan untuk memperlambat pengembangan diintlaksakan lewat surat 1.400 peneliti AI dan kebijakan seperti FRONTIER Act serta Ban Artificial Superintelligence Act.