Percepatan AI tidak Terkendali Dapat Punahkan Manusia? Ini Pro Kontranya

Para peneliti Anthropic, termasuk Jacob Coxon yang mengundurkan diri, menyampaikan ketakutan mendalam terhadap kecepatan perkembangan AI yang tidak terkendali. Coxon menyatakan jika laju kemajuan tidak diperlambat, risiko fatal bagi keberlangsungan manusia dapat muncul dalam waktu dekat. Ancaman ini didukung oleh Evan Hubinger yang menilai ada lebih dari 10% peluang AI menyebabkan kepunahan manusia dalam satu dekade. CEO Anthropic Dario Amodei juga mendesak perlambatan pengembangan AI. Namun, beberapa tokoh seperti Jensen Huang dan Clement Delangue menolak klaim kiamat AI sebagai spekulasi berlebihan. Coxon berpendapat para pekerja AI terjebak dalam perlombaan yang takut dan meminta regulasi karena tidak bisa berhenti secara sepihak. Meski demikian, ia tetap optimis terhadap potensi AI untuk memecahkan masalah medis dan meningkatkan kualitas hidup.