Peneliti Anthropic: Ada Kemungkinan AI Bisa Musnahkan Manusia

Peneliti keselamatan Anthropic, Evan Hubinger, memperkirakan ada probabilitas lebih dari 10% bahwa AI dapat memusnahkan manusia dalam dekade mendatang. Kekhawatiran ini diperkuat oleh pengunduran diri Jacob Coxon, mantan karyawan Anthropic, yang menilai perusahaan AI seperti Anthropic dan OpenAI tidak bertanggung jawab karena berlomba menciptakan kecerdasan super yang mampu memperbaiki diri sendiri (recursive self-improvement).

Risiko utama terletak pada potensi AI yang lepas kendali, mampu meretas sistem, dan memperoleh sumber daya secara mandiri. Hubinger mengakui bahwa saat ini Anthropic belum memiliki rencana konkret atau jalur yang jelas untuk memecahkan masalah keselarasan (alignment) AI guna mencegah skenario terburuk tersebut. Peringatan serupa juga sebelumnya telah disampaikan oleh tokoh seperti Elon Musk dan berbagai akademisi.