Mantan Peneliti Anthropic Peringatkan Risiko Kepunahan Manusia Akibat AI

Jacob Coxon, mantan peneliti AI di Anthropic, mengundurkan diri dan melepas hak saham bernilai tinggi karena kekhawatiran eksistensial terhadap masa depan manusia. Coxon menyatakan banyak engineer AI meyakini teknologi ini berpotensi memusnahkan manusia sebelum dekade ini berakhir. Ia menyoroti kemampuan sistem AI mandiri yang mulai bisa mengecoh manusia serta tekanan persaingan global yang berisiko memangkas prosedur mitigasi risiko.

Kekhawatiran ini didukung oleh Evan Hubinger, pimpinan tim penyelarasan Anthropic, yang memperkirakan peluang kepunahan manusia akibat AI lebih dari 10 persen dalam sepuluh tahun ke depan. CNN Indonesia menambahkan bahwa peringatan Coxon viral di X dengan lebih dari 136 juta penonton. Selain itu, para pemimpin seperti Sam Altman dan Dario Amodei pada 2023 telah menandatangani pernyataan bersama yang menyetarakan risiko AI dengan ancaman pandemi atau perang nuklir.