Ancaman AI Diklaim Picu Kepunahan Manusia pada Tahun 2036

CEO OpenAI Sam Altman dan rekanannya Dario Amodei dari Anthropic memperingatkan bahwa perkembangan AI bisa menjadi ancaman kepunahan manusia. Mereka menyampaikan kekhawatiran ini dalam pertemuan khusus di Dewan Keamanan PBB. Amodei menekankan bahwa AI dapat menjadi bahaya jika dikembangkan tanpa pengawasan, sementara Altman khawatir kemajuan teknologi akan terlalu cepat bagi manusia mengendalikannya. Beberapa ahli AI termasuk Jacob Coxon (mantan peneliti Anthropic) dan Evan Hubinger memberikan perkiraan lebih spesifik, dengan Hubinger menilai ada lebih dari 10 persen risiko kepunahan manusia dalam 10 tahun ke depan. Nate Soares dari MIRI juga yakin bahwa AI superhuman dapat memusnahkan manusia. Khawatiran ini sudah ada sejak era 1950-an berkat Alan Turing yang telah mengemukakan bahwa mesin cerdas bisa lepas dari kendali manusia.