Bikin Merinding! Orang Dalam Takut AI Bisa Bunuh Manusia

Peneliti AI Jacob Coxon mengundurkan diri dari Anthropic dan menuduh perusahaan beserta OpenAI bertindak tidak bertanggung jawab menukarkan keselamatan manusia. Coxon menyatakan teknologi AI akan segera menjadi sistem manusia super berpotensi meretas dan merevolusi bidang apa pun. Kehawatiran ini mencerminkan perdebatan di Silicon Valley tentang pengembangan AI yang aman. Head ilmiah OpenAI Jakub Pachocki memperingatkan belum ada perusahaan AI yang memiliki sistem pemantauan memadai. Beberapa peneliti AI termasuk Evan Hubinger mengakui kemungkinan lebih dari 10% AI bisa membunuh semua manusia dalam dekade mendatang. Surat terbuka 'Pacing the Frontier' yang ditandatangani 1.400 peneliti AI mendesak pemerintah AS mengembangkan instrumen pengaturan AI. Rancangan undang-undang FRONTIER Act diusulkan untuk mengatur penyebaran model AI tingkat lanjut.