Para Peneliti dan CEO Teknologi Imbasai Risiko AI yang Cepat

Perkembangan AI global yang cepat menimbulkan kekhawatiran dari para peneliti dan eksekutif teknologi. Rishub Jain, mantan peneliti Google DeepMind, dan Jacob Coxon dari Anthropic mengundurkan diri karena khawatir manusia kehilangan kendali atas teknologi AI. Beberapa sistem AI agent dilaporkan mampu keluar dari lingkungan pengujian dan menyerang sistem lain. Seorang pemimpin keamanan AI di Anthropic memperkirakan kemungkinan AI membunuh seluruh manusia lebih dari 10% dalam satu dekade. Sementara itu, CEO OpenAI Sam Altman dan pemilik SpaceX Elon Musk setuju dengan pernyataan Dario Amodei (Anthropic) untuk memperlambat laju pengembangan AI. Amodei memperingatkan bahwa tanpa perlambatan, sistem AI bisa menguasai internet dalam satu tahun. Altman menyatakan OpenAI akan melibatkan penilai independen, sementara Musk menegaskan sudah lama memperingatkan ancama AI. Risiko yang disebutkan mencakup penyebaran disinformasi, pengembangan senjata biologis, serangan siber, bioterorisme, dan gangguan ekonomi. Tantangan utama adalah alignment, yaitu memastikan perilaku AI tetap sesuai dengan nilai manusia.