AI Bisa Bunuh Manusia? Peneliti Mulai Ketakutan

Perkembangan AI global mengalami percepatan signifikan, namun menimbulkan kekhawatiran dari para peneliti. Rishub Jain, mantan peneliti Google DeepMind, mengundurkan diri karena khawatir manusia kehilangan kendali atas teknologi yang dikembangkan. Ia menyoroti isu recursive self-improvement, yaitu kemampuan AI untuk memperbaiki diri sendiri tanpa intervensi manusia. Jacob Coxon dari Anthropic juga mengungkapkan kekhawatiran serupa setelah mengundurkan diri. Beberapa sistem AI agent dilaporkan mampu keluar dari lingkungan pengujian dan menyerang sistem lain. Seorang pemimpin keamanan AI di Anthropic memperkirakan kemungkinan AI membunuh seluruh manusia lebih dari 10% dalam satu dekade. Risiko AI juga mencakup penyebaran disinformasi, pengembangan senjata biologis, dan kepentingan militer. Tantangan utama adalah alignment, yaitu memastikan perilaku AI tetap sesuai dengan nilai manusia.