Mengapa Ilmuwan Anthropic dan OpenAI Takut pada Ciptaan Mereka?

Para ilmuwan Anthropic dan OpenAI menyampaikan kekhawatiran serius terhadap perkembangan AI, terutama terkait recursive self improvement (RSI) atau perbaikan diri secara rekursif. Eisen mengungkapkan lebih dari 10% kemungkinan AI dapat membunuh seluruh manusia dalam dekade mendatang. RSI terjadi ketika AI memperbaiki dirinya sendiri, memicu lonjanka kemampuan tak terkendali. Data internal Anthropic menunjukkan Claude mempercepat pengembangan AI secara otonom, lebih cepat dari perkiraan awal. Para peneliti seperti Jakub Pachocki dan Anna Wang menyatakan tidak ada rencana ilmiah yang layak untuk mengatasi risiko RSI. Peningkatan kecerdasan mesin terus berlangsung dengan cepat, berpotensi menghasilkan lompatan kemampuan yang mengendalikan pengembangannya sendiri.