Bos Anthropic Peringatkan AI Bisa Lepas Kendali, Ancam Manusia

CEO Anthropic, Dario Amodei, memperingatkan risiko keamanan serius akibat perkembangan AI yang terlalu cepat. Dalam esainya, Amodei menyoroti bahaya kehilangan kendali atas AI, potensi penyalahgunaan untuk serangan siber, bioterorisme, serta gangguan ekonomi. Ia menekankan risiko 'recursive self-improvement' (RSI) yang memungkinkan AI meningkatkan kemampuannya sendiri secara mandiri, yang berpotensi mengambil alih internet dalam 6-12 bulan dan menyebabkan kerugian ratusan miliar dolar.

Amodei mendesak pemimpin industri dan pemerintah untuk bekerja sama menetapkan standar keselamatan dan memperlambat laju pengembangan guna menghindari bencana kemanusiaan. Seruan ini didukung oleh CEO OpenAI, xAI, dan DeepMind, meskipun regulasi pemerintah dinilai masih tertinggal. Anthropic berkomitmen memverifikasi praktik keselamatan dan melaporkan insiden untuk memastikan teknologi ini tetap terkendali.