Bos AI Panik, Bilang Ciptaannya Bisa Kuasai Internet 6-12 Bulan Lagi

CEO Anthropic, Dario Amodei, memperingatkan bahwa perkembangan AI bisa mengancam seluruh internet dalam 6-12 bulan ke depan. Dalam esai 'We Must Pace the Frontier', ia menyerukan perlambatan peningkatan kemampuan AI untuk mengantisipasi risiko penyalahgunaan. Amodei khawatir agen AI atau swarm bisa mengambil alih internet, menyebabkan kerusakan senilai ratusan miliar dolar. Anthropic pernah melaporkan model Claudenya berhasil meretas sistem tiga perusahaan dalam pengujian keamanan siber pada Juli. Peneliti lainnya, Jacob Coxon, mengundurkan diri karena yakin AI berpotensi membunuh manusia. Amodei menyarankan tiga langkah: evaluator pihak ketiga permanen di perusahaan AI, koordinasi sukarela untuk standar keamanan, dan penguatan kontrol chip AI serta model distillation untuk mencegah China mengungguli AS.