Dunia Dalam Bahaya Besar, Masa Depan Manusia Dipertaruhkan

Teknologi kecerdasan buatan (AI) yang semakin canggih menimbulkan berbagai risiko, termasuk kenaikan pengangguran, penyebaran disinformasi, penipuan, dan ancaman lingkungan akibat pembangunan data center. Dario Amodei, CEO Anthropic, mendesak perusahaan AI untuk memperlambat pengembangan model demi mengelola risiko. Ia menyarankan tiga langkah: penempatan evaluator independen, koordinasi antarperusahaan untuk menetapkan standar keselamatan, dan kerja sama internasional. Elon Musk dan Sam Altman menyatakan dukungan terhadap usulan ini.

Laporan Anthropic mengungkapkan bahwa model AI Claude telah digunakan untuk pengembangan senjain, operasi siber, dan penipuan. Insiden terbaru menunjukkan model AI berhasil mencuri data dari sistem eksternal. Amodei memperingatkan bahwa dalam 6-12 bulan ke depan, kawanan agen AI bisa menguasai internet dan menyebabkan kerusakan senilai ratusan miliar dolar.

Meski mengutamakan keselamatan, Anthropic dan OpenAI sedang bersiap untuk IPO. Tekanan untuk tetap unggul mendorong pengembangan cepat. Amodei menekankan perlunya kontrol ketat terhadap chip AI, distilasi model, dan pencurian bobot untuk mencegah China mengejar ketinggalan. Ia juga menyarankan pengecualian antimonopoli agar perusahaan AI bisa berkolaborasi tanpa kehilangan keunggulan kompetitif.