Anthropic Pergoki Ilmuwan Pakai AI untuk Riset Senjata Biologis

Anthropic mengungkap penyalahgunaan model AI Claude oleh ilmuwan untuk riset senjata biologis dan konvensional dalam laporan ancaman intelijen terbaru. Salah satu kasus signifikan terjadi pada Mei, di mana sistem mendeteksi permintaan pembuatan proposal hibah untuk penelitian gain-of-function virus Chikungunya guna meningkatkan penularan dan penghindaran imun, yang terafiliasi dengan lembaga riset militer.

Antara Desember 2025 hingga Agustus 2026, Anthropic berhasil menggagalkan penyalahgunaan pada model Claude Haiku, Sonnet, dan Opus. Selain senjata biologis, AI mereka juga digunakan untuk membuat propaganda, alat mata-mata, dan eksploitasi software. Anthropic telah memblokir akun pelanggar dan akan menggunakan temuan ini untuk memperkuat sistem keamanan model di masa depan.