Anthropic Ungkap Penyalahgunaan Claude, Sorot Ancaman Senjata Biologis

Anthropic melaporkan penyalahgunaan model AI Claude untuk aktivitas berbahaya, termasuk serangan siber, pengawasan, dan riset senjata biologis. Salah satu kasus signifikan melibatkan upaya modifikasi genetik virus Chikungunya agar lebih menular dan mampu menghindari sistem kekebalan tubuh, yang kemudian berhasil diblokir oleh sistem keamanan perusahaan.

Selain ancaman biologis, Anthropic menemukan kampanye propaganda terorganisir dari berbagai wilayah seperti Rusia, Iran, dan Turki yang menggunakan akun palsu untuk menyebarkan pandangan politik. Menanggapi risiko ini, Anthropic telah memperketat sistem keamanan pada model terbaru mereka untuk membatasi kueri penelitian biologi berisiko tinggi dan mendorong kolaborasi antarperusahaan AI serta pemerintah dalam mencegah ancaman serupa.