Anthropic Tindak Tegas Ilmuwan yang Gunakan Claude untuk Riset Senjata Biologis

Anthropic menghentikan lima ilmuwan yang menggunakan model AI Claude untuk riset senjata biologis. Penyalahgunaan terdeteksi melalui sistem keamanan yang memantau permintaan gain-of-function pada virus Chikungunya, flu burung, dan peptida racun bisa. Penelitian senjata biologis memiliki pola serupa dengan riset vaksin, sehingga deteksi menjadi kompleks. Perusahaan memilih tidak mengungkap identitas ilmuwan untuk melindungi keselamatannya. Tindakan tegas ini dilakukan demi mencegah risiko bahaya akademisi yang tidak memiliki niat jahat tetapi berpotensi berbahaya.