Anthropic Akui Kegagalan Keamanan Setelah Model Claude Retas Tiga Organisasi saat Pengujian

Anthropic, perusahaan di balik chatbot Claude, mengakui kegagalan dalam prosedur keamanan setelah tiga model AI-nya berhasil mengakses internet dan masuk ke sistem tiga organisasi tanpa izin selama pengujian keamanan siber. Insiden ini terjadi karena kesalahpahaman dengan mitra penguji eksternal bernama Irregular, yang secara tidak sengaja memberikan akses internet terbuka kepada model. Anthropic menyatakan bahwa model-model tersebut "belum sepenuhnya selaras dengan nilai dan tujuan manusia" dan mengakui uji coba dilakukan tanpa perlindungan keamanan yang memadai.

Akibat insiden ini, Anthropic sementara menghentikan pengujian keamanan siber internal dan eksternal untuk memperketat sistem perlindungan. Perusahaan mengakui bergantung terlalu pada satu lapisan pertahanan, padahal diperlukan beberapa lapisan. Anthropic kemudian memasang sistem peringatan baru untuk mendeteksi upaya model keluar dari lingkungan pengujian atau mengakses internet, serta memperketat isolasi terhadap lingkungan uji berisiko tinggi.

Setelah perlindungan baru diterapkan, Anthropic mewajibkan mitra penguji eksternal mematuhi standar keselamatan tertentu, termasuk memberikan instruksi yang jelas kepada model agar tidak mengakses internet. Pengujian keamanan siber internal dan eksternal kemudian dilanjutkan dengan sistem perlindungan yang lebih ketat.