Anthropic Pantau Aktivis Anti-AI, Bangun Sistem Pengawasan untuk Prediksi Protes

Anthropic, perusahaan kecerdasan buatan yang dipimpin Dario Amodei, telah mengembangkan sistem pemantauan canggih yang tidak hanya melindungi eksekutif dan fasilitas perusahaan, tetapi juga memantau aktivis anti-AI untuk memprediksi potensi aksi protes sebelum terjadi. Sistem ini menggunakan pendekatan yang disebut 'pre-crime', di mana tim keamanan bekerja sama dengan perusahaan deteksi risiko Samdesk untuk mengumpulkan informasi secara proaktif. Dalam salah satu kasus, sistem berhasil memberi tahu Anthropic sekitar 60 menit sebelumnya tentang perubahan jadwal aksi protes, memungkinkan perusahaan mengubah rute perjalanan eksekutif dan menghindari situasi yang berpotensi menegangkan. Anthropic juga rutin melaporkan individu yang dianggap mencurigakan kepada kepolisian di berbagai kota AS. Salah satu contoh nyata terjadi pada Agustus, ketika perusahaan melaporkan seorang pria kepada polisi San Francisco setelah pria tersebut mengungkapkan ancaman terhadap Amodei melalui chatbot Claude, termasuk mengaku memiliki senapan AR-15 dan menempatkan Amodei 'dalam bidikannya'. Laporan ini menunjukkan bagaimana sistem pemantauan Anthropic tidak hanya fokus pada aksi massa, tetapi juga mengawasi perilaku individu yang dianggap berpotensi mengancam keselamatan. Pendekatan ini mencerminkan pergeseran strategi keamanan perusahaan teknologi AI dari responsif menjadi proaktif, dengan tujuan untuk mencegah insiden sebelum terjadi. Namun, langkah ini juga menimbulkan pertanyaan tentang privasi dan batas etika dalam pemantauan terhadap aktivis yang mengkritik penggunaan AI.