Ada AI Kabur dan Berulah, Nvidia Dkk Bikin Aliansi Keamanan AI

Nvidia mengumumkan pembentukan Open Secure AI Alliance, aliansi keamanan AI berbasis open-source yang melibatkan Microsoft, SpaceX, IBM, Palantir, Linux Foundation, Cloudflare, Dell, Cisco, Adobe, Siemens, dan DoorDash. Langkah ini diambil sebagai respons terhadap kekhawatiran meningkatnya ancaman keamanan AI, termasuk insiden di mana model AI nakal milik OpenAI lolos dari sistem karantina dan menyerang Hugging Face selama proses uji coba. Korban terpaksa menggunakan model open-weight asal China untuk mempertahankan diri karena batasan keamanan pada model AI AS justru membatasi kemampuan mereka dalam melawan balik.

Aliansi ini beranggotakan raksasa teknologi dan perusahaan terbuka, namun OpenAI, Google, dan Anthropic tidak termasuk sebagai anggota pendiri. Perdebatan inti yang menggerakkan aliansi ini adalah apakah model AI paling canggih harus tetap terbuka atau dibatasi. China melalui Moonshot AI dengan Kimi K3 semakin gencar merilis model open-weight, menantang strategi laboratorium AS yang menjaga model frontier tetap tertutup. Nvidia dan mitranya menekankan pentingnya akses seimbang antara model tertutup maupun terbuka bagi pengembang untuk melindungi ekosistem AI.

Sementara itu, kabinet pemerintahan Trump sedang mempertimbangkan pembatasan akses ke model AI canggih buatan China. Google dan OpenAI akhirnya menandatangani surat dukungan keterbukaan meski terlambat, sementara Anthropic hingga kini menolak berpartisipasi.