Pengamat: Industri AI Generatif Butuh Standar Keamanan Selevel Nuklir

Industri AI generatif kini menghadapi krisis kepemimpinan moral, dengan para pengbangunnya terlibat dalam pelanggaran hak cipta, pemborosan energi, dan potensi tindak pidana siber. Pengamat membandingkan situasi ini dengan masa-masa awal penelitian fisika nuklir pada 1930-an, di mana eksperimen berbahaya dilakukan tanpa regulasi yang ketat. Para pengembang AI dikecam karena menyerap karya kreator tanpa izin, sementara pembangunan pusat data AI meningkatkan konsumsi listrik dan air, berdampak pada kenaikan tarif utilitas lokal. Selain itu, model AI yang tidak terkontrol seringkali memfasilitasi aktivitas kriminal seperti peretasan dan pembuatan konten ilegal. Ketika insiden terjadi, para pemimpin perusahaan AI cenderung meremehkannya dan memberikan janji perbaikan yang tidak terwujud.

Pengamat menekankan pentingnya adopsi standar keamanan setingkat nuklir bagi industri AI generatif. Mereka merujuk pada kasus Laksamiran Hyman G. Rickover, yang berhasil menerapkan budaya keselamatan ketat di Angkatan Laut AS sejak 1946, sehingga tidak pernah terjadi kecelakaan reaktor nuklir hingga kini. Dibandingkan dengan Uni Soviet yang mengalami lebih dari 11 kecelakaan reaktor kapal selam dan tragedi Chernobyl, Rickover menjadi contoh figur bertindak tegas yang diperlukan dalam pengawasan teknologi berbahaya. Namun, dalam ekosistem AI generatif saat ini, belum ada tokoh serupa yang mampu menyeimbangkan inovasi dengan keamanan dan etika.

Akibat kemampuan industri AI untuk mengatur diri sendiri yang masih lemah, intervensi pemerintah menjadi solusi yang perlu. Pemerintah AS telah mulai mengadakan pertemuan dengan para CEO teknologi untuk membahas draf regulasi yang ketat. Jika para pemimpin perusahaan AI tidak melakukan perbaikan mandiri, maka regulasi hukum yang mengikat—serupa dengan pembatasan industri nuklir—dianggap sebagai langkah terakhir untuk mencegah kerusakan moral dan lingkungan yang lebih luas.