Peringatan Keras Raja Charles: Kendalikan AI Sebelum Terlambat

Raja Charles III mendesak para pemimpin industri untuk segera mengendalikan pengembangan kecerdasan buatan (AI) sebelum terlambat. Dalam pertemuan di Dumfries House, Skotlandia, ia menyampaikan kekhawatiran akan potensi bahaya eksistensial jika teknologi AI jatuh ke tangan yang tidak bertanggung jawab. Raja menekankan pentingnya sistem kendali yang memadai untuk mencegah penggunaan yang berpotensi mendatangkan bencana. Ia juga mengakui potensi besar AI, terutama di bidang medis, namun menyerukan agar teknologi ini digunakan untuk kebaikan bersama.

Para tamu undangan termasuk CEO Nvidia Jensen Huang, pendiri Google DeepMind Demis Hassabis, dan penasihat AI Vatikan Paolo Benanti. Huang menekankan perlunya pengujian dan pengamanan yang lebih ketat dalam pengembangan AI. Kehadiran Benanti menunjukkan peran penting pemuka agama dalam menyikapi isu etika AI. Paus Leo XIV sebelumnya juga menyampaikan bahwa AI tidak boleh hanya dikuasai oleh segelintir kelompok.

Inggris berada dalam posisi yang kompleks dalam isu keamanan AI. Meskipun memiliki institusi akademik terkemuka dan AI Security Institute, pengaruhnya terbatas karena model AI tercanggah saat ini dikembangkan di China dan Amerika Serikat. Raja Charles juga menyerukan perlindungan privasi dan kesejahteraan masyarakat agar teknologi baru ini memberikan manfaat bagi seluruh masyarakat tanpa mengorbankan demokrasi.