OpenAI, Anthropic, dan Google Mulai Berunding soal Keselamatan AI

OpenAI, Anthropic, dan Google DeepMind telah memulai diskusi terkait keselamatan kecerdasan buatan (AI), menurut laporan yang disampaikan oleh Kepala Kebijakan Global OpenAI, Chris Lehane, dalam sebuah pertemuan di Washington, AS. Diskusi ini dilaporkan berlangsung selama beberapa minggu terakhir. Lehane menyatakan bahwa kolaborasi di antar perusahaan kompetitor diperlukan mengingat laju pengembangan AI yang sangat cepat. Namun, belum ada kesepakatan resmi, standar pengujian, atau model yang akan terlibat dalam upaya ini. Ketiganya belum memberikan konfirmasi terpisah kepada Reuters, dan laporan ini belum dapat diverifikasi secara independen.

Sementara itu, CEO Anthropic, Dario Amodei, sebelumnya meminta pemerintah AS memberikan pengecualian terbatas dari aturan antimonopoli agar perusahaan AI dapat berdiskusi mengenai risiko keselamatan tanpa dituduh mengurangi persaingan. Amodei memperingatkan bahwa kemampuan agen AI berkembang lebih cepat dibandingkan mekanisme pengamanannya, sehingga ia mendukung pelaksanaan pengujian dan evaluasi independen sebelum model yang lebih canggih diluncurkan.

Andrew Ferguson, Ketua FTC AS, menyatakan kekhawatirannya bahwa upaya regulasi bersamaan dengan pengecualian antimonopoli dapat menciptakan hambatan bagi perusahaan baru dan melindungi dominasi pemain besar. Meskipun belum ada bukti bahwa ketiganya bersedia menunda pengembangan model baru, langkah awal ini menandakan dukungan para pemimpin AI terhadap dialog langsung mengenai risiko teknologi ini.