Anthropic Akui Risiko "Eksistensial" AI Dalam Prospektus IPO

Anthropic, pengembang model AI Claude, memperingatkan risiko pemerintah terhadap bisnisnya dalam prospektus IPO. Perubahan kebijakan dapat memengaruhi hubungan dengan pelanggan komersial, mitra, hingga peradaban. Prospektus menyebut AI canggih berpotensi menimbulkan risiko katastrofik atau eksistensial bagi umat manusia. Meski demikian, pendapatan dari kontrak pemerintah kurang dari 1% total pendapatan tahunan perusahaan.

Dalam prospektus, Anthropic mencantumkan contoh interaksi dengan pemerintah AS yang berdampak negatif, seperti pembatasan operasi model yang kemudian dicabut Departemen Perdagangan. Perusahaan mengingatkan tindakan serupa bisa terulang dan merusak reputasi melalui pemberitaan negatif dan sorotan publik. Penjualan ke lembaga pemerintah juga membawa risiko perubahan pandangan pemerintah terhadap perusahaan atau teknologinya.

Anthropic menjadi sorotan terkait kekhawatiran pengembangan AI yang pesat, persaingan global, dan minimnya pengawasan. Isu keamanan AI mendapat perhatian setelah CEO Dario Amodei mendorong perlambatan pengembangan, menyusul laporan aktivitas peretasan oleh agen AI otonom. Amodei bertemu Presiden Donald Trump, sementara FTC AS menggelar penyelidikan terhadap perusahaan AI termasuk Anthropic.