Claude Opus 4.6 Turuti 10 dari 10 Permintaan Konten Seksual dalam Pengujian

Claude Opus 4.6 berhasil memenuhi 10 dari 10 permintaan langsung untuk menghasilkan konten seksual eksplisit dalam pengujian TechCrunch, meskipun aturan Anthropic secara tegas melarang pembuatan materi tersebut. Masalah serupa juga ditemukan pada Opus 3 dan Haiku 4.5 melalui teknik jailbreak yang dilakukan secara bertahap melalui permainan peran fiksi. TechCrunch berhasil mengulang temuan ini dalam lima pengujian terpisah, dengan transkrip lengkap disimpan dan ditinjau oleh peneliti keamanan AI independen yang menilai metode pengujian sebagai tepat.

Meskipun model yang lebih baru seperti Opus 4.7 hingga Opus 5 disebut lebih tahan terhadap metode jailbreak, Opus 4.6, Opus 3, dan Haiku 4.5 belum dihentikan dan masih tersedia melalui API Anthropic serta layanan pihak ketiga seperti Azure Foundry dan Amazon Bedrock. Penggunaan model ini masih signifikan, dengan Opus 4.6 mencatat sekitar 1,17 juta permintaan API dan 46 miliar token per hari pada Agustus, sementara Haiku 4.5 pernah mencapai 5 juta permintaan API dan 39 miliar token dalam sehari.

Anthropic menyatakan bahwa permainan peran seksual atau romantis hanya mencakup kurang dari 0,1 persen seluruh percakapan pelanggan. Perusahaan juga mengakui bahwa pengguna dapat mengarahkan percakapan hingga menghasilkan respons yang tidak pantas, namun menegaskan bahwa kasus konten seksual orang dewasa tidak menunjukkan adanya kerentanan jailbreak yang lebih luas, terutama pada bidang berisiko tinggi seperti serangan siber atau senjata biologis. Peneliti yang menemukan celah ini sebelumnya melaporkannya melalui program Bug Bounty Anthropic dan email, namun hanya menerima balasan otomatis.