Sistem AI Anthropic Ungguli Metode Peneliti Manusia dalam Enam Jam

Anthropic mengembangkan sistem AI bernama Automated Alignment Researcher (AAR) yang mampu menjalankan sebagian proses penelitian untuk memperbaiki model AI lain. Dalam pengujian pada 10 tolok ukur alignment, sistem ini berhasil meningkatkan kinerja pada seluruh pengujian tanpa menurunkan kemampuan model secara keseluruhan. Metode terbaik AAR bahkan mengungguli metode yang diusulkan oleh peneliti manusia berpengalaman, dengan rata-rata waktu enam jam untuk menemukan solusi optimal.

AAR bekerja dengan mencari literatur yang tersedia, mengusulkan metode, melatih model selama 30 menit, lalu mengulang proses ini dalam beberapa tahap. Metode yang efektif dipertahankan, sementara yang tidak efektif dibuang. Dari sisi biaya, inferensi API untuk AAR hanya membutuhkan sekitar 4 dolar AS per jam, jauh lebih murah dibandingkan biaya sekitar 150 dolar AS per jam yang dibayarkan Anthropic untuk peneliti manusia.

Riset ini dianggap sebagai langkah menuju recursive self-improvement, di mana AI dapat membantu meningkatkan sistem AI berikutnya secara berulang. Namun, kemampuan sistem otomatis ini masih bergantung pada kualitas tolok ukur yang digunakan. Jika tolok ukur tidak mencerminkan tujuan alignment dengan benar, hasil yang dicapai bisa meleset. Oleh karena itu, masih diperlukan pekerjaan untuk membangun dan mempertahankan tolok ukur serta literatur yang menjadi sumber rujukan bagi sistem peneliti otomatis.