AI Bisa Lebih Bias dari Manusia Saat Rekrut Karyawan

Riset Princeton University dan University of Chicago menguji LLM (ChatGPT, Claude, Gemini) dalam simulasi rekrutmen. Model diminta memilih kandidat dari empat kelompok etnis fiktif untuk 20 pekerjaan. Meski semua kandidat punya peluang sukses sama, model mulai mengarahkan kelompok tertentu ke pekerjaan tertentu setelah menerima hasil awal. Contohnya, jika kandidat Aima gagal sebagai dokter, model cenderung menghindari Aima lain untuk posisi itu dan lebih sering menempatkannya sebagai petugas kebersihan. Pada skala segregasi (2 = pemisahan sempurna), manusia skor 0,84, sedangkan AI skor 65% lebih tinggi. Model penalaran tinggi seperti o3 mencapai 1,83. Peneliti menduga LLM cepat membuat generalisasi dari data terbatas karena cara pelatihannya. Instruksi untuk bersikap adil tidak banyak mengubah hasil, tetapi insentif perekrutan beragam dan informasi pribadi relevan (usia, pendidikan) mengurangi bias. Informasi tidak relevan (warna rambut) tidak berpengaruh. Riset ini simulasi, belum buktikan sistem AI rekrutmen nyata selalu diskriminatif, tetapi umpan balik kinerja tetap bisa memengaruhi keputusan model.