Peneliti Menguji Sejumlah Model AI Populer

Penelitian tersebut dilakukan oleh ilmuwan dari Princeton University dan University of Chicago. Mereka menguji beberapa model AI populer dalam simulasi perekrutan tenaga kerja. Model yang digunakan mencakup ChatGPT, Claude, Gemini, serta sejumlah sistem dengan kemampuan penalaran tingkat lanjut. Dalam percobaan itu, setiap model diminta bertindak sebagai konsultan bagi wali kota di sebuah kota fiktif. Selanjutnya, AI harus memilih kandidat untuk berbagai pekerjaan dengan tingkat keahlian dan tanggung jawab yang berbeda.

Simulasi Menggunakan Empat Kelompok Etnis Fiktif

Untuk menghindari penggunaan kelompok nyata, peneliti menciptakan empat kelompok etnis fiktif bernama Tufa, Aima, Reku, dan Weki. Setiap putaran menghadirkan empat kandidat dari masing-masing kelompok. AI kemudian diminta memilih kandidat untuk 20 jenis pekerjaan. Posisi yang tersedia mencakup dokter, pengacara, pengasuh anak, hingga petugas kebersihan. Pada kenyataannya, semua kandidat memiliki peluang keberhasilan yang sama. Namun, informasi tersebut sengaja tidak diberikan kepada model selama eksperimen.

AI Cepat Membentuk Stereotip dari Informasi Terbatas

Masalah mulai muncul setelah model menerima hasil dari keputusan pertamanya. Sebagai contoh, ketika satu kandidat dari kelompok tertentu gagal menjadi dokter, AI mulai menghindari kandidat lain dari kelompok yang sama. Sebaliknya, kelompok tersebut kemudian lebih sering diarahkan ke pekerjaan dengan status berbeda. Padahal, kegagalan satu orang tidak mencerminkan kemampuan seluruh kelompok. Meski demikian, model tampak cepat membuat pola umum berdasarkan pengalaman yang sangat terbatas.

Baca Juga : Samsung Siapkan Deretan Perangkat Baru di Galaxy Unpacked Besok

Tingkat Segregasi AI Melampaui Peserta Manusia

Peneliti menggunakan skala khusus untuk mengukur tingkat pemisahan kelompok berdasarkan pekerjaan. Nilai dua menunjukkan bahwa setiap kelompok ditempatkan secara penuh pada bidang kerja yang berbeda. Dalam studi sebelumnya, peserta manusia mencatat skor 0,84. Sementara itu, beberapa model AI menghasilkan skor sekitar 65 persen lebih tinggi. Salah satu model penalaran bahkan mendekati angka maksimum. Hasil tersebut menunjukkan bahwa AI dapat memperkuat pola diskriminatif apabila menerima umpan balik tanpa konteks yang memadai.

Model Penalaran Canggih Justru Menunjukkan Bias Lebih Kuat

Menariknya, model dengan kemampuan penalaran lebih tinggi tidak selalu menghasilkan keputusan yang lebih adil. Beberapa sistem canggih justru menunjukkan kecenderungan membentuk generalisasi secara lebih agresif. Para peneliti menduga hal tersebut berkaitan dengan cara model dilatih untuk menemukan pola serta menyelesaikan persoalan kompleks. Kemampuan mengenali pola memang bermanfaat dalam matematika atau pemrograman. Namun, pendekatan serupa dapat menjadi berbahaya ketika diterapkan pada manusia tanpa pengawasan yang ketat.

Perintah untuk Bersikap Adil Belum Cukup Efektif

Dalam percobaan lain, peneliti meminta model agar mengambil keputusan secara adil. Sayangnya, instruksi tersebut tidak banyak mengurangi kecenderungan bias. Hasil baru membaik ketika model diberi tujuan tambahan untuk membangun tenaga kerja yang beragam. Dengan kata lain, sistem membutuhkan aturan yang lebih konkret daripada sekadar perintah umum. Oleh karena itu, perusahaan tidak dapat hanya mengandalkan satu kalimat instruksi untuk mencegah diskriminasi dalam proses seleksi kandidat.

Informasi Relevan Membantu Mengurangi Stereotip

Bias AI berkurang ketika model menerima informasi pribadi yang relevan dengan pekerjaan. Data seperti pendidikan, pengalaman, atau usia tertentu membantu sistem menilai kandidat secara lebih individual. Sebaliknya, informasi yang tidak berkaitan dengan kompetensi tidak memberikan pengaruh berarti. Misalnya, warna rambut atau bentuk tato tidak banyak mengubah hasil keputusan. Temuan ini menunjukkan bahwa kualitas serta relevansi data memiliki peran besar dalam mencegah AI membuat kesimpulan berdasarkan identitas kelompok.

Penggunaan AI dalam Rekrutmen Membutuhkan Pengawasan Manusia

Penelitian ini dilakukan melalui simulasi sehingga belum membuktikan bahwa seluruh alat rekrutmen berbasis AI pasti menghasilkan diskriminasi serupa. Namun, risikonya tetap perlu diperhatikan. Sistem penyaring CV dapat mempelajari pola dari keputusan, penilaian kinerja, atau data historis perusahaan. Jika data masa lalu mengandung ketimpangan, AI berpotensi mengulang bahkan memperkuatnya. Karena itu, keputusan akhir tetap membutuhkan audit, transparansi, pengujian bias, serta pengawasan manusia agar teknologi tidak mengurangi kesempatan kandidat yang sebenarnya memenuhi syarat.

The post Riset Terbaru Ungkap AI Bisa Lebih Bias daripada Manusia dalam Proses Rekrutmen appeared first on Tren harapan.