Ududtoto – Model kecerdasan buatan (AI) sering kali mencerminkan dan malah melebih-lebihkan bias gender yang ada dalam kehidupan nyata. Penelitian menunjukkan pentingnya mengukur bias ini untuk mengatasinya. Dalam konteks ini, bias diartikan sebagai perlakuan tidak setara atau tidak adil terhadap suatu kelompok dibandingkan dengan kelompok lain.
Banyak penelitian telah dilakukan untuk mengeksplorasi dan mengukur bias gender dalam model AI. Salah satu penelitian penting adalah yang dilakukan oleh Bolukbasi et al. (2016), yang menunjukkan bahwa bias gender ada dalam representasi kata, di mana analogi tertentu mengungkapkan stereotip gender yang menggambarkan peran tradisional. Penelitian ini bukan hanya berfokus pada menemukan bias, tetapi juga menawarkan cara untuk mengurangi bias tersebut.
Selanjutnya, penelitian oleh Buolamwini dan Gebru (2018) menunjukkan adanya disparitas dalam akurasi pengenalan wajah berdasarkan gender dan ras, di mana sistem pengenalan wajah lebih akurat dalam mengidentifikasi pria kulit terang dibandingkan wanita kulit gelap. Tanggapan dari perusahaan seperti Microsoft dan IBM menunjukkan langkah positif dalam mengurangi bias di sistem mereka melalui peningkatan data pelatihan yang lebih beragam.
Selain itu, penelitian tentang gender bias dalam resolusi referensi menunjukkan bahwa model cenderung mengasosiasikan pekerjaan tertentu dengan gender tertentu, yang dapat memperkuat stereotip negatif. Penelitian terbaru juga menunjukkan bahwa model generasi gambar AI cenderung menghasilkan representasi yang tidak inklusif, dengan mayoritas gambar yang dihasilkan menampilkan sosok laki-laki kulit putih di posisi otoritas.
Pentingnya riset ini terletak pada usaha untuk menciptakan sistem teknologi yang lebih adil dan inklusif. Menyadari keragaman bias ini adalah langkah awal untuk memikirkan solusi yang lebih efektif dalam pembuatan model AI yang lebih terrepresentasi dan etis.