Ududtoto – Sebuah penelitian terbaru mengungkapkan bahwa model pembelajaran mesin menunjukkan kecenderungan yang lebih besar untuk melakukan stereotip berdasarkan kelompok demografis dibandingkan dengan partisipan manusia. Dalam skala segregasi penelitian tersebut, di mana nilai 2 berarti setiap kelompok sepenuhnya terasing dalam niche pekerjaan mereka, partisipan manusia memperoleh nilai 0,84. Di sisi lain, model pembelajaran mesin mencatatkan angka sekitar 65% lebih tinggi, dengan model pemikiran OpenAI, o3, mencapai skor 1,83, mendekati nilai maksimum yang mungkin.
Ryan Liu, mahasiswa PhD di Universitas Princeton dan salah satu penulis penelitian ini, menyatakan bahwa model pembelajaran mesin sangat cenderung untuk membuat generalisasi dari data yang terbatas. “Itu adalah bagian besar dari apa yang mereka optimalkan,” jelasnya. Dalam konteks ini, setiap pengambil keputusan, baik manusia maupun mesin, harus menghadapi dilema antara bertahan dengan apa yang sudah terbukti berhasil sebelumnya dan mencoba hal baru yang mungkin lebih efektif.
Hal ini disebabkan oleh pelatihan LLM yang berfokus pada masalah matematika, pengkodean, dan sains, yang mendukung generalisasi dari sedikit contoh. Namun, intuisi yang membantu LLM dalam memecahkan teka-teki logika juga membuat mereka cepat melakukan stereotip. Penelitian ini menunjukkan bahwa model baru dengan kemampuan pemikiran yang lebih tinggi, seperti o3 dan R1 dari DeepSeek, menunjukkan bias yang bahkan lebih kuat.
Penemuan ini sangat relevan mengingat kemajuan fitur memori dan personalisasi pada chatbot. Angelina Wang, seorang ilmuwan komputer di Cornell University, menjelaskan bahwa ketika chatbot mengacu pada riwayat percakapan sebelumnya, mereka dapat “terlalu terpaku pada perilaku yang sama” dan membentuk bias. Penelitian ini menyoroti pentingnya penanganan bias dalam pengembangan teknologi yang semakin kompleks.