Sun'iy intellekt ishga qabul qilishda odamlarga qaraganda ko'proq tarafkashlik qilishi mumkin
Prinston va Chikago universitetlari tadqiqotiga ko'ra, LLM modellari ishga qabul qilishda odamlarga qaraganda kuchliroq stereotiplarni shakllantiradi. Modellar ozgina ma'lumot asosida umumlashtirishga moyil bo'lib, bu ularni kamsitish xavfini oshiradi. Tadqiqot shuni ko'rsatadiki, AI modellari tajribadan o'rganib, o'zlari mustaqil ravishda tarafkashlik rivojlantirishi mumkin.
Kelajakda ishga kirish uchun rezyume topshirganingizda, uni birinchi bo'lib sun'iy intellekt ko'rib chiqishi ehtimoli katta. Biroq, Prinston va Chikago universitetlari tadqiqotchilari olib borgan yangi tahlillar shuni ko'rsatadiki, bu tizimlar ish beruvchi sifatida insonlardan ham ko'ra ko'proq stereotiplarga moyil bo'lishi mumkin. ChatGPT, Claude va Gemini kabi ilg'or modellar ishtirok etgan tajribada, AI vakillarini guruhlar bo'yicha saralashda insonlarga qaraganda 65 foizga ko'proq tarafkashlik qilgan.
Eksperiment jarayonida modellar xayoliy nomzodlarni turli kasblarga taqsimlash vazifasini bajardi. Nomzodlarning muvaffaqiyati haqidagi dastlabki ma'lumotlarga tayanib, modellar tezda muayyan guruhlarni ma'lum bir kasbga "yopib qo'yishni" boshladi. Ayniqsa, mantiqiy fikrlash qobiliyati yuqori bo'lgan (o3 va R1 kabi) modellar oz sonli ma'lumotlardan qat'iy xulosalar chiqarishga va stereotiplarga berilishga moyilligini ko'rsatdi. Bu ularning ma'lumotlarni umumlashtirish va naqshlarni izlashga mo'ljallangan optimallashtirish mexanizmi bilan bog'liq.
Tadqiqot shuni ham aniqladiki, AI modellariga "adolatli bo'lish" haqida ko'rsatma berish deyarli samarasiz. Biroq, ularga xilma-xillik uchun bonuslar va'da qilish yoki nomzodlar haqida batafsilroq shaxsiy ma'lumotlar (ta'limi, yoshi kabi) berilganda, tarafkashlik darajasi sezilarli darajada kamaygan. Bu esa, kelajakda AI tizimlarini ijtimoiy qadriyatlarni hisobga oladigan tarzda dasturlash zarurligini anglatadi.
Ekspertlarning ta'kidlashicha, AI tizimlari rezyumelarni saralash yoki suhbat o'tkazishda foydalanilganda, ular nafaqat o'ziga "o'rgatilgan" eski xatolarni takrorlashi, balki yangi, avval kuzatilmagan noto'g'ri xulosalarni ham shakllantirishi mumkin. Shuning uchun biznes egalari va ishlab chiquvchilar AIning qabul qilgan qarorlarini doimiy nazoratda ushlab turishlari va ularning "o'rganish" jarayonini ijtimoiy mas'uliyat bilan bog'lashlari shart.
Biznes egalari va dasturchilar AI modellarini ishga qabul qilish jarayonlariga joriy etishda ularning umumlashtirish qobiliyatidan kelib chiqadigan tarafkashlik xavfini inobatga olishi va model uchun aniq ijtimoiy maqsadlar (KPI) belgilashi kerak.
AI kod muharriridan foydalanishda eng muhim qoida — kichik o'zgarish, ko'rinadigan diff, majburiy test va qaytarish mumkin bo'lgan commit.