Discord'ning sun'iy intellekt moderatsiyasi xatolik tufayli foydalanuvchilarni nohaq blokladi
Discord platformasida sun'iy intellektga asoslangan moderatsiya tizimida aniqlangan xatolik yuzlab foydalanuvchilarning asossiz bloklanishiga sabab bo'ldi. May oyidan buyon davom etgan ushbu nosozlik zararsiz tasvirlarni qoida buzilishi deb noto'g'ri baholagan. Kompaniya muammoni aniqlab, xatolikni tuzatganini va taqiqlangan akkauntlarni qayta ko'rib chiqayotganini ma'lum qildi.
Mashhur muloqot platformasi Discord o'zining avtomatlashtirilgan sun'iy intellekt moderatsiya tizimidagi jiddiy nosozlikni tan oldi. Ma'lum bo'lishicha, dasturiy ta'minotdagi xatolik tufayli hech qanday qoida buzmagan foydalanuvchilar platformadan chetlatilgan. Ushbu muammo may oyidan buyon kuzatilgan bo'lsa-da, faqat yaqinda tizim tomonidan aniqlangan.
Kompaniya vakillarining so'zlariga ko'ra, sun'iy intellekt algoritmi oddiy va zararsiz deb hisoblangan tasvirlarni noto'g'ri talqin qilib, ularni taqiqlangan kontent toifasiga kiritgan. Natijada, faqatgina o'tgan dam olish kunlarining o'zida 200 dan ortiq foydalanuvchi hech qanday sababsiz bloklangan. Bu holat foydalanuvchilar orasida jiddiy norozilik va xavotir uyg'otdi.
Discord muhandislik jamoasi nosozlikni bartaraf etganini ma'lum qildi. Hozirda noto'g'ri bloklangan akkauntlarni tiklash jarayoni boshlangan va kompaniya bu kabi xatolarning kelgusida takrorlanmasligi uchun moderatsiya modellarini yanada aniqroq sozlash ustida ishlamoqda.
Ushbu hodisa sun'iy intellektga asoslangan avtomatlashtirilgan tizimlar hali ham mukammal emasligini va inson nazorati qanchalik muhimligini yana bir bor ko'rsatib qo'ydi. Foydalanuvchilar endilikda platforma xavfsizlik siyosati va algoritmlarning shaffofligi bo'yicha aniqroq tushuntirishlar kutmoqda.
Dasturchilar va biznes egalari avtomatlashtirilgan moderatsiya tizimlarini joriy etishda 'inson halqasi' (human-in-the-loop) modelini qo'llashlari va AI qarorlarini doimiy nazorat qilishlari zarur.
AI kod muharriridan foydalanishda eng muhim qoida — kichik o'zgarish, ko'rinadigan diff, majburiy test va qaytarish mumkin bo'lgan commit.