Meta platformalarida sun'iy intellekt orqali bolalar suratlarini o'zgartiruvchi ilovalar reklamasi tarqaldi
Tech Transparency Project (TTP) tadqiqoti Meta kompaniyasi Facebook va Instagram platformalarida sun'iy intellekt orqali bolalarga nisbatan nojo'ya kontent yaratuvchi 330 dan ortiq reklamani o'z vaqtida aniqlay olmaganini fosh qildi. Ushbu reklamalarda haqiqiy bolalar, jumladan, Yevropa qirollik oilasi a'zosi va yosh Instagram blogerining suratlari manipulyatsiya qilingan. Reklamalarning aksariyati Xitoyda ishlab chiqilgan 'nudify' ilovalarini targ'ib qilgan. Meta ushbu reklamalarni xabar qilinganidan keyin olib tashlagan bo'lsa-da, moderatsiya tizimidagi kechikishlar sababli keskin tanqidlarga va AQSh hamda Avstraliya regulyatorlarining tekshiruviga duch kelmoqda.
Tech Transparency Project (TTP) nodavlat tashkiloti tomonidan e'lon qilingan surishtiruv Meta o'zining Facebook va Instagram platformalarida sun'iy intellekt orqali yaratilgan bolalar ekspluatatsiyasi materiallarini (CSAM) o'z ichiga olgan 332 ta reklamani aniqlay olmaganini ko'rsatdi. Reklamalarning asosiy qismi Xitoyda ishlab chiqilgan, fotosuratlardan kiyimlarni olib tashlashga yoki nojo'ya videolarga aylantirishga mo'ljallangan 'nudify' ilovalarini targ'ib qilgan.
Tadqiqot davomida aniqlanishicha, reklamalarda real hayotdagi bolalarning suratlari noqonuniy ravishda ishlatilgan. Ular orasida Yevropa qirollik oilasining yosh a'zosi, 14 yoshli Instagram blogeri va stok fotosuratlardagi o'smirlarning rasmlari sun'iy intellekt yordamida animatsiya qilinib, nojo'ya ko'rinishga keltirilgan. AQSh Adliya vazirligi AI tomonidan yaratilgan bunday kontentni ham qonunga zid deb hisoblaydi.
Meta ushbu holatlar bo'yicha ogohlantirilgandan so'ng reklamalarni o'chirib tashlagan bo'lsa-da, TTP kompaniyani moderatsiyani kechiktirishda va qoidalarni izchil qo'llamaslikda ayblamoqda. Ayrim hollarda shikoyat qilingan reklamalar bir necha kun davomida faol qolib, yuzlab tomoshalarni to'plashga ulgurgan. Shuningdek, bir xil mazmundagi ikkita reklamadan biri o'chirilib, ikkinchisi qoidabuzarlik deb topilmagan holatlar ham qayd etilgan.
Meta vakillari har qanday bolalar ekspluatatsiyasi yoki nojo'ya ilovalarni taqiqlashini, ayrim reklamalar qisqa yoki xiralashtirilgan lavhalar sababli algoritmlardan o'tib ketganini bildirdi. Kompaniya ma'lumotiga ko'ra, bunday reklamalarning har biri o'rtacha 200 tadan kam ko'rilgan va umumiy xarajat 5000 dollardan oshmagan.
Biroq mazkur hodisa qonun chiqaruvchilar va nazorat organlarining jiddiy e'tiroziga sabab bo'ldi. AQShning Michigan va Florida shtatlari bosh prokurorlari, senator Mark Uorner hamda Avstraliyaning internet xavfsizligi bo'yicha regulyatori Meta moderatsiya tizimi yuzasidan tekshiruv va izoh talab qilmoqda.
Raqamli mahsulot va platforma yaratuvchilari uchun ushbu holat AI modellarida noqonuniy kontent generatsiyasini cheklovchi qat'iy himoya choralarini o'rnatish hamda reklama moderatsiyasi algoritmlarini kuchaytirish zarurligini ko'rsatadi.