Meta ayol siyosatchilarni deepfeyk orqali yalang'ochlashni taklif qilgan AI ilovasi reklamalarini tarqatdi
Meta kompaniyasi o'zining qat'iy qoidalariga qaramay, taniqli amerikalik ayol siyosatchilarning deepfeyk pornografik videolarini yaratishni targ'ib qiluvchi ilova reklamalarini o'z platformalarida e'lon qildi. WIRED nashri va Tech Transparency Project surishtiruvidan so'ng ushbu reklamalar o'chirildi. Kromix deb ataluvchi ilova foydalanuvchilarga ayollarning fotosuratlarini roziliksiz erotik videolarga aylantirish imkoniyatini taqdim etgan. Meta ushbu reklamalarni tezda olib tashlaganini va bu kabi zararli kontentga qarshi kurashish uchun sun'iy intellekt tizimlarini kuchaytirayotganini bildirdi. Mazkur voqea kompaniyaning avtomatlashtirilgan reklama moderatsiyasi tizimidagi jiddiy kamchiliklarni yana bir bor ko'rsatib berdi.
Meta platformalarida AQShlik ayol siyosatchilarning qiyofasidan foydalangan holda ularning roziligisiz deepfeyk pornografik kontent yaratishni targ'ib qiluvchi ilova reklamalari paydo bo'ldi. Kompaniyaning shahvoniy kontent va zo'ravonlikni taqiqlovchi ichki qoidalariga qaramay, ushbu reklamalar erkak foydalanuvchilar orasida namoyish etilgan. WIRED nashrining murojaatidan so'ng, Meta mazkur kampaniyaga tegishli 32 ta reklamani tizimdan o'chirib tashladi.
Kromix deb nomlangan ushbu ilova o'zini cheklovlarsiz sun'iy intellekt vositasi sifatida targ'ib qilib, foydalanuvchilarga fotosuratlarni yuklash va ularni turli noo'rin sahnalarga aylantirish imkonini bergan. Ilova dastlab Apple kompaniyasining App Store do'konida ham joylashtirilgan bo'lib, surishtiruv boshlangach, Apple ham uni o'z qoidalarini buzgani sababli do'kondan olib tashladi.
Meta vakili Sindi Sautvortning ta'kidlashicha, qalloblar moderatorlik tizimlarini aldash uchun videolarning muqovasida neytral tasvirlarni (masalan, tog' yoki sharshara) ko'rsatish kabi hiylalardan foydalanmoqda. Kompaniya o'tgan yilning oxiridan joriy yil boshigacha shu kabi xizmatlarni targ'ib qilgan 344 mingdan ortiq reklamani aniqlab o'chirganini va noqonuniy ilova ishlab chiquvchilariga qarshi sudga da'vo arizalari kiritayotganini ma'lum qildi.
Ekspertlarning fikricha, sun'iy intellekt vositalarining ommalashuvi davlat arboblari, ayniqsa ayol siyosatchilarning rasmiy suratlari va chiqishlarini zararli deepfeyk materiallar yaratish uchun xomashyoga aylantirib qo'ymoqda. Shu bilan birga, Meta inson moderatorlarini qisqartirib, ko'proq avtomatlashtirilgan AI filtrlariga tayana boshlagani sababli reklama sifatini nazorat qilishda tizimli uzilishlar kuzatilmoqda.
Raqamli platformalar va ilovalar ishlab chiquvchilar uchun ushbu holat AI kontentini moderatsiya qilishda faqat avtomatlashtirilgan filtrlarga tayanib bo'lmasligini hamda App Store va reklama tarmoqlari tomonidan noo'rin generatsiyalarga nisbatan nazorat va sanksiyalar kuchaytirilishini anglatadi.