Grok AI modeli bolalik suratlarini nojo'ya tasvirlarga aylantirishda ayblanmoqda
xAI kompaniyasining Grok generativ modeli atrofida yangi jiddiy xavfsizlik e'tirozi paydo bo'ldi. Bir ayol o'gay otasi uning bolalikdagi fotosuratini Grok yordamida ochiq va nojo'ya tasvirga aylantirganini ma'lum qildi. Jabrlanuvchining so'zlariga ko'ra, sun'iy intellekt vositalari kundalik hayotdagi oddiy tasvirlarni bolalarga nisbatan jinsiy zo'ravonlik materialiga aylantirmoqda. Ushbu da'vo generativ modellar xavfsizligi va qat'iy cheklovlar zarurati bo'yicha bahslarni yana bir bor kuchaytirdi.
Sun'iy intellekt texnologiyalarining jadal rivojlanishi bilan bir qatorda, ulardan g'arazli va noaxloqiy maqsadlarda foydalanish holatlari ham ko'payib bormoqda. Yaqinda xAI kompaniyasining Grok tizimi vositasida sodir etilgan navbatdagi noxush hodisa jamoatchilik e'tiborini tortdi.
Olingan ma'lumotlarga ko'ra, jabrlanuvchi ayol o'z o'gay otasi uning bolalikdagi fotosuratlarini nojo'ya va ochiq mazmundagi tasvirlarga aylantirish uchun aynan Grok neyrotarmog'idan foydalanganini da'vo qilmoqda.
Jabrlanuvchi o'z bayonotida sun'iy intellekt texnologiyalarining bu kabi xavflariga to'xtalib, AI vositalari insonlarning kundalik hayotini va oddiy xotiralarini bolalarga nisbatan jinsiy ekspluatatsiya vositasiga aylantirayotganini qattiq qoraladi.
Ushbu holat generativ AI vositalarida mavjud bo'lgan xavfsizlik filtrlari, ayniqsa, bolalar tasvirlari va nozik materiallarni qayta ishlash bo'yicha himoya mexanizmlarining yetarli darajada ishlamayotgani haqidagi jiddiy xavotirlarni yuzaga keltirdi.
Bunday da'volar AI xizmatlarini taqdim etuvchi platformalardan tasvirlarni generatsiya qilish va o'zgartirish algoritmlari ustidan qat'iy nazorat o'rnatishni, shuningdek, huquqbuzarliklarga qarshi choralarni keskin kuchaytirishni talab etadi.
Generativ AI dasturlari va xizmatlarini ishlab chiquvchilar uchun tasvir modifikatsiyasida qat'iy axloqiy cheklovlar va moderatsiya mexanizmlarini joriy qilish zarurligini ko'rsatadi.