Google Earth's AI deepfake tool lasted only one day
Google kompaniyasi o‘zining Google Earth'dagi sunʼiy intellekt yordamida sunʼiy tasvirlar yaratish funksiyasini bor-yo‘g‘i bir kun o‘tgach to‘xtatdi. Ushbu vosita foydalanuvchilarga matnli buyruqlar orqali Google Earth'ning mavjud sunʼiy yo‘ldosh tasvirlarini o‘zgartirish imkonini bergan. Ammo, bu vosita tezda noto‘g‘ri yoki zararli maʼlumotlarni tarqatish uchun ishlatilishi mumkinligi sababli yopilgan.
Google kompaniyasi o‘zining Google Earth platformasida taqdim etgan sunʼiy intellekt (AI) yordamida tasvir yaratish funksiyasini bor-yo‘g‘i bir kun ichida o‘chirib tashladi. Payshanba kuni ishga tushirilgan ushbu vosita foydalanuvchilarga matnli buyruqlar yordamida Google Earth'dagi mavjud sunʼiy yo‘ldosh tasvirlarini o‘zgartirish va yangi "deepfake" (soxta) tasvirlarni yaratish imkonini berardi.
Bu funksiya "Nano Banana 2" deb nomlangan AI modelidan foydalangan. Dastlab, Google ushbu vosita orqali yaratilgan tasvirlarda maxsus raqamli tamg‘a (watermark) bo‘lishini va zararli mavzular bo‘yicha tasvir yaratishni oldini olishini taʼkidlagan edi. Biroq, ko‘p o‘tmay, ushbu vositaning salbiy oqibatlari yuzaga chiqa boshladi.
Masalan, Digital Digging muxbiri Henk van Ess ushbu vositani ishlatib, Meksika chegarasi yaqiniga qochqinlar yoki G‘azo sektoridagi shifoxona yoniga bomba krateri kabi nozik va potensial ravishda noto‘g‘ri maʼlumot tarqatishi mumkin bo‘lgan tasvirlarni yaratdi. Bunday holatlar ushbu vositaning noto‘g‘ri maʼlumotlarni tarqatishdagi potentsial xavfini ko‘rsatdi.
Shu sababli, Google bir kun o‘tib ushbu funksiyani to‘xtatishga qaror qildi. Kompaniya bayonotida ushbu vosita yaratgan kontentning to‘g‘riligini kafolatlay olmasligi va bunday vositalarning potensial xavf-xatarlarini tan olganini bildirdi. Bu hodisa sunʼiy intellekt vositalarining tezkor rivojlanishi va ularni nazorat qilishning muhimligini yana bir bor ko‘rsatib berdi.
Dasturchilar uchun AI vositalarini ishlab chiqishda moderatsiya va xavfsizlik mexanizmlarini oldindan o'ylash muhimligini ko'rsatadi. Biznes egalari uchun esa foydalanuvchilarga taqdim etiladigan AI vositalarining potentsial xavf-xatarlarini baholash zarurligini ta'kidlaydi.
AI kod muharriridan foydalanishda eng muhim qoida — kichik o'zgarish, ko'rinadigan diff, majburiy test va qaytarish mumkin bo'lgan commit.