Anthropic Xitoy kompaniyalarini Claude modellarini yashirin o'g'irlashda aybladi
Anthropic kompaniyasi yangi hisobot chiqarib, Xitoyning Alibaba, Moonshot AI va DeepSeek kabi yetakchi laboratoriyalarini Claude modellaridan yashirin ravishda ma'lumot va fikrlash zanjirlarini (chain of thought) o'g'irlashda aybladi. Kompaniya kuzatuvlariga ko'ra, xavfsizlik to'siqlarini chetlab o'tish orqali qariyb 200 millionta shubhali so'rov yuborilgan. Ayniqsa, Alibaba tomonidan amalga oshirilgan 151 millionlik so'rovlar oqimi Claude tarixidagi eng yirik distillyatsiya hujumi sifatida baholandi. Olingan ma'lumotlar Qwen va Kimi kabi mahalliy modellarni noqonuniy o'rgatish va takomillashtirishga yo'naltirilgan.
Anthropic kompaniyasi Xitoyning bir qator sun'iy intellekt laboratoriyalari tomonidan amalga oshirilgan keng ko'lamli distillyatsiya hujumlari (distillation attacks) haqida rasmiy hisobot e'lon qildi. Kompaniya bergan ma'lumotlarga ko'ra, ushbu kompaniyalar Claude modellarining fikrlash zanjiri, agentlik qobiliyatlari, dasturlash va mantiqiy tahlil qilish imkoniyatlarini noqonuniy ravishda o'zlashtirishga uringan. Jami 5 ta alohida kampaniya doirasida 200 millionga yaqin shubhali so'rovlar qayd etilgan.
Distillyatsiya hujumlarining asosiy maqsadi — yetakchi modelning ichki fikrlash jarayonini chiqarib olib, undan kichikroq modellarni nozik sozlash (fine-tuning) uchun foydalanish hisoblanadi. Anthropic odatda o'z modellarining ichki mulohaza jarayonini yashirib, foydalanuvchiga faqat umumiy xulosani taqdim etadi. Biroq xitoylik tadqiqotchilar turli noodatiy prompatlar, jumladan, fikrlarni begona tillarga tarjima qilish niqobi ostida ichki xotirani chiqarib olish usullarini qo'llashgan.
Hisobotdagi eng yirik faollik Alibaba kompaniyasiga tegishli bo'lib, unga 151 millionta so'rov to'g'ri kelgan. 3500 dan ortiq akkaunt orqali kuniga qariyb 3 milliontagacha so'rov yuborilgan va ularning barchasida yagona shablon prompatidan foydalanilgan. Anthropic ushbu ma'lumotlar Alibaba'ning Qwen modellar oilasini o'qitish uchun to'planganini ta'kidlamoqda.
Bundan tashqari, Kimi modelini ishlab chiquvchi Moonshot AI bilan bog'liq kampaniya ham aniqlangan bo'lib, unda 5000 ta akkaunt orqali 300 000 dan ortiq so'rovlar, asosan, kuchli Claude Opus modeliga yo'naltirilgan. Xavfsizlik bo'yicha ekspertlar global sun'iy intellekt poygasi keskinlashgani sari modellarning intellektual mulkini himoya qilish borgan sari murakkablashayotganini qayd etmoqda.
Model ishlab chiquvchilar o'z intellektual mulkini himoya qilish uchun ilg'or prompt inyeksiyalari va filtrlash tizimlarini kuchaytirishi zarurligini ko'rsatadi.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.