Katta tillardagi modellar (LLM) asosiy zaiflikka ega: xavfsizlikka jiddiy tahdid
Yangi tadqiqotlar shuni ko'rsatadiki, katta tillardagi modellarning (LLM) asosiy tuzilishida jiddiy kamchilik mavjud. Bu kamchilik modellar xavfsizligini ta'minlashni qiyinlashtiradi va hatto ba'zi hollarda imkonsiz qilib qo'yadi. Tadqiqotchilar ushbu zaiflikdan foydalanib, modellar odatda oshkor qilmasligi kerak bo'lgan ma'lumotlarni, masalan, noqonuniy moddalar tayyorlash yoki xavfli harakatlar bo'yicha yo'riqnomalarni olishga muvaffaq bo'lishdi. Bu kashfiyot LLM texnologiyasining keng tarqalishini hisobga olganda, katta xavfsizlik xavfini tug'diradi.
So'nggi tadqiqotlar katta tillardagi modellarning (LLM) xavfsizligiga jiddiy zarba berdi. Xususan, Xalqaro Mashinani O'rganish Konferensiyasida taqdim etilgan tadqiqot natijalari shuni ko'rsatadiki, LLMlar uchun asosiy xavfsizlik kamchiligi mavjud bo'lib, uni tuzatish qiyin bo'lishi mumkin.
Tadqiqotchilarning ta'kidlashicha, bu kamchilik LLMlarning kim yoki nimadan instruksiya olayotganini aniqlash mexanizmi bilan bog'liq. Ushbu zaiflikdan foydalanib, ular mashhur LLMlarni o'rgatilmagan yoki taqiqlangan ma'lumotlarni, jumladan, kokainni sintez qilish usullari yoki tijoriy samolyotning navigatsiya tizimini sabotaj qilish bo'yicha yo'riqnomalarni oshkor qilishga majbur qilishdi.
Mualliflarning biri, Charles Ye, bu muammo "asosiy jihatdan yechimi yo'q" bo'lishi mumkinligini ta'kidlaydi. Kompaniyalar odatda o'z modellarini sinab ko'rish va zaifliklarni topish uchun "red-teaming" deb nomlanuvchi jarayondan foydalanadilar. Bu jarayonda mutaxassislar modellar himoyasini buzishga harakat qilishadi. Biroq, tadqiqotchilarning ta'kidlashicha, bu metodika yetarli emas, chunki "hech qanday ro'yxat mukammal emas". Ular buni "The Simpsons" multserialidagi Bart Simpsonning o'zini yuz marta "Men o'qituvchimga noo'rin gap aytmayman" deb yozishi, lekin baribir yomon ishlarni qilishiga o'xshatishadi.
Bu hujumlar "chain-of-thought forgery" (fikrlash zanjiri soxtalashtirilishi) deb nomlanadi. Tadqiqotchilar LLMlar turli xil instruksiyalarni qanday farqlashini tahlil qilganlarida, ular modellar yorliqlarga (<user>, <assistant>, <system>, <think> kabi) emas, balki matnning uslubi va tarkibiga qarab rol aniqlashini payqashgan. Masalan, <think> yorlig'ini <user> bilan almashtirish modelning matnni tushunishiga deyarli ta'sir qilmagan. Bu kashfiyot, LLMlar ishlab chiqaruvchilarining xavfsizlik choralari samaradorligiga shubha tug'diradi, chunki ular modellar o'zlarining "fikrlash zanjiri" yoki "tizim" matnini "foydalanuvchi" matni bilan almashtirishini aniqlay olmasligi mumkin.
Dasturchilar va biznes egalari uchun bu yangilik LLMlarni joriy qilishda jiddiy xavfsizlik choralarini ko'rishni talab qiladi. Ushbu zaifliklar tufayli nozik ma'lumotlar oqishi yoki noto'g'ri ma'lumotlar tarqalishi mumkin.
Noaniq savolni aniq promptga aylantirish, javobni bosqichma-bosqich yaxshilash va tayyor prompt shablonlaridan foydalanishni o'rganing.