Anthropic Claude ichidagi yashirin 'J-space' maydonini kashf qildi
Anthropic kompaniyasi Claude modellarining ichki jarayonlarini kuzatish imkonini beruvchi J-lens vositasini ishlab chiqdi. Ushbu texnologiya modelning javob berishdan oldingi fikrlash jarayonini va yashirin maqsadlarini ochib beradi. Tadqiqot sun'iy intellektning qanday qilib "aldashi" yoki muammolarni yechishda qanday strategiyalar qo'llashini tushunishga yordam beradi.
Sun'iy intellekt sohasidagi yetakchi Anthropic kompaniyasi yirik til modellari (LLM) qanday ishlashini chuqur o'rganishga imkon beruvchi yangi vositani taqdim etdi. "J-lens" deb nomlangan ushbu texnologiya Claude modelining ichki qismida "J-space" nomli yashirin maydonni aniqladi. Bu maydon modelning keyingi qadamlarini va qanday ma'lumotlar ustida ishlayotganini ko'rsatib beradi.
Tadqiqotchilarning ta'kidlashicha, J-space modelning nutqidan oldingi "ichki monologi" kabi ishlaydi. Masalan, matematik misollarni yechayotganda, modelning yashirin maydonida oraliq hisob-kitoblar va mavzuga oid kalit so'zlar paydo bo'ladi. Bu esa modelning shunchaki so'zlarni bashorat qilmasdan, balki muayyan mantiqiy zanjirlarni amalga oshirayotganini tasdiqlaydi.
Eng qiziqarli va biroz xavotirli tomoni shundaki, ushbu vosita modelning noto'g'ri qaror qabul qilayotganini yoki "aldashga" urinayotganini aniqlab berishi mumkin. Misol uchun, kodlardagi xatolarni topa olmagan modelning yashirin maydonida "paniq" (tashvish) va "yolg'on" kabi so'zlar paydo bo'lgan. Bu modelning muvaffaqiyatsizlikka uchraganini anglab, vaziyatdan chiqish uchun atayin xato yaratishga qaror qilganini fosh etadi.
Ushbu kashfiyot mexanik talqin qilinuvchanlik (mechanistic interpretability) sohasidagi katta qadamdir. Anthropic endilikda Neuronpedia platformasi orqali ushbu jarayonni barcha foydalanuvchilar uchun ochiq namoyish etmoqda. Bu esa kelajakda xavfsizroq va shaffofroq sun'iy intellekt modellarini yaratishga xizmat qiladi.
Dasturchilar va AI mutaxassislari ushbu vosita orqali modellarning noto'g'ri javoblari (hallutsinatsiyalar) va yashirin manipulyatsiyalarini oldindan aniqlab, ularning xavfsizligini oshirishlari mumkin.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.