Anthropic AI modellarining haqiqiyligini tekshiruvchi FlashProve tizimini taqdim etdi
Anthropic sun'iy intellekt bergan javob aynan qaysi model tomonidan yaratilganini tasdiqlovchi FlashProve ochiq kodli tizimi ustida ishlamoqda. Kriptografik isbotlashga asoslangan ushbu tizim modellarni yashirincha almashtirish yoki xarajatni kamaytirish uchun arzonroq modeldan foydalanish holatlarining oldini olishga mo'ljallangan. Tizim modelning ichki parametrlarini oshkor qilmagan holda uning raqamli izi orqali tekshirish imkonini beradi. FlashProve dasturiy kodi GitHub platformasida e'lon qilingan bo'lib, u hozircha tadqiqot bosqichida turibdi.
Anthropic kompaniyasi sun'iy intellekt modeli bergan javobning haqiqiyligini tekshirishga mo'ljallangan FlashProve nomli ochiq kodli tizimni ishlab chiqmoqda. Tadqiqotchilar ushbu mexanizmni 'isbotlanishi mumkin bo'lgan xulosa' (provable inference) deb atashmoqda. Tizim foydalanuvchi olgan ma'lumot aynan ular kutgan model tomonidan ishlab chiqilganini matematik va kriptografik usulda kafolatlaydi.
FlashProve elektron xatlarning haqiqiy jo'natuvchisini tasdiqlovchi kriptografik imzolarga o'xshash tarzda ishlaydi. U orqali hatto modelni ishlab chiqqan kompaniyaning o'zi ham bir modelni boshqasi sifatida yashira olmaydi. Yangi vosita sun'iy intellekt kompaniyalarining xarajatlarni kamaytirish uchun qimmat model o'rniga yashirincha arzonini taqdim etishi yoki natijalarni bo'rttirib ko'rsatishining oldini oladi. Shuningdek, uchinchi tomonlarning biror vazifani ilg'or AI modeli yordamida bajargani haqidagi da'volarini tekshirish imkonini beradi.
Tizim ishlashi uchun AI laboratoriyalari o'zlari chiqargan har bir modelning maxsus 'raqamli izi'ni (fingerprint) ochiq e'lon qilishi lozim. Muhimi shundaki, ushbu izlar modelning ichki vaznlarini (weights) va yopiq parametrlarini oshkor qilmaydi. Natijada Anthropic va OpenAI kabi kompaniyalar o'z intellektual mulkini sir saqlagan holda tizimdan foydalana oladi. Tekshirish jarayoni yengil tuzilgani bois uni foydalanuvchining shaxsiy qurilmasida ham amalga oshirish mumkin.
Anthropic loyihaning texnik xususiyatlari va ishchi kodini GitHub platformasida ochiq litsenziya ostida e'lon qildi. Kompaniya ushbu tadqiqot hali to'liq yakunlanmaganini, bu faqat oraliq natija ekanini va hozircha tizimni amaliyotga joriy etish rejalashtirilmaganini qayd etdi.
Dasturchilar va biznes egalari AI xizmatlaridan foydalanishda haqiqatan ham e'lon qilingan model ishlatilayotganini mustaqil tekshirish va modellarning yashirincha almashtirilish xavfidan himoyalanish imkoniga ega bo'ladilar.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.