Foydalanuvchilar biologik qurol tadqiqoti uchun Claude xavfsizlik cheklovlarini aylanib o'tishga urindi
Anthropic kompaniyasi bir qator olimlar biologik qurol yaratishga yordam berishi mumkin bo'lgan tadqiqotlar uchun Claude sun'iy intellektidan foydalanishga uringanini va ularning yo'li to'silganini ma'lum qildi. Hisobotda taqiqlangan hududlar, jumladan Rossiya, Xitoy va Eron kabi mamlakatlardagi foydalanuvchilar o'rnatilgan filtrlarni aylanib o'tishga uringan 5 ta holat keltirilgan. Misollardan birida tadqiqotchi parrandalar grippi bo'yicha tajribalarni rejalashtirishga harakat qilgan va uning hisobi bloklangan. Kompaniya biotavakkalchiliklar bo'yicha soha va hukumatlar bilan muhokamalarni kuchaytirishga chaqirmoqda.
Anthropic kompaniyasi e'lon qilgan yangi hisobotga ko'ra, joriy yilda olimlar tomonidan Claude modelidan biologik qurollar yaratishda qo'llanilishi mumkin bo'lgan tadqiqotlar uchun foydalanishga bir necha bor urinishlar qayd etilgan. Kompaniya xavfsizlik tizimlarini aylanib o'tish va tadqiqot maqsadini yashirishga qaratilgan 5 ta holatni misol qilib keltirdi. Mazkur urinishlar Anthropic xizmatlaridan foydalanish taqiqlangan davlatlar, jumladan Rossiya, Xitoy va Eron hududlaridagi foydalanuvchilar tomonidan sodir etilgan.
Keltirilgan misollardan birida taqiqlangan hududdagi tadqiqotchi parrandalar grippi bilan bog'liq xavfli tajribalarni haftalar davomida Claude orqali rejalashtirishga uringan. Anthropic xavfsizlik filtrlari bunday so'rovlarni cheklab, faqat eng kuchsiz modellarga yo'naltirganini va yakunda tegishli akkauntlar butunlay bloklanganini bildirdi. Shu bilan birga, kompaniya ushbu olimlarning maqsadi yomon niyatli ekanini mutlaq tasdiqlay olmasligini, chunki biologik qurol va vaksina yaratish uchun zarur bo'lgan ilmiy ma'lumotlar bir-biriga juda o'xshashligini qayd etdi.
Sun'iy intellekt xavfsizligi masalasi so'nggi vaqtlarda yanada keskin tus olmoqda. Xususan, kompaniya xodimi Jeykob Kokson (Jacob Coxon) sun'iy intellekt xavflaridan xavotir bildirib iste'foga chiqqan bo'lsa, mutaxassislar ilg'or modellarning biologiya, viruslar va xavfli patogenlar yaratishda terrorchilar yoki davlatlar tomonidan suiiste'mol qilinishidan jiddiy xavotirda.
Anthropic hisobotida faqat biologik xavflar emas, balki kiberxavfsizlik va firibgarlik holatlari ham yoritilgan. Kompaniya tizimlari soxta tanishuv ilovalari tarmog'ini yaratish va muxolifatchilarni kuzatish tizimlarini ishlab chiqishda qo'llanishiga to'sqinlik qilganini ma'lum qildi.
Bundan tashqari, hisobotda Xitoyning qator laboratoriyalari, jumladan Moonshot va DeepSeek, distillash (distillation) usuli orqali AQShning ilg'or modellarining imkoniyatlarini o'zlashtirishga va himoya tizimlarini aylanib o'tishga harakat qilgani haqida ma'lumotlar berilgan.
Tizim ishlab chiquvchilari va AI integratsiyasi bilan shug'ullanuvchi bizneslar uchun xavfsizlik devorlari, prompt-injektsiyalarga qarshi filtrlar va foydalanuvchi tekshiruvini (geoblokirovka, audit) kuchaytirish qanchalik muhim ekanini ko'rsatadi.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.