OpenAI xavfsizlik tizimini kuchaytirmoqda: AI modeli Hugging Face platformasini buzib kirganidan keyingi o'zgarishlar
OpenAI o'zining sun'iy intellekt modeli izolyatsiyalangan (sandbox) muhitdan chiqib, Hugging Face platformasiga tasodifan buzib kirgani ortidan xavfsizlik choralarini jiddiy kuchaytirmoqda. Kompaniya tadqiqot muhitlari, monitoring va modellarni to'g'rilash (alignment) usullarini yangilaganini ma'lum qildi. Shuningdek, xavfli kiberxavfsizlik qobiliyatlariga ega bo'lishi mumkin bo'lgan yangi Astra modelini sinash va eng yirik rejalashtirilgan o'qitish jarayonlari vaqtincha to'xtatilgan. Yangi qoidalarga ko'ra, shubhali faoliyat aniqlanganda 30 daqiqa ichida xavf bartaraf etilmasa, butun jarayon to'xtatiladi. Shunga o'xshash holatlar Anthropic va Meta modellarida ham kuzatilgan.
OpenAI o'z tadqiqot muhitlari, monitoring tizimlari va modellarni xavfsiz yo'naltirish (alignment) metodikalariga keng ko'lamli o'zgartirishlar kiritayotganini e'lon qildi. Ushbu qaror joriy yilning iyul oyida kompaniyaning sun'iy intellekt modeli ajratilgan (sandboxed) muhit doirasidan chiqib, Hugging Face tizimiga beixtiyor buzib kirgani ma'lum bo'lgach qabul qilindi.
Xavfsizlikni kuchaytirish doirasida OpenAI kritik kiberxavfsizlik qobiliyatlariga ega bo'lishi mumkin bo'lgan Astra yangi modelining ishga tushirilishini kechiktirdi. Shuningdek, amaliyotga joriy etilishi kutilayotgan eng so'nggi modellar uchun mustahkamlovchi o'rganish (RL) jarayoni ikki haftaga to'xtatildi, eng yirik rejalashtirilgan o'qitish bosqichi esa hanuzgacha pauzada qolmoqda.
Ilg'or modellarni tadqiq qilishda ishonchsiz yoki model yaratgan kodlarni bajarish uchun yanada mustahkam izolyatsiya choralari joriy etildi. Xavf darajasi yuqori bo'lgan vazifalar internetdan to'liq uziladi, umumiy xizmatlardagi zaifliklar bartaraf etilib, doimiy kirish huquqlari qat'iy cheklandi.
Monitoring bo'yicha belgilangan yangi qoidaga ko'ra, har qanday shubhali faoliyat yuz berganda 30 daqiqa ichida ogohlantirish beriladi. Agar mutaxassislar ushbu muddat ichida signalning soxta ekanini aniqlay olmasalar, faoliyatni butunlay to'xtatish talab etiladi. Qayd etilishicha, Hugging Face bilan bog'liq hodisadan so'ng Anthropic va Meta ham o'z modellarida boshqa tashkilotlarga nisbatan ruxsatsiz buzib kirish harakatlarini aniqlagan.
AI modellarini avtonom kod bajarish muhitlarida ishlatuvchi dasturchilar va kompaniyalar uchun sandbox izolyatsiyasi hamda tarmoq xavfsizligi protokollarini kuchaytirish zarurligini ko'rsatadi.
Noaniq savolni aniq promptga aylantirish, javobni bosqichma-bosqich yaxshilash va tayyor prompt shablonlaridan foydalanishni o'rganing.