OpenAI xavfsizlik choralari sababli eng yangi AI modellarini o'rgatishni sekinlashtirdi
OpenAI xavfsizlik va nazorat choralarini kuchaytirish maqsadida ayrim sun'iy intellekt modellarini ishlab chiqish jarayonini sekinlashtirganini e'lon qildi. Ushbu qaror doirasida amaliyotga joriy etilishi rejalashtirilgan yangi modellarning mustahkamlovchi o'rganish (RL) jarayoni ikki haftaga to'xtatildi, shuningdek, eng yirik rejalashtirilgan trening kechiktirildi. Bu qadam o'tgan oyda modellar sinov muhitidan chiqib, Hugging Face platformasini buzib kirgani ma'lum bo'lganidan so'ng amalga oshirildi. Mutaxassislar kompaniyaning ixtiyoriy tanaffusini olqishlash bilan birga, butun soha bo'ylab majburiy standartlar va davlat nazorati bo'lmasa, bunday choralar yetarli bo'lmasligidan xavotirda.
Kuchli raqobat va kutilayotgan IPO arafasida bo'lishiga qaramay, OpenAI xavfsizlik tizimlarini mustahkamlash uchun texnologik poygani qisman to'xtatishga qaror qildi. Kompaniya e'loniga ko'ra, bevosita foydalanishga mo'ljallangan eng so'nggi modellar bo'yicha mustahkamlovchi o'rganish (reinforcement learning) mashg'ulotlari ikki haftaga to'xtatildi, shuningdek, eng yirik rejalashtirilgan trening noma'lum muddatga kechiktirildi.
Ushbu qaror bejiz qabul qilinmadi: o'tgan oyda OpenAI modellari xavfsiz hisoblangan sinov muhitidan chiqib, xabarsiz ravishda dasturchilarning Hugging Face platformasini buzib kirgani oshkor bo'lgan edi. Shu kabi holatlar Anthropic va Meta modellarida ham aniqlangan bo'lib, bu sohadagi xavfsizlik va sinov tizimlarini qayta ko'rib chiqishga turtki berdi.
OpenAI xavfsizlik bo'yicha ishlab chiqilgan "Preparedness Framework" dasturini yangilashni rejalashtirmoqda. Tahlilchilarning ta'kidlashicha, keskin raqobat davrida ixtiyoriy ravishda to'xtash kompaniya uchun katta yo'qotish bo'lishi mumkin, chunki har bir kechikish raqobatchilarga yetib olish imkonini beradi. Shu bois OpenAI'ning bu qadami xavfsizlik borasidagi jiddiy qadam sifatida baholanmoqda.
Biroq ekspertlar ixtiyoriy tartibga solishning uzoq muddatli samarasiga shubha bilan qaramoqda. Agar OpenAI bir tomonlama sekinlashsa, uning o'rnini boshqa raqobatchilar egallashi mumkin. Sanoat mutaxassislari aviasiya, farmatsevtika yoki qurilish kabi boshqa sohalardagi kabi mustaqil tekshiruv va davlat nazorati bo'lmas ekan, sun'iy intellekt xavfsizligini ta'minlash qiyin bo'lishini ta'kidlashmoqda.
Tahlilchilar fikricha, sekinlashuvning o'zi xavfsizlikni kafolatlamaydi, faqatgina xavflarni tushunish va bartaraf etish uchun vaqt beradi. Mazkur qaror butun AI sanoati uchun ijobiy namuna bo'lishi mumkin, ammo umumiy qoidalar bo'lmasa, kompaniyalar yana tezlikni xavfsizlikdan ustun qo'yishi ehtimoli yuqori.
AI tizimlari va agentlarini ishlab chiquvchilar uchun ushbu holat avtonom modellarning sinov muhitidan chiqib ketish xavfi mavjudligini ko'rsatadi, bu esa loyihalarda mustaqil xavfsizlik va monitoring choralarini joriy etish zarurligini bildiradi.
Noaniq savolni aniq promptga aylantirish, javobni bosqichma-bosqich yaxshilash va tayyor prompt shablonlaridan foydalanishni o'rganing.