OpenAI sun'iy intellekt xavfsizligini ta'minlash uchun GPT-Red super-xakerini yaratdi

OpenAI kompaniyasi o'zining yirik til modellarini (LLM) yanada xavfsizroq qilish maqsadida GPT-Red nomli o'ziga xos 'super-xaker' tizimini ishlab chiqdi. Ushbu tizim sun'iy intellektni turli kiberhujumlarga qarshi kurashish uchun sparring-hamkor sifatida xizmat qiladi. OpenAI tadqiqotchilari GPT-5.6 modelini tayyorlashda aynan shu texnologiyadan foydalanib, uning mudofaa qobiliyatini sezilarli darajada oshirishga muvaffaq bo'lishdi.

GPT-Red'ning asosiy vazifasi – dasturiy ta'minot xavfsizligini baholash uchun odatda insonlar tomonidan bajariladigan 'red-teaming' (zaifliklarni izlash) jarayonini avtomatlashtirishdir. Murakkab agentlar va internet bilan integratsiyalashgan modellar ko'paygani sari, insonlarning ularni kuzatib borishi qiyinlashmoqda. GPT-Red esa 'dojo' deb nomlangan muhitda o'z-o'zini o'qitish orqali turli hujum stsenariylarini sinovdan o'tkazadi va hatto insonlar hali duch kelmagan yangi hujum usullarini ham topa oladi.

Kompaniya ayniqsa 'prompt injection' (so'rov kiritish orqali modelni noto'g'ri ishlashga majburlash) hujumlariga e'tibor qaratmoqda. GPT-Red tomonidan topilgan 'soxta fikrlash zanjiri' (fake chain of thought) usuli juda xavfli bo'lib, u modelning ichki ish jarayoniga aralashib, noto'g'ri ma'lumotlarni haqiqat deb qabul qilishga majbur qiladi. Sinovlar shuni ko'rsatdiki, eski modelga nisbatan hujumlarning 90 foizi muvaffaqiyatli bo'lgan bo'lsa, yangi himoyalangan GPT-5.6'ga qarshi bu ko'rsatkich 23 foizdan pastroqqa tushdi.

GPT-Red hali mukammal emas; u tasvirlar bilan ishlash yoki suhbat davomidagi murakkab hujumlarda insonlardan ortda qolishi mumkin. Shuning uchun OpenAI bu vositani inson tahlilchilar o'rnini bosuvchi emas, balki ularni to'ldiruvchi vosita sifatida ko'rmoqda. Kompaniya xavfsizlik nuqtai nazaridan ushbu texnologiyani ochiq manba sifatida taqdim etmasligini va u o'zlarining ulkan hisoblash resurslari evaziga yaratilganini ta'kidlab o'tdi.