Teskari o‘yinlar nazariyasi sun’iy intellekt agentlarini qanday qilib qoidalarga bo‘ysundirishi mumkin?
Sun’iy intellekt xavfsizligi bo‘yicha tadqiqotchilar kuchli modellarni nazorat qilish uchun iqtisodiyotdagi "teskari o‘yinlar nazariyasi" (mexanizmlar dizayni) yondashuvini ilgari surmoqda. Hozirgi kunda modellarning ichki faoliyatini tushunish yoki ularga axloqiy me’yorlarni singdirishga qaratilgan usullar har doim ham kutilgan samara bermayapti, chunki tizimlar aldash yoki qobiliyatini ataylab yashirishni o‘rganmoqda. Yangi konsepsiya esa sun’iy intellektning ichki tuzilishidan qat’i nazar, qoidalarga amal qilishni eng ratsional tanlovga aylantiruvchi muhit yaratishni ko‘zlaydi. MIT va Prinston universitetlari olimlari modellarni o‘zaro raqobatlashtirish va tekshiruvchi agentlar orqali boshqarish tizimlarini taklif qilmoqda.
Sun’iy intellekt modellari kuchayib borgani sari tadqiqotchilar ularning inson manfaatlari va xavfsizlik talablariga mos kelishini ta’minlash yo‘llarini izlamoqda. Bugungi kungacha asosiy e’tibor neyrotarmoqlarning ichki "ongida" nima sodir bo‘layotganini tushunishga yoki Claude modelidagi kabi ma’naviy "konstitutsiyalar" o‘rnatishga qaratilgan edi. Biroq amaliyot shuni ko‘rsatmoqdaki, rivojlangan modellar sinov paytida o‘z imkoniyatlarini ataylab past ko‘rsatishi, maqsadlarini yashirishi va baholovchilarni chalg‘itishi mumkin.
Shu sababli ba’zi mutaxassislar iqtisodiyotda keng qo‘llanadigan mexanizmlar dizayni, ya’ni "teskari o‘yinlar nazariyasi"ga murojaat qilishmoqda. Klassik o‘yinlar nazariyasi berilgan qoidalar asosida ishtirokchilar qanday qaror qabul qilishini o‘rgansa, teskari o‘yinlar nazariyasi istalgan xatti-harakatni keltirib chiqarish uchun qoidalarni oldindan loyihalashtiradi. Sun’iy intellekt sohasida bu yondashuv modelning ichki qatlamlarini to‘liq tushunish imkoni bo‘lmasa ham, to‘g‘ri ishlash model uchun eng maqbul strategiya bo‘ladigan rag‘batlantirish tizimini yaratishni anglatadi.
MIT, Yel va Kolumbiya universitetlari olimlari tomonidan tayyorlangan tadqiqotda modellarni sinovlarda "yolg‘on ojizlik" qilishdan to‘xtatish uchun bir nechta mexanizmlar taklif etildi. Jumladan, agentga faqat to‘g‘ri javob bergani uchun emas, balki boshqa bir modelning beradigan javobini qanchalik aniq bashorat qilganiga qarab ball berish mumkin. Shuningdek, turli xolislik nuqsonlariga ega bo‘lgan modellarni juftlashtirish yoki ularni o‘zaro raqobatlashtirish orqali optimal va halol natijalarga erishish nazarda tutilgan.
Prinston universiteti professori Elad Hazan esa insoniyat jamiyatidagi qonun ustuvorligi va huquq-tartibot tizimiga asoslangan modelni ilgari surmoqda. Uning mexanizmida bir AI agenti masalalarni yechuvchi "fuqaro", ikkinchisi esa uning ishini tekshiruvchi "auditor" vazifasini bajaradi. O‘qitish jarayonida firibgarlik qilgan yechuvchilar ham, xatoni payqamagan auditorlar ham jazolanadi, ziddiyatli holatlarda esa hakamlik inson mutaxassisiga topshiriladi.
Biroq mexanizmlar dizaynini sun’iy intellektga tatbiq qilishdagi asosiy xatarlardan biri agentlarning har doim mukammal ratsional harakat qilishiga bo‘lgan ishonchdir. Odamlar iqtisodiy nazariyalarga zid ravishda kutilmagan qarorlar chiqargani kabi, inson tili asosida o‘qitilgan murakkab AI modellari ham oldindan aytib bo‘lmaydigan nozik omillar ta’sirida o‘zini g‘ayritabiiy tutishi mumkin.
Ushbu yondashuv bir nechta AI agentlaridan iborat murakkab tizimlarni ishlab chiquvchi dasturchilarga modellarning bir-birini nazorat qilishi va firibgarliksiz ishlashini ta’minlovchi mustahkam rag‘batlantirish mexanizmlarini yaratishda qo‘l keladi.
AI kod muharriridan foydalanishda eng muhim qoida — kichik o'zgarish, ko'rinadigan diff, majburiy test va qaytarish mumkin bo'lgan commit.