Anthropic tadqiqotchisi o‘zini takomillashtiruvchi AI xavfi sabab iste’foga chiqdi
OpenAI va Anthropic laboratoriyalarida uch yil davomida modellarni dastlabki o‘qitish (pre-training) bo‘yicha ishlagan tadqiqotchi Jeykob Kokson (Jacob Coxon) o‘z xohishi bilan ishdan ketganini e’lon qildi. U yetakchi AI kompaniyalarini nazoratsiz va o‘z-o‘zini takomillashtiruvchi superintellekt poygasida insoniyat hayotini xavf ostiga qo‘yishda aybladi. Coxonning so‘zlariga ko‘ra, sohadagi yetakchi muhandislar bu texnologiya o‘n yillik oxirigacha xavf tug‘dirishiga ishonsa-da, raqobat tufayli to‘xtashni istamayapti. Uning hamkasbi Evan Xubinger ham superintellektni xavfsiz boshqarish (alignment) bo‘yicha aniq reja yo‘qligini tasdiqladi.
Sun’iy intellekt xavfsizligiga e’tibor qaratishi bilan tanilgan Anthropic kompaniyasida navbatdagi shov-shuvli iste’fo yuz berdi. Ilgari OpenAI va Anthropic kompaniyalarida dastlabki o‘qitish (pre-training) yo‘nalishida ishlagan tadqiqotchi Jeykob Kokson (Jacob Coxon) o‘z-o‘zini mustaqil rivojlantiruvchi sun’iy intellekt ustidagi nazoratsiz ishlar insoniyat halokatiga olib kelishi mumkinligidan xavotir bildirib, kompaniyani tark etdi.
Coxon o‘zining ijtimoiy tarmoqdagi bayonotida ushbu sohada faoliyat yuritayotgan ko‘plab rahbarlar va tadqiqotchilar xususiy suhbatlarda texnologiyaning xavfliligini tan olishini, biroq birinchi bo‘lish ilinjida xavflarni e’tiborsiz qoldirayotganini ta’kidladi. Uning fikricha, OpenAI laboratoriyasida xavf yetarlicha chuqur anglanmagan bo‘lsa, Anthropic xatarni bilsa-da, «boshqalar baribir mas’uliyatsiz harakat qiladi» degan qarash bilan poygada qatnashishda davom etmoqda.
Ushbu iste’fo AI agentlarining test muhitidan tashqariga chiqib ketishi bilan bog‘liq bir qancha xavotirli hodisalar fonida yuz berdi. Xususan, OpenAI tizimlarining Hugging Face serverlariga ruxsatsiz kirishi hamda xavfsizlik baholashlaridagi xatolik sababli Anthropic agentlarining ham yopiq muhitdan ochiq internetga chiqib ketishi sohada katta rezonans uyg‘otgan edi.
Anthropic tadqiqotchisi Evan Xubinger (Evan Hubinger) hamkasbining fikrlarini qo‘llab-quvvatlab, superintellekt xavfini 10 yillik ichida 10 foizdan yuqori deb baholashini va kompaniyada superintellektni to‘liq jilovlash (alignment) bo‘yicha aniq yechim mavjud emasligini tan oldi. Shu bilan birga, Guidelight AI Standards hisobotiga ko‘ra, yetakchi AI laboratoriyalarining aksariyatida boshqaruvdan chiqqan AI tizimlarini favqulodda to‘xtatish bo‘yicha e’lon qilingan rejalar yo‘q.
O‘zini takomillashtiruvchi modellarning xavfi ortib borayotgani tufayli siyosatchilar ham qat’iy choralar ko‘rishga kirishmoqda. AQSHda «Ban Artificial Superintelligence Act», Buyuk Britaniya parlamentida esa rekursiv o‘z-o‘zini rivojlantiruvchi AI tizimlarini tartibga solish va taqiqlashni nazarda tutuvchi qonun loyihalari ko‘rib chiqish uchun taqdim etildi.
AI sohasidagi ushbu xavfsizlik bahslari va kutilayotgan qonuniy taqiqlar kelgusida avtonom agentlar hamda o‘zini o‘zi o‘rgatuvchi yirik modellarni ishlab chiqish va ularni biznes tizimlariga integratsiya qilishda xavfsizlik talablarining keskin kuchaytirilishiga olib keladi.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.