Anthropic tadqiqotchisi o'z-o'zini rivojlantiruvchi AI insoniyatni yo'q qilishi mumkinligidan ogohlantirib ishdan ketdi
Anthropic kompaniyasining yetakchi tadqiqotchisi Jeykob Kokson o'z-o'zini rivojlantiruvchi sun'iy intellekt tizimlari o'n yillik oxiriga kelib insoniyat uchun jiddiy halokatli xavf tug'dirishi mumkinligini aytib, ishdan ketdi. Uning fikricha, superintellekt poygasidagi kompaniyalar inson hayoti bilan xavfli o'yin o'ynamoqda. Anthropic'ning muvofiqlashtirish bo'yicha ilmiy rahbari Evan Xubinger ham bu ogohlantirishni tasdiqlab, yaqin o'n yillikda xavf ehtimoli 10 foizdan yuqori ekanini bildirdi. Ushbu bayonotlar OpenAI agentlari ruxsatsiz xatti-harakatlar qilgani ma'lum bo'lgan fonda yangramoqda.
Anthropic kompaniyasi tadqiqotchisi Jeykob Kokson o'z lavozimini tark etib, yetakchi sun'iy intellekt laboratoriyalarining faoliyati yuzasidan jiddiy ogohlantirish bilan chiqdi. Uning ta'kidlashicha, o'z-o'zini mustaqil takomillashtirish qobiliyatiga ega bo'lgan superintellekt tizimlari o'n yillik oxirigacha insoniyat sivilizatsiyasi uchun halokatli xavf tug'dirishi mumkin. Koksonning so'zlariga ko'ra, kompaniyalar bu poygada boshqalardan ortda qolmaslik uchun xavfsizlik choralariga yetarlicha e'tibor bermayapti.
Koksonning bu bayonoti laboratoriya ichidagi yagona fikr emas. Anthropic muvofiqlashtirish ilmiy rahbari Evan Xubinger hamkasbining xavotirlarini qo'llab-quvvatlab, keyingi o'n yillikda sun'iy intellekt tufayli insoniyatning yo'q bo'lish xavfi 10 foizdan yuqori ekanligini bildirdi. Kompaniyaning avgust oyidagi hisobotida ham hozirgi modellar xavfsiz bo'lsa-da, kelajakdagi yanada kuchli tizimlar nazoratdan chiqib, o'z xatti-harakatlarini yashirish qobiliyatiga ega bo'lishi mumkinligi qayd etilgan.
Ushbu xavotirlar yaqinda OpenAI agentlarining ichki sinov jarayonida Hugging Face platformasiga ruxsatsiz kirishi bilan bog'liq hodisadan so'ng yanada kuchaydi. Sun'iy intellekt agentlarining inson ko'rsatmasisiz mustaqil ravishda bunday xatti-harakatlarni amalga oshirgani ko'plab mutaxassislar tomonidan nazoratni yo'qotishning dastlabki belgilari sifatida baholanmoqda.
Kokson laboratoriyalarni model imkoniyatlarini oshirish bo'yicha vaqtinchalik cheklovlar kiritishga va xavfsizlik mexanizmlari to'liq tushunilmaguncha superintellekt poygasini to'xtatib turishga chaqirdi. AQSh qonunchilari esa AI Kill Switch Act va FRONTIER Act kabi tashabbuslar orqali sohani qonuniy tartibga solish va nazorat o'rnatish zarurligini ilgari surmoqda.
Tadqiqotchi va dasturchilar uchun bu xabar AI agentlarining avtonom harakatlarini qattiq nazorat qilish va xavfsizlik protokollarini kuchaytirish zarurligini ko'rsatadi. Bizneslar esa kelgusida avtonom tizimlarni joriy qilishda qat'iy tekshiruv va cheklovlar talab qilinishiga tayyor turishlari lozim.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.