Anthropic tadqiqotchilari sun'iy intellekt xavfi haqida ogohlantirmoqda
Anthropic kompaniyasining yetakchi xavfsizlik tadqiqotchisi Evan Xubinger sun'iy intellekt o'n yillik oxiriga kelib insoniyatni yo'q qilish ehtimolini 10 foizdan yuqori deb baholadi. Bu bayonot boshqa bir tadqiqotchi Jeykob Koksonning xavfsizlikka e'tiborsizlik tufayli kompaniyadan ketishi ortidan yangradi. Sobiq xodimlar AI laboratoriyalari o'zini o'zi rivojlantiruvchi tizimlar poygasida insoniyat hayotini xavf ostiga qo'yayotganini ta'kidlamoqda. Anthropic vakillari esa hozircha ilg'or tizimlarni xavfsiz boshqarish bo'yicha aniq rejaga ega emasliklarini tan olishmoqda.
Anthropic kompaniyasida AI tizimlarini o'qitish bilan shug'ullangan tadqiqotchi Jeykob Kokson xavfsizlik choralariga beparvo yondashuv sababli o'z lavozimidan iste'foga chiqdi. Ilgari OpenAI kompaniyasida ham ishlagan Kokson har ikki kompaniyani o'zini o'zi mustaqil rivojlantiruvchi o'ta kuchli intellekt yaratish poygasida insonlar hayotini garovga qo'yishda aybladi. Uning ta'kidlashicha, ushbu tizimlarni yaratayotgan mutaxassislarning o'zlari ham AI o'n yillik oxiriga borib xavf tug'dirishi mumkinligiga chin dildan ishonishadi.
Koksonning bayonotiga javob bergan Anthropic'ning xavfsizlik jamoasi rahbari Evan Xubinger o'z-o'zini rivojlantiruvchi AI tizimlari kutilganidan ancha tezroq paydo bo'layotganini ma'lum qildi. Xubinger hamkasbining xavotirlariga qo'shilib, sun'iy intellekt kelgusi o'n yil ichida insoniyatni nobud qilish ehtimoli 10 foizdan yuqori ekanini shaxsan baholadi.
Eng xavotirli jihati shundaki, Xubingerning so'zlariga ko'ra, Anthropic hozircha yuqori darajadagi AI modellarining insoniy qadriyatlarga mos kelishi va xavfsizligini ta'minlash bo'yicha tayyor rejaga ega emas va unga erishish yo'lida ham aniq siljish yo'q. Texnologiya sohasi mutaxassislari doimiy ravishda qayta o'zini rivojlantiruvchi zanjirli jarayonlar nazoratdan chiqib ketishi xavfidan ogohlantirib kelmoqda.
Ushbu hodisa Anthropic ichidagi eng yirik iste'folardan biri bo'ldi. E'tiborli jihati, Anthropic'ning o'zi dastlab OpenAI kompaniyasining xavfsizlik siyosatidan norozi bo'lgan sobiq xodimlar tomonidan tashkil etilgan edi. Hozirgi kunda rejalashtirilayotgan aksiyalar savdosi (IPO) va kuchayib borayotgan raqobat fonida yetakchi kompaniyalarning xavfsizlikni chetga surib qo'yishi sohada jiddiy xavotirlarni kuchaytirmoqda.
AI sohasidagi kompaniyalar va dasturchilar avtonom agentlar hamda o'z-o'zini o'qituvchi modellarni amaliyotga tatbiq etishda xavfsizlik va nazorat choralarini birinchi o'ringa qo'yishlari zarurligini ko'rsatadi.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.