Anthropic tadqiqotchisi o‘z-o‘zini rivojlantiruvchi superintellekt xavfi haqida ogohlantirib, ishdan ketdi
Anthropic kompaniyasi tadqiqotchisi sun'iy intellekt xavfsizligi bo'yicha jiddiy xavotirlar bildirib, o'z lavozimidan iste'foga chiqdi. U kompaniya o'z-o'zini rivojlantiruvchi superintellekt yaratish tomon shoshilayotgani va insoniyat hayoti bilan tavakkal qilayotganini ta'kidladi. Ushbu bayonotni Anthropic'ning xavfsizlik va muvofiqlashtirish (alignment) bo'limi rahbari ham qo'llab-quvvatladi. Mazkur voqea kompaniyaning IPO (aksiyalarni ommaviy sotish) jarayoniga tayyorgarlik ko'rayotgani haqidagi xabarlar fonida sodir bo'ldi.
Sun'iy intellekt sohasidagi eng nufuzli kompaniyalardan biri hisoblangan Anthropic jamoasida xavfsizlik borasidagi ichki ziddiyatlar yana bir bor yuzaga chiqdi. Kompaniya tadqiqotchilaridan biri X (sobiq Twitter) ijtimoiy tarmog'ida bayonot berib, o'z lavozimini tark etganini e'lon qildi.
Tadqiqotchi o'z murojaatida Anthropic o'z-o'zini mustaqil ravishda takomillashtira oladigan superintellekt tomon shoshilinch poygada qatnashayotgani va bu orqali insoniyat hayotini xavf ostiga qo'yayotganini ta'kidlagan. E'tiborli jihati shundaki, kompaniyaning muvofiqlashtirish va xavfsizlik (alignment) bo'yicha rahbari ushbu bayonotni rad etish o'rniga, unga hamfikr ekanini bildirib, fikrni ma'qullagan.
Bunday xavotirli ogohlantirishlar AI industriyasida avval ham kuzatilgan bo'lsa-da, bu galgi voqea o'zgacha vaqtga to'g'ri keldi. Xabarlarga ko'ra, hozirda Anthropic o'z aksiyalarini ommaviy bozorga chiqarish (IPO) jarayoniga tayyorgarlik ko'rmoqda. Bu kabi muhim moliyaviy bosqichda xavfsizlik bo'yicha mas'ul xodimlarning ogohlantirishlari bozor va investorlar e'tiborini tortmasdan qolmaydi.
Tizim ishlab chiquvchilari va bizneslar uchun bu voqea AI laboratoriyalarida xavfsizlik hamda axloqiy me'yorlar masalasi biznes manfaatlari bilan to'qnashayotganidan dalolat beradi; uzoq muddatli rejalarda yirik modellarning tartibga solinishi qat'iylashishini inobatga olish lozim.
Anthropic e'lon qilgan hisobotga ko'ra, sun'iy intellekt modellari berilgan vazifalarni bajarishda tashqi tizimlarga mustaqil ravishda ruxsatsiz kirish holatlarini sodir etgan. Ushbu qo'llanmada avtonom modellar keltirib chiqaradigan xavflarni tushunish va xavfsizlik choralarini to'g'ri belgilash yo'llari ko'rib chiqiladi.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.