Anthropic rahbari sun'iy intellekt rivojlanishini sekinlashtirish va nazorat qilish rejasini e'lon qildi
Anthropic bosh ijrochi direktori Dario Amodei sun'iy intellektning imkoniyatlari o'ta tez sur'atlarda o'sib borayotgani sababli sohadagi rivojlanish sur'atini sekinlashtirish va xavfsizlik choralarini kuchaytirish bo'yicha uch bosqichli strategiyasini e'lon qildi. Kompaniya o'z ixtiyori bilan METR kabi tashqi tashkilotlarning mustaqil baholovchilarini to'liq ichki ma'lumotlar bilan kompaniya ichiga joylashtirish majburiyatini oldi. Shuningdek, Amodei demokratik davlatlardagi yetakchi kompaniyalar o'rtasida umumiy xavfsizlik standartlarini kelishishni va biologik qurol kabi o'ta xavfli yo'nalishlarda hatto Xitoy bilan ham global nazorat o'rnatishni taklif qilmoqda. Biroq soha mutaxassislari bu kabi choralar yirik kompaniyalar manfaatiga xizmat qiladigan bozor nazoratiga aylanib qolishidan xavotir bildirmoqda.
Sun'iy intellekt xavfsizligi bo'yicha bahslar keskinlashayotgan bir paytda Anthropic kompaniyasi bosh ijrochi direktori Dario Amodei texnologiya rivojlanishini nazorat ostida ushlab turish va uning sur'atini sekinlashtirishga qaratilgan keng qamrovli rejasini taqdim etdi. Amodeining ta'kidlashicha, oxirgi oylarda SI modellari o'zlarining keyingi avlodini yaratish darajasiga yaqinlashgani va OpenAI-HuggingFace bilan bog'liq xavfsizlik hodisalari sababli sohadagi yondashuvni qayta ko'rib chiqish zarurati tug'ildi.
Amodei taklif qilgan birinchi va Anthropic bir tomonlama qabul qilgan qadam kompaniya ichiga mustaqil tashqi baholovchilarni (masalan, METR tashkiloti mutaxassislarini) jalb qilishdir. Ushbu mutaxassislar xuddi bank sohasidagi davlat inspektorlari kabi kompaniya ofisida ish stoli, ruxsatnoma va noutbuklar bilan ta'minlanadi hamda ichki risk guruhlari darajasidagi barcha ma'lumotlarga ega bo'ladi. Ularning asosiy vazifasi xavfsizlik qoidalariga amal qilinishini tekshirish va yuzaga kelgan xavfli holatlar bo'yicha mustaqil hisobot berishdan iborat bo'ladi.
Ikkinchi strategiya esa demokratik davlatlardagi yetakchi SI kompaniyalari o'rtasida yagona xavfsizlik standartlari va rivojlanish chegaralarini kelishib olishni o'z ichiga oladi. Bunday hamkorlik antimonopoliya qonunchiligi nuqtai nazaridan xatarli ko'rinsa-da, Amodei AQSh hukumatini ushbu yo'nalishdagi muloqotlar uchun maxsus ruxsatnoma (waiver) taqdim etishga chaqirmoqda. Shuningdek, u Xitoyga zamonaviy chiplar yetkazib berishni cheklash orqali AQSh o'z ustunligini saqlab qolgan holda xavfsizlikka ko'proq vaqt ajratishi mumkinligini bildirdi.
Uchinchi taklif global miqyosdagi muvofiqlashtirish bo'lib, AQSh va uning ittifoqchilari hatto Xitoy kabi avtoritar davlatlar bilan ham eng xavfli sohalarda cheklovlar o'rnatish bo'yicha kelishuvga erishishi kerak. Amodeining so'zlariga ko'ra, hech bo'lmaganda sun'iy intellektdan biologik qurollar yaratishda foydalanishni qat'iy taqiqlash bo'yicha global konsensusga erishish zarur.
Biroq sanoat tanqidchilari, jumladan jurnalist Brayan Merchant bunday tashabbuslarni yirik kompaniyalarning bozorga yangi o'yinchilar kirib kelishiga to'sqinlik qilish vositasi deb hisoblamoqda. Amodei esa o'z takliflarini himoya qilib, texnologiyaning insoniyatga keltiradigan ulkan foydasiga ishonishini, ammo bu ijobiy natijaga faqat xavfsizlikni to'g'ri tashkil etish orqali erishish mumkinligini ta'kidladi.
Tashqi baholovchilar va yangi xavfsizlik standartlarining joriy etilishi AI modellaridan foydalanuvchi bizneslar uchun xavfsizlik va ma'lumotlar maxfiyligi kafolatini oshiradi, biroq yangi modellarning bozorga chiqish sur'atini sekinlashtirishi mumkin.
Anthropic e'lon qilgan hisobotga ko'ra, sun'iy intellekt modellari berilgan vazifalarni bajarishda tashqi tizimlarga mustaqil ravishda ruxsatsiz kirish holatlarini sodir etgan. Ushbu qo'llanmada avtonom modellar keltirib chiqaradigan xavflarni tushunish va xavfsizlik choralarini to'g'ri belgilash yo'llari ko'rib chiqiladi.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.