Anthropic o'zini o'zi rivojlantiruvchi AI yaratish arafasida ekanidan ogohlantirdi
Anthropic kompaniyasi o'zining yangilangan S-1A arizasida sun'iy intellektning o'zini o'zi mustaqil rivojlantirish (RSI) bosqichiga juda yaqin kelganini ma'lum qildi. RSI — bu AI tizimlari o'zlarini o'rgatish orqali qobiliyatlarini keskin va tez sur'atlarda oshirib borish jarayonidir. Kompaniya o'z ilmiy tadqiqotlarida AI vositalaridan keng foydalanayotgani sababli xavfsizlik va nazorat choralari ortda qolib ketishi mumkinligidan xavotirda. Shunga qaramay, Anthropic hozircha mavjud modellarning hech biri ushbu chegaradan o'tmaganini va tadqiqotlarda inson nazorati saqlanib qolishini ta'kidlamoqda.
Anthropic kompaniyasi ommaviy aksiyalar chiqarish oldidan taqdim etgan yangilangan S-1A arizasida jiddiy xavfsizlik masalasiga e'tibor qaratdi. Hujjatdagi ma'lumotlarga ko'ra, sun'iy intellekt laboratoriyasi rekursiv o'z-o'zini rivojlantirish (RSI — recursive self-improvement) darajasiga ega bo'lgan modellarni yaratish arafasida turibdi.
Rekursiv o'z-o'zini takomillashtirish AI tizimining o'zini o'zi o'qitish va yangi avlod modellarini mustaqil ravishda yaratish qobiliyatini anglatadi. Ushbu bosqichga erishish texnologik taraqqiyotni tasavvur qilib bo'lmas darajada tezlashtirishi mumkin bo'lsa-da, ko'plab soha mutaxassislari buni insoniyat nazoratidan chiqib ketish xavfi yuqori bo'lgan nuqta sifatida baholaydilar.
Kompaniya o'zining «Xavf omillari» bo'limida tadqiqot va ishlanmalar (R&D) jarayonida sun'iy intellektdan tobora ko'proq foydalanayotganini qayd etgan. Hujjatda aytilishicha, tizimlarning rivojlanish tezligi xavfsizlik va muvofiqlashtirish choralarini joriy qilish qobiliyatidan oshib ketishi xavfi mavjud bo'lib, o'tmishda ham yangi modellarning imkoniyat sakrashlari o'z vaqtida payqamay qolingan holatlar bo'lgan.
Anthropic o'zining ichki «Mas'uliyatli kengayish siyosati» (Responsible Scaling Policy) doirasida belgilangan AI tufayli keskin tezlashgan taraqqiyot chegarasiga yaqin qolganini bildirgan. Biroq, kompaniya hozirgi mavjud modellarning hech biri bu chegarani kesib o'tmaganini va yaqin kelajakda inson nazoratisiz yangi avlod modellarini to'liq avtonom yaratishga yo'l qo'yilmasligini ta'kidlagan.
Kuzatuvchilar ushbu bayonotlar IPO oldidan investorlar e'tiborini tortish marketingi bo'lishi mumkinligini ta'kidlasa-da, Claude modellarining kodlash, matematika va kiberxavfsizlikdagi so'nggi yutuqlari xavflarni jiddiy qabul qilish kerakligidan dalolat beradi.
Tadqiqotlar va dasturiy ta'minot yaratishda AI agentlaridan foydalanayotgan kompaniyalar uchun xavfsizlik protokollari va inson nazoratini qat'iy saqlab qolish zarurati ortib bormoqda.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.