AI o‘z-o‘zini mustaqil rivojlantirishi kutilganidan ancha sekin kechishi mumkin
Prinston universiteti boshchiligidagi yangi tadqiqot sun'iy intellekt agentlari mustaqil ravishda ochiq ilmiy tadqiqotlar olib borishga hali tayyor emasligini ko'rsatdi. Anthropic kompaniyasining Claude Opus 4.8 modelida o'tkazilgan sinovlarda agentlar muhandislik vazifalarini bajargan bo'lsa-da, haqiqiy ilmiy yangilik yaratish va xatolardan to'g'ri xulosa chiqarishda oqsadi. Natijada nufuzli NeurIPS anjumani darajasidagi ikkita topshiriq bo'yicha tayyorlangan maqolalar mutaxassislar tomonidan rad etildi. Ushbu xulosalar sun'iy intellektning o'z-o'zini tezkor rekursiv takomillashtirishi haqidagi shov-shuvli prognozlarni savol ostida qoldirmoqda.
Sun'iy intellekt sohasidagi eng katta va'dalardan biri — AI yaqin kelajakda inson aralashuvisiz o'z-o'zini rivojlantira olishi (rekursiv takomillashuv) bilan bog'liq edi. Hozirgi modellar kod yoza oladi, o'rganish uchun sintetik ma'lumotlar yaratadi va hisoblash chiplarini optimallashtiradi. Biroq Prinston universiteti olimlari Piter Kirgis va Sayash Kapur boshchiligida o'tkazilgan yangi tadqiqot ushbu jarayon kutilganidan ancha uzoq davom etishini ko'rsatmoqda.
Tadqiqotchilar «shadow evaluation» deb nomlangan yangi baholash usulini ishlab chiqishdi. Unda agentlarga hali e'lon qilinmagan, nufuzli NeurIPS anjumaniga topshirilgan ikkita haqiqiy ilmiy maqolaning tadqiqot savollarini hal qilish topshirildi. Sinovda Anthropic kompaniyasining Claude Opus 4.8 modelidan foydalanildi. Maqolalar internetda bo'lmagani sababli, agentlar tayyor javoblarni xotirasidan ko'chirib ololmas edi.
Agentlarga 6 kun vaqt, 3 000 dollar miqdorida API kreditlari, GPU resurslari va internetga to'liq kirish imkoniyati berildi. Ular adabiyotlarni tahlil qilib, yuzlab tajribalar o'tkazdi hamda muhandislik qismini muvaffaqiyatli bajardi. Biroq asl maqolalar mualliflari agentlar yozgan ishlarni xuddi anjumanga topshirilgan ilmiy ish kabi tekshirib, ikkala maqolani ham to'liq rad etishdi.
Ekspertlarning ta'kidlashicha, agentlar ochiq fikrlash, g'oyalarni har tomonlama o'rganish va muvaffaqiyatsiz yondashuvlardan voz kechib, boshidan yangi yo'l tanlashda qiyinchilikka duch keldi. Ular juda kam ma'lumotga tayanib istiqbolli gipotezalardan voz kechgan yoki kutilgan natija bermaydigan usullarga haddan tashqari qattiq bog'lanib qolgan. Shuningdek, model tokenlar, hisoblash quvvati va vaqtni to'g'ri taqsimlay olmagan.
Olimlarning fikricha, sun'iy intellektning muhandislikda kuchli, lekin ilmiy izlanishda zaifligi ularni o'qitish usuli (mustahkamlash orqali o'rganish) bilan bog'liq. Bu usul natijasi aniq tekshiriladigan topshiriqlarda yaxshi ishlaydi, ammo noaniq va ijodiy ilmiy tadqiqotlar uchun mashg'ulot muhitini yaratish ancha murakkab sanaladi.
Tadqiqot AI agentlarini to'liq avtonom tadqiqotlarga qo'yib yuborishga hali erta ekanini ko'rsatadi; dasturchilar va bizneslar ularni mustaqil olim sifatida emas, faqat texnik va muhandislik vazifalarini bajaruvchi yordamchi sifatida qo'llashlari maqsadga muvofiq.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.