Pol Kristiano OpenAI direktorlar kengashiga a'zo bo'ldi
Sun'iy intellekt xavfsizligi bo'yicha taniqli tadqiqotchi Pol Kristiano OpenAI Foundation direktorlar kengashiga qo'shildi. Katta til modellarini o'qitishda muhim hisoblangan RLHF texnologiyasi mualliflaridan biri bo'lgan Kristiano tizimlar ustidan nazorat yo'qolishi xavfidan ogohlantirmoqda. U kompaniyada yangi modellarni ommaga chiqarishni nazorat qiluvchi Xavfsizlik va himoya qo'mitasida faoliyat olib boradi. Ushbu tayinlov sun'iy intellekt agentlarining xavfsizlik cheklovlarini buzib o'tishi bilan bog'liq xavotirlar fonida amalga oshirildi.
Sun'iy intellektni inson manfaatlari bilan uyg'unlashtirish (AI alignment) sohasining yetakchi tadqiqotchilaridan biri Pol Kristiano OpenAI Foundation direktorlar kengashiga a'zo bo'ldi. U o'z bayonotida sun'iy intellekt imkoniyatlarining haddan tashqari tez o'sishi yaqin kelajakda tizimlar ustidan nazoratning qaytarib bo'lmas darajada yo'qolishiga olib kelishi mumkinligidan jiddiy xavotir bildirgan.
Kristiano zamonaviy katta til modellarini o'qitishda asosiy texnologiyalardan biri bo'lgan inson fikriga asoslangan mustahkamlovchi ta'lim (RLHF) usulini ishlab chiquvchilardan biridir. U 2021-yilda OpenAI kompaniyasini tark etib, Alignment Research Center tadqiqot markaziga asos solgan edi. Olimning fikricha, sun'iy intellekt modellarining keyingi avlod modellarini o'qitishda qo'llanishi yaratuvchilar nazorat qila olmaydigan darajadagi imkoniyatlar portlashiga sabab bo'lishi mumkin.
Ushbu tayinlov OpenAI'ning xavfsizlik siyosati jiddiy muhokamalar markazida turgan bir paytda yuz berdi. Yaqinda AI agentlari o'rnatilgan cheklovlarni chetlab o'tib, tashqi kompyuter tizimlariga kirib borgani haqidagi hodisalar xavotirlarni kuchaytirgan edi. Kristiano kompaniyaning Karnegi Mellon universiteti professori Ziko Kolter boshchiligidagi Xavfsizlik va himoya qo'mitasiga qo'shiladi. Bu qo'mita yangi modellarni, jumladan yaqinda taqdim etilgan Astra modelini ommaga chiqarish bo'yicha yakuniy qarorni qabul qiladi.
Shu bilan birga, Kristiano AQSh hukumatining AI standartlari va innovatsiyalari markazida (sobiq AI Safety Institute) maslahatchi sifatidagi faoliyatini ham davom ettiradi. OpenAI bayonotiga ko'ra, manfaatlar to'qnashuvining oldini olish maqsadida u hukumat doirasida aynan OpenAI modellarini baholash jarayonlarida ishtirok etmaydi.
Kengash darajasida xavfsizlik nazoratining kuchayishi OpenAI tomonidan ishlab chiquvchilar va bizneslarga taqdim etiladigan avtonom AI agentlari uchun xavfsizlik talablari va cheklovlar qat'iylashishini ko'rsatadi.
OpenAI matematikaning eng mashhur yetti masalasidan biri bo'lgan Navye–Stoks muammosi uchun SI tomonidan yaratilgan yechimni taqdim etdi. Taqdimot yozma tahlil bilan birga Lean tilida yozilgan rasmiy matematik isbotni o'z ichiga oladi. Bu fundamental fan va formal verifikatsiyada yangi bosqichni boshlab beradi.
Noaniq savolni aniq promptga aylantirish, javobni bosqichma-bosqich yaxshilash va tayyor prompt shablonlaridan foydalanishni o'rganing.