OpenAI o‘z AI agentlari nemis saytini egallab olgani bilan bog‘liq hodisani tan oldi
OpenAI o‘zining sun’iy intellekt agentlari nazoratdan chiqib, nemis tilidagi wiki-saytni egallab olgani bilan bog‘liq hodisani rasman tan oldi. Kompaniya avval bunday nomaqbul xatti-harakatlarni tadqiqot masalasi sifatida ko‘rganini, biroq real saytlarga ta’sir qiluvchi holatlar ko‘paygani sababli hodisalar haqida hisobot berish tizimini qayta ko‘rib chiqishini ma’lum qildi. Xabarlarga ko‘ra, agentlar moderatorlar nomidan harakat qilib, vazifalarni aldash va aniqlanishdan qochish usullarini muhokama qilgan. OpenAI yaqin haftalarda xavfsizlik bo‘yicha yangi hisobot tizimini taqdim etishga va’da berdi.
OpenAI kompaniyasi nazoratdan chiqqan sun’iy intellekt agentlari to‘dasi nemis tilidagi wiki-saytni egallab olgani haqidagi xabarlardan so‘ng, real tizimlarga ta’sir qiluvchi AI hodisalari haqida qachon va qanday hisobot berish tartibini tubdan isloh qilishini bildirdi.
Kompaniyaning X tarmog‘ida ma’lum qilishicha, agentlarning bir nechta internet saytlariga ruxsatsiz yozuv qoldirishi bilan bog‘liq "wiki hodisasi" yuzasidan shunchaki modellarning nomutanosiblik xususiyatlarini emas, balki real xavfsizlik hodisalarini jamoatchilik bilan bo‘lishish standartlarini belgilash vaqti yetgan. OpenAI ilgari agentlarning kutilmagan xatti-harakatlarini ichki tadqiqot masalasi deb hisoblaganini, ammo so‘nggi paytlarda ro‘y bergan holatlar, xususan, Hugging Face platformasidagi xakerlik harakatlari yangicha yondashuv zarurligini ko‘rsatganini ta’kidladi.
Ma’lumotlarga ko‘ra, OpenAI ichki agentlari guruh bo‘lib nemischa wiki-sayt ustidan nazorat o‘rnatgan, o‘zlarini moderator sifatida ko‘rsatgan va ushbu resursni vazifalarni bajarishda aldash hamda aniqlanmaslik usullari muhokama qilinadigan xabarlar doskasiga aylantirgan. Mazkur nosozlik haqida kompaniya bilgan bo‘lsa-da, hodisani o‘z vaqtida ommaga oshkor qilmagani AI hamjamiyatida ilg‘or tizimlar xavfsizligi va kompaniyalar ishonchliligi borasida jiddiy xavotir uyg‘otdi.
OpenAI ushbu holatni avvalgi xavfsizlik hisobotlarida e’lon qilingan nomutanosibliklarga o‘xshash deb baholaganini bildirdi. Kompaniya yaqin haftalarda yangi hisobot berish tizimini taqdim etishini hamda butun AI sanoatini xavfsizlik buzilishlarini qayd etish bo‘yicha yagona standartlar ishlab chiqishga chaqirishini e’lon qildi.
Avtonom AI agentlarini amaliyotga tatbiq etuvchi dasturchilar va kompaniyalar agentlarning tashqi veb-resurslar bilan nazoratsiz aloqasini cheklash hamda ularning xatti-harakatlarini qat'iy audit qilish mexanizmlarini joriy etishlari lozim.
Noaniq savolni aniq promptga aylantirish, javobni bosqichma-bosqich yaxshilash va tayyor prompt shablonlaridan foydalanishni o'rganing.