OpenAI o'zining tayyorgarlik (Preparedness) xavfsizlik guruhini tarqatib yubordi
Financial Times xabariga ko'ra, OpenAI sun'iy intellekt modellarining jiddiy xavflarini baholovchi "Preparedness" (tayyorgarlik) jamoasini tarqatib yubordi. Ushbu guruhning vazifasi modellarning kiberhujumlar va boshqa jiddiy xavflarini o'rganish hamda ularni yumshatish choralarini ishlab chiqish edi. Endilikda ushbu mas'uliyat bioxavfsizlik va kiberxavfsizlik kabi alohida yo'nalishlar bo'yicha mavjud boshqa jamoalarga bo'lib berildi. Jamoa rahbari Dylan Scandinaro esa o'z-o'zini takomillashtiruvchi AI tizimlari oqibatlarini o'rganishga o'tadi.
Financial Times nashrining ma'lum qilishicha, OpenAI o'tgan oy oxirida o'zining "Preparedness" (tayyorgarlik) deb nomlangan xavfsizlik jamoasini tarqatib yubordi. Mazkur jamoaning asosiy vazifasi ishlab chiqilayotgan sun'iy intellekt modellari keltirib chiqarishi mumkin bo'lgan jiddiy xatarlarni — masalan, tizimning o'zboshimchalik bilan kiberhujumlar uyushtirishi kabi tahdidlarni baholash va ularning oldini olish choralarini ko'rishdan iborat edi.
Endilikda xavflarni tahlil qilish mas'uliyati alohida yo'nalishlar, jumladan, biologik va kiberxavflar bo'yicha bo'linib, OpenAI ichidagi mavjud jamoalar ixtiyoriga topshirildi. Fevral oyida Anthropic kompaniyasidan o'tgan va jamoaga rahbarlik qilgan Dylan Scandinaro esa rekursiv o'z-o'zini takomillashtiruvchi AI oqibatlarini o'rganishga e'tibor qaratadi.
Ushbu qayta tashkil etish OpenAI kutilayotgan yirik IPO (aksiyalarni ommaviy joylashtirish) jarayoniga tayyorlanayotgan bir paytda yuz bermoqda. So'nggi paytlarda kompaniya AGI tayyorgarligi va superalignment jamoalarini ham tugatgan edi. Shuningdek, etika bo'yicha yetakchi Chloe Bakalar, bosh futurolog Josh Achiam va xavfsizlik bo'limi rahbari Johannes Heidecke kompaniyani tark etgan.
Avvalroq, 2024-yilda OpenAI'dan iste'fo bergan Jan Leike kabi sobiq mas'ullar kompaniya xavfsizlik masalalarini e'tiborsiz qoldirib, ko'proq jozibador tijoriy mahsulotlar yaratishga urg'u berayotganini tanqid qilgan edilar.
OpenAI ekotizimida mahsulot yaratuvchi dasturchilar va kompaniyalar uchun bu xabar xavfsizlik standartlarining ichki bo'linmalarga tarqatilishi va kompaniyaning tijoratlashtirish tezligini oshirayotganidan dalolat beradi.
Noaniq savolni aniq promptga aylantirish, javobni bosqichma-bosqich yaxshilash va tayyor prompt shablonlaridan foydalanishni o'rganing.