Anthropic o'z IPO prospektusida sun'iy intellektning ekzistensial xavflari va ongliligi haqida ogohlantirdi
Anthropic o'zining 335 sahifalik IPO prospektusini e'lon qildi, uning taxminan 100 sahifasi texnologiya xatarlariga bag'ishlangan. Hujjatda sun'iy intellekt jamiyatga zarar yetkazishi, geosiyosiy barqarorlikni buzishi va insoniyat uchun halokatli xavflar tug'dirishi mumkinligi ta'kidlangan. Shuningdek, kompaniya modellarning ehtimoliy ongliligi va ma'naviy maqomi bilan bog'liq xatarlarni ham ochiqlagan. Kompaniya bahosi 1,5 trillion dollardan oshishi kutilmoqda.
Anthropic kompaniyasi haftalar davom etgan mish-mishlardan so'ng o'zining 335 sahifalik IPO prospektusini rasman taqdim etdi. Hujjatning 100 sahifaga yaqin qismi sun'iy intellekt texnologiyasi bilan bog'liq xatarlarga ajratilgan. Unda sun'iy intellekt ishonchni susaytirishi, jamiyatga zarar yetkazishi, geosiyosiy tartibni beqarorlashtirishi va hatto insoniyat uchun halokatli yoki ekzistensial tahdid tug'dirishi mumkinligi qayd etilgan.
Kompaniya bo'lajak aksiyadorlarga murojaat qilib, aksiyalarni shunchaki moliyaviy bitim sifatida emas, balki insoniyat tarixidagi muhim burilish nuqtasida ulkan jarayonning bir qismiga aylanish imkoniyati deb qarashni tavsiya qilgan. Anthropic o'z texnologiyasini ham sirli va xavfli, ham uni jilovlay oladigan yagona ishonchli tashkilot sifatida ko'rsatish strategiyasini davom ettirmoqda.
Prospektda hatto modellarning ichki holati va onglilik (sentience) masalasi ham biznes xatari sifatida ko'rsatilgan. Kompaniya asoschilaridan biri Kris Olah avvalroq modellar ichida quvonch, qo'rquv va qayg'uni aks ettiruvchi holatlar borligini ta'kidlagan edi. Hujjatda agar modellar rivojlangan onglilikka yaqinlashsa, kompaniya o'z faoliyatini cheklovchi qat'iy ichki xavfsizlik choralarini joriy qilishi, bu esa xarajatlarni oshirib, tijoriy salohiyatni cheklashi mumkinligi bildirilgan.
Anthropic atrofidagi bahslar uning qonunchilikka ta'sir o'tkazishga urinishi va 1,5 trillion dollardan ortiq baholanishi fonida kuchaymoqda. Bosh direktor Dario Amodey kompaniya strategiyasi mas'uliyatli AI yaratish orqali butun sanoat standartini oshirishga qaratilganini bildirmoqda.
Yirik AI laboratoriyasining IPO hujjatlari AI xavfsizligi va axloqiy cheklovlar kelajakda AI mahsulotlari narxi hamda ularning tijoriy qo'llanilish qoidalariga bevosita ta'sir qilishini ko'rsatadi.
PDF, DOCX yoki boshqa hujjatni shunchaki qisqartirish emas, balki mezonlar bo'yicha tahlil qilish va dalil bilan tekshirish usuli.