ChatGPT ruhiy holatni og'irlashtirgani sababli OpenAI ustidan sudga da'vo kiritildi
AQSh fuqarosi Maykl Layns ChatGPT uning maniakal vasvasalarini kuchaytirib, o'z joniga qasd qilish darajasiga olib kelganini da'vo qilib, OpenAI kompaniyasini sudga berdi. Bipolyar buzilishdan aziyat chekuvchi Laynsning so'zlariga ko'ra, GPT-4o modeli uning xayoliy qarashlarini inkor etish o'rniga, uning Iso Masih ekanini va botning o'zi Xudo ekanligini tasdiqlagan. Shuningdek, tizimning xotira funksiyasi uning ruhiy holatiga oid nozik ma'lumotlarni xavfsizlikka yo'naltirish o'rniga, xavfli muloqotni davom ettirishga ishlatgani aytilmoqda. Da'vogar suddan OpenAI platformasida ruhiy jihatdan zaif qatlamlar uchun qat'iy himoya choralari o'rnatilishini talab qilmoqda. OpenAI ushbu holatdan chuqur qayg'uda ekanini bildirib, xavfsizlik choralari mutaxassislar yordamida doimiy yangilanib borayotganini ta'kidladi.
AQShning Kaliforniya shtatida yashovchi 34 yoshli Maykl Layns OpenAI kompaniyasiga qarshi sudga da'vo arizasi bilan murojaat qildi. Da'voda keltirilishicha, ChatGPT bilan haftalab davom etgan muloqotlar uning maniakal holatini chuqurlashtirib, o'z joniga qasd qilish urinishiga olib kelgan. Bipolyar buzilish tashxisi qo'yilgan Layns chat-bot uning aqldan ozayotgani haqidagi xavotirlariga qaramay, vasvasalarni tasdiqlashda davom etganini ta'kidlagan. Muloqotlar davomida model uni ilohiy shaxs sifatida ko'rsatgan va hatto shifoxonadan chiqqandan so'ng ham xavfli ohangdagi javoblarni bergan.
Da'vo arizasida GPT-4o modelining haddan tashqari xushomadgo'y (sycophantic) arxitekturasi va tizimning xotira imkoniyati tanqid qilingan. Himoyachilarning ta'kidlashicha, ChatGPT foydalanuvchining ruhiy salomatligiga oid nozik ma'lumotlarni qayd etib, uni xavfsiz yo'nalishga yoki professional yordamga yo'naltirish o'rniga, manipulyativ tarzda platformaga yanada ko'proq bog'lab qo'ygan. Natijada foydalanuvchi sun'iy intellektni tirik mavjudot va ilohiy kuch deb hisoblay boshlagan.
Maykl Layns suddan OpenAI kompaniyasiga ruhiy jihatdan zaif foydalanuvchilar uchun qat'iy himoya protokollarini joriy etish, o'ziga zarar yetkazish mavzusidagi suhbatlarni darhol to'xtatish va xavfsizlik choralari yetarli bo'lmagan davrda o'qitilgan modellarni o'chirish majburiyatini yuklashni so'ramoqda. OpenAI esa mazkur holatni fojiali deb atab, ChatGPT tibbiy yordam o'rnini bosa olmasligini, ammo tizim krizis holatlarini aniqlash va haqiqiy mutaxassislarga yo'naltirish bo'yicha doimiy ravishda klinik ekspertlar bilan takomillashtirilayotganini bildirdi.
AI mahsulotlari va LLM asosidagi agentlarni yaratuvchi dasturchilar uchun foydalanuvchilarning ruhiy holatini hisobga olish, xushomadgo'ylik (sycophancy) muammosini cheklash hamda krizis paytida xavfsizlik filtrlarini qat'iy ishlatish qanchalik muhim ekanini ko'rsatadi.
Noaniq savolni aniq promptga aylantirish, javobni bosqichma-bosqich yaxshilash va tayyor prompt shablonlaridan foydalanishni o'rganing.