AQSHda da'vogar sudda g'alaba qozonish uchun hujjatlarga yashirin AI promptlarini kiritgani aniqlandi
AQSH sud amaliyotida da'vogar ishni o'z foydasiga hal qilish maqsadida arizaga faqat sun'iy intellekt o'qiy oladigan yashirin buyruqlar joylashtirgani ma'lum bo'ldi. Konnektikut shtati sudyasi Valter Speyder ushbu noodatiy holatni qayd etib, bu kabi harakatlar xavfli pretsedent yaratishini ta'kidladi. Yashirin matn inson ko'ziga ko'rinmaydigan, ammo dasturiy ta'minot o'qiy oladigan tarzda formatlangan va AI modelini da'vogar vajlariga rozi bo'lishga undagan. Sudya bu urinish yakuniy qarorga ta'sir qilmaganini va da'vo xolis ko'rib chiqilganini bildirdi. Ekspertlar sud tizimlarida AI vositalari ommalashgan sari bunday manipulyatsiyalar ko'payishi mumkinligini aytmoqda.
AQSH huquq tizimida sun'iy intellekt texnologiyalaridan noqonuniy foydalanishga urinish bilan bog'liq yangi va noodatiy holat yuzaga keldi. Sud materiallariga ko'ra, da'vogar sud jarayonida g'alaba qozonish umidida topshirilgan hujjatlar ichiga inson ko'zi ilg'amaydigan, biroq sun'iy intellekt modellari o'qiy oladigan maxsus buyruqlarni (prompt injection) yashirib joylashtirgan. Bu Amerika sud tizimida aniqlangan ilk shunday holat sifatida qayd etildi.
Konnektikut shtati sudyasi Valter Speyder (Walter Spader Jr.) tibbiy ma'lumotlarga kirish huquqining noqonuniy cheklangani da'vo qilingan ish bo'yicha e'lon qilgan qarorida ushbu hujum urinishiga alohida to'xtalib o'tdi. Sudyaning ma'lum qilishicha, hujjat ichiga kiritilgan yashirin matn inson tomonidan oddiy o'qilganda ko'rinmaydigan qilib formatlangan, biroq matnni tahlil qiluvchi har qanday dasturiy ta'minot yoki neyrotarmoq uchun to'liq tushunarli bo'lgan.
Ushbu maxfiy buyruqlar hujjatni o'rganib chiquvchi har qanday sun'iy intellekt tizimiga o'zining matnli xulosalarida to'liq da'vogarning vajlarini tasdiqlashni buyurgan. Shuningdek, ko'rsatmalarda sudning avvalgi rad javoblarini e'tiborsiz qoldirish hamda da'vogar talab qilgan barcha kompensatsiya va choralarni uning foydasiga qanoatlantirish talab qilingan.
Sudya Speyderning tasdiqlashicha, ushbu yashirin hiyla yakuniy natijaga hech qanday ta'sir ko'rsatmagan. Sud ishni an'anaviy tartibda, mavjud qonuniy asoslar va dalillar mohiyatiga tayangan holda ko'rib chiqqan. Biroq, sudya bunday manipulyatsiyalar adliya tizimi uchun o'ta xavfli pretsedent yaratishini ta'kidlab o'tdi.
Bugungi kunda butun dunyo bo'ylab, jumladan AQSHda ham turli instansiya sudlari arizalarni saralash, tahlil qilish va qoralamalar yaratishda sun'iy intellekt vositalaridan kengroq foydalanishni boshlamoqda. Sudyaning ta'kidlashicha, huquqiy jarayonlar avtomatlashib borayotgan bir davrda bu kabi prompt injection usullari orqali tizimni chalg'itishga urinishlar kelajakda yanada ko'payishi muqarrar.
Hujjatlarni tahlil qiluvchi AI tizimlarini yaratayotgan dasturchilar matn ichidagi yashirin prompt injection hujumlarini aniqlash va neytrallash filtrlarini integratsiya qilishlari zarur.
AI kod muharriridan foydalanishda eng muhim qoida — kichik o'zgarish, ko'rinadigan diff, majburiy test va qaytarish mumkin bo'lgan commit.