Sem Altman: RAM shaxsiy kompyuterda emas, ma'lumotlar markazida bo'lgani ma'qul
OpenAI bosh direktori Sem Altman global xotira taqchilligi fonida RAM xotirasi shaxsiy kompyuterlardan ko'ra ma'lumotlar markazlarida bo'lishi samaraliroq ekanini ta'kidladi. Uning fikricha, ochiq kodli AI modellarini shaxsiy kompyuterlarda mahalliy ishga tushirish (local inference) xotiradan atigi 5 foiz foydalanishga olib keladi va bu cheklangan resurslarning isrof bo'lishidir. Altman bulutli infratuzilma xotiradan maksimal darajada unumli foydalanishni ta'minlaydi deb hisoblaydi. Ayni paytda sun'iy intellekt infratuzilmasi uchun xaridlar tufayli iste'molchi qurilmalari narxi oshib bormoqda.
OpenAI bosh ijrochi direktori Sem Altman Cheeky Pint podkastida bergan intervyusida global xotira taqchilligi muammosiga to'xtalib o'tdi. Uning ta'kidlashicha, cheklangan DRAM resurslarini shaxsiy kompyuterlarda saqlash global resurs taqsimoti nuqtai nazaridan samarasiz yondashuvdir.
Altman ko'pchilik odamlar ochiq kodli modellarni shaxsiy kompyuterlarda mahalliy tarzda ishga tushirish orqali ma'lumotlar markazlariga bo'lgan ehtiyoj yo'qoladi deb xato o'ylayotganini bildirdi. Uning so'zlariga ko'ra, cheklangan xotira zaxiralarining foydalanuvchilar kompyuterida o'tirishi va vaqtning bor-yo'g'i 5 foizida ishlatilishi katta isrofgarchilikdir. Taqchillik davrida xotiradan maksimal darajada unumli foydalanish uchun uni bulutli serverlarda jamlash zarur.
Ayni paytda Samsung va SK Hynix kabi xotira ishlab chiqaruvchi yetakchi kompaniyalar bulutli xizmat ko'rsatuvchilar hamda OpenAI'ning Stargate kabi loyihalari bilan uzoq muddatli yirik shartnomalar tuzgan. AI loyihalari uchun milliardlab dollarlik chiplar xarid qilinayotgani sababli bozorga chiqariladigan noutbuklar, smartfonlar va boshqa maishiy texnikalar narxi sezilarli darajada qimmatlashmoqda.
Mahalliy AI modellarini yurgizish uchun uskunalar (RAM, GPU) narxi oshishda davom etadi, bu esa loyihalarni o'z serverlarida emas, balki bulutli infratuzilmada rivojlantirish iqtisodiy jihatdan qulayroq bo'lishini ko'rsatadi.
Noaniq savolni aniq promptga aylantirish, javobni bosqichma-bosqich yaxshilash va tayyor prompt shablonlaridan foydalanishni o'rganing.