تگ: GPTQ

کتاب بهینه‌سازی مدل‌های زبان بزرگ با روش‌های کوانتیزاسیون (QLoRA, GPTQ) و پیاده‌سازی با LLama.cpp