Quantization(양자화)
4 posts
[AI] 모델은 의도적으로 더 멍청해지고 있다 — 추론과 사실 지식의 트레이드오프
[On-Device AI] 00. Introduction: On-Device AI 경량화
[On-Device AI] 02. Quantization — 비트 수를 줄이는 법
[On-Device AI] 05. LLM Quantization — SmoothQuant와 AWQ
Home