Quantization(양자화)
8 posts
[AI] GLM-5.3 Infra Agent: 모델이 자기 서빙 인프라를 튜닝한 방법
[AI] Kimi K3.1 Pro 가중치 공개: 2.8T MoE 오픈 모델 정리
[AI] DiffusionGemma: 256토큰 블록을 병렬 정제하는 확산 LLM
[AI] 양자화 트리거 백도어: FP16에선 무해하던 모델이 INT8에서 오작동하는 이유
[AI] 모델은 의도적으로 더 멍청해지고 있다 — 추론과 사실 지식의 트레이드오프
[On-Device AI] 00. Introduction: On-Device AI 경량화
[On-Device AI] 02. Quantization — 비트 수를 줄이는 법
[On-Device AI] 05. LLM Quantization — SmoothQuant와 AWQ
Home