Collections

13 pages

[LLM] LLM 밑바닥부터 이해하기

Transformer와 GPT 아키텍처를 수식과 실습 코드 수준에서 뜯어보고, 사전학습부터 파인튜닝·LoRA·RLHF·추론 모델·서빙 효율화까지 GPT류 모델의 전체 생애주기를 다루는 13편 시리즈입니다. 각 챕터는 실습 노트북과 연계됩니다.

[LLM 00] Introduction: LLM 밑바닥부터 이해하기

[LLM 01] AI 수학 기초 — 내적, Softmax, KL Divergence

[LLM 02] 신경망은 어떻게 학습하는가 — 역전파와 Adam

[LLM 03] RNN에서 Transformer까지 — 언어모델의 진화

[LLM 04] 토크나이징과 임베딩 — 텍스트를 벡터로

[LLM 05] Self-Attention 완전분해 — Q, K, V부터 Multi-head까지

[LLM 06] GPT 아키텍처 해부 — 정규화, FFN, Residual, 샘플링

[LLM 07] 지식은 어디에 저장되는가 — FFN과 Superposition

[LLM 08] 파인튜닝 실전 — Classification Fine-tuning과 LoRA

[LLM 09] 지시 미세튜닝 — 프롬프트 포맷과 마스킹