[On-Device AI] 06. 추론 가속 — Speculative Decoding, FlashAttention

압축이 아니라 연산·메모리 접근 패턴을 최적화하는 추론 가속 기법을 다룹니다. Speculative Decoding, FlashAttention, 중요 토큰만 남기는 H2O를 원 논문과 함께 정리하는 시리즈의 마지막 챕터입니다.

[RAG] 00. Introduction: RAG와 정보검색

검색과 LLM을 결합하는 시리즈의 도입 챕터입니다. LLM만으로는 부족한 세 가지 이유부터, 고전 IR에서 GraphRAG·MCP까지 이어지는 8개 챕터 커리큘럼과 학습 목표, 챕터별 우선순위 로드맵을 자세히 정리합니다.

[RAG] 01. Classical IR — 역색인, TF-IDF, BM25

역색인 자료구조부터 단어 빈도의 한계를 보정하는 TF-IDF, 오랫동안 사실상 표준이었던 BM25, 그리고 MRR·Precision·Recall 같은 검색 평가 지표까지 신경망 이전 정보검색의 핵심을 자세히 정리합니다.

[RAG] 02. Dense Retrieval — BERT로 의미를 검색하기

희소 벡터 대신 신경망 임베딩으로 검색하는 Dense Retrieval을 다룹니다. Bi-encoder와 Cross-encoder의 정확도-속도 트레이드오프, DPR의 대조 학습, Re-ranking 2단계 구조를 원 논문과 함께 정리합니다.

[RAG] 03. RAG 파이프라인 구축 — Retriever-Reader

검색과 생성을 잇는 Retriever-Reader 구조를 Lewis et al. 원 논문과 LlamaIndex 실습으로 다룹니다. Chunk Size 트레이드오프, 불확실성 기반 검색 트리거까지 RAG 파이프라인 설계의 실전 포인트를 정리합니다.

[RAG] 04. 고차원 근사 검색 — LSH와 그래프 인덱스

차원의 저주 때문에 정확한 최근접 이웃 탐색이 고차원에서 왜 어려워지는지부터, 해시 기반 LSH와 HNSW 같은 그래프 인덱스로 근사 검색을 빠르게 만드는 방법, CLIP을 이용한 멀티모달 검색까지 자세히 다룹니다.

[RAG] 05. GraphRAG — 지식을 그래프로 검색하기

문서 대신 지식그래프를 검색 대상으로 삼는 GraphRAG의 색인-검색-생성 3단계 파이프라인을 다룹니다. Retriever의 종류, CRAG 벤치마크 평가 방식, 그리고 고정된 질의 생성이 실습에서 드러낸 한계와 에이전틱 전환까지 정리합니다.

[RAG] 06. MCP 기반 Text2SQL — LLM과 데이터베이스 연결하기

N×M 통합 문제를 표준 프로토콜로 푸는 MCP(Model Context Protocol)의 구조를 다룹니다. Resources·Tools·Prompts 3요소, FastMCP 서버와 LlamaIndex 클라이언트로 구현하는 Text2SQL, 그리고 에이전틱 워크플로우의 실전 한계까지 정리합니다.

[RAG] 07. Cross-Encoder 파인튜닝 — InfoNCE로 재정렬 모델 학습하기

02장에서 재정렬(re-ranking)용으로 소개한 Cross-Encoder를 직접 학습시키는 방법을 다룹니다. In-batch Negative와 Hard Negative 구성, InfoNCE Loss의 수식, 전체 학습 파이프라인을 원 논문과 함께 정리합니다. 시리즈 D의 마지막 챕터입니다.

[Redux] 01. JavaScript 핵심 개념 - 변수, 함수, 객체

Redux의 Action과 Reducer는 결국 JavaScript의 객체와 함수일 뿐입니다. var/let/const의 스코프 차이, 함수 선언 방식, 객체·배열 기본 조작을 Redux 코드를 읽는 데 필요한 만큼 정리합니다.