[Memory 04] 메모리·수명·캐시 라인 직관 (기초)

본 장은 기초 난이도입니다. 이 트랙의 본문 챕터들은 할당기·풀·레이아웃 등으로 빠르게 들어가는데, 독자마다 **“메모리가 왜 비싼가”**에 대한 머릿속 그림이 다르면 같은 조언도 다르게 읽힙니다. 여기서는 수식 대신 직관만 맞춥니다.

스택과 힙을 한 문장으로

스택: 호출이 살아 있는 동안만 의미 있는 프레임 단위 저장소. 되돌리기 쉽고, 일반적으로 힙보다 관리 비용이 작습니다.
힙: 수명을 프로그램이(또는 런타임이) 결정하는 더 일반적인 저장소. 유연하지만 할당기·동기화·메타데이터 비용이 붙을 수 있습니다.

“힙이 나쁘다”가 아니라 핫패스에서 힙을 얼마나 자주 치느냐가 문제입니다. Tr.02의 실행 모델 장과 같은 말을 다른 각도에서 반복합니다.

수명(lifetime)이 성능에 들어오는 방식

C++에서 수명은 UB를 피하기 위한 규칙이기도 하지만, 성능 논의에서는 다음으로 연결됩니다.

스코프 끝에서 바로 파괴되는 객체는 스택·RAII와 잘 맞고, 장기간 살아 있는 객체는 캐시·NUMA·동시성과 맞물립니다.
공유 포인터·글로벌 캐시는 수명을 늘리는 대신 동기화·할당을 끌고올 수 있습니다.
뷰(view) 타입(string_view 등)은 수명 전제가 틀리면 성능 이전에 정확성이 무너집니다.

즉 “빠른 타입 고르기” 전에 누가 언제까지 유효한가를 그림으로 그려 보는 것이 기초입니다.

캐시 라인 직관

CPU는 메모리를 바이트 하나씩이 아니라 캐시 라인(흔히 64바이트) 덩어리로 가져옵니다.

공간 지역성: 인접 주소를 순서대로 읽으면 한 라인을 여러 번 활용하기 쉽습니다.
시간 지역성: 같은 주소를 짧은 간격으로 다시 읽으면 히트 확률이 올라갑니다.
false sharing: 서로 다른 코어가 같은 캐시 라인에 있는 서로 다른 데이터를 쓰면, 캐시 일관성 때문에 성능이 무너질 수 있습니다(심화에서 자주 등장).

이 장에서는 “왜 컨테이너 재배치·패딩 이야기가 나오는가”의 배경만 제공합니다.

flowchart TB
  subgraph cpu ["CPU 관점(개념)"]
    A["연속 접근"]
    B["캐시 라인 단위 적재"]
    C["지역성 이점"]
  end
  subgraph risk ["주의"]
    D["흩어진 포인터 따라가기"]
    E["false sharing"]
  end
  cpu --> risk