[Compiler 03] CPU 기능별 함수 다중 버전

멀티버저닝으로 CPU 기능(AVX2, AVX-512 등)에 맞는 구현을 런타임에 선택할 수 있습니다. 이 챕터에서는 문법과 디스패치 비용을 다룹니다.

멀티버저닝 개념

함수 멀티버저닝(Function Multiversioning)은 같은 함수에 대해 CPU 기능별로 서로 다른 구현을 두고, 실행 시점에 CPU가 지원하는 기능을 검사해 해당하는 버전을 호출하는 방식입니다. 예를 들어 “기본” 경로는 SSE만 쓰고, “AVX2” 경로는 256비트 SIMD를 쓰고, “AVX-512” 경로는 512비트 SIMD를 쓰도록 만들 수 있습니다. 한 바이너리를 여러 CPU에 배포할 때, 각 CPU에서 가장 적합한 구현이 자동으로 선택되므로, 호환성과 성능을 동시에 잡을 수 있습니다.

GCC / Clang 문법과 코드 예시

멀티버저닝의 핵심은 동일한 함수 이름에 서로 다른 target 속성을 붙인 여러 정의를 두는 것입니다. 컴파일러가 자동으로 디스패치 코드를 생성합니다.

GCC: __attribute__((target(...)))

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30

// multiversioning_demo.cc — GCC/Clang 공통 예시
#include <immintrin.h>
#include <cstddef>

// 기본 경로: SSE2 이상만 가정 (구형 CPU에서도 동작)
__attribute__((target("default")))
float dot_product(const float* a, const float* b, size_t n) {
    float sum = 0.0f;
    for (size_t i = 0; i < n; ++i)
        sum += a[i] * b[i];
    return sum;
}

// AVX2 경로: 256비트 SIMD로 8개 float 동시 처리
__attribute__((target("avx2")))
float dot_product(const float* a, const float* b, size_t n) {
    __m256 acc = _mm256_setzero_ps();
    size_t i = 0;
    for (; i + 8 <= n; i += 8) {
        __m256 va = _mm256_loadu_ps(a + i);
        __m256 vb = _mm256_loadu_ps(b + i);
        acc = _mm256_fmadd_ps(va, vb, acc);   // FMA: va * vb + acc
    }
    // 수평 합산 + 나머지 스칼라 처리 (생략)
    float buf[8];
    _mm256_storeu_ps(buf, acc);
    float s = buf[0]+buf[1]+buf[2]+buf[3]+buf[4]+buf[5]+buf[6]+buf[7];
    for (; i < n; ++i) s += a[i] * b[i];
    return s;
}

이 코드를 -O2로 빌드하면 컴파일러가 자동으로 CPUID 기반 디스패치 코드를 생성합니다. 프로그램이 AVX2를 지원하는 CPU에서 실행되면 avx2 버전이, 그렇지 않으면 default 버전이 호출됩니다.

GCC: target_clones로 여러 버전 한 번에 생성

1
2
3
4
5
6

// target_clones: 하나의 함수 정의에서 여러 버전 자동 생성
__attribute__((target_clones("avx512f", "avx2", "sse4.2", "default")))
void vector_add(float* dst, const float* src, size_t n) {
    for (size_t i = 0; i < n; ++i)
        dst[i] += src[i];
}

target_clones는 함수 정의를 한 번만 쓰고, 컴파일러가 각 타겟에 맞는 버전을 자동으로 생성합니다. 내부 루프에 SIMD intrinsic을 직접 쓰지 않아도 auto-vectorization이 타겟별로 다르게 적용됩니다.

Clang: __attribute__((target_version(...)))

1
2
3
4
5
6

// Clang에서도 비슷한 방식 — target_version 속성 사용
__attribute__((target_version("default")))
int process(int x) { return x * 2; }

__attribute__((target_version("avx2+fma")))
int process(int x) { return x * 3; }  // AVX2+FMA CPU에서 선택되는 버전

두 컴파일러 모두 CPU 디스패치를 위해 런타임에 CPUID 등을 사용해 “지금 CPU가 어떤 기능을 지원하는지” 확인하고, 그에 맞는 함수 포인터를 선택합니다. 이 선택은 보통 프로그램 시작 시 또는 해당 함수가 처음 호출될 때 한 번 이루어지고, 이후에는 같은 포인터를 사용합니다.

어셈블리에서 디스패치 확인

멀티버저닝을 적용하면 링크된 바이너리에 ifunc resolver 또는 유사한 간접 호출 메커니즘이 나타납니다.

1
2
3
4
5

# objdump로 resolver 함수와 여러 버전 확인
objdump -d ./app | grep -E "(dot_product|resolver)"
# dot_product.default:  -> 기본 경로
# dot_product.avx2:     -> AVX2 경로
# dot_product.ifunc:    -> 디스패치 포인터

디스패치 비용과 사용 시점

• 비용: 디스패치는 보통 한 번만 이루어지므로, 함수가 매우 많이 호출되는 핫 경로에서는 디스패치 비용은 무시할 수 있습니다. 다만 디스패치 결과(함수 포인터)가 간접 호출로 이어지므로, 인라인은 되지 않고 호출 비용은 남습니다. 그래서 멀티버저닝된 함수 자체가 작고 루프 안에서 반복 호출되면, 그 호출 비용이 누적될 수 있습니다.
• 사용 시점: 대량의 수치 연산·SIMD로 이득이 큰 루프를 멀티버저닝하는 경우가 많습니다. 한 번 호출에 오래 걸리는 “무거운” 함수면 디스패치·간접 호출 비용은 상대적으로 작습니다. 가벼운 함수를 멀티버저닝하면, “버전 선택 + 간접 호출” 비용이 이득을 깎아먹을 수 있으므로, 벤치마크로 확인하는 것이 좋습니다.

공급 경로별 설계와 검증

• 설계: “default”, “avx2”, “avx512” 등 공급 경로(타겟)별로 동일 시맨틱의 구현을 작성합니다. AVX2 버전에서는 4-wide float/double, AVX-512에서는 8-wide 등으로 루프를 구성합니다. 메모리 정렬·테일 처리(tail)를 각 타겟에 맞게 작성해야 합니다.
• 검증: 각 타겟에서 실제로 해당 버전이 선택되는지(로깅 또는 CPUID 확인), 그리고 정확성이 기본 경로와 동일한지(같은 입력에 같은 출력) 단위 테스트로 확인합니다. 성능은 해당 CPU가 있는 머신에서 벤치마크해, default 대비 AVX2/AVX-512 버전이 기대만큼 빨라지는지 봅니다. 구형 CPU에서는 default만 타는지도 확인하면 안전합니다.

용어 정리

판단 기준: 언제 멀티버저닝을 쓸지 / 피할지

자주 하는 실수

• 가벼운 함수를 과하게 멀티버저닝: 작은 함수를 AVX2/AVX-512 버전으로 나누면 디스패치·간접 호출 비용이 이득을 상쇄할 수 있다. 무거운 루프나 호출 빈도가 낮은 함수에 적용하고, 벤치로 이득이 나는지 확인한다.
• 구형 CPU에서 선택·정확성 미검증: default 경로만 타는지, 해당 CPU에서 정확히 같은 결과가 나오는지 테스트하지 않으면 배포 후 크래시나 잘못된 결과가 나올 수 있다. 각 타겟에서 선택·정확성·성능을 검증한다.

학습 성과 목표

• 함수 멀티버저닝 개념과 GCC/Clang target 속성 사용법을 설명할 수 있다.
• 디스패치 비용과 언제 멀티버저닝이 이득인지를 설명할 수 있다.
• 공급 경로별 구현·검증(선택·정확성·성능) 절차를 적용할 수 있다.

비판적 시각: 한계와 트레이드오프

멀티버저닝은 SIMD 이득이 큰 무거운 경로에만 가치가 있다. 가벼운 함수를 여러 버전으로 나누면 코드 복잡도와 유지보수 비용이 늘어나는 반면, 디스패치·간접 호출로 인한 손해가 이득을 넘을 수 있다. “AVX-512가 있으면 무조건 쓰자"가 아니라, 벤치마크로 해당 워크로드에서 실제로 빨라지는지 확인한 뒤 도입하는 것이 전문가다운 선택이다.

핵심 요약

다음 장에서는

컴파일러 내장 함수(intrinsics) 카탈로그, SIMD·원자성 등 사용 시 주의와 대안을 다룹니다.

→ 컴파일러 내장 함수 (챕터 08)