[Hyper-V] 고급 세션 Windows Hello 로그인 화면 오류 해결 방법

개요

이 글에서 다루는 내용

원격 데스크톱(RDP)으로 Windows 11 호스트에 접속한 뒤, Hyper-V 가상 머신을 **고급 세션 모드(Enhanced Session Mode)**로 연결할 때 Windows Hello 로그인 화면이 뜨지 않거나 잠금 화면에서 멈추는 현상의 원인과 해결 방법을 정리했다. 이중 RDP 구조와 RDP–Windows Hello 비호환성 설명, 네 가지 해결책(고급 세션 일시 비활성화, VM 내 Windows Hello 비활성화, 로컬 계정 전환, 스마트 카드·비즈니스용 Windows Hello 옵션)을 단계별로 다루며, PowerShell로 설정을 확인하는 방법과 공식 참고 자료를 제시한다.

추천 대상

• 원격에서 Hyper-V VM을 쓰다가 Windows Hello 로그인 화면에서 멈춘 경험이 있는 사용자
• 고급 세션 모드(클립보드 공유, 드라이브 리디렉션 등)를 유지하면서 VM 로그인 문제를 해결하고 싶은 사용자
• Windows 11·Microsoft 계정·Windows Hello PIN을 VM에서 사용 중인 개발자 및 IT 관리자

문제 상황

호스트 PC에 원격 데스크톱으로 연결한 상태에서 Hyper-V 가상 머신을 사용하는 경우, 특히 고급 세션 모드(Enhanced Session Mode)로 Windows VM에 로그인할 때 문제가 발생할 수 있습니다.

Hyper-V 가상 머신에서 고급 세션 모드를 사용할 때, Windows Hello로 로그인하려고 하면 다음과 같은 문제가 발생할 수 있습니다:

• 로그인 화면이 나타나지 않음
• 화면이 잠금 화면 배경에서 멈춤
• 아무런 입력도 받지 않는 상태로 고정됨
• 마우스와 키보드가 반응하지 않음

이 문제는 특히 Windows VM에 Microsoft 계정으로 로그인하고 Windows Hello PIN을 설정한 경우 자주 발생합니다.

시스템 구성도

graph TB
    subgraph LocalEnv["로컬 환경"]
        User["사용자"]
    end
    
    subgraph HostPC["호스트 PC Windows 11"]
        Host["Windows 호스트"]
        
        subgraph HyperVEnv["Hyper-V"]
            VM["Windows VM"]
        end
    end
    
    User -->|"원격 접속
RDP"| Host
    Host -->|"고급 세션을 사용한 접속"| VM

문제 발생 흐름

sequenceDiagram
    actor User as 사용자
    participant RDP as 원격 데스크톱
    participant Host as Windows 11 호스트
    participant HyperV as Hyper-V
    participant ESM as Enhanced Session
    participant VM as Windows 11 VM
    participant WHello as Windows Hello
    
    User->>RDP: 원격 데스크톱 연결
    RDP->>Host: RDP 세션 시작
    User->>Host: Hyper-V 관리자 실행
    Host->>HyperV: VM 선택 및 시작
    HyperV->>ESM: "Enhanced Session Mode 활성화"
    Note over ESM: RDP 프로토콜 사용
    ESM->>VM: RDP로 VM 연결
    VM->>WHello: "Windows Hello 인증 요구"
    
    Note over WHello,VM: "RDP는 Windows Hello를 지원하지 않음"
    WHello--xESM: 인증 실패
    VM--xUser: 로그인 화면 멈춤
    
    Note over User,VM: 사용자는 로그인 불가 상태

문제의 원인

이 문제의 근본 원인은 원격 데스크톱 환경에서 Hyper-V 고급 세션 모드를 사용할 때 RDP 프로토콜이 이중으로 사용되기 때문입니다.

기술적 배경

1. 이중 RDP 연결 구조

   • 1차 RDP: 사용자 PC → Windows 11 호스트 PC (원격 데스크톱 연결)
   • 2차 RDP: 호스트 PC → Hyper-V VM (Enhanced Session Mode)
   • 두 계층 모두 RDP 프로토콜을 사용하여 연결

2. RDP와 Windows Hello의 비호환성

   • RDP 프로토콜은 Windows Hello의 생체 인식(지문, 얼굴 인식) 인증을 지원하지 않습니다
   • PIN 기반의 Windows Hello 인증도 RDP 환경에서는 작동하지 않습니다
   • 이는 RDP 프로토콜의 근본적인 설계 제약사항입니다
   • 특히 원격 환경에서는 보안상의 이유로 더욱 제한됩니다

3. 원격 환경에서의 추가 문제

   • 이미 원격 데스크톱으로 연결된 상태에서 VM에 다시 RDP로 접속
   • Windows Hello는 로컬 하드웨어(TPM, 생체인식 센서)에 의존하는데, 이중 원격 환경에서는 접근 불가
   • VM 내부의 Windows Hello가 인증을 요구하지만 RDP로는 응답할 수 없음

4. 결과적인 증상

   • VM이 Windows Hello 인증을 요구하지만, RDP는 이를 처리할 수 없음
   • 로그인 화면이 표시되지 않거나 잠금 화면에서 멈춘 상태로 나타남
   • 마우스와 키보드 입력이 전혀 반응하지 않음

해결 방법

원격 환경에서 이 문제를 해결하는 4가지 방법을 소개합니다. 방법 2(VM에서 Windows Hello 비활성화)가 가장 근본적이고 권장되는 해결책입니다.

방법 1: 일시적으로 고급 세션 모드 비활성화

원격 데스크톱으로 호스트에 연결한 상태에서 가장 빠르게 적용할 수 있는 임시 해결책입니다.

단계별 절차

1. Hyper-V 가상 머신 연결 창에서 상단 메뉴의 View(보기) 클릭
2. Enhanced Session(고급 세션) 옵션을 선택 해제
3. 기본 세션 모드로 전환되면 일반 암호 입력 화면이 나타남
4. 암호를 입력하여 로그인

장단점

장점:

• 즉시 적용 가능
• 추가 설정 불필요

단점:

• 고급 세션 모드의 기능을 사용할 수 없음 (클립보드 공유, 드라이브 마운트 등)
• VM을 시작할 때마다 반복해야 함
• 임시 해결책일 뿐 근본적인 해결은 아님

방법 2: VM에서 Windows Hello 비활성화 (권장)

가장 근본적이고 권장되는 해결 방법입니다.

단계별 절차

1단계: 기본 모드로 VM에 로그인

1
2
3

1. VM 연결 창의 View 메뉴에서 "Enhanced Session" 선택 해제
2. 기본 모드로 전환
3. 암호를 입력하여 VM에 로그인

2단계: VM 내부에서 Windows Hello 비활성화

1
2
3
4
5

1. 설정(Settings) 앱 열기 (Win + I)
2. 계정(Accounts) → 로그인 옵션(Sign-in options) 이동
3. "Windows Hello 로그인 필요" 옵션 찾기
4. 해당 옵션을 끄기(Off)로 설정
5. PIN 대신 암호 사용 옵션 선택

3단계: 고급 세션 모드 재활성화

1
2
3
4
5

1. VM 연결 종료
2. Hyper-V 관리자 열기
3. 파일 → Hyper-V 설정 클릭
4. "고급 세션 모드 정책" 확인 및 활성화
5. "고급 세션 모드" 확인 및 활성화

4단계: 정상 작동 확인

1
2
3
4

1. VM 다시 시작
2. 고급 세션 모드로 자동 연결 확인
3. 암호로 정상 로그인 확인
4. 클립보드 공유 등 고급 기능 작동 확인

장점

• 고급 세션 모드의 모든 기능을 사용 가능
• 영구적인 해결책
• VM 성능과 사용성 최적화

주의사항

• Windows Hello를 사용하고 싶다면 기본 세션 모드를 사용해야 함
• 로컬 PC에서는 Windows Hello를 계속 사용 가능 (VM 내부만 비활성화)

방법 3: 로컬 계정으로 전환

Microsoft 계정 대신 로컬 계정을 사용하는 방법입니다.

단계별 절차

1단계: 로컬 계정 생성

1
2
3
4
5

1. 설정 → 계정 → 가족 및 다른 사용자
2. "이 PC에 다른 사용자 추가" 클릭
3. "이 사용자의 로그인 정보가 없습니다" 선택
4. "Microsoft 계정이 없는 사용자 추가" 선택
5. 사용자 이름과 암호 설정

2단계: 관리자 권한 부여

1
2
3

1. 생성한 계정 클릭
2. "계정 유형 변경" 선택
3. "관리자"로 변경

3단계: 로컬 계정으로 로그인

1
2
3

1. VM 로그아웃
2. 새로 생성한 로컬 계정으로 로그인
3. 고급 세션 모드 사용 확인

장단점

장점:

• Microsoft 계정 동기화 문제 회피
• 더 빠른 로그인
• 호환성 문제 감소

단점:

• Microsoft 계정의 동기화 기능 사용 불가
• OneDrive 자동 연동 등의 기능 제한
• 기존 사용자 프로필 이전 필요 가능

방법 4: RDP 연결 시 스마트 카드 또는 비지니스용 Windows Hello 활성화

Windows의 원격 데스크톱 연결 설정에서 특정 옵션을 활성화하여 문제를 해결할 수 있습니다.

단계별 절차

1단계: 원격 데스크톱 연결 설정 열기

1
2

1. 시작 메뉴에서 "원격 데스크톱 연결" 검색 및 실행
2. 또는 Win + R → "mstsc" 입력 후 실행

2단계: 고급 설정으로 이동

1
2
3

1. 원격 데스크톱 연결 창에서 "옵션 표시" 클릭
2. "로컬 리소스" 탭 클릭
3. "로컬 장치 및 리소스" 섹션 찾기

3단계: 스마트 카드 또는 비지니스용 Windows Hello 활성화

1
2
3
4
5
6
7

1. "스마트 카드 또는 비지니스용 Windows Hello" 옵션 체크
2. 필요시 다른 옵션도 함께 설정:
   - WebAuthn(Windows Hello 또는 보안 키)
   - 그룹
   - 위치
   - 드라이브
   - 기타 지원되는 다른 PnP(플러그 앤 플레이) 장치

4단계: 연결 설정 저장 및 적용

1
2
3
4

1. "일반" 탭으로 이동
2. 컴퓨터 이름에 VM 주소 입력 (localhost 또는 VM IP)
3. "저장" 버튼 클릭하여 설정 저장
4. "연결" 버튼으로 연결 시도

Hyper-V에서 적용하는 방법

Hyper-V의 고급 세션 모드도 내부적으로 RDP를 사용하므로, 이 설정이 도움이 될 수 있습니다:

1
2
3
4
5
6

# PowerShell 관리자 권한으로 실행
# VM에 대한 Enhanced Session 설정 확인
Get-VMHost | fl *Enhanced*

# Enhanced Session Mode 활성화
Set-VMHost -EnableEnhancedSessionMode $true

장단점

장점:

• Windows Hello를 VM에서 비활성화하지 않아도 됨
• RDP 프로토콜 레벨에서 인증 방식 변경
• 비지니스용 Windows Hello 지원
• 보안성 유지 가능

단점:

• 모든 환경에서 작동하지 않을 수 있음
• 비지니스용 Windows Hello가 구성되어 있어야 효과적
• 일반 Windows Hello PIN과는 다른 방식

주의사항

• 비지니스용 Windows Hello는 일반 Windows Hello와 다릅니다
• 조직/회사에서 관리하는 Windows Hello for Business 환경에서 더 효과적
• 개인 PC에서는 방법 2(Windows Hello 비활성화)가 더 간단할 수 있음

언제 이 방법을 사용하나요?

이 방법은 다음 상황에서 유용합니다:

• 비지니스용 Windows Hello가 이미 구성된 환경
• 조직 정책상 Windows Hello를 비활성화할 수 없는 경우
• VM에서도 강력한 인증을 유지해야 하는 경우
• 보안 컴플라이언스 요구사항이 있는 경우

추가 팁 및 문제 해결

원격 데스크톱 연결 최적화

원격 환경에서 Hyper-V를 사용할 때 추가 권장사항:

1. 안정적인 네트워크 연결 유지

   • 원격 데스크톱 연결이 끊기면 VM 세션도 영향을 받을 수 있습니다
   • 가능하면 유선 연결 사용을 권장합니다

2. RDP 세션 설정 조정

   • 원격 데스크톱 연결 시 “컴퓨터 구성 저장"으로 설정을 보관하세요
   • 디스플레이 해상도와 색상 설정을 적절히 조정하여 성능 향상

3. 호스트 PC 성능 고려

   • 원격으로 접속한 호스트에서 VM을 실행하므로 충분한 리소스 필요
   • 최소 16GB RAM, 가능하면 32GB 이상 권장

Hyper-V 설정 확인

원격 데스크톱으로 연결한 호스트에서 고급 세션 모드가 제대로 활성화되어 있는지 확인:

1
2

# PowerShell 관리자 권한으로 실행
Get-VMHost | Select-Object -Property EnableEnhancedSessionMode

결과가 True인지 확인합니다.

VM 설정 확인

특정 VM에 대한 고급 세션 설정 확인:

1
2

# VM 이름을 실제 VM 이름으로 변경
Get-VM -Name "VM이름" | Select-Object -Property EnhancedSessionTransportType

원격 데스크톱 서비스 확인

VM 내부에서 RDP 서비스가 실행 중인지 확인:

1
2

# VM 내부에서 실행
Get-Service TermService

서비스가 실행 중이어야 합니다.

방화벽 설정

드물지만 방화벽이 RDP를 차단하는 경우:

1
2

# VM 내부에서 관리자 권한으로 실행
Enable-NetFirewallRule -DisplayGroup "원격 데스크톱"

참고 자료

• Microsoft Learn - Share devices with your Hyper-V virtual machine (Enhanced Session Mode) — 고급 세션 모드에서 RDP 사용, 장치 공유, Windows Hello 로그인 비활성화 권장 안내 포함.
• Microsoft Learn - Windows Hello for Business overview — Windows Hello·Windows Hello for Business 차이, 인증 방식, 하드웨어 요구사항.
• Microsoft Learn - How Windows Hello for Business works — 비즈니스용 Windows Hello 동작 방식 및 정책 배포.

결론

원인 요약

원격 데스크톱 환경에서 Hyper-V 고급 세션 모드를 사용할 때 Windows Hello 로그인 문제는 이중 RDP 연결 구조와 RDP 프로토콜이 Windows Hello 인증을 지원하지 않는 제약 때문에 발생한다. 사용자 → 호스트(RDP) → VM(고급 세션, 역시 RDP) 구조에서 VM이 Windows Hello를 요구하면 RDP가 이를 처리하지 못해 로그인 화면이 멈춘다.

권장 해결 방법

VM 내부에서 Windows Hello를 비활성화하고 일반 암호 로그인을 사용하는 것이 가장 현실적이고 안정적인 해결책이다.

• 원격 환경에서 안정적인 VM 접속 가능
• Enhanced Session Mode의 모든 편의 기능 사용 가능 (클립보드 공유, 드라이브 리디렉션 등)
• 추가 설정이나 복잡한 구성 불필요
• 호스트 PC에서는 Windows Hello를 계속 사용하여 보안 유지

보안 고려사항

원격으로 접속하는 환경에서는 호스트 PC의 Windows Hello로 1차 보안을 확보하고, VM은 개발·테스트 용도로 일반 암호를 사용해도 무방하다. 필요 시 VM에 복잡한 암호 정책을 적용해 보안을 보완할 수 있다.

한 줄 요약

원격 RDP → Hyper-V 고급 세션으로 Windows VM 접속 시 로그인 화면이 멈추면, VM 설정에서 Windows Hello 로그인을 끄고 암호 로그인을 사용하면 고급 세션 기능을 그대로 쓸 수 있다.

향후 전망

Windows 11의 Microsoft 계정·Windows Hello 정책과 원격 근무 증가로 같은 증상이 더 자주 보고된다. Microsoft 공식 문서에서도 고급 세션 사용 시 VM 내 Windows Hello 로그인을 끄도록 안내하고 있으며, RDP 프로토콜의 구조적 한계로 단기간 내 프로토콜 수준의 근본 해결은 어려울 것으로 보인다.