RDP over UDP vs TCP: 성능, 조정 및 모범 사례

소개

원격 데스크톱 프로토콜(RDP)은 소규모 IT 지원 설정에서 대규모 기업 환경에 이르기까지 많은 원격 액세스 배포를 뒷받침합니다. 그러나 하나의 주요 성능 요소는 종종 간과됩니다: RDP 트래픽이 주로 TCP 또는 UDP를 통해 흐르는지 여부입니다. 이 선택은 대기 시간, 응답성 및 사용자 경험에 직접적인 영향을 미치며, 특히 WAN 및 VPN을 통해서 그렇습니다. 이 가이드에서는 RDP가 UDP와 TCP를 어떻게 사용하는지, 각 전송 방식이 언제 가장 잘 작동하는지, 그리고 더 원활하고 신뢰할 수 있는 원격 세션을 제공하기 위해 Windows와 네트워크에서 무엇을 조정할 수 있는지 설명합니다.

원격 성능을 위한 RDP 전송 선택이 중요한 이유는 무엇인가요?

RDP 더 이상 단순한 "스크린 스크래퍼"가 아닙니다. 현대 RDP는 압축된 그래픽, 멀티미디어, 입력 이벤트, 인쇄 데이터 및 클립보드 내용을 전달합니다. 이러한 각 스트림은 지연 및 패킷 손실에 다르게 반응합니다. 잘못된 전송 방식이 사용되면 사용자는 대역폭이 괜찮아 보일 때도 지연, 비디오 끊김 또는 느린 키보드 반응을 경험합니다.

RDP가 UDP를 선호하는 시점과 TCP를 이해하는 것은 IT 팀이 게이트웨이, VPN 및 방화벽 규칙 실제 성능을 지원하는 모니터링 대시보드의 "녹색 체크"만 있는 것이 아니라. 이는 일부 사용자가 광섬유를 통해 연결하고 다른 사용자는 바쁜 VPN 집중기나 모바일 핫스팟을 통해 연결하는 혼합 환경에서 특히 중요합니다.

TCP와 UDP의 RDP 기본 사항은 무엇인가요?

• TCP가 보장하는 것
• UDP 최적화 내용

TCP가 보장하는 것(그리고 왜 지연 시간이 발생하는지)

전송 제어 프로토콜(TCP)은 연결 지향적입니다. TCP 세션을 설정하고, 패킷 수를 세며, 이를 확인하고, 손실된 패킷을 재전송합니다. 이 설계는 순서대로 신뢰할 수 있는 전송을 보장하며, 이는 파일 전송, 웹 트래픽 및 이메일에 이상적입니다. 그러나 모든 재전송은 지연을 추가하고, 패킷 손실이 발생할 때 혼잡 제어 알고리즘이 처리량을 더욱 저하시킵니다.

RDP의 경우, 이는 단일 손실 패킷이 복구가 완료될 때까지 이후 화면 업데이트를 차단할 수 있음을 의미합니다. 높은 지연 시간이나 손실이 있는 링크에서는 TCP가 지터를 과장하고 마우스와 키보드가 지연되는 "끈적한" 데스크탑을 생성할 수 있습니다.

UDP 최적화 내용(및 문제가 발생할 수 있는 곳)

사용자 데이터그램 프로토콜(UDP)은 연결이 없고 경량입니다. UDP는 상태를 추적하거나 핸드셰이크를 수행하거나 전달을 보장하지 않으며, 단순히 데이터그램을 전송하고 애플리케이션이 손실이나 순서를 처리하도록 합니다. 오버헤드가 없기 때문에 UDP는 음성, 비디오 및 게임에 매력적이며, 이 경우 적시성이 완벽한 전달보다 더 중요합니다.

RDP가 UDP를 사용할 때, 그래픽과 입력은 더 낮은 지연 시간과 더 높은 처리량으로 전달될 수 있습니다. 프레임이 손실되면, RDP는 대기하는 대신 더 새로운 프레임을 보낼 수 있습니다. 그러나 패킷 손실이나 지터가 높으면 세션에서 눈에 띄는 아티팩트나 "블록형" 새로 고침이 나타날 수 있습니다. 이는 프로토콜이 보장된 재구성보다 신선도를 우선시하기 때문입니다.

현대 RDP가 TCP와 UDP를 함께 사용하는 방법은 무엇인가요?

• RDP 8.0 이후의 이중 전송 아키텍처
• RemoteFX, 그래픽 및 입력 오버 UDP

RDP 8.0 이후의 이중 전송 아키텍처

원래 RDP는 TCP에만 의존했습니다. RDP 8.0(Windows 8 및 Windows Server 2012)부터 Microsoft는 TCP와 UDP를 함께 사용하는 이중 전송 모델을 도입했습니다. RDP는 여전히 기능과 보안을 협상하기 위해 TCP 연결로 시작한 다음, 미디어 및 그래픽을 위한 병렬 UDP 채널을 설정하려고 시도합니다.

UDP가 사용 가능하고 정책이 허용하는 경우, RDP는 적절한 트래픽을 UDP 채널로 전환하면서 TCP를 제어 및 대체 경로로 유지합니다. UDP를 설정할 수 없는 경우, RDP는 완전히 TCP를 통해 계속 진행하여 구형 네트워크 및 제한적인 방화벽과의 호환성을 보장합니다.

RemoteFX, 그래픽 및 입력 오버 UDP

이중 채널 모델을 사용하면 RDP가 UDP를 통해 압축된 그래픽, 비트맵 및 일부 입력 이벤트를 전송할 수 있습니다. 이는 일반적인 WAN 시나리오에서 응답성을 개선하며, 특히 데스크톱이 풍부한 UI, 스트리밍 대시보드 또는 비디오를 표시할 때 그렇습니다. RemoteFX 및 관련 최적화는 이러한 동작을 염두에 두고 설계되었습니다.

실제로 사용자는 UDP가 안정적인 네트워크에서 활성화될 때 더 빠른 창 이동, 부드러운 스크롤 및 더 빠른 화면 재페인트를 경험합니다. 관리 측면에서 이 동작은 대부분 자동입니다. 주요 작업은 UDP가 허용되고 그룹 정책이 이를 비활성화하지 않도록 하는 것입니다.

UDP와 TCP 성능은 어떻게 비교되나요?

• 나란히 비교 표
• 실용적인 시나리오: WAN, VPN 및 LAN

나란히 비교 표

기능 / 시나리오	TCP를 통한 RDP	RDP over UDP
신뢰성	고급, 재전송이 포함된 주문형 배송	최선의 노력, 배송 또는 주문 보장 없음
지연 시간	더 높음, 특히 손실 하에서	더 낮고, 지터에 더 관대함
처리량	인정 및 혼잡 제어로 감소됨	더 높은, 적은 프로토콜 오버헤드
최고의 네트워크 조건	고손실, 예측 불가능하거나 심하게 형성된 링크	안정적이고 손실이 적으며 지연 시간이 짧은 네트워크
방화벽/VPN 호환성	우수함; TCP 3389 사용	명시적인 UDP 3391 규칙이 방화벽 및 VPN에서 필요할 수 있습니다.
대체 동작	항상 이용 가능	사용 가능할 때 사용되며, 문제가 발생할 경우 TCP로 대체됩니다.
사용자 인식	안전하지만 가끔 지연됩니다	“빠르고 유동적”일 때 조건이 적합합니다.

실험실 및 현장 테스트에서 UDP를 통한 RDP는 깨끗한 네트워크에서 TCP의 유효 처리량을 여러 배로 증가시킬 수 있으며, 이는 더 높은 해상도, 더 나은 비디오 재생 및 더 부드러운 커서 움직임으로 이어집니다. 실제 개선 사항은 대역폭, 손실 및 네트워크가 트래픽을 얼마나 공격적으로 조정하는지에 따라 달라집니다.

실용적인 시나리오: WAN, VPN 및 LAN

유선 LAN에서 지연 시간이 짧고 패킷 손실이 거의 없는 경우, UDP가 일반적으로 명확한 승자입니다. 사용자는 다른 층이나 건물에서 연결할 때도 거의 로컬에 가까운 반응성을 누릴 수 있습니다. 관리되는 WAN 또는 SD-WAN 링크를 통해서도 UDP는 더 나은 성능을 발휘하는 경향이 있습니다. QoS 구성이 완료되었으며 패킷 손실이 적당하게 유지됩니다.

과도하게 혼잡한 VPN, 모바일 핫스팟 또는 위성 링크에서는 TCP가 더 안정적인 경험을 제공할 수 있습니다. 그 혼잡 제어 메커니즘은 다양한 조건에 적응할 수 있는 반면, UDP 트래픽은 끊기거나 시각적으로 저하될 수 있습니다. 이러한 시나리오에서는 약간 느리더라도 예측 가능한 세션이 우선입니다.

RDP 세션에 대해 UDP를 선호해야 할 때는?

• RDP over UDP에 대한 이상적인 조건
• TCP가 더 안전한 기본값일 때

RDP over UDP에 대한 이상적인 조건

대부분의 현대 배포에서는 가능한 경우 UDP가 목표 경로가 되어야 합니다. 네트워크의 지연 시간이 안정적이고 손실이 적으며 적절한 대역폭 여유가 있을 때 UDP가 이상적입니다. 고속 LAN, 잘 관리된 MPLS SD-WAN 회선 또는 데이터 센터-지사 링크는 일반적으로 이 프로필에 적합합니다.

UDP는 최종 사용자가 미디어가 풍부한 애플리케이션, 자주 업데이트되는 대시보드 또는 화면의 큰 부분을 다시 그리는 UI 프레임워크로 작업할 때 더 나은 선택입니다. 이러한 작업 부하의 경우, 지연 시간을 줄이는 것이 원시 신뢰성을 극대화하는 것보다 인식된 성능에 더 큰 영향을 미칩니다.

TCP가 더 안전한 기본값일 때

TCP는 적대적이거나 예측할 수 없는 네트워크에서 여전히 유용합니다. 사용자가 호텔 Wi-Fi, 공공 핫스팟 또는 잦은 마이크로 중단이 있는 경로를 통해 연결할 경우, TCP의 신뢰성과 혼잡 동작은 더 관대할 수 있습니다. 마찬가지로, 일부 오래된 VPN 장비, 프록시 또는 검사 장치가 UDP 3391을 잘못 처리하여 RDP가 구성에 관계없이 TCP를 사용하도록 강제합니다.

규제 또는 감사 요구 사항이 간단하고 쉽게 설명할 수 있는 네트워크 규칙을 요구하는 경우, 관리자는 특정 사용자 그룹에 대해 TCP를 표준화하기로 선택할 수 있습니다. 이러한 경우 목표는 명확성과 준수이며, UDP는 신뢰할 수 있는 사이트와 관리되는 엔드포인트를 위해 예약됩니다.

RDP를 최적의 UDP 사용을 위해 조정하는 방법은?

• RDP 버전 및 기능 확인
• 필수 포트 열기 및 확인
• UDP 및 경험을 위한 그룹 정책 설정
• QoS 및 네트워크 수준 최적화
• 모니터링할 RDP 전송 방법

RDP 버전 및 기능 확인

UDP 지원은 RDP 8.0부터 시작됩니다. RDP 클라이언트와 호스트가 Windows 8 / 10 / 11 또는 Windows Server 2012 이상과 같은 지원되는 버전을 실행하는지 확인하십시오. Microsoft Learn에 따르면, 최신 RDP 기능을 활성화하려면 종종 특정 Windows 업데이트와 Remote Desktop Services 역할이 필요합니다.

Windows 클라이언트에서 레지스트리에서 핵심 RDP 버전을 확인할 수 있습니다:

reg query "HKLM\SOFTWARE\Microsoft\Terminal Server Client" /v RDPCoreVersion

이전 도메인에서는 그룹 정책이 UDP를 비활성화하는 호환성 모드로 RDP를 강제하지 않는지 확인하십시오.

필수 포트 열기 및 확인

RDP 사용 TCP 포트 3389 기본 연결을 위해 UDP 포트 3391을 최적화된 미디어 경로에 사용합니다. 방화벽, 라우터 및 VPN 게이트웨이는 해당되는 경우 양방향에서 이러한 포트를 허용해야 합니다.

NAT 또는 검사를 수행하는 장치를 문서화하고 UDP 3391이 조용히 드롭되거나 속도가 제한되지 않는지 확인하십시오. 다음과 같은 간단한 도구를 사용하십시오. Test-NetConnection UDP 패킷이 서버에 도달하고 응답이 클라이언트 측에서 보이는지 확인하기 위한 패킷 캡처 또는 패킷 캡처.

UDP 및 경험을 위한 그룹 정책 설정

RDP 호스트 또는 세션 호스트에서 그룹 정책 관리자를 열고 다음으로 이동하십시오:

컴퓨터 구성 > 관리 템플릿 > Windows 구성 요소 > 원격 데스크톱 서비스 > 원격 데스크톱 세션 호스트 > 원격 세션 환경

키 설정에는 다음이 포함됩니다:

• 경험 최적화 또는 RD 게이트웨이에 대한 유사한 경험 최적화.
• UDP 전송 사용 → 사용으로 설정.

UDP를 활성화하면서 경험 최적화를 동시에 비활성화하는 상충하는 정책을 피하십시오. 변경 후, 실행하십시오. gpupdate /force UDP가 이제 사용 중임을 확인하기 위해 테스트 세션을 재연결합니다.

QoS 및 네트워크 수준 최적화

더 큰 환경에서는 서비스 품질(QoS) 정책이 RDP 응답성을 극적으로 향상시킬 수 있습니다. RDP 트래픽, 특히 UDP 흐름에 적절한 DSCP 값을 태그하고 WAN 라우터가 이러한 마킹을 준수하도록 하십시오. RDP 트래픽을 대량 전송과 경쟁하게 두기보다는 우선 순위 또는 보장된 전달 클래스에 배치하는 것을 고려하십시오.

동시에 VPN 및 WAN 링크 전반에 걸쳐 MTU를 일관되게 유지하여 UDP 성능에 영향을 줄 수 있는 단편화를 피해야 합니다. 네트워크 팀은 원격 데스크톱 트래픽이 사용하는 경로에서 손실 및 지터를 모니터링하여 문제 있는 회로를 식별해야 합니다.

모니터링할 RDP 전송 방법

Windows는 Event Viewer의 RemoteDesktopServices-RdpCoreTS 로그에서 RDP 전송 선택 사항을 기록합니다. 일반적인 이벤트에는 다음이 포함됩니다:

• 이벤트 ID 131: TCP만 사용하여 RDP 세션이 설정되었습니다.
• 이벤트 ID 132: 사용 중인 UDP 전송
• 이벤트 ID 140: UDP 시도가 있었으나 TCP로 전환됨

사용자가 "느린" 데스크톱을 보고할 때 이러한 이벤트를 검토하십시오. 이를 네트워크 메트릭 및 패킷 캡처와 결합하여 수정 사항이 UDP 활성화, QoS 조정 또는 네트워크 경로 단순화인지 결정하십시오.

RDP가 문제 해결을 위해 TCP로 돌아가는 이유는 무엇인가요?

• 연결성 및 방화벽 문제
• 정책, 클라이언트 및 서버 불일치

연결성 및 방화벽 문제

RDP가 최신 클라이언트와 서버에서도 지속적으로 TCP를 사용하는 경우, 기본 연결 확인부터 시작하십시오. Windows 호스트에서만이 아니라 UDP 3391이 끝에서 끝까지 허용되는지 확인하십시오. TCP 3389를 허용하지만 UDP 3391을 조용히 차단하는 방화벽은 RDP를 TCP 전용 모드로 강제할 것입니다.

원격 사이트의 경우 VPN 정책이나 SD-WAN 장치가 UDP를 재작성하거나 차단하지 않는지 확인하십시오. 일부 보안 스택은 RDP의 UDP 채널에 대한 명시적인 규칙이나 "애플리케이션 정의"를 요구합니다. 터널 양쪽에서 패킷 캡처를 수행하면 UDP 패킷이 왕복하는지 여부를 신속하게 확인할 수 있습니다.

정책, 클라이언트 및 서버 불일치

그룹 정책은 네트워크에서 허용하더라도 UDP 전송을 명시적으로 비활성화할 수 있습니다. RDP 설정에 대해 컴퓨터 및 사용자 정책을 모두 확인하고 이전 템플릿이 최신 기본값을 덮어쓰지 않는지 확인하십시오. 마찬가지로, 구형 RDP 클라이언트는 전체 UDP 지원이 부족하거나 로컬 정책에 의해 제한될 수 있습니다.

서버의 원격 데스크톱 서비스 구성과 도메인 보안 기준이 일치하는지 확인하십시오. 이전 프로젝트의 하드닝 템플릿은 때때로 최신 프로토콜 기능을 비활성화합니다. 의심스러운 경우, 현재 Microsoft 기준 및 Windows Server 버전에 대한 문서와 설정을 비교하십시오.

TSplus Remote Access로 RDP 경험을 향상시키세요.

RDP 성능 문제 해결 또는 더 확장 가능한 원격 액세스 아키텍처 계획 중이신가요? TSplus 원격 액세스 웹을 통해 경량 게이트웨이, TLS 보안 및 최적화된 RDP 처리를 사용하여 데스크톱과 애플리케이션을 게시할 수 있습니다.

안전하고 저렴한 앱 배포를 Citrix 수준의 복잡성 없이 원하십니까? 무료 TSplus 체험을 시작하고 빠르고 UDP 최적화된 원격 세션을 얼마나 빨리 배포할 수 있는지 확인해 보세요.

결론

RDP over UDP와 TCP 사이에 단일 "승자"는 없습니다. UDP는 깨끗하고 잘 관리된 네트워크에서 낮은 지연 시간과 높은 처리량 세션을 제공하여 최고의 사용자 경험을 제공합니다. TCP는 조건이 덜 예측 가능할 때 호환성과 복원력을 위한 중추 역할을 합니다.

진정한 목표는 현대 RDP가 가능한 곳에서 UDP를 사용하도록 하면서 필요할 때 TCP로 자동으로 전환되도록 하는 것입니다. 버전을 검증하고, 올바른 포트를 열고, 그룹 정책을 조정하며, 전송 사용량을 모니터링함으로써 빠르고 신뢰할 수 있는 원격 데스크톱을 제공할 수 있습니다. TSplus 원격 액세스 사용자에게 일관되고 안전한 플랫폼으로 조정할 수 있도록 도와줍니다.