혼잡 회피 메커니즘

슬로우 스타트는 TCP 혼잡 제어 알고리즘의 초기 단계로, 네트워크의 이용 가능한 대역폭을 탐색하기 위해 혼잡 윈도우 크기를 지수 함수적으로 증가시키는 방식이다. 이 메커니즘은 연결이 시작될 때나 혼잡이 감지된 후에 활성화된다. 송신자는 초기에 작은 혼잡 윈도우(일반적으로 1 또는 2개의 MSS)로 데이터 전송을 시작하고, 각 ACK를 수신할 때마다 윈도우 크기를 1 MSS씩 증가시킨다. 이는 매 RTT마다 혼잡 윈도우 크기가 두 배로 증가하는 효과를 낳는다.

슬로우 스타트의 주요 목적은 네트워크에 갑작스러운 부하를 주지 않으면서 가능한 빠르게 최적의 전송 속도에 도달하는 것이다. 이 과정은 세 가지 조건 중 하나가 발생할 때 종료된다. 첫째, 혼잡 윈도우가 미리 설정된 슬로우 스타트 임계값에 도달하면 알고리즘은 혼잡 회피 단계로 전환된다. 둘째, 패킷 손실이 감지되면, 이는 네트워크 혼잡의 신호로 간주되어 슬로우 스타트를 중단하고 손실 복구 절차를 시작한다. 셋째, 수신자 광고 윈도우에 의해 제한을 받는 경우이다.

슬로우 스타트의 동작은 다음 표로 요약할 수 있다.

이 알고리즘은 네트워크 용량을 빠르게 탐색할 수 있지만, 높은 대역폭과 긴 지연을 가진 네트워크에서는 윈도우가 충분히 커지기까지 많은 RTT가 소요될 수 있다는 단점이 있다. 이러한 문제를 완화하기 위해 더 큰 초기 윈도우를 사용하거나 혼잡 윈도우를 한 번에 여러 세그먼트만큼 증가시키는 확장 메커니즘도 제안되었다.

혼잡 회피 단계는 슬로우 스타트 단계를 통해 혼잡 윈도우가 혼잡 임계값에 도달한 후 시작됩니다. 이 단계에서는 네트워크가 수용 가능한 한계에 근접했다고 판단하여, 윈도우 크기를 더욱 신중하게 증가시킵니다.

슬로우 스타트 단계에서 윈도우 크기가 지수적으로 증가하는 것과 달리, 혼잡 회피 단계에서는 가법적 증가 방식을 사용합니다. 일반적으로 매 왕복 시간마다, 또는 매 승인된 세그먼트마다 혼잡 윈도우 크기를 1 MSS(Maximum Segment Size)만큼 선형적으로 증가시킵니다. 이는 네트워크에 새로운 패킷을 점진적으로 주입하여 혼잡을 유발하지 않으면서도 가능한 대역폭을 활용하는 데 목적이 있습니다.

혼잡이 감지되면, 즉 패킷 손실이 발생하면 혼잡 임계값이 현재 혼잡 윈도우 크기의 절반으로 설정됩니다. 그 후, 혼잡 윈도우 크기는 1 MSS로 줄어들거나(전통적인 TCP 타호 방식) 새로운 혼잡 임계값으로 설정되어(TCP 리노 방식) 슬로우 스타트 단계부터 다시 시작합니다. 이 조치는 네트워크의 혼잡을 완화시키기 위한 즉각적인 반응입니다.

이 메커니즘은 TCP가 네트워크의 공정한 대역폭 공유를 유도하는 핵심 요소입니다. 여러 TCP 연결이 동일한 병목 구간을 공유할 경우, 각 연결은 주기적으로 패킷 손실을 경험하고 그에 따라 전송 속도를 줄임으로써, 결과적으로 대역폭을 상대적으로 공정하게 나누어 갖는 경향이 생깁니다.

빠른 재전송은 TCP 혼잡 제어 알고리즘의 핵심 구성 요소 중 하나로, 패킷 손실을 감지하고 복구하는 속도를 높여 전체적인 처리량을 개선하는 메커니즘이다. 이 메커니즘은 슬로우 스타트나 혼잡 회피 단계에서의 혼잡 창 크기 조절과는 별도로, 손실 감지에 대한 논리를 담당한다.

기본적인 TCP의 재전송은 재전송 타임아웃에 의존한다. 송신 측은 패킷을 보낸 후 타이머를 설정하고, ACK를 일정 시간 내에 받지 못하면 해당 패킷이 손실되었다고 판단하여 재전송한다. 그러나 RTO 값은 일반적으로 왕복 지연 시간의 평균값보다 훨씬 크게 설정되므로, 손실 발생부터 재전송까지의 지연이 크다. 빠른 재전송은 중복된 ACK를 활용하여 RTO 만료를 기다리지 않고 조기에 손실을 추정하고 재전송을 유발한다.

구체적인 동작은 다음과 같다. 송신 측이 순서 번호가 높은 패킷을 먼저 보내면, 수신 측은 기대하는 순서의 패킷이 도착하지 않았더라도 도착한 패킷에 대해 중복 ACK를 보낸다. 송신 측이 동일한 순서 번호에 대한 중복 ACK를 3개 연속으로 수신하면[1], 해당 순서의 패킷이 손실되었다고 간주하고 즉시 해당 패킷을 재전송한다. 이후 빠른 회복 알고리즘이 동작하여 혼잡 창을 조정하고 네트워크의 혼잡 상태를 이어가게 된다.

이 메커니즘의 주요 이점은 타임아웃을 기다리지 않아도 되어 지연을 줄일 수 있다는 점이다. 특히 지연이 크거나 변동성이 있는 네트워크에서 RTO 값이 부정확할 수 있어 빠른 재전송의 효용이 더 크다. 그러나 연속적인 패킷 손실이 발생하거나 수신 측의 지연 ACK 정책으로 인해 중복 ACK가 충분히 생성되지 않는 경우에는 빠른 재전송이 동작하지 않을 수 있으며, 이때는 기존의 재전송 타임아웃에 의존하게 된다.

빠른 회복은 TCP 혼잡 제어 알고리즘의 한 단계로, 빠른 재전송 단계 이후에 활성화된다. 이 메커니즘의 주요 목적은 세그먼트 손실이 네트워크의 심각한 혼잡을 의미하지 않을 가능성이 있다고 가정하고, 불필요하게 슬로우 스타트 단계로 되돌아가는 것을 피하여 처리량을 보다 빠르게 회복하는 데 있다.

빠른 회복이 시작되면, 혼잡 창 크기(cwnd)는 손실이 발생한 시점의 값의 절반으로 설정되며, 혼잡 창 임계값(ssthresh)도 이 값으로 갱신된다. 이후 중복 ACK를 수신할 때마다 cwnd를 1 MSS씩 증가시킨다. 이는 수신 측이 새로운 데이터를 성공적으로 수신했음을 의미하며, 따라서 네트워크에 추가적인 데이터를 보낼 여유가 있다고 판단하기 때문이다. 손실된 세그먼트에 대한 재전송이 확인되고 새로운 비중복 ACK가 도착하면, cwnd를 ssthresh 값으로 설정하고 정상적인 혼잡 회피 단계로 진입한다.

다음 표는 빠른 재전송과 빠른 회복 과정에서 주요 변수의 변화를 요약한다.

이 방식은 전통적인 타호 알고리즘이 세 번의 중복 ACK 이후에 cwnd를 1 MSS로 줄이고 슬로우 스타트부터 다시 시작하는 것에 비해 훨씬 더 공격적이다. 빠른 회복은 단일 패킷 손실이 전체 혼잡의 붕괴를 의미하지 않을 때 처리량 저하를 크게 완화한다. 이는 현대 네트워크에서 흔히 발생하는 임의적 손실이나 순간적인 혼잡에 대해 TCP의 성능을 크게 향상시킨다.

RED는 AQM 기법 중 하나로, 네트워크 혼잡이 완전히 발생하기 전에 미리 패킷을 폐기하여 송신자에게 혼잡 신호를 조기에 전달하는 것을 목표로 한다. 전통적인 테일 드롭 방식은 큐가 가득 찰 때까지 패킷을 버퍼링하다가 오버플로우가 발생하면 새로 도착하는 패킷을 모두 폐기하는 방식이다. 이 방식은 큐잉 지연을 증가시키고, 여러 TCP 연결이 동시에 패킷을 잃어 급격한 혼잡 창 감소를 유발하는 글로벌 싱크로나이제이션 현상을 일으킬 수 있다.

RED는 이러한 문제를 완화하기 위해 평균 큐 길이를 계산하고, 두 개의 사전 설정된 임계값(최소 임계값, 최대 임계값)을 기준으로 확률적으로 패킷을 표시(드롭 또는 ECN 표시)한다. 평균 큐 길이가 최소 임계값 미만이면 모든 패킷을 통과시키고, 최대 임계값을 초과하면 모든 패킷을 표시한다. 두 임계값 사이의 영역에서는 평균 큐 길이에 비례하는 확률로 패킷을 표시한다. 이는 혼잡을 사전에 방지하고, 큐 길이를 안정적으로 유지하며, 버퍼 블로트를 감소시키는 효과가 있다.

RED의 핵심 매개변수와 동작은 다음 표와 같다.

RED는 혼잡을 조기에 알리고 큐 지연을 관리하는 데 효과적이지만, 적절한 매개변수 설정이 어렵고 다양한 트래픽 조건에서 성능이 민감하게 변할 수 있다는 비판도 존재한다. 이후 이러한 한계를 보완한 Adaptive RED나 WRED 같은 변형 알고리즘이 제안되었다.

CoDel은 네트워크 혼잡을 관리하기 위한 능동적 큐 관리 알고리즘이다. 버퍼블로트 현상을 해결하는 데 중점을 두고 설계되었으며, 지연 시간을 직접 측정하고 제어하는 방식을 사용한다. 기존의 RED (Random Early Detection)가 큐 길이를 기준으로 패킷을 조기에 폐기하는 반면, CoDel은 패킷이 큐에서 대기하는 시간(소위 *큐잉 지연*)을 주요 메트릭으로 삼는다. 이는 지나치게 큰 버퍼로 인해 발생하는 과도한 지연을 효과적으로 방지한다.

CoDel의 핵심 동작 원리는 두 가지 임계값, 즉 *간격(interval)*과 *목표(target)*를 기반으로 한다. 간격은 일반적으로 100ms로 설정되며, 이 시간 동안 최소 큐잉 지연이 목표 값(예: 5ms)을 초과하면 혼잡 상태로 판단한다. 알고리즘은 이 상태가 지속될 경우, 패킷을 주기적으로 폐기하여 송신 측의 전송 속도를 조절하도록 유도한다. 이 방식은 버퍼가 가득 차기 전에 지연을 근본적으로 관리하므로, 처리량을 유지하면서도 지연 시간과 지터를 크게 줄일 수 있다.

CoDel의 주요 장점은 매개변수 설정이 간단하고 네트워크 조건 변화에 강건하다는 점이다. RED는 평균 큐 길이에 대한 최소/최대 임계값 등 여러 변수를 조정해야 하지만, CoDel은 대부분의 환경에서 동일한 기본값(간격 100ms, 목표 5ms)을 사용해도 효과적으로 작동한다[3]. 이로 인해 라우터 및 스위치의 버퍼 관리 정책으로 널리 채택되고 있으며, 최근의 TCP 혼잡 제어 알고리즘과도 연동되어 종단 간 성능을 향상시킨다.

처리량은 단위 시간당 네트워크 링크나 종단 시스템을 통해 성공적으로 전달된 데이터의 양을 의미한다. 일반적으로 초당 비트 수(bps)나 초당 패킷 수(pps)로 측정한다. 이는 네트워크나 특정 혼잡 제어 알고리즘의 효율성을 평가하는 가장 기본적인 지표 중 하나이다.

이상적인 처리량은 사용 가능한 물리적 대역폭에 근접하지만, 실제로는 패킷 손실, 재전송, 큐잉 지연, 그리고 혼잡으로 인해 항상 낮아진다. 효과적인 혼잡 회피 메커니즘의 주요 목표는 네트워크가 포화 상태에 도달하지 않도록 하면서도 가능한 최대 처리량을 유지하는 것이다. 예를 들어, TCP 혼잡 제어는 슬로우 스타트와 혼잡 회피 단계를 통해 대역폭-지연 곱을 탐색하고, 손실을 혼잡의 신호로 간주하여 전송 속도를 조정함으로써 장기적으로 안정적인 높은 처리량을 달성하려 한다.

처리량은 종종 지연 시간 및 공정성과 같은 다른 지표와 함께 고려된다. 과도하게 공격적인 전송은 단기적으로 높은 처리량을 얻을 수 있지만, 네트워크에 혼잡을 유발해 결국 패킷 손실과 재전송을 증가시켜 전체 처리량을 떨어뜨리고 지연을 증가시킬 수 있다. 반면, 지나치게 보수적인 접근 방식은 사용 가능한 대역폭을 제대로 활용하지 못해 처리량이 낮아지는 결과를 초래한다. 따라서 최적의 성능은 높은 처리량, 낮은 지연, 그리고 여러 흐름 간의 공정한 자원 분배 사이의 균형을 찾는 데 있다.

지연 시간은 패킷이 송신자에서 수신자까지 전달되는 데 걸리는 총 시간을 의미한다. 이는 전파 지연, 전송 지연, 처리 지연, 그리고 큐잉 지연의 합으로 구성된다. 혼잡 회피 메커니즘은 네트워크 내 패킷의 대기 시간을 증가시키는 주요 원인인 큐잉 지연에 직접적인 영향을 미친다.

네트워크 혼잡이 발생하면 라우터의 버퍼에 패킷이 쌓이게 되고, 이로 인해 큐잉 지연이 증가한다. 전통적인 TCP 혼잡 제어 알고리즘은 패킷 손실을 혼잡의 주요 신호로 간주하여, 손실이 감지된 후 윈도우 크기를 급격히 줄인다. 이는 버퍼를 비우고 지연을 감소시키는 효과가 있지만, 처리량 또한 함께 떨어지는 단점이 있다. 반면, AQM 기법인 RED나 CoDel은 버퍼가 가득 차기 전에 미리 패킷을 표시하거나 폐기하여 큐 길이를 관리함으로써 평균 지연 시간과 지연 변동을 줄이는 것을 목표로 한다.

지연 시간은 특히 실시간 응용 프로그램에서 매우 중요한 성능 지표이다. QUIC 프로토콜은 단일 RTT 내에 연결 설정과 데이터 전송을 가능하게 하여 초기 지연을 줄이고, 더 세분화된 혼잡 제어를 통해 지연 증가를 완화하려고 시도한다. 데이터센터 환경에서는 매우 짧은 지연이 요구되며, DCTCP와 같은 알고리즘이 큐 지연을 명시적인 피드백으로 활용하여 낮은 지연을 유지한다.

지연 시간과 처리량은 일반적으로 트레이드오프 관계에 있다. 큰 버퍼는 처리량을 높일 수 있지만 지연을 증가시키고, 작은 버퍼는 지연을 줄이지만 링크 활용도를 떨어뜨릴 수 있다. 따라서 혼잡 제어의 목표는 높은 처리량과 낮은 지연, 그리고 공정성을 동시에 만족시키는 균형점을 찾는 것이다.

공정성은 네트워크 혼잡 제어 메커니즘의 핵심 성능 평가 지표 중 하나이다. 이는 네트워크 자원(대역폭)을 여러 플로우가 얼마나 공평하게 나누어 사용하는지를 측정한다. 이상적인 공정한 상태는 모든 플로우가 동일한 양의 대역폭을 얻거나, 각 플로우의 필요에 따라 적절하게 할당받는 것이다. 그러나 TCP의 기본적인 애드리티브 인크리즈 멀티플리커티브 디크리즈 방식은 공정성에 있어 한계를 보인다. 예를 들어, RTT가 짧은 플로우는 RTT가 긴 플로우보다 더 빠르게 혼잡 윈도우를 증가시켜 더 많은 대역폭을 차지하는 경향이 있다[6].

다양한 혼잡 제어 알고리즘은 이러한 공정성 문제를 해결하거나 다른 공정성 목표를 추구한다. TCP 뉴렌은 패킷 손실 대신 큐 지연을 혼잡 신호로 사용하여 RTT에 덜 민감한 공정성을 달성하려 한다. TCP BBR은 대역폭과 지연을 직접 측정하여 BDP를 채우는 방식으로 동작하며, 기존 로스 기반 알고리즘과 대역폭을 공유할 때 공정성 문제가 제기되기도 한다. 데이터센터 환경의 DCTCP는 미세한 피드백을 통해 큐 길이를 낮게 유지하면서도 플로우 간 공정한 대역폭 분배를 목표로 한다.

공정성을 정량화하는 대표적인 척도로는 제인 공정성 지수가 널리 사용된다. 이 지수는 0부터 1 사이의 값을 가지며, 1에 가까울수록 모든 플로우가 완벽하게 공평한 대역폭을 할당받았음을 의미한다. 네트워크 설계자는 처리량과 지연 시간을 최적화하면서도 이 공정성 지수를 고려해야 한다. 공정성은 단순히 평등한 분배를 넘어, 우선순위가 높은 트래픽을 위한 가중치 부여나 최소 대역폭 보장과 같은 정책적 요소와도 결합된다.