QAM

진폭 편이 변조는 반송파의 진폭을, 위상 편이 변조는 반송파의 위상을 각각 디지털 데이터에 따라 변경하는 방식이다. QAM은 이 두 가지 변조 방식을 동시에 결합하여 하나의 반송파 신호가 진폭과 위상 정보를 모두 전달하도록 한다. 이를 통해 단일의 변조 심볼이 더 많은 비트 정보를 표현할 수 있게 되어 대역폭 효율성이 크게 향상된다.

결합의 핵심은 두 개의 직교하는 반송파를 사용하는 데 있다. 하나는 동위상 성분을, 다른 하나는 직교 위상 성분을 담당한다. 이 두 성분은 서로 90도의 위상 차이를 가지며, 독립적으로 ASK 방식으로 변조된 후 합성되어 최종적인 QAM 신호를 생성한다. 수신측에서는 다시 이 합성 신호로부터 두 직교 성분을 분리해내어 원래의 디지털 데이터를 복원한다.

이러한 결합은 신호를 2차원 신호 공간 상의 한 점으로 표현할 수 있게 하며, 이 점들의 집합을 성상도라고 부른다. 예를 들어, 진폭과 위상 각각에 4개의 서로 다른 상태를 할당하면 4x4=16개의 고유한 신호 점을 만들 수 있어, 하나의 심볼로 4비트의 정보를 전송하는 16-QAM이 구현된다.

신호 공간 다이어그램은 QAM 신호를 2차원 평면 상의 점으로 시각적으로 표현한 도표이다. 이 다이어그램은 가로축을 동위상(in-phase, I) 성분, 세로축을 직교(quadrature, Q) 성분으로 설정하여 각 심볼이 특정 진폭과 위상을 갖는 복소수 신호 점으로 나타난다. 이 평면을 성상도라고도 부른다.

다이어그램 상에서 각 점은 서로 다른 비트 조합에 대응되며, 점들 사이의 거리는 신호의 구별 가능성과 내잡음성을 결정한다. 일반적으로 점들 사이의 유클리드 거리가 클수록 잡음에 강한 특성을 보인다. 예를 들어, 16-QAM의 성상도는 4x4 격자 형태로 16개의 점이 배열되어 있으며, 64-QAM은 8x8 격자 형태로 64개의 점을 가진다.

이 다이어그램을 통해 변조 방식의 효율성과 강건성을 한눈에 분석할 수 있다. 고차수 QAM일수록 점의 밀도가 높아져 동일한 대역폭으로 더 많은 데이터를 전송할 수 있지만, 점들 사이의 거리가 가까워져 잡음과 간섭에 더 취약해진다[1]. 따라서 신호 공간 다이어그램은 시스템 설계 시 변조 차수와 필요한 신호 대 잡음비 간의 트레이드오프 관계를 이해하는 데 핵심적인 도구이다.

정현파 QAM(Sinusoidal QAM, SQAM)은 펄스 성형(pulse shaping) 기법을 적용하여 대역폭 효율을 높이고 심볼 간 간섭을 줄이도록 설계된 QAM 방식이다. 기존의 직사각형 펄스를 사용하는 QAM은 주파수 영역에서 넓은 부엽(side lobe)을 생성하여 인접 채널 간섭을 유발할 수 있다. SQAM은 변조되는 각 심볼의 펄스 모양을 정현파 형태로 부드럽게 만들어, 이러한 문제를 완화한다.

SQAM의 핵심은 송신 필터의 임펄스 응답을 정현파 곡선의 일부로 설계하는 것이다. 일반적으로 제곱된 코사인 롤오프 필터나 나이퀴스트 필터와 유사한 원리로, 시간 영역에서 더 빠르게 감쇠하는 펄스 형태를 만든다. 이로 인해 생성된 신호의 스펙트럼은 주파수 영역에서 더욱 컴팩트해지며, 부엽의 크기가 크게 감소한다. 결과적으로 동일한 대역폭 내에서 더 많은 데이터를 전송하거나, 동일한 데이터 전송률을 유지하면서 더 좁은 대역폭을 사용할 수 있게 된다.

주요 특성은 다음 표로 정리할 수 있다.

SQAM은 고속 데이터 통신에서 대역폭이 제한된 채널, 예를 들어 케이블 모뎀이나 일부 디지털 마이크로웨이브 링크와 같은 환경에서 유용하게 적용된다. 특히 인접 채널 간의 간섭을 최소화해야 하는 시스템에서 성상도 왜곡을 줄이고 전반적인 비트 오류율(BER) 성능을 개선하는 데 기여한다.

직교 주파수 분할 다중화(OFDM)는 하나의 고속 데이터 스트림을 다수의 저속 부반송파로 나누어 병렬로 전송하는 기술이다. 이때 각 부반송파는 서로 직교하는 관계를 가지므로 스펙트럼이 겹치더라도 신호를 분리해 낼 수 있다. OFDM 시스템에서 각 부반송파의 변조 방식으로 QAM이 널리 채택된다. 이는 QAM이 높은 스펙트럼 효율을 제공하여, 제한된 대역폭 내에서 OFDM의 높은 데이터 전송률 요구사항을 충족시키기 때문이다.

OFDM에서 QAM의 동작 원리는 다음과 같다. 송신측에서는 입력 비트 스트림이 직병렬 변환기를 통해 다수의 병렬 스트림으로 분할된다. 각 스트림은 특정 부반송파에 할당되고, 미리 정의된 성상도(예: 16-QAM, 64-QAM)에 따라 심볼로 맵핑된다. 이렇게 생성된 QAM 심볼들은 역고속 푸리에 변환(IFFT)을 통해 시간 영역의 OFDM 심볼로 변조된다. 수신측에서는 고속 푸리에 변환(FFT)을 수행하여 주파수 영역의 QAM 심볼들을 복원한 후, 복조 과정을 거쳐 원래의 비트 스트림을 재구성한다.

OFDM과 QAM의 결합은 다음과 같은 주요 장점을 제공한다.

이러한 특성으로 인해 OFDM과 QAM의 조합은 Wi-Fi(IEEE 802.11a/g/n/ac/ax), 디지털 비디오 방송(DVB-T, DVB-C), 4G LTE, 5G NR 및 광대역 유선 통신(예: DSL) 등 현대의 다양한 광대역 통신 시스템의 핵심 변조 기술로 자리 잡았다.

QAM의 변조 차수는 신호 공간 다이어그램 상의 점(심볼) 개수로 정의되며, 이는 한 번에 전송할 수 있는 비트 수를 결정한다. 일반적인 변조 방식으로는 16-QAM, 64-QAM, 256-QAM 등이 널리 사용된다. 숫자는 신호 공간의 총 심볼 수를 나타내며, 이는 2의 거듭제곱 형태를 가진다. 예를 들어, 16-QAM은 16개의 서로 다른 심볼을 사용하여 한 심볼당 4비트(log₂16 = 4)의 정보를 전송한다.

각 방식의 성상도와 비트 매핑은 다음과 같은 특징을 가진다.

변조 차수가 높아질수록 동일 대역폭 내에서 더 높은 데이터 전송률을 달성할 수 있다. 그러나 인접 심볼 간의 거리가 가까워지기 때문에, 동일한 신호 대 잡음비 조건에서 비트 오류율이 증가하는 단점이 생긴다. 따라서 고차 QAM(예: 256-QAM)을 안정적으로 사용하려면 채널 상태가 매우 양호해야 한다. 실제 시스템에서는 채널 코딩 기술과 결합하여 잡음 및 간섭에 대한 내성을 보완한다.

성상도는 QAM 신호의 모든 가능한 상태를 복소 평면상의 점으로 나타낸 그림이다. 각 점은 특정한 진폭과 위상의 조합, 즉 하나의 심볼을 의미한다. 성상도는 변조 방식의 특성을 직관적으로 보여주며, 16-QAM은 16개의 점, 64-QAM은 64개의 점, 256-QAM은 256개의 점을 정사각형 격자 형태로 배열한다. 점들 사이의 최소 거리인 유클리드 거리는 잡음에 대한 신호의 내성을 결정하는 핵심 요소이다. 고차 QAM일수록 점의 밀도가 높아져 최소 거리가 줄어들고, 이는 동일한 신호 대 잡음비 조건에서 더 높은 비트 오류율을 초래한다.

비트 매핑은 디지털 비트 열을 성상도 위의 특정 심볼에 할당하는 규칙이다. 가장 일반적인 방식은 그레이 부호를 사용하는 것이다. 그레이 부호는 인접한 심볼들 사이에 1비트만 차이가 나도록 비트를 배치한다. 이는 최대 우도 복조 시, 가장 흔한 오류인 인접 심볼로의 오판정이 발생했을 때 오류 비트 수를 최소화하는 데 기여한다. 예를 들어, 16-QAM의 경우 4비트(0000부터 1111까지)가 4x4 격자의 16개 점에 그레이 부호 순서로 매핑된다.

성상도의 모양과 비트 매핑 방식은 시스템 설계의 중요한 부분이다. 정사각형 격자 외에도 원형 배열 등 다른 형태의 성상도가 특정 응용 분야에서 사용되기도 한다. 비트 매핑은 하드웨어 구현의 복잡성과 전력 효율성에도 영향을 미치며, 채널 코딩과 결합되어 전체적인 시스템 성능을 최적화한다.

QAM의 대역폭 효율성은 단위 대역폭당 전송할 수 있는 데이터의 양을 나타내는 척도이다. 이는 일반적으로 비트/초/헤르츠(bps/Hz) 단위로 표현된다. QAM은 하나의 반송파 신호에 진폭과 위상 정보를 동시에 실어 보내기 때문에, 동일한 대역폭을 사용하는 PSK 방식보다 더 높은 스펙트럼 효율을 달성한다.

성상도의 점 수가 증가할수록 대역폭 효율성은 향상된다. 이론적으로 M-ary QAM의 대역폭 효율성은 log₂(M) bps/Hz이다. 주요 변조 방식별 이론적 대역폭 효율성은 다음과 같다.

그러나 높은 대역폭 효율성을 얻는 대신, 신호 대 잡음비 요구 조건이 가파르게 상승한다. 256-QAM은 16-QAM보다 4배 많은 데이터를 같은 대역폭으로 전송할 수 있지만, 동일한 비트 오류율을 유지하려면 훨씬 더 강력하고 깨끗한 신호가 필요하다[5]. 따라서 실제 시스템에서는 채널 상태에 따라 적응형 변조 방식을 사용하여 대역폭 효율성과 신뢰성을 균형 있게 조정한다.

비트 오류율은 디지털 통신 시스템에서 수신기가 송신된 비트를 잘못 판단할 확률을 나타내는 지표이다. QAM의 BER 성능은 주로 신호 대 잡음비에 의해 결정된다. SNR은 수신된 유용한 신호의 전력 대 배경 잡음 전력의 비율을 의미하며, 이 값이 높을수록 신호가 잡음에 덜 훼손되어 BER이 낮아진다.

동일한 SNR 조건에서, 변조 차수가 높은 QAM(예: 256-QAM)은 변조 차수가 낮은 QAM(예: 16-QAM)보다 BER 성능이 나쁘다. 이는 고차 QAM의 성상도 점들이 더 조밀하게 배치되어, 잡음에 의해 인접한 점으로 오판될 가능성이 높기 때문이다. 따라서 고차 QAM을 사용하여 높은 데이터 전송률을 얻으려면, 채널 상태가 양호하고 SNR이 충분히 높아야 한다.

BER과 SNR의 관계는 이론적으로 분석될 수 있으며, AWGN[6] 채널에서의 근사적인 BER 공식은 다음과 같다.

$$BER \approx \frac{4}{k} Q \left( \sqrt{\frac{3k}{M-1} \cdot SNR} \right)$$

여기서 $M$은 성상도 점의 총수(예: 16-QAM에서 $M=16$), $k$는 $\log_2 M$ (비트 수), $Q$ 함수는 가우시안 오류 함수의 꼬리 확률을 나타낸다.

실제 시스템에서는 페이딩, 위상 잡음, 부호 간 간섭 등 추가적인 채널 손상이 발생하므로, 이론적인 AWGN 채널보다 더 열악한 BER 성능을 보인다. 이를 보상하기 위해 전달 오류 정정 코딩 기술이 필수적으로 결합되어 사용된다.

QAM은 높은 대역폭 효율성을 제공하여 제한된 주파수 대역 내에서 많은 양의 데이터를 전송할 필요가 있는 디지털 텔레비전 방송의 핵심 변조 방식으로 채택되었다. 특히 유선 텔레비전이나 위성 방송과 같이 비교적 양호한 채널 환경을 가진 매체에서 널리 사용된다.

대표적인 표준으로 유럽의 DVB-C(Digital Video Broadcasting - Cable)가 있다. DVB-C는 케이블 TV 네트워크를 위한 표준으로, 일반적으로 16-QAM, 64-QAM, 256-QAM을 사용한다. 높은 차수의 QAM을 사용할수록 동일 대역폭에서 더 높은 데이터 전송률을 달성할 수 있어, HD나 UHD 채널과 같은 고화질 방송 서비스의 전송을 가능하게 한다. 채널 상태에 따라 변조 방식을 동적으로 변경하는 것은 일반적이지 않으며, 안정적인 신호 품질을 유지하는 데 중점을 둔다.

북미 지역의 차세대 표준인 ATSC 3.0(Advanced Television Systems Committee 3.0)은 지상파 방송에 QAM을 적용한 사례이다. ATSC 3.0은 OFDM(Orthogonal Frequency Division Multiplexing) 전송 방식을 기반으로 하며, 각 부반송파에 대해 변조 방식을 독립적으로 선택할 수 있다. 이 표준에서는 QAM(16, 64, 256, 1024, 4096-QAM)과 PSK를 포함한 다양한 변조 방식을 지원하여, 수신 환경에 따라 유연하게 스펙트럼 효율성과 내잡음성을 trade-off 할 수 있다. 이를 통해 고정 수신은 물론 모바일 수신에서도 안정적인 고화질 방송 서비스를 제공하는 것이 목표이다.

이러한 디지털 텔레비전 표준에서 QAM의 채택은 기존의 아날로그 주파수 대역을 효율적으로 재사용하면서도 훨씬 우수한 화질과 다양한 부가 서비스를 제공하는 디지털 방송으로의 전환을 실현하는 데 결정적인 역할을 했다.

QAM은 광통신 시스템에서 높은 데이터 전송률을 달성하기 위한 핵심 변조 방식으로 널리 사용된다. 광통신은 빛의 파동 특성을 이용하여 정보를 전송하며, QAM은 광반송파의 진폭과 위상을 동시에 변조하여 단일 심볼당 전송할 수 있는 비트 수를 증가시킨다. 이를 통해 주어진 대역폭 내에서 데이터 용량을 극대화할 수 있다. 특히 고차 QAM (예: 64-QAM, 256-QAM)은 장거리 해저 광케이블 시스템과 데이터 센터 간의 고속 연결에 적용되어 테라비트급 전송을 가능하게 한다.

모뎀 기술에서 QAM은 유선 가입자망의 핵심이다. 케이블 모뎀은 DOCSIS 표준에 따라 QAM 변조를 사용하여 동축 케이블 네트워크를 통해 데이터와 비디오 신호를 전송한다. 예를 들어, DOCSIS 3.1은 최대 4096-QAM까지 지원하여 대역폭 효율을 극적으로 높였다. 또한 ADSL과 VDSL과 같은 DSL 기술의 후속 세대인 G.fast 표준도 주파수 대역을 효율적으로 사용하기 위해 QAM을 채택한다.

광통신과 모뎀에서 QAM을 구현할 때는 높은 신호 대 잡음비가 필수적이다. 고차 QAM은 신호 점(성상도 점) 간의 거리가 가까워져 잡음과 위상 잡음, 선형 왜곡에 매우 취약해지기 때문이다. 따라서 이러한 시스템에는 강력한 전치왜곡 기술, 오류 정정 부호, 그리고 정밀한 위상 복구 알고리즘이 함께 적용된다. 최근 연구는 코히어런트 광통신과 결합된 QAM이 광섬유 채널의 손실을 보상하고 스펙트럼 효율을 더욱 향상시키는 방향으로 진행되고 있다.

QAM은 현대 무선 통신 시스템의 핵심 변조 방식으로, 높은 대역폭 효율성을 통해 제한된 주파수 자원 내에서 데이터 전송률을 극대화한다. Wi-Fi 표준(IEEE 802.11)에서는 802.11a/g/n/ac/ax 등 여러 세대에 걸쳐 채택되었다. 초기에는 QPSK와 16-QAM을 주로 사용했으나, 802.11n (Wi-Fi 4)부터 64-QAM이 도입되었고, 802.11ac (Wi-Fi 5)와 802.11ax (Wi-Fi 6)에서는 더 높은 차수의 256-QAM[9]을 지원하여 단일 스트림당 최대 데이터 속도를 크게 높였다.

이동통신 분야에서는 4G LTE에서 64-QAM이 주류를 이루었으며, 상향 링크와 하향 링크 모두에 적용되었다. 5G NR에서는 보다 높은 주파수 대역과 Massive MIMO 기술과 결합하여 256-QAM을 표준으로 채택하고, 실험 단계에서는 1024-QAM까지 연구되고 있다. 이는 초고속 데이터 전송과 낮은 지연 시간을 요구하는 eMBB 및 URLLC 서비스를 가능하게 하는 기반이 된다. 차세대 6G 통신에서는 더 높은 주파수(테라헤르츠 대역)와 극도로 높은 신뢰성을 목표로, QAM을 기반으로 한 고차 변조 기술의 진화와 새로운 변조 방식과의 결합이 연구 중이다.

다양한 무선 환경에서의 적용을 위해 적응 변조 및 코딩 기술과 결합되어 사용된다. 이는 채널 상태 정보에 기반하여 실시간으로 변조 방식(QAM 차수)과 오류 정정 부호화율을 조정하여, 최적의 스펙트럼 효율과 비트 오류율 성능을 달성한다. 아래 표는 주요 무선 표준에서의 QAM 적용 현황을 보여준다.

고차 QAM의 사용은 높은 신호 대 잡음비 환경을 전제로 하므로, 무선 통신 시스템은 다중 입출력, 빔포밍, 정교한 등화 기술 등을 통해 채널 품질을 개선하고 간섭을 줄이는 데 주력한다.

위상 편이 변조(PSK)는 반송파의 위상만을 변화시켜 정보를 전송하는 방식이다. 반면 QAM은 위상과 진폭을 모두 변화시켜 하나의 심볼이 더 많은 비트 정보를 담도록 한다. 이는 동일한 대역폭 내에서 더 높은 데이터 전송률을 달성할 수 있음을 의미한다.

PSK는 모든 신호 점이 원 위에 동일한 진폭을 가지므로, 증폭기의 비선형성에 덜 민감하고 구현이 비교적 간단하다는 장점이 있다. 그러나 M-ary PSK (예: 16-PSK)의 경우, 인접 신호 점 사이의 위상 차이가 매우 작아져 비트 오류율(BER) 성능이 급격히 나빠지는 단점이 있다. 반면, 동일한 M값(예: 16)을 가지는 16-QAM은 정사각형 격자에 신호 점을 배치하여 인접 점 사이의 유클리드 거리를 더 크게 유지할 수 있어, 동일한 신호 대 잡음비(SNR) 조건에서 일반적으로 더 우수한 BER 성능을 보인다[13].

결론적으로, PSK는 간단하고 견고한 변조 방식이 필요한 저속 또는 특수 환경의 통신에 적합하다. QAM은 높은 대역폭 효율성과 데이터 전송률이 요구되는 현대의 유선 및 고속 무선 광대역 통신 시스템의 핵심 변조 방식으로 자리 잡았다. 두 기술은 각자의 장단점에 따라 서로 다른 응용 분야에서 사용된다.

QAM은 디지털 변조 방식의 핵심으로 자리 잡았으며, 통신 시스템의 용량과 효율성을 지속적으로 높이기 위한 고차 변조 기술의 발전이 이루어졌다. 초기의 4-QAM 또는 QPSK에서 시작하여, 16-QAM, 64-QAM, 256-QAM, 1024-QAM, 최근에는 4096-QAM에 이르기까지 성상도 상의 점의 수가 기하급수적으로 증가했다. 이는 동일한 대역폭 내에서 더 많은 데이터 비트를 전송할 수 있음을 의미하며, 대역폭 효율성을 극대화하는 방향으로 발전했다.

고차 QAM의 실용화는 오류 정정 부호 기술의 발전과 밀접한 연관이 있다. 256-QAM이나 1024-QAM과 같은 고차 변조는 신호 점 사이의 거리가 매우 가까워져 잡음과 간섭에 취약하다. 따라서 터보 코드, LDPC 코드, 극성 코드 같은 강력한 오류 정정 코딩 기술이 함께 적용되지 않으면 실제 시스템에서의 사용이 불가능했다. 이러한 채널 코딩 기술의 발전이 고차 QAM의 비트 오류율 성능을 현실적인 수준으로 끌어올렸다.

주요 응용 분야별 고차 QAM의 도입 시기와 수준은 다음과 같이 정리할 수 있다.

현재의 연구 동향은 단순한 성상도 점 수의 증가를 넘어, 비정형 성상도나 커패시티 어프로치와 같은 이론적 한계에 도전하는 새로운 변조 방식과의 결합으로 나아가고 있다. 또한, 머신 러닝을 이용하여 채널 상태에 따라 동적으로 변조 방식을 최적화하는 적응형 변조 기술도 활발히 연구 중이다.