혼합 효과 모델

혼합 효과 모델의 핵심 구성 요소는 고정 효과와 임의 효과이다. 이 두 가지 효과를 명확히 구분하는 것이 모델의 올바른 설정과 해석의 첫걸음이다.

고정 효과는 연구자가 관심을 갖고 실험 또는 조사에 명시적으로 포함시킨 모든 수준들의 효과를 가리킨다. 예를 들어, 서로 다른 세 가지 비료의 효과를 비교하는 실험에서 '비료 종류'는 고정 효과 요인이 된다. 연구자는 이 세 가지 종류의 효과 차이 자체에 관심이 있으며, 이 효과들은 모수로 추정된다. 즉, 각 비료 종류가 평균적으로 작물의 수확량에 미치는 영향이 얼마인지를 추정하는 것이 목표이다. 반면 임의 효과는 연구자가 관심 있는 요인의 모든 가능한 수준이 아니라, 그 수준들이 더 큰 모집단에서 무작위로 추출된 표본으로 간주될 때 사용한다. 예를 들어, 전국 여러 농장에서 각기 다른 세 가지 비료 실험을 했다면, '농장'은 임의 효과가 될 수 있다. 연구자의 주 관심사는 특정 농장 자체가 아니라, 농장들 사이에 존재하는 변이, 즉 농장이라는 요인이 결과에 추가하는 무작위적인 변동성의 크기이다. 따라서 임의 효과는 모수로 추정되지 않고, 그 변이를 나타내는 분산 성분으로 추정된다.

이러한 구분은 데이터의 계층적 구조를 모델링하는 데 필수적이다. 고정 효과는 평균적인 패턴이나 체계적인 차이를 설명하는 반면, 임의 효과는 관측 단위들이 군집을 이루거나 반복 측정되어 발생하는 상관관계와 추가적인 변동성을 포착한다. 예를 들어, 여러 학교의 여러 학급에 속한 학생들의 성적을 분석할 때, 교수법(예: 전통적 방법 대 새로운 방법)의 효과는 고정 효과로, 학교와 학급의 효과는 일반적으로 임의 효과로 모델링된다. 이를 통해 연구자는 교수법의 순수한 효과를 평가하면서도, 학교나 학급 간의 고유한 차이로 인한 변동을 통제할 수 있다.

요약하면, 고정 효과는 연구의 주요 설명 변수로서 그 효과값 자체가 추정 대상인 반면, 임의 효과는 데이터의 군집화 또는 반복 측정 구조를 나타내며, 그 분산이 추정 대상이다. 혼합 효과 모델은 이 두 효과를 하나의 모델 수식 안에 통합함으로써, 보다 복잡하고 현실적인 데이터 구조를 정확하게 분석할 수 있는 강력한 도구를 제공한다.

혼합 효과 모델의 수식은 고정 효과와 무선 효과를 명확히 구분하여 표현한다. 가장 기본적인 형태인 선형 혼합 모델의 수식은 일반적으로 다음과 같이 나타낼 수 있다. 관측값 벡터 Y는 고정 효과 설계 행렬 X와 고정 효과 계수 벡터 β의 곱, 무선 효과 설계 행렬 Z와 무선 효과 벡터 b의 곱, 그리고 오차 벡터 ε의 합으로 구성된다. 여기서 무선 효과 b와 오차 ε는 각각 평균이 0인 정규 분포를 따른다고 가정하며, 이들의 분산-공분산 구조가 모델의 핵심이다.

무선 효과 b의 분산-공분산 행렬 G와 오차 ε의 분산-공분산 행렬 R을 통해 데이터의 계층적 구조나 상관관계를 모델링한다. 예를 들어, 동일한 개체에서 반복 측정된 자료는 R 행렬을 통해 시간적 자기상관을, 서로 다른 학교에 속한 학생 자료는 Z와 G를 통해 학교 간 변이를 모수화한다. 이러한 분산 성분의 추정이 혼합 모델 분석의 주요 목표 중 하나이다.

모델 수식의 구체적인 형태는 연구 설계와 자료 구조에 따라 달라진다. 단순한 무선 절편 모델부터 무선 기울기를 포함하는 모델, 또는 여러 수준의 무선 효과가 중첩된 모델 등 다양한 변형이 가능하다. 일반화 선형 혼합 모델은 이 기본 틀을 이항 분포나 포아송 분포 등 비정규적인 반응 변수에까지 확장시킨다.

선형 혼합 모델은 혼합 효과 모델의 가장 기본적이고 널리 사용되는 형태이다. 이 모델은 반응 변수와 예측 변수 간의 관계가 선형이라고 가정하며, 고정 효과와 무선 효과를 모두 포함하는 선형 모델을 의미한다. 계층적 구조나 군집화된 데이터, 예를 들어 동일한 환자에게서 시간에 따라 반복 측정한 자료나 특정 학교에 속한 학생들의 자료를 분석하는 데 적합하다. 이러한 데이터에서는 관측치들이 독립적이지 않기 때문에 전통적인 선형 회귀 분석을 적용하기 어렵다.

모델의 수식은 일반적으로 Y = Xβ + Zb + ε의 형태로 표현된다. 여기서 Y는 관측된 반응 변수 벡터이고, X는 고정 효과와 연결된 설계 행렬, β는 추정할 고정 효과 계수 벡터이다. Z는 무선 효과와 연결된 설계 행렬, b는 무선 효과 벡터로, 평균이 0이고 분산-공분산 행렬 G를 따른다고 가정한다. ε은 오차 벡터로, 평균이 0이고 분산-공분산 행렬 R을 따른다. 이 모델의 핵심은 전체 오차 구조가 단순한 등분산 독립 오차가 아니라, Zb + ε으로 표현되는 복잡한 공분산 구조를 가질 수 있다는 점이다.

선형 혼합 모델의 주요 추정 방법으로는 최대우도법과 제한적 최대우도법이 널리 사용된다. 특히 제한적 최대우도법은 고정 효과 모수의 추정에 따른 편향을 보정하여 분산 성분(무선 효과의 분산 및 공분산)을 더 정확히 추정하는 방법으로 선호된다. 모델 적합 후에는 고정 효과 계수의 유의성을 검정하기 위해 t 검정이나 F 검정을 사용하며, 서로 다른 무선 효과 구조를 비교할 때는 적합도 검정을 실시한다.

이 모델은 생물통계학에서 동물 실험의 리터 구조 분석이나 임상 시험의 반복 측정 분석에, 사회과학 및 교육학에서는 학생들이 교실이나 학교에 중첩되어 있는 다수준 모델링에 빈번히 적용된다. 또한 유전학에서 가계도 자료 분석이나 농학에서 지역별 시험 포장 데이터 분석과 같은 다양한 분야에서 계층적 데이터의 본질적 상관관계를 적절히 모델링하는 강력한 도구로 활용된다.

일반화 선형 혼합 모델은 선형 혼합 모델을 확장한 모델로, 반응 변수가 정규 분포를 따르지 않는 경우에 사용된다. 예를 들어, 이항 분포(예: 성공/실패)나 포아송 분포(예: 사건 발생 횟수)를 따르는 종속 변수를 분석할 때 적합하다. 이 모델은 고정 효과와 무선 효과를 모두 포함하여, 계층적 구조를 가진 데이터나 반복 측정 자료를 분석하는 데 핵심적인 도구이다. 생물통계학과 사회과학 연구에서 특히 빈번하게 응용된다.

이 모델의 핵심은 일반화 선형 모델의 구조에 무선 효과를 추가하는 데 있다. 모델은 크게 세 부분으로 구성된다: 1) 선형 예측자로 고정 효과와 무선 효과의 선형 조합을 정의하고, 2) 연결 함수를 통해 이 선형 예측자를 반응 변수의 평균과 연결하며, 3) 반응 변수의 확률 분포를 지정한다. 무선 효과는 일반적으로 정규 분포를 따른다고 가정하며, 그 분산 성분이 추정의 주요 대상 중 하나가 된다.

이 모델은 임상 시험에서 환자 내 반복 측정을 분석하거나, 교육학에서 여러 학교에 속한 학생들의 성적을 비교하는 등, 데이터에 내재된 군집화 효과나 상관 구조를 명시적으로 모델링할 수 있다는 강점이 있다. 다만, 모델이 복잡해질수록 수렴 실패 가능성이 증가하고 계산 부담이 커지는 단점도 있다.

제한적 최대우도법은 혼합 효과 모델에서 모수를 추정하는 주요 방법 중 하나이다. 이 방법은 고정 효과의 추정이 분산 성분의 추정에 미치는 편향을 제거하기 위해 고안되었다. 표준 최대우도법은 고정 효과와 분산 성분을 동시에 추정하는 과정에서, 특히 표본 크기가 작거나 군집 수가 적은 경우 분산 성분 추정치에 편향이 발생할 수 있다. 제한적 최대우도법은 고정 효과를 먼저 제거한 잔차를 이용해 분산 성분을 추정함으로써 이러한 편향을 줄인다.

구체적으로, 제한적 최대우도법은 우도 함수에서 고정 효과에 대한 정보를 제거한 제한적 우도 함수를 최대화한다. 이 과정은 선형 변환을 통해 데이터에서 고정 효과의 영향을 제거하는 것과 동일하며, 결과적으로 분산 성분에 대한 추정이 더욱 안정적이고 편향이 적어진다. 이 방법은 특히 무선 효과의 수준(예: 개체, 학교, 지역) 수가 적거나 불균형 설계인 데이터를 분석할 때 유용하다.

제한적 최대우도법은 주로 선형 혼합 모델의 추정에 널리 사용된다. 일반화 선형 혼합 모델과 같은 비선형 모델에서는 적용이 제한적일 수 있으며, 이 경우 근사적 추정 방법이나 베이지안 방법이 대안으로 고려된다. 이 기법의 구현은 R (프로그래밍 언어)의 lme4 패키지, SAS (소프트웨어), SPSS 등 주요 통계 소프트웨어에서 표준적으로 제공되고 있다.

분산 성분 추정의 정확도 향상이라는 장점에도 불구하고, 제한적 최대우도법으로 추정된 서로 다른 모델 간의 적합도 검정에는 주의가 필요하다. 제한적 우도 함수는 고정 효과의 모수를 포함하지 않기 때문에, 고정 효과 구조가 다른 두 모델의 우도를 직접 비교할 수 없다. 따라서 고정 효과가 동일한 모델들 사이에서만 분산 구조의 비교에 이 방법을 사용하는 것이 일반적이다.

혼합 효과 모델의 적합도 검정은 여러 통계적 방법을 통해 수행된다. 이는 특정 모델이 주어진 데이터를 얼마나 잘 설명하는지 평가하고, 여러 후보 모델 중에서 가장 적절한 모델을 선택하는 과정을 포함한다. 적합도 검정은 모델의 복잡성과 설명력을 균형 있게 고려하는 것이 핵심이다.

가장 일반적으로 사용되는 방법은 우도비 검정이다. 이는 두 개의 중첩된 모델, 즉 하나의 모델이 다른 모델의 제한된 버전일 때 사용할 수 있다. 예를 들어, 어떤 무선 효과의 분산 성분이 0인지(즉, 해당 효과가 필요한지)를 검정하거나, 특정 고정 효과 변수의 계수가 유의미한지 검정할 때 활용된다. 검정 통계량은 두 모델의 로그 우도 값 차이의 두 배를 계산하며, 이는 귀무가설 하에서 근사적으로 카이제곱 분포를 따른다.

또한, 정보 기준 지수를 사용한 모델 비교도 널리 쓰인다. 아카이케 정보 기준과 베이지안 정보 기준이 대표적이다. 이들 기준은 모델의 적합도(로그 우도)에 모델의 복잡성(추정된 모수의 수)에 대한 페널티를 부과하여 계산된다. 값이 더 낮은 모델이 데이터에 대한 설명력과 간명성을 더 잘 절충한 것으로 해석된다. 정보 기준은 중첩되지 않은 모델 간 비교에도 적용 가능하다는 장점이 있다.

적합도 검정의 결과는 최종 모델을 선택하고, 고정 효과의 유의성을 판단하며, 무선 효과의 구조(예: 무선 절편, 무선 기울기)를 결정하는 근거가 된다. 이를 통해 연구자는 계층적 구조를 가진 데이터를 분석할 때 보다 강건하고 해석 가능한 통계 모델을 구축할 수 있다.

혼합 효과 모델은 생물학 및 의학 연구에서 계층적 구조를 가진 데이터를 분석하는 데 필수적인 도구이다. 특히 임상 시험에서 동일 환자에게 반복적으로 측정한 자료나, 서로 다른 병원이나 연구 센터에서 수집된 다기관 자료를 분석할 때 효과적으로 활용된다. 이러한 데이터는 관측치들이 독립적이지 않고 특정 군집 내에서 상관관계를 가지는 경우가 많아, 이를 고려하지 않은 전통적인 선형 회귀 분석은 오류를 일으킬 수 있다.

의학 연구에서 혼합 효과 모델의 대표적인 응용은 반복 측정 분산 분석을 대체하는 것이다. 예를 들어, 신약의 효능을 시간에 따라 여러 번 측정하는 종단 연구에서, 각 환자별 반복 측정값은 무선 효과로 모델링되어 개체 간 변이를 설명한다. 이는 치료의 고정 효과를 보다 정확하게 평가할 수 있게 해준다. 또한 유전학 연구에서는 가계나 가족 내의 유전적 상관관계를 무선 효과로 포함시켜 유전자와 형질의 연관성을 분석하는 데 사용되기도 한다.

생물통계학 분야에서는 동물 실험에서 동일한 어미에게서 태어난 새끼들처럼 군집화된 데이터를 분석할 때 널리 적용된다. 실험 설계가 완전 무작위 배치가 아닌 난괴법이나 집락 설계를 따를 경우, 블록이나 집락의 효과를 무선 효과로 모델에 포함시킨다. 이를 통해 처리 효과의 추정값에서 군집 내 유사성으로 인한 편향을 제거하고, 보다 일반화 가능한 결론을 도출할 수 있다.

이러한 광범위한 활용 덕분에 혼합 효과 모델은 현대 생물의학 연구의 표준 분석 방법론 중 하나로 자리 잡았다. R (프로그래밍 언어)의 lme4 패키지나 SAS (소프트웨어), SPSS 같은 통계 소프트웨어는 강력한 혼합 모델 분석 기능을 제공하여 복잡한 생물학적 데이터로부터 타당한 과학적 증거를 추출하는 것을 지원한다.

사회과학 및 교육학 연구에서는 개인, 학급, 학교, 지역사회와 같은 계층적 구조를 가진 데이터가 매우 흔하다. 이러한 데이터는 관측치들이 독립적이라는 전통적인 통계 모델의 기본 가정을 위반하는 경우가 많다. 예를 들어, 같은 학급에 속한 학생들의 학업 성취도는 교사의 영향이나 학급 환경을 공유하기 때문에 서로 독립적이지 않을 수 있다. 혼합 효과 모델은 이러한 데이터의 계층적 구조를 명시적으로 모델링함으로써, 개인 수준의 변수와 집단 수준의 변수가 결과 변수에 미치는 영향을 동시에 추정할 수 있게 해준다. 이는 보다 정확한 통계적 추론을 가능하게 한다.

교육학 연구에서 혼합 효과 모델은 학교 효과 연구나 교수법의 효과를 평가하는 데 널리 활용된다. 연구자는 학생(1수준)이 학급(2수준)에, 학급이 다시 학교(3수준)에 중첩되어 있는 다층 데이터를 분석할 수 있다. 이 모델을 통해 학생 개인의 능력(고정 효과), 학급별 평균 차이(임의 효과), 학교별 자원 차이(임의 효과)가 학업 성취도에 미치는 상대적 기여도를 분리하여 추정할 수 있다. 이를 통해 특정 교수법의 효과가 학교나 학급에 따라 어떻게 달라지는지(즉, 상호작용 효과)를 탐색하는 데도 유용하다.

계량심리학 및 사회조사 분야에서도 혼합 효과 모델은 중요한 도구이다. 예를 들어, 여러 국가를 대상으로 한 국제 비교 조사(예: PISA)에서는 응답자가 국가 내에 군집화되어 있다. 국가별 문화적, 제도적 차이는 임의 절편으로 모델링될 수 있다. 또한, 심리 검사나 설문 문항의 특성을 분석하는 문항 반응 이론의 일부 모델은 혼합 효과 모델의 틀에서 해석될 수 있으며, 여기서 개인의 능도는 임의 효과, 문항의 난이도는 고정 효과로 간주될 수 있다. 이처럼 혼합 효과 모델은 사회과학의 다양한 분야에서 복잡한 데이터 구조와 현실을 반영한 강력한 분석 프레임워크를 제공한다.

혼합 효과 모델은 반복 측정 설계에서 수집된 자료를 분석하는 데 매우 유용한 도구이다. 반복 측정 자료는 동일한 실험 단위(예: 환자, 학생, 동물)에 대해 시간에 따라 또는 여러 조건 하에서 반복적으로 측정한 데이터를 의미한다. 이러한 자료는 관측치들 사이에 상관관계가 존재하며, 전통적인 선형 회귀 분석이나 분산 분석의 독립성 가정을 위반하기 때문에 혼합 효과 모델을 적용해야 정확한 추론이 가능하다.

이 모델은 반복 측정된 각 개체나 군집에 대해 임의 효과를 도입하여 개체 간 변이와 개체 내 변이를 분리하여 모델링한다. 예를 들어, 여러 시점에 걸쳐 환자의 혈압을 측정하는 연구에서, 환자마다 기저 혈압 수준이 다를 수 있는 개인 간 변이(임의 절편)와 시간에 따른 변화 패턴이 다를 수 있는 개인 내 변이(임의 기울기)를 모델에 포함시킬 수 있다. 이를 통해 측정 오차와 구조화된 변이를 구분하고, 시간의 효과나 치료의 효과를 보다 정밀하게 평가할 수 있다.

반복 측정 자료 분석에서 혼합 효과 모델의 주요 장점은 불균형 자료를 쉽게 처리할 수 있다는 점이다. 종전의 반복측정 분산분석은 모든 개체가 동일한 시점에서 측정되어야 하지만, 현실 연구에서는 중도 탈락이나 일부 측정값의 결측으로 인해 자료가 불균형인 경우가 많다. 혼합 효과 모델은 최대우도법 기반의 추정 방식을 사용하므로 이러한 결측이 무작위적으로 발생했다고 가정할 때 유연하게 분석을 수행할 수 있다.

이러한 분석은 임상시험, 심리학 실험, 발달 연구, 경제학의 패널 데이터 분석 등 다양한 분야에서 널리 활용된다. 특히 성장 곡선 모델링을 통해 시간에 따른 변화 궤적을 연구하거나, 교차 설계 실험의 자료를 분석하는 데 표준적인 방법론으로 자리 잡았다.