상관 관계

피어슨 상관 계수는 두 변수 간 선형 관계의 강도와 방향을 측정하는 가장 일반적인 지표이다. 이는 칼 피어슨에 의해 개발되었으며, 두 연속형 변수가 정규 분포를 따른다는 가정 하에 사용된다. 계수의 값은 -1부터 +1 사이의 범위를 가지며, +1에 가까울수록 완벽한 양의 선형 관계, -1에 가까울수록 완벽한 음의 선형 관계를 나타낸다. 값이 0에 가까우면 선형 관계가 거의 없음을 의미한다.

계산 공식은 두 변수의 공분산을 각 변수의 표준편차의 곱으로 나눈 값이다. 이는 데이터의 원본 값을 사용하여 계산되므로, 변수 간의 선형적 연관성을 정밀하게 파악하는 데 적합하다. 회귀 분석을 비롯한 많은 통계적 방법론의 기초가 되며, 데이터 과학과 경제학 등 다양한 분야에서 널리 활용된다.

피어슨 상관 계수를 해석할 때는 몇 가지 주의점이 있다. 첫째, 이 계수는 오직 선형 관계만을 측정한다는 점이다. 따라서 두 변수 사이에 비선형 관계가 존재하더라도 피어슨 상관 계수는 낮은 값을 보일 수 있다. 둘째, 이상치의 영향을 매우 크게 받는다. 극단적인 값을 가진 몇 개의 데이터 점이 전체 상관 관계의 방향과 강도를 왜곡시킬 수 있다. 마지막으로, 높은 상관 계수가 반드시 한 변수가 다른 변수의 원인이라는 인과 관계를 증명하지는 않는다.

스피어만 상관 계수는 두 변수 간의 단조 관계의 강도를 측정하는 비모수적 통계 방법이다. 이 방법은 피어슨 상관 계수와 달리 데이터의 실제 값 대신 그 순위를 사용하여 계산한다. 따라서 데이터가 정규 분포를 따르지 않거나, 순위 척도로 측정되었거나, 이상치의 영향을 크게 받는 경우에 유용하게 적용된다. 스피어만 상관 계수는 순위 상관 계수의 대표적인 예로, 통계학과 데이터 과학 분야에서 널리 사용된다.

계산 과정은 먼저 각 변수의 관측값을 크기 순서대로 순위를 매긴다. 그런 다음 두 변수의 순위 차이를 기반으로 계수를 산출한다. 이는 선형 관계보다는 한 변수가 증가할 때 다른 변수가 일정한 방향으로 변화하는지, 즉 단조 증가 또는 단조 감소 관계가 있는지를 평가한다. 결과값은 피어슨 상관 계수와 마찬가지로 -1부터 +1 사이의 값을 가지며, 절대값이 클수록 강한 단조 관계를 나타낸다.

스피어만 상관 계수의 주요 장점은 비모수적 방법이기 때문에 데이터에 대한 엄격한 가정이 필요하지 않다는 점이다. 특히 서열 상관을 분석하거나, 비선형이지만 단조적인 패턴을 확인할 때, 또는 소표본 데이터를 다룰 때 유용하다. 이는 심리학 연구나 사회 과학 조사에서 리커트 척도와 같은 서열 데이터를 분석하는 데 자주 활용된다.

그러나 스피어만 상관 계수는 순위 정보만을 사용하기 때문에 원본 데이터의 구체적인 수치적 차이 정보는 무시된다는 한계가 있다. 또한 동순위가 많은 데이터에서는 계산 공식이 조정되어야 한다. 이러한 특성을 고려하여 연구자는 분석 목적과 데이터의 성격에 맞게 피어슨 상관 계수와 스피어만 상관 계수 중 적절한 방법을 선택해야 한다.

켄달의 타우는 두 변수 간의 순위 상관 관계를 측정하는 비모수적 통계량이다. 모리스 켄달이 제안한 이 방법은 데이터가 순위 척도로 측정되었거나, 정규 분포를 따르지 않거나, 이상치의 영향을 크게 받을 때 유용하게 사용된다. 피어슨 상관 계수나 스피어만 상관 계수와 마찬가지로 두 변수 간 관계의 방향과 강도를 -1에서 +1 사이의 값으로 나타낸다.

켄달의 타우의 계산은 두 변수 값의 쌍을 비교하여 일치 쌍과 불일치 쌍의 수를 기반으로 한다. 모든 가능한 관측치 쌍을 비교하여, 두 변수의 순위가 동일하게 증가하거나 감소하면 일치 쌍으로, 한 변수는 증가하는데 다른 변수는 감소하면 불일치 쌍으로 판단한다. 최종 계수는 일치 쌍 수에서 불일치 쌍 수를 뺀 값을 전체 가능한 쌍의 수로 나누어 구한다.

이 방법은 특히 표본 크기가 작을 때나, 데이터에 동순위가 많을 때(동률이 많을 때) 강건한 결과를 제공하는 것으로 알려져 있다. 비모수 통계 방법에 속하는 켄달의 타우는 데이터의 실제 값보다 순위에 의존하기 때문에, 스피어만 상관 계수와 유사한 용도로 쓰이지만 계산 방식과 해석에서 차이가 있다.

켄달의 타우는 사회과학, 의학 연구, 생태학 등 다양한 분야에서 순위 상관 분석에 널리 활용된다. 예를 들어, 전문가들의 평가 순위 간 일치도를 측정하거나, 시간에 따른 두 현상의 순위 변화 관계를 조사하는 데 적합하다.

상관 관계의 강도는 두 변수 간 선형적 관계가 얼마나 밀접한지를 나타낸다. 이는 주로 상관 계수의 절댓값 크기로 판단한다. 일반적으로 절댓값이 0.7 이상이면 강한 상관, 0.3에서 0.7 사이는 중간 정도의 상관, 0.3 미만은 약한 상관으로 해석한다. 절댓값이 1에 가까울수록 데이터 점들이 완벽한 직선 위에 위치함을 의미한다.

상관 관계의 방향은 두 변수가 같은 방향으로 움직이는지 반대 방향으로 움직이는지를 나타낸다. 양의 상관 관계는 한 변수의 값이 증가할 때 다른 변수의 값도 일반적으로 증가하는 관계다. 예를 들어, 공부 시간과 시험 성적 사이에는 대체로 양의 상관 관계가 관찰된다. 반면 음의 상관 관계는 한 변수가 증가할 때 다른 변수가 감소하는 관계를 말한다. 담배 소비량과 폐 건강 지표 사이에는 음의 상관 관계가 예상될 수 있다.

상관 관계의 강도와 방향을 해석할 때는 산점도를 함께 살펴보는 것이 중요하다. 산점도를 통해 이상치의 존재 여부나 관계가 정말 선형적인지, 아니면 곡선적인 패턴을 보이는지 등을 확인할 수 있다. 또한, 강한 상관 관계가 반드시 실질적으로 의미 있는 관계임을 보장하지는 않는다. 통계적 유의성과 더불어 실제 현장에서의 중요성을 고려해야 한다.

무상관, 즉 상관 계수가 0에 가까운 경우는 두 변수 간에 체계적인 선형 관계가 없음을 의미한다. 그러나 이는 두 변수가 전혀 관계가 없다는 것을 증명하는 것은 아니다. 비선형적인 관계가 존재할 가능성을 배제할 수 없기 때문이다. 따라서 상관 분석은 데이터 탐색의 첫 단계로 활용되며, 보다 복잡한 관계를 파악하기 위한 기초 자료로 사용된다.

상관 관계는 두 변수 간의 통계적 연관성을 나타내지만, 이것이 한 변수가 다른 변수의 원인이라는 인과 관계를 의미하지는 않는다. 상관 관계가 관찰되었다는 사실만으로는 변수 간의 인과적 방향(어떤 변수가 원인이고 결과인지)을 판단할 수 없으며, 제3의 변수(교란 변수)가 두 변수에 모두 영향을 미쳐 허위 상관을 만들어낼 가능성도 배제할 수 없다. 예를 들어, 아이스크림 판매량과 익사 사고 발생 건수 사이에 양의 상관 관계가 있다고 해서, 아이스크림이 익사의 원인이라고 결론지을 수는 없다. 이 경우 계절이라는 제3의 변수(여름철 기온 상승)가 두 현상에 공통적으로 영향을 미쳤기 때문에 상관이 나타난 것으로 해석하는 것이 타당하다.

따라서 상관 관계 분석은 변수 간의 연관성을 탐색하는 데 유용한 도구이지만, 인과 관계를 입증하기 위해서는 무작위 대조 시험과 같은 실험적 설계나, 회귀 분석을 통한 교란 변수 통제, 그래픽 모델이나 계량 경제학적 방법론을 활용한 보다 엄격한 분석이 필요하다. 데이터 과학과 통계학에서는 상관 관계로부터 인과 관계를 성급하게 추론하는 것을 흔한 오류로 지적하며, 특히 빅데이터 분석에서 패턴을 발견했을 때 이 점을 유의해야 한다.

양의 상관 관계는 두 변수 간 관계에서 한 변수의 값이 증가할 때 다른 변수의 값도 함께 증가하는 경향을 보이는 관계를 의미한다. 즉, 두 변수의 변화 방향이 서로 일치하는 경우에 해당한다. 이러한 관계는 피어슨 상관 계수나 스피어만 상관 계수와 같은 상관 계수를 통해 측정할 수 있으며, 계수의 값이 0보다 크고 +1에 가까울수록 강한 양의 상관 관계를 나타낸다.

일상생활과 다양한 학문 분야에서 양의 상관 관계의 예를 쉽게 찾아볼 수 있다. 예를 들어, 교육을 받은 기간과 평균 소득 수준 사이에는 일반적으로 양의 상관 관계가 존재한다. 또한, 운동 시간과 체력 지표, 광고 비용과 매출액, 공부 시간과 시험 성적 사이에서도 양의 상관 관계가 관찰될 수 있다. 이러한 관계는 데이터 과학과 통계학을 활용한 분석에서 중요한 패턴으로 활용된다.

그러나 양의 상관 관계가 관찰되었다고 해서 반드시 한 변수가 다른 변수의 원인이라고 해석해서는 안 된다는 점에 유의해야 한다. 이는 상관 관계가 인과 관계를 의미하지 않는다는 통계학의 기본 원칙 때문이다. 두 변수가 공통으로 연관된 제삼의 변수(교란 변수)의 영향을 받아 함께 움직이는 경우도 많기 때문이다. 따라서 상관 관계 분석의 결과는 신중하게 해석되어야 한다.

무상관은 두 변수 사이에 선형적인 관계가 없거나 매우 약한 상태를 가리킨다. 즉, 한 변수의 값이 변하더라도 다른 변수의 값이 예측 가능한 방식으로 변하지 않는다. 통계적으로는 상관 계수의 값이 0에 가까울 때 무상관이라고 판단한다. 이러한 관계는 산점도 상에서 점들이 특정한 패턴이나 경향 없이 무작위로 흩어져 있는 형태로 시각화된다.

무상관은 양의 상관 관계나 음의 상관 관계와 달리 변수 간에 체계적인 연관성이 없음을 의미한다. 예를 들어, 사람의 키와 그가 좋아하는 음악 장르 사이에는 일반적으로 아무런 관계가 없다고 여겨지며, 이는 무상관에 해당할 가능성이 높다. 그러나 이는 두 변수 사이에 어떠한 관계도 전혀 없다는 것을 반드시 증명하는 것은 아니다. 비선형적인 관계가 존재할 수 있기 때문이다.

피어슨 상관 계수는 주로 선형 관계의 강도를 측정하므로, 계수 값이 0이라면 선형 관계가 없다고 해석할 수 있다. 스피어만 상관 계수나 켄달의 타우와 같은 비모수적 방법 역시 순위 간의 단조 관계를 측정하여, 그 값이 0에 가까우면 무상관 상태를 나타낸다. 따라서 상관 분석을 수행할 때는 계산된 상관 계수의 값과 함께 통계적 유의성을 검정하여, 관찰된 무상관이 우연에 의한 것인지 판단해야 한다.

무상관의 개념은 데이터 과학과 머신러닝에서 특성 선택을 할 때 중요하게 고려된다. 예측 모델을 구축할 때, 목표 변수와 무상관 관계에 있는 입력 변수는 모델의 예측력에 기여하지 않을 가능성이 높아 제외 대상이 될 수 있다. 그러나 앞서 언급했듯이, 선형 상관 계수만으로 무상관을 판단하는 것은 비선형 관계를 놓칠 위험이 있으므로 주의가 필요하다.