고유벡터
1. 개요
1. 개요
고유벡터는 선형 변환을 가해도 방향이 변하지 않는, 0이 아닌 벡터를 말한다. 행렬로 표현되는 선형 변환을 분석하는 데 핵심적인 역할을 하며, 고윳값과 함께 선형대수학의 중요한 개념이다.
이 개념은 수학적으로, 주어진 정방행렬 \(A\)에 대해 \(A\mathbf{v} = \lambda \mathbf{v}\)를 만족하는 0이 아닌 벡터 \(\mathbf{v}\)와 스칼라 \(\lambda\)로 정의된다. 여기서 벡터 \(\mathbf{v}\)가 고유벡터이고, 스칼라 \(\lambda\)는 그에 대응되는 고윳값이다. 이 관계식은 행렬 \(A\)에 의한 변환이 벡터 \(\mathbf{v}\)의 방향을 바꾸지 않고 길이만 \(\lambda\)배 한다는 것을 의미한다.
고유벡터와 고윳값은 선형 시스템 분석, 주성분 분석(PCA), 진동 모드 분석, 양자 역학 등 수학, 공학, 물리학, 데이터 과학을 포함한 다양한 분야에서 널리 응용된다.
2. 정의
2. 정의
선형 변환을 가해도 방향이 변하지 않는, 0이 아닌 벡터를 고유벡터라고 한다. 이는 행렬로 표현되는 변환에서도 마찬가지로 적용되는 개념이다. 구체적으로, 정사각 행렬 A를 어떤 0이 아닌 벡터 v에 곱했을 때, 그 결과가 원래 벡터 v의 스칼라 배가 되는 경우, 그 벡터 v를 행렬 A의 고유벡터라고 정의한다.
이를 수학적으로 표현하면, 행렬 A와 스칼라 λ에 대해 방정식 Av = λv를 만족하는 0이 아닌 벡터 v가 바로 고유벡터이다. 이때 방정식에 함께 등장하는 스칼라 λ는 고윳값이라고 부르며, 고유벡터와 항상 쌍을 이루는 개념이다. 하나의 고윳값에는 무수히 많은 고유벡터가 존재할 수 있으며, 이들은 하나의 방향을 정의한다.
고유벡터는 선형 시스템의 핵심적인 특성을 파악하는 데 유용하게 사용된다. 예를 들어, 주성분 분석에서는 데이터의 분산이 가장 큰 방향을 찾기 위해 공분산 행렬의 고유벡터를 계산한다. 또한 양자 역학에서 관측 가능한 물리량은 연산자로 표현되며, 그 연산자의 고유벡터는 해당 물리량이 확정된 값을 가질 수 있는 상태에 해당한다.
3. 수학적 표현
3. 수학적 표현
행렬 \(A\)와 스칼라 \(\lambda\), 그리고 0이 아닌 벡터 \(\mathbf{v}\)가 주어졌을 때, 수식 \(A\mathbf{v} = \lambda \mathbf{v}\)를 만족하는 벡터 \(\mathbf{v}\)를 고유벡터라고 정의한다. 이 식은 행렬 \(A\)가 벡터 \(\mathbf{v}\)에 작용했을 때, 그 결과가 원래 벡터 \(\mathbf{v}\)의 방향은 유지한 채 길이만 \(\lambda\)배 스케일링된다는 것을 의미한다. 여기서 스칼라 \(\lambda\)는 해당 고유벡터에 대응되는 고윳값이다.
이 수학적 표현은 선형 변환을 행렬로 나타낼 수 있는 모든 맥락에서 적용된다. 선형 변환 \(T\)에 대해 \(T(\mathbf{v}) = \lambda \mathbf{v}\)로도 동일하게 표현할 수 있으며, 이는 벡터 공간에서의 핵심적인 성질을 보여준다. 고유벡터와 고윳값은 항상 쌍으로 존재하며, 하나의 행렬은 일반적으로 여러 개의 고유벡터와 고윳값 쌍을 가질 수 있다.
이 기본 방정식 \(A\mathbf{v} = \lambda \mathbf{v}\)는 우변의 모든 항을 좌변으로 이항하여 \((A - \lambda I)\mathbf{v} = \mathbf{0}\) 형태로 재구성할 수 있다. 여기서 \(I\)는 단위 행렬이다. 이 방정식이 자명하지 않은 해(\(\mathbf{v} \neq \mathbf{0}\))를 가지기 위해서는 행렬 \((A - \lambda I)\)의 행렬식이 0이어야 한다. 이로부터 도출되는 특성 방정식 \(\det(A - \lambda I) = 0\)은 고윳값 \(\lambda\)를 구하는 출발점이 된다.
4. 고윳값과의 관계
4. 고윳값과의 관계
고유벡터는 고윳값과 항상 쌍을 이루는 개념이다. 행렬이나 선형 변환을 통해 고유벡터의 방향은 변하지 않고, 그 크기만 고윳값에 의해 스케일링된다. 이 관계는 수학적으로 $A\mathbf{v} = \lambda \mathbf{v}$라는 방정식으로 표현되며, 여기서 $\lambda$가 고윳값, $\mathbf{v}$가 이에 대응하는 고유벡터이다.
하나의 고윳값에는 무수히 많은 고유벡터가 대응될 수 있다. 만약 $\mathbf{v}$가 어떤 고윳값 $\lambda$에 대한 고유벡터라면, 0이 아닌 임의의 스칼라 $k$를 곱한 $k\mathbf{v}$도 동일한 고윳값 $\lambda$에 대한 고유벡터가 된다. 이는 방향이 동일한 벡터들은 모두 같은 고유벡터 공간을 형성하기 때문이며, 이 공간을 고유공간이라고 부른다.
반대로, 서로 다른 고윳값에 대응하는 고유벡터들은 선형 독립인 중요한 성질을 가진다. 이 성질은 행렬을 대각화하거나, 주성분 분석과 같은 응용에서 데이터의 기저를 구성하는 데 핵심적인 역할을 한다. 따라서 고윳값과 고유벡터는 분리되어 논의될 수 없는 하나의 체계를 이룬다.
5. 구하는 방법
5. 구하는 방법
고유벡터를 구하는 방법은 주어진 행렬에 대한 고윳값을 먼저 구한 후, 각 고윳값에 대응하는 벡터를 찾는 과정을 거친다.
먼저, 행렬 \(A\)에 대한 고윳값 \(\lambda\)는 특성 방정식 \(\det(A - \lambda I) = 0\)을 풀어서 구한다. 여기서 \(I\)는 단위 행렬이다. 이 방정식은 \(\lambda\)에 대한 다항식이며, 이를 풀어 얻은 근이 고윳값이 된다. 고윳값을 구했다면, 다음 단계로 각 고윳값 \(\lambda_i\)에 대해 방정식 \((A - \lambda_i I)\mathbf{v} = \mathbf{0}\)을 만족하는 0이 아닌 벡터 \(\mathbf{v}\)를 찾는다. 이 방정식은 동차 선형 연립방정식이며, 이를 풀어 얻은 해 공간이 바로 해당 고윳값에 대응하는 고유벡터들의 집합이다.
구체적인 계산 예시는 다음과 같다. 2x2 행렬 \(A = \begin{pmatrix} 4 & 1 \\ 2 & 3 \end{pmatrix}\)가 있다고 가정하자. 먼저 특성 방정식 \(\det\begin{pmatrix} 4-\lambda & 1 \\ 2 & 3-\lambda \end{pmatrix} = 0\)을 풀면 \((\lambda-5)(\lambda-2)=0\)이 되어 고윳값은 \(\lambda_1 = 5\), \(\lambda_2 = 2\)이다. \(\lambda_1 = 5\)에 대응하는 고유벡터를 구하기 위해 \((A - 5I)\mathbf{v} = \mathbf{0}\)을 풀면, 예를 들어 \(\mathbf{v}_1 = \begin{pmatrix} 1 \\ 1 \end{pmatrix}\)를 얻을 수 있다. 마찬가지로 \(\lambda_2 = 2\)에 대해 방정식을 풀면 \(\mathbf{v}_2 = \begin{pmatrix} 1 \\ -2 \end{pmatrix}\)와 같은 벡터를 얻는다.
이 방법은 행렬의 크기가 커지더라도 기본 원리는 동일하나, 고윳값을 구하는 계산이 복잡해질 수 있다. 대규모 행렬이나 수치 해석적인 접근이 필요한 경우에는 거듭제곱 법이나 QR 알고리즘과 같은 반복적 방법이 사용되기도 한다.
6. 성질
6. 성질
고유벡터는 몇 가지 중요한 대수적 성질을 가진다. 먼저, 하나의 고윳값에 대응하는 고유벡터는 무수히 많을 수 있다. 만약 벡터 \(\mathbf{v}\)가 어떤 고윳값 \(\lambda\)에 대한 고유벡터라면, 0이 아닌 임의의 스칼라 \(k\)에 대해 \(k\mathbf{v}\) 역시 동일한 고윳값 \(\lambda\)에 대한 고유벡터가 된다. 이는 선형 변환이 벡터의 방향만 보존하고 크기는 고윳값만큼 변환하기 때문이다.
또한, 서로 다른 고윳값에 대응하는 고유벡터들은 선형 독립 관계에 있다. 즉, 행렬 \(A\)가 서로 다른 고윳값 \(\lambda_1, \lambda_2, ..., \lambda_k\)를 가질 때, 각 고윳값에 대응하는 고유벡터들 \(\mathbf{v}_1, \mathbf{v}_2, ..., \mathbf{v}_k\)는 서로 선형 독립이다. 이 성질은 행렬을 대각화하는 데 중요한 기초가 된다.
고유벡터의 집합은 부분 공간을 형성할 수도 있다. 하나의 고윳값 \(\lambda\)에 대응하는 모든 고유벡터와 영벡터를 모은 집합은 벡터 공간의 부분 공간이 되며, 이를 해당 고윳값에 대한 고유공간이라고 부른다. 고유공간의 차원은 그 고윳값의 기하 중복도라 불린다.
마지막으로, 특수한 형태의 행렬은 고유벡터가 가지는 추가적인 성질을 보인다. 예를 들어, 대칭 행렬의 경우 서로 다른 고윳값에 대응하는 고유벡터들이 서로 직교한다는 성질이 있다. 이러한 성질들은 주성분 분석과 같은 응용 분야에서 데이터의 직교 기저를 구성하는 데 핵심적으로 활용된다.
7. 기하학적 의미
7. 기하학적 의미
고유벡터의 기하학적 의미는 선형 변환이 공간을 어떻게 변화시키는지를 직관적으로 보여준다. 어떤 선형 변환을 나타내는 행렬 A를 고유벡터 v에 곱하면, 그 결과는 원래 벡터 v를 단순히 늘이거나 줄인 것에 불과하다. 즉, 변환 후에도 벡터가 놓인 직선(방향)은 변하지 않고, 길이만 변하게 된다. 이때 길이가 변하는 배율이 바로 해당 고유벡터에 대응되는 고윳값이다.
따라서 고유벡터는 주어진 선형 변환의 '주축' 역할을 한다. 예를 들어, 2차원 평면에서 타원을 생각해보면, 그 타원의 장축과 단축 방향이 바로 변환의 고유벡터 방향에 해당한다. 이 방향으로는 변환이 단순한 스케일링만 일어나기 때문에, 복잡한 변환을 몇 개의 독립된 방향으로 분해하여 이해하는 데 핵심적인 도구가 된다.
이러한 기하학적 성질은 데이터 분석에서 매우 유용하게 쓰인다. 주성분 분석에서는 데이터의 공분산 행렬의 고유벡터를 구해 데이터 분산이 가장 큰 방향, 즉 '주성분'을 찾아낸다. 이 주성분들은 서로 직교하는 새로운 좌표축이 되며, 데이터의 구조를 가장 잘 설명하는 기하학적 축을 제공한다.
8. 응용 분야
8. 응용 분야
고유벡터는 다양한 과학 및 공학 분야에서 핵심적인 도구로 활용된다. 선형 시스템의 안정성 분석, 데이터의 차원 축소, 물리적 시스템의 고유 진동 모드 해석, 그리고 양자 역학에서의 상태 표현 등에 널리 적용된다.
주성분 분석은 고유벡터의 대표적인 응용 사례이다. 고차원 데이터의 공분산 행렬을 계산하고, 이 행렬의 고유벡터를 구함으로써 데이터의 분산이 가장 큰 방향, 즉 주성분을 찾아낸다. 이를 통해 데이터의 핵심적인 구조를 유지하면서 차원을 효과적으로 축소할 수 있으며, 이는 머신러닝, 데이터 시각화, 노이즈 제거 등에 활용된다. 진동 모드 분석에서는 물리적 시스템(예: 다리, 건물, 분자)의 운동 방정식을 행렬 형태로 표현했을 때, 시스템의 고유진동수에 해당하는 고윳값과 그때의 진동 형태를 나타내는 고유벡터를 구한다. 이는 구조 공학이나 분자 역학에서 시스템의 거동을 이해하는 데 필수적이다.
양자 역학에서는 관측 가능량이 연산자로 표현되며, 이 연산자의 고유벡터는 해당 물리량이 확정된 값을 가지는 상태를 의미한다. 예를 들어, 해밀토니안 연산자의 고유벡터는 시스템의 정상 상태를 나타내며, 이때의 고윳값은 해당 상태의 에너지 준위가 된다. 이처럼 고유벡터는 미시 세계의 물리적 상태를 수학적으로 기술하는 근간이 된다. 또한, 마르코프 과정에서의 안정 상태나 그래프 이론에서의 중심성 지표(예: 페이지랭크) 계산 등에도 고유벡터 개념이 깊이 관여한다.
9. 관련 개념
9. 관련 개념
고유벡터는 고윳값과 함께 선형대수학의 핵심 개념을 이루며, 이와 밀접하게 연관된 여러 개념들이 존재한다. 가장 직접적인 관련 개념은 고윳값으로, 고유벡터의 방향은 변하지 않지만 크기가 변하는 배율을 나타낸다. 이 둘은 항상 쌍을 이루어 고유벡터-고윳값 쌍으로 불리며, 행렬이나 선형 변환의 특성을 분석하는 데 사용된다.
고유공간은 하나의 고윳값에 대응하는 모든 고유벡터와 영벡터가 이루는 부분공간이다. 이는 특정 고윳값에 대한 고유벡터들이 선형 결합을 통해 새로운 고유벡터를 만들어낼 수 있음을 보여주는 개념이다. 또한, 대각화는 행렬을 고유벡터들을 기저로 하는 좌표계에서 보면 대각행렬이 되는 변환을 의미하며, 이 대각행렬의 대각 성분이 바로 고윳값들이다.
이 개념들은 더 넓은 수학적 체계에서도 확장되어 나타난다. 특이값 분해는 정사각행렬이 아닌 행렬에 대해 고윳값 분해와 유사한 역할을 하는 방법으로, 특이벡터와 특이값의 개념을 사용한다. 스펙트럼 정리는 자기수반 행렬이나 정규 행렬과 같은 특수한 행렬들의 고윳값과 고유벡터가 가지는 좋은 성질을 설명하는 중요한 정리이다.
10. 여담
10. 여담
고유벡터는 선형대수학의 핵심 개념으로, 행렬이나 선형 변환을 통해 그 방향이 보존되는 벡터를 의미한다. 이는 단순한 수학적 도구를 넘어, 복잡한 시스템을 이해하는 강력한 프레임워크를 제공한다. 예를 들어, 주성분 분석에서는 데이터의 가장 큰 변동 방향을 고유벡터로 찾아 차원을 축소하며, 양자역학에서는 관측 가능한 물리량의 상태를 고유벡터로 표현한다.
고유벡터의 개념은 다양한 분야에서 비유적으로도 활용된다. 어떤 시스템이나 조직에서 핵심적인 역할을 하며 변화에 저항하는 중심 요소를 '고유벡터'에 빗대어 설명하기도 한다. 이는 개념이 지닌 직관적인 기하학적 의미, 즉 변환 속에서도 방향을 유지하는 '불변의 축'이라는 성질에서 비롯된 것이다.
이 개념은 수학의 여러 분야와 깊이 연결되어 있다. 특이값 분해는 고유벡터와 고윳값을 직사각형 행렬로 일반화한 것이며, 미분방정식의 해를 구하거나 그래프 이론에서 네트워크의 중심성을 분석하는 데에도 응용된다. 따라서 고유벡터를 이해하는 것은 현대 수학과 그 응용 분야를 이해하는 중요한 토대가 된다.
