Eigen

고윳값과 고유벡터를 계산하는 기본적인 방법은 특성 방정식을 푸는 것이다. 주어진 정사각 행렬 A에 대해, 특성 방정식 det(A - λI) = 0을 만족하는 스칼라 λ를 찾는다. 여기서 det는 행렬식, I는 단위 행렬을 의미한다. 이 방정식을 풀어 얻은 λ가 고윳값이 된다. 각 고윳값 λ_i에 대해, 연립 일차 방정식 (A - λ_i I) v = 0을 만족하는 영벡터가 아닌 해 v를 구하면, 그것이 λ_i에 대응하는 고유벡터가 된다.

수치적으로 안정적이고 효율적인 계산을 위해서는 다양한 알고리즘이 사용된다. 작은 행렬의 경우에는 특성 방정식을 직접 푸는 방법이 가능하지만, 대규모 행렬이나 희소 행렬의 경우에는 QR 알고리즘이나 멱승법과 같은 반복적 방법이 주로 활용된다. 특히 QR 알고리즘은 모든 고윳값을 근사적으로 계산하는 데 널리 쓰이는 표준적인 방법이다.

고윳값 계산의 복잡성은 행렬의 크기와 구조에 크게 의존한다. 일반적인 밀집 행렬의 경우 계산 복잡도가 O(n^3)에 달할 수 있어, 매우 큰 행렬에 대해서는 가장 큰 몇 개의 고윳값만을 구하는 랭크스 알고리즘 같은 방법이 선호된다. 또한, 대칭 행렬이나 에르미트 행렬과 같은 특수한 구조를 가진 행렬은 더욱 효율적이고 안정적인 알고리즘을 적용할 수 있다.

이러한 계산 방법들은 선형대수학 라이브러리나 MATLAB, NumPy 같은 수치 계산 소프트웨어에 구현되어 있어, 사용자는 내장 함수를 호출함으로써 복잡한 계산 과정 없이도 고윳값과 고유벡터를 쉽게 얻을 수 있다.

고유벡터는 선형 변환을 적용해도 그 방향이 변하지 않는 벡터이다. 이때 고윳값은 그 선형 변환이 해당 고유벡터 방향으로 얼마나 늘리거나 줄이는지를 나타내는 스칼라 배율이다. 예를 들어, 고윳값이 2라면 해당 고유벡터 방향으로 길이가 두 배가 되고, 0.5라면 절반으로 줄어들며, 음수라면 방향이 반대가 되면서 크기가 변한다.

이러한 기하학적 관계는 행렬이 표현하는 변환을 이해하는 데 핵심적이다. 대각화가 가능한 행렬은 고유벡터들이 기저를 이루며, 이 기저로 공간을 바라보면 복잡한 선형 변환이 단순히 각 좌표축 방향으로 늘리고 줄이는 스케일링 변환으로 보인다. 즉, 고윳값과 고유벡터는 선형 변환의 본질을 드러내는 좌표계를 제공한다.

고윳값의 크기는 변환의 주요한 "작용 방향"에서의 확대 또는 축소 정도를, 부호는 그 방향의 유지 또는 반전을 의미한다. 특히 고윳값이 0인 경우, 해당 고유벡터 방향의 모든 정보가 변환 과정에서 널 공간으로 사라지게 된다. 이는 시스템에서 중요한 불변 방향과 정보 손실이 일어나는 방향을 동시에 보여준다.

따라서 기하학적 관점에서 고윳값과 고유벡터는 선형 변환의 핵심 작용을 분해하여 보여주는 도구이다. 이는 주축 정리나 진동 모드 분석과 같은 다양한 응용에서 복잡한 현상을 단순한 기본 모드들의 중첩으로 이해하는 기초가 된다.

고윳값과 고유벡터는 선형 변환을 분석하는 데 핵심적인 도구이다. 주어진 행렬 A가 나타내는 선형 변환을 이해하려면, 이 변환에 의해 방향이 유지되는 벡터, 즉 고유벡터를 찾는 것이 중요하다. 이러한 벡터들은 변환의 본질적인 특성을 드러내는 축 역할을 한다.

선형 변환을 고유벡터들이 정규 직교 기저를 이루는 좌표계에서 바라보면, 그 변환은 단순히 각 축 방향으로의 신축 변환으로 표현된다. 이때 각 축 방향의 신축 비율이 바로 해당 고유벡터에 대응하는 고윳값이다. 따라서 복잡한 선형 변환을 고윳값과 고유벡터를 통해 분석하면, 변환의 핵심적인 작용인 '늘림'과 '줄임'을 분리하여 파악할 수 있게 된다.

이러한 분석은 연립 일차 방정식의 해의 존재성이나 미분방정식의 해를 구하는 데 응용된다. 또한, 시스템의 안정성을 판단할 때도 중요한데, 예를 들어 이산 동역학계에서 시스템의 장기적 행동은 행렬의 고윳값 크기에 의해 결정된다. 모든 고윳값의 절댓값이 1보다 작으면 시스템은 안정적으로 원점으로 수렴한다.

고윳값 분석은 공학과 물리학의 다양한 문제를 푸는 기초가 된다. 진동 문제에서는 고윳값이 시스템의 고유 진동수를, 구조 역학에서는 좌굴이 발생하는 임계 하중을 결정한다. 이처럼 선형 변환을 고윳값의 관점에서 해석하는 것은 복잡한 시스템을 이해하는 강력한 수학적 프레임워크를 제공한다.

주성분 분석은 고차원 데이터의 핵심적인 패턴을 추출하고 차원을 축소하기 위한 통계적 기법이다. 이 방법의 핵심에는 공분산 행렬의 고윳값과 고유벡터에 대한 분석이 자리 잡고 있다.

데이터 세트의 공분산 행렬을 계산한 후, 이 행렬의 고윳값과 고유벡터를 구하는 것이 주성분 분석의 핵심 단계이다. 여기서 구해진 각 고유벡터는 하나의 주성분이 되며, 이 주성분은 데이터가 분산되는 새로운 축의 방향을 나타낸다. 해당 고유벡터에 연관된 고윳값의 크기는 그 축 방향으로의 데이터 분산량을 의미한다. 즉, 고윳값이 클수록 해당 주성분 방향으로 데이터가 널리 퍼져 있어 정보를 많이 담고 있다고 해석할 수 있다.

분석자는 고윳값을 기준으로 주성분을 내림차순으로 정렬하여 가장 중요한 주성분부터 선택하게 된다. 이를 통해 원본 데이터의 대부분의 분산을 설명하면서도 훨씬 적은 수의 변수만을 사용하는 저차원 표현을 얻을 수 있다. 이 과정은 기계 학습에서 차원의 저주를 피하고 계산 효율성을 높이며, 데이터 시각화를 가능하게 하는 중요한 전처리 단계로 활용된다.

주성분 분석은 영상 처리, 유전체학, 금융 위험 관리, 추천 시스템 등 다양한 분야에서 데이터 압축과 노이즈 제거, 특징 추출을 위해 광범위하게 적용되고 있다.

양자역학에서 고윳값과 고유벡터는 물리적 관측량과 시스템의 상태를 기술하는 데 핵심적인 역할을 한다. 양자역학에서 물리적 관측 가능량(예: 에너지, 운동량, 스핀)은 에르미트 연산자로 표현되며, 이 연산자의 고윳값은 측정 가능한 물리량의 값에 해당한다. 예를 들어, 해밀토니안 연산자의 고윳값은 시스템의 가능한 에너지 준위를 나타낸다.

한편, 양자 시스템의 상태는 힐베르트 공간에 존재하는 파동 함수로 설명되는데, 이는 연산자의 고유벡터들의 선형 결합으로 표현될 수 있다. 특정 관측량을 측정했을 때, 시스템의 상태는 해당 연산자의 고유벡터 중 하나로 붕괴하며, 그때 얻는 측정값은 그 고유벡터에 대응하는 고윳값이 된다. 이는 슈뢰딩거 방정식의 해를 구하는 과정이 본질적으로 해밀토니안 연산자의 고윳값과 고유벡터를 찾는 문제와 동일함을 의미한다.

고윳값과 고유벡터는 진동을 분석하는 물리학 및 공학 문제에서 핵심적인 도구로 사용된다. 예를 들어, 여러 개의 질량과 스프링으로 연결된 기계 시스템이나 복잡한 구조물의 고유 진동을 해석할 때, 시스템의 운동 방정식은 종종 행렬 형태로 표현된다. 이때 시스템의 진동수와 진동 모드는 각각 해당 행렬의 고윳값과 고유벡터에 직접적으로 대응한다.

구체적으로, 시스템의 자유 진동을 기술하는 2계 상미분 방정식은 고윳값 문제로 변환될 수 있다. 이 문제를 풀어서 얻은 고윳값은 시스템의 고유 진동수의 제곱에 비례하며, 각 고윳값에 대응하는 고유벡터는 그 특정 진동수에서 시스템의 각 부분이 어떻게 움직이는지를 나타내는 진동 모드 형상을 보여준다. 첫 번째 모드는 가장 낮은 기본 진동수를 가지며, 이후 모드일수록 더 높은 진동수를 가진다.

이러한 분석은 건축 공학에서 내진 설계를 위해 구조물의 취약한 진동 모드를 파악하거나, 자동차 공학에서 원치 않는 공진을 피하기 위해 새시나 엔진의 진동 특성을 설계하는 데 필수적이다. 또한 항공우주공학에서 비행기나 로켓의 구조적 안정성을 검증하거나, 전자공학에서 회로의 신호 특성을 분석하는 데도 널리 응용된다.

특이값 분해(SVD)는 행렬을 분석하는 강력한 도구로, 고윳값과 고유벡터의 개념을 직사각형 행렬까지 확장한 것이다. 임의의 m x n 크기의 행렬 A는 A = UΣV^T 형태로 분해될 수 있다. 여기서 U는 m x m 크기의 직교 행렬, V는 n x n 크기의 직교 행렬이며, Σ는 m x n 크기의 대각 행렬이다. Σ의 대각선상의 음이 아닌 실수 값이 바로 특이값이다. 이는 고윳값과 유사한 역할을 하지만, 정방행렬이 아닌 경우에도 항상 존재하며 실수값을 보장한다는 점에서 차이가 있다.

특이값 분해는 고윳값 분해가 불가능한 행렬이나 직교 행렬에 대해서도 적용 가능하다는 점에서 매우 일반적이다. 이 분해는 행렬 A가 선형 변환으로 작용할 때, 입력 공간(V의 열벡터들)의 정규 직교 기저를 출력 공간(U의 열벡터들)의 또 다른 정규 직교 기저로 변환하며, 그 변환의 스케일링 정도를 특이값들이 결정한다고 해석할 수 있다. 즉, 가장 큰 특이값에 해당하는 방향으로 변환이 가장 강하게 일어난다.

이러한 특성 덕분에 특이값 분해는 주성분 분석(PCA)의 계산 기반이 된다. 공분산 행렬의 고윳값 분해 대신 데이터 행렬 자체의 특이값 분해를 직접 수행하여 주성분을 구할 수 있다. 또한, 데이터 압축, 노이즈 제거, 추천 시스템, 영상 처리 등 다양한 응용 수학 및 공학 분야에서 핵심적인 알고리즘으로 활용된다. 예를 들어, 큰 특이값 몇 개만을 사용하여 행렬을 근사하는 것은 차원 축소와 데이터 압축의 기본 원리가 된다.

행렬의 대각화는 정사각행렬을 대각 행렬과 유사한 형태로 변환하는 과정이다. 구체적으로, 가역행렬 P와 대각 행렬 D가 존재하여 A = PDP^{-1} 또는 D = P^{-1}AP 형태로 표현될 수 있을 때, 행렬 A는 대각화 가능하다고 한다. 이때 대각 행렬 D의 주대각선 성분들은 행렬 A의 고윳값이 되며, 가역행렬 P를 구성하는 열벡터들은 각 고윳값에 대응하는 고유벡터가 된다.

대각화 가능한 행렬은 분석과 계산이 매우 용이해진다. 예를 들어, 행렬의 거듭제곱 A^n은 P D^n P^{-1}로 쉽게 계산할 수 있으며, 이는 선형 동역학 시스템의 장기적 거동을 분석하거나 마르코프 체인의 상태 전이를 모델링할 때 유용하다. 또한, 행렬 지수 함수와 같은 행렬 함수를 정의하고 계산하는 데도 핵심적인 역할을 한다.

모든 행렬이 대각화 가능한 것은 아니다. 행렬이 대각화되기 위한 필요충분조건은 n x n 행렬이 n개의 선형 독립인 고유벡터를 갖는 것이다. 이 조건은 모든 고윳값이 서로 다른 경우에는 항상 성립하지만, 중복도가 있는 고윳값이 존재할 경우에는 해당 고윳값에 대한 고유벡터들이 충분한 수만큼 선형 독립이어야 한다. 대각화가 불가능한 행렬은 조르당 표준형으로 변환하여 분석하는 경우가 많다.

대각화의 개념은 선형 변환의 관점에서도 이해할 수 있다. 선형 변환을 서로 다른 기저에서 표현한 행렬들은 닮음행렬 관계에 있으며, 대각화는 선형 변환을 그 고유벡터들을 기저로 삼는 새로운 좌표계에서 표현했을 때 그 행렬 표현이 대각 행렬이 되도록 하는 과정이다. 이는 변환의 본질을 가장 단순한 형태로 드러내는 방법이다.

스펙트럼 정리는 선형대수학에서 에르미트 행렬이나 정규 행렬과 같은 특수한 행렬에 대해 성립하는 중요한 정리이다. 이 정리는 이러한 행렬들이 고유벡터로 이루어진 정규직교기저를 가짐을 보장하며, 이는 행렬이 대각화될 수 있음을 의미한다. 구체적으로, 스펙트럼 정리에 따르면 에르미트 행렬은 유니터리 행렬을 이용해 대각행렬로 변환할 수 있고, 이때 대각 성분은 모두 실수인 고윳값이 된다. 이 성질은 실수 범위에서 대칭 행렬에도 적용된다.

이 정리의 핵심은 행렬의 고윳값과 고유벡터의 집합인 스펙트럼이 행렬의 구조를 완전히 결정할 수 있는 조건을 제시한다는 점이다. 이를 통해 복잡한 선형 변환을 서로 직교하는 방향으로의 단순한 확대 또는 축소 변환의 합으로 이해할 수 있게 해준다. 스펙트럼 정리는 행렬이 정규직교기저를 이루는 충분한 수의 고유벡터를 가질 수 있는 조건을 명확히 규정한다.

스펙트럼 정리의 응용은 매우 광범위하다. 양자역학에서는 관측 가능한 물리량을 나타내는 에르미트 연산자가 이 정리를 만족하므로, 측정 가능한 값(고윳값)과 해당 상태(고유벡터)를 명확히 정의할 수 있다. 또한 주성분 분석과 같은 통계학 기법이나 진동 모드 분석과 같은 공학 문제에서도 데이터나 시스템의 주요 패턴을 추출하는 데 이 정리가 이론적 토대를 제공한다.

스펙트럼 정리는 특이값 분해와도 깊은 연관이 있다. 특이값 분해는 임의의 행렬에 적용 가능한 보다 일반적인 분해 방식인 반면, 스펙트럼 정리는 특정 조건을 만족하는 정방행렬에 대한 분해를 다룬다. 두 개념 모두 행렬을 단순한 구성 요소로 분해하여 해석하는 강력한 도구라는 공통점을 가진다.