이차 형식

이차 형식은 행렬을 이용해 간결하게 표현할 수 있다. n개의 변수 x₁, x₂, ..., xₙ을 성분으로 가지는 열벡터 x를 생각하자. 이때, 이차 형식 Q(x)는 x의 전치 행렬(xᵀ), 하나의 n×n 대칭 행렬 A, 그리고 열벡터 x의 곱으로 Q(𝐱) = 𝐱ᵀA𝐱 형태로 쓸 수 있다. 여기서 행렬 A의 (i, j) 성분 aᵢⱼ는 일반 형태에서의 혼합항 xᵢxⱼ의 계수에 대응되며, A가 대칭 행렬(aᵢⱼ = aⱼᵢ)이라는 조건은 표현의 유일성을 보장한다.

예를 들어, 두 변수 x, y에 대한 이차 형식 Q(x, y) = ax² + 2bxy + cy²는 다음과 같은 행렬 표현을 가진다.

이러한 행렬 표현의 큰 장점은 선형대수학의 강력한 도구들을 적용할 수 있다는 점이다. 행렬 A의 고윳값과 고유벡터를 분석함으로써 이차 형식의 기하학적 성질을 파악하거나, 직교 대각화를 통해 혼합항이 없는 표준형으로 변환하는 것이 가능해진다. 이는 이차 곡면을 분류하거나 최적화 문제에서 매우 유용하게 쓰인다.

또한, 변수의 선형 변환 x = Py (P는 가역 행렬)을 적용하면, 새로운 변수 y에 대한 이차 형식은 yᵀ(PᵀAP)y가 되어 행렬이 PᵀAP로 변환된다. 이 변환은 행렬의 합동 관계에 해당하며, 이차 형식의 계수와 부호수 등 본질적인 특성을 연구하는 데 핵심적인 개념이다.

이차 형식은 대칭 쌍선형 형식과 밀접하게 연결되어 있다. 주어진 이차 형식 Q(x)에서, 그에 대응하는 대칭 쌍선형 형식 B(x, y)를 B(x, y) = (1/2)[Q(x+y) - Q(x) - Q(y)]로 정의할 수 있다. 이 과정을 극화(polarization)라고 한다. 반대로, 어떤 대칭 쌍선형 형식 B(x, y)가 주어지면, Q(x) = B(x, x)로 정의하여 이차 형식을 얻는다. 즉, 이차 형식은 대칭 쌍선형 형식을 대각선상에서 본 것으로 해석할 수 있다.

이 관계는 행렬을 통해 명확하게 드러난다. 이차 형식 Q(x) = xᵀAx (A는 대칭 행렬)가 주어지면, 이에 대응하는 대칭 쌍선형 형식은 B(x, y) = xᵀAy로 주어진다. 이는 Q(x+y) = (x+y)ᵀA(x+y)를 전개하여 극화 공식에 대입하면 직접 유도된다. 따라서, 대칭 행렬 A는 이차 형식과 그에 수반된 쌍선형 형식을 동시에 결정한다.

이 연결은 이론적 전개와 계산 모두에서 매우 유용하다. 예를 들어, 이차 형식의 대각화 문제는 곧 대응하는 대칭 쌍선형 형식을 직교 기저에서 표현하는 문제와 같다. 또한, 관성 법칙과 같은 중요한 정리는 이 관계를 바탕으로 증명되기도 한다. 결국, 이차 형식과 대칭 쌍선형 형식은 동일한 수학적 객체를 서로 다른 각도에서 바라본 것으로, 선형대수학과 다중선형대수학에서 핵심적인 역할을 한다.

이차 형식의 중요한 특성 중 하나는 계수와 부호수이다. 이는 이차 형식이 정의하는 기하학적 구조를 이해하는 핵심 지표가 된다.

계수는 이차 형식의 행렬 표현에서 대각화된 행렬의 0이 아닌 고유값의 개수, 즉 행렬 A의 계수와 같다. 이는 이차 형식이 실제로 의존하는 독립 변수의 수를 나타낸다. 예를 들어, n변수 이차 형식의 계수가 r이면, 이는 좌표 변환을 통해 r개의 변수만 포함하는 형태로 단순화될 수 있음을 의미한다.

부호수는 양의 고유값의 개수와 음의 고유값의 개수의 쌍 (p, q)로 정의되며, 여기서 p+q는 계수 r과 같다. 부호수는 이차 형식이 정의하는 곡면의 기본적인 모양을 결정한다. 예를 들어, 3차원 공간에서 계수 3인 이차 형식의 부호수가 (3,0)이면 타원면, (2,1)이면 쌍곡면, (1,2)이면 쌍곡포물면과 같은 형태가 된다.

이러한 계수와 부호수의 개념은 이차 곡면 분류뿐만 아니라, 최적화 문제에서 헤세 행렬의 정부호성을 판별하거나 물리학에서 상대성 이론의 시공간 계량 텐서를 분석하는 데에도 필수적으로 적용된다.

정부호 이차 형식은 변수의 값에 따라 이차 형식의 값이 항상 양수이거나 항상 음수인 특별한 경우를 가리킨다. 주어진 실수 벡터 x가 영벡터가 아닐 때, 이차 형식 Q(x) = x^T A x의 값이 항상 0보다 크면 양의 정부호, 항상 0보다 작으면 음의 정부호라고 한다. 만약 0보다 크거나 같으면 양의 준정부호, 0보다 작거나 같으면 음의 준정부호라고 한다. 이 성질은 행렬 A의 고윳값 부호와 직접적으로 연결된다.

정부호성을 판별하는 방법은 여러 가지가 있다. 가장 기본적인 방법은 행렬 A의 모든 고윳값이 양수인지 확인하는 것이다. 모든 고윳값이 양수이면 양의 정부호, 모두 음수이면 음의 정부호이다. 또 다른 실용적인 판별법은 주축정리를 이용한 대각화이다. 이차 형식을 제곱항의 합으로 표현했을 때 모든 제곱항의 계수가 양수이면 양의 정부호이다. 또한, 행렬 A의 선행 주부분행렬의 행렬식(주소행렬식)이 모두 양수인지 확인하는 실베스터 준거도 널리 사용된다.

정부호 이차 형식은 최적화 문제에서 매우 중요한 역할을 한다. 예를 들어, 다변수 함수의 극값을 판별할 때 헤세 행렬로 정의된 이차 형식이 양의 정부호이면 극소점, 음의 정부호이면 극대점임을 알 수 있다. 또한, 이 성질은 최소제곱법에서 오차를 최소화하는 해의 안정성을 보장하거나, 물리학에서 시스템의 평형 상태 안정성을 분석하는 데 활용된다.

이차 형식의 대각화는 주어진 이차 형식을 새로운 변수로 표현하여 교차항이 없는 표준형으로 만드는 과정이다. 이는 대칭 행렬 A를 이용한 행렬 표현 Q(𝐱) = 𝐱ᵀA𝐱에서 출발한다. 핵심은 적절한 가역 행렬 P를 찾아 변수 변환 𝐱 = P𝐲를 수행하면, 새로운 이차 형식이 대각 행렬 D를 이용해 Q(𝐲) = 𝐲ᵀD𝐲 형태가 되도록 하는 것이다. 여기서 D의 대각 성분은 이차 형식의 고유값이 된다.

이 과정은 크게 두 가지 방법으로 이루어진다. 첫째는 행렬 A의 고유값과 고유벡터를 구하는 직교 대각화이다. 이 방법은 변환 행렬 P가 직교 행렬이 되도록 하며, 결과적으로 얻는 새로운 변수들도 직교 관계를 유지한다. 둘째는 라그랑주 방법으로 알려진 완전제곱식 만들기이다. 이는 행렬의 고유값 계산 없이 순차적으로 변수를 소거하여 대각형을 얻는 더 계산적인 접근이다.

대각화의 결과는 이차 형식의 기하학적 성질을 명확히 보여준다. 예를 들어, 대각화된 형태에서 고유값의 부호를 분석하면 이차 형식이 정의하는 곡면이 타원체, 쌍곡면, 또는 포물면 등 어떤 형태인지 분류할 수 있다. 또한 최적화 문제에서 이차 목적 함수의 대각화는 최솟값 또는 최댓값의 존재 여부와 위치를 결정하는 데 핵심적인 역할을 한다.

이러한 대각화는 단순한 형태 변환을 넘어, 이차 형식의 고유한 수치적 성질(계수와 부호수)을 추출하는 표준적인 절차로 자리 잡았다.

관성 법칙은 실수 계수 이차 형식의 중요한 불변량인 부호수를 다루는 정리이다. 이 법칙에 따르면, 하나의 이차 형식을 대각화하여 얻은 제곱항의 계수들 중 양수인 것의 개수와 음수인 것의 개수는 대각화하는 방법에 관계없이 항상 일정하게 유지된다.

구체적으로, 실수 대칭 행렬 A로 표현되는 이차 형식 Q(x) = xᵀAx가 있다고 하자. 이때 적절한 가역 행렬 P를 이용해 변수 변환 x = Py를 수행하면, Q는 y에 대한 제곱항의 선형 결합인 Q(y) = λ₁y₁² + λ₂y₂² + ... + λₙyₙ² 꼴로 대각화된다. 관성 법칙은 이 대각화된 형태에서 양의 계수 λᵢ의 개수(양의 관성 지수)와 음의 계수 λᵢ의 개수(음의 관성 지수)가 변수 변환을 위한 가역 행렬 P의 선택과 무관하게 고유함을 보장한다. 이 두 개수의 쌍을 이차 형식의 부호수라고 한다.

이 정리는 이차 형식의 근본적인 기하학적 성질을 규정한다. 예를 들어, 부호수가 (n, 0)인 이차 형식은 모든 0이 아닌 벡터에 대해 양의 값을 갖는 정부호 형식이며, 이는 n차원 공간에서 '타원체'와 같은 형태와 관련된다. 반면, 양과 음의 계수가 모두 존재하는 부정부호 형식은 '쌍곡면'의 성질을 나타낸다. 따라서 관성 법칙은 실수체 위에서 이차 형식 또는 이차 곡면을 분류하는 데 있어 핵심적인 기준을 제공한다.

관성 법칙의 결과, 서로 다른 두 대각화 방법에서 제곱항의 계수 자체는 달라질 수 있지만, 계수의 부호 분포는 절대적으로 고정된다. 이는 이차 형식의 본질적인 특성이 계수의 정확한 값보다는 그 부호의 개수에 의해 결정됨을 의미한다.

최소제곱법은 주어진 데이터 포인트들에 가장 잘 맞는 선형 모델을 찾는 통계적 기법이다. 이 과정에서 오차의 제곱합을 최소화하는 문제는 본질적으로 이차 형식을 최소화하는 문제가 된다. 회귀 분석, 특히 선형 회귀 분석은 이 최소제곱법 원리를 바탕으로 한다.

선형 회귀 모델 y = Xβ + ε에서, 계수 벡터 β를 추정하기 위해 잔차 제곱합 S(β) = (y - Xβ)ᵀ(y - Xβ)를 최소화한다. 이 식을 전개하면 yᵀy - 2βᵀXᵀy + βᵀXᵀXβ가 되는데, 여기서 β에 관한 항 βᵀ(XᵀX)β는 β에 대한 이차 형식이다. XᵀX 행렬은 대칭 행렬이므로, 이 이차 형식의 최소점을 찾는 문제로 귀결된다.

이차 형식의 성질은 회귀 분석의 핵심 가정과 깊이 연결된다. 예를 들어, XᵀX 행렬이 양의 정부호 이차 형식을 이끈다는 것은 이 행렬이 가역적임을 의미하며, 이는 최소제곱 추정량이 유일하게 존재할 수 있는 조건 중 하나이다. 또한, 오차의 공분산 추정이나 모형의 적합도를 평가하는 결정 계수(R²) 계산에도 이차 형식의 개념이 활용된다.

이차 형식은 기하학에서 이차 곡면의 분류에 핵심적인 역할을 한다. 3차원 공간에서 이차 곡면은 이차 방정식으로 정의되는 곡면으로, 구, 타원체, 쌍곡면, 포물면 등이 대표적이다. 이 곡면의 방정식은 좌표 변수에 대한 이차 형식 Q(x, y, z)와 일차항, 상수항의 합으로 표현된다. 이때 곡면의 기하학적 모양은 이차 형식 부분의 성질에 의해 결정된다.

이차 형식의 행렬 표현 Q(𝐱) = 𝐱ᵀA𝐱에서, 대칭 행렬 A는 직교 변환을 통해 대각화할 수 있다. 이는 좌표축을 회전시켜 이차 형식에서 교차항(xy, yz, zx 항)을 제거하는 것에 해당한다. 결과적으로 얻는 새로운 방정식은 표준형으로, 계수의 부호와 영(0)이 아닌 계수의 개수를 통해 곡면의 유형을 식별할 수 있다.

이러한 분류는 관성 법칙에 기반한다. 관성 법칙에 의해, 이차 형식을 대각화했을 때 양의 계수, 음의 계수, 0의 계수의 개수는 좌표 변환에 관계없이 불변이다. 따라서 이 부호수(p, q, r)는 곡면의 고유한 기하학적 특성을 나타내는 불변량이 된다. 이를 통해 복잡해 보이는 곡면 방정식도 회전 변환을 통해 표준형으로 축소하고 그 본질적인 모양을 파악할 수 있다.

이 원리는 3차원을 넘어 더 높은 차원의 초곡면 분류에도 적용되며, 물리학에서 관성 모멘트 텐서나 상대성 이론의 시공간 계량에도 활용된다.

에르미트 형식은 이차 형식을 복소수 체계로 확장한 개념이다. 실수 위의 이차 형식이 대칭 행렬로 표현되는 것과 달리, 에르미트 형식은 에르미트 행렬을 사용하여 표현된다. 이는 켤레 복소수 연산을 포함한다는 점에서 본질적인 차이가 있다.

에르미트 형식의 일반적인 형태는 H(𝐳) = Σᵢ,ⱼ hᵢⱼ zᵢ \bar{z}ⱼ 이며, 여기서 계수 행렬 H = (hᵢⱼ)는 에르미트 행렬, 즉 H = H^* (H의 켤레 전치)를 만족한다. 따라서 행렬 표현은 H(𝐳) = 𝐳^* H 𝐳 가 된다. 이 구조는 값이 항상 실수가 된다는 중요한 성질을 보장한다.

에르미트 형식은 복소수 벡터 공간, 특히 힐베르트 공간 이론과 양자역학에서 기본적인 역할을 한다. 예를 들어, 양자역학에서 관측 가능한 물리량은 에르미트 연산자에 대응되며, 이 연산자의 기대값은 에르미트 형식으로 계산된다.

실수 이차 형식의 많은 분류 이론과 성질, 예를 들어 부호수와 정부호성 개념은 에르미트 형식에도 유사하게 적용된다. 에르미트 행렬의 고윳값이 모두 실수라는 사실은 에르미트 형식의 값을 분석하는 데 핵심적이다.

이차 형식의 합동은 두 이차 형식이 동일한 기하학적 또는 대수적 성질을 공유하는지 판별하는 중요한 개념이다. 두 이차 형식이 합동이라는 것은, 하나의 이차 형식을 다른 하나로 변환할 수 있는 가역적인 선형 변환이 존재한다는 것을 의미한다. 이는 행렬의 언어로 명확히 정의된다.

대칭 행렬 A와 B로 표현된 두 이차 형식 Q_A(𝐱)=𝐱ᵀA𝐱와 Q_B(𝐱)=𝐱ᵀB𝐱가 있다고 하자. 이 두 이차 형식이 합동이라는 것은, 어떤 가역 행렬 P가 존재하여 B = Pᵀ A P가 성립함을 뜻한다. 이 관계는 행렬 A와 B가 합동 행렬임을 의미한다. 합동 관계는 동치 관계의 성질(반사성, 대칭성, 추이성)을 만족한다.

이차 형식의 합동은 그 분류의 핵심 도구이다. 특히 실수 체 위에서의 관성 법칙은, 모든 실수 이차 형식은 합동 관계 아래에서 그 부호수(양의 관성 지수, 음의 관성 지수, 퇴화 차수)에 의해 완전히 분류됨을 보여준다. 즉, 두 실수 이차 형식이 합동일 필요충분조건은 두 형식의 부호수가 동일한 것이다. 이 결과는 이차 곡면의 표준형 분류에 직접적으로 응용된다.

따라서 이차 형식의 합동 개념은 복잡해 보이는 다변수 2차 함수를, 그 본질적인 성질(양의 값/음의 값을 갖는 방향의 수)만을 남긴 표준형으로 간소화하여 이해하는 체계적인 틀을 제공한다.