벡터 공간 (r1)

벡터 공간의 공리적 정의는 집합과 연산, 그리고 그 연산이 만족시켜야 하는 일련의 규칙으로 구성된다. 벡터 공간은 벡터의 집합 V와 스칼라의 집합 F(보통 실수체 ℝ 또는 복소수체 ℂ)로 이루어지며, V 위에는 두 가지 기본 연산이 정의된다. 첫 번째는 두 벡터를 더하는 벡터 덧셈이고, 두 번째는 스칼라와 벡터를 곱하는 스칼라 곱셈이다.

이 두 연산은 다음의 여덟 가지 공리를 반드시 만족시켜야 한다. 벡터 덧셈에 대해서는 네 가지 공리가 적용된다: 임의의 벡터 u, v, w ∈ V에 대해, 덧셈의 교환법칙(u + v = v + u)과 결합법칙((u + v) + w = u + (v + w))이 성립해야 한다. 또한, 모든 벡터 v에 대해 v + 0 = v를 만족하는 영벡터 0이 V 안에 존재해야 하며(덧셈 항등원), 모든 벡터 v에 대해 v + (-v) = 0을 만족하는 덧셈 역원 -v가 V 안에 존재해야 한다.

나머지 네 가지 공리는 스칼라 곱셈과 관련된다. 임의의 스칼라 a, b ∈ F와 벡터 u, v ∈ V에 대해, 스칼라 곱셈의 결합법칙 a(bv) = (ab)v가 성립해야 한다. 또한 두 종류의 분배법칙이 성립해야 하는데, 하나는 스칼라에 대한 분배법칙 (a + b)v = av + bv이고, 다른 하나는 벡터에 대한 분배법칙 a(u + v) = au + av이다. 마지막으로, 스칼라 곱셈의 항등원인 숫자 1에 대해, 1v = v가 모든 벡터 v에 대해 성립해야 한다.

이러한 공리들을 모두 만족하는 구조 (V, F, +, ·)를 벡터 공간 또는 선형 공간이라고 부른다. 이 정의는 구체적인 벡터의 모양(화살표, 숫자 순서쌍, 함수 등)에 의존하지 않는 추상적이며 일반적인 개념으로, 선형대수학의 이론적 기초를 제공한다.

벡터 공간의 개념은 추상적인 공리만으로는 이해하기 어려울 수 있지만, 일상적으로 접하는 많은 수학적 대상들이 벡터 공간의 구조를 가짐으로써 그 중요성을 실감하게 한다. 가장 기본적이고 직관적인 예시는 2차원 또는 3차원의 좌표 공간이다. 예를 들어, 2차원 실수 공간 R²는 모든 실수 순서쌍 (x, y)의 집합으로, 벡터 덧셈은 (x₁, y₁) + (x₂, y₂) = (x₁+x₂, y₁+y₂)로, 스칼라 곱셈은 c(x, y) = (cx, cy)로 정의된다. 이 연산들은 벡터 공간의 모든 공리를 만족하며, 기하학적 벡터를 다루는 데 널리 사용된다.

더 높은 차원으로 일반화된 n차원 실수 공간 Rⁿ도 중요한 벡터 공간이다. 이 공간의 벡터는 n개의 실수로 이루어진 순서쌍이며, 성분별 덧셈과 스칼라 곱셈이 정의된다. 이 공간은 선형 방정식계나 다변수 미적분학을 연구하는 데 필수적이다. 한편, 스칼라장을 복소수체 C로 확장한 n차원 복소수 공간 Cⁿ도 벡터 공간을 이룬다.

함수들의 집합도 벡터 공간의 훌륭한 예가 된다. 특정 구간에서 정의된 모든 실숫값 연속 함수의 집합 C[a, b]를 생각해 보자. 두 함수 f와 g의 덧셈은 (f+g)(x) = f(x) + g(x)로, 스칼라 c에 의한 곱셈은 (cf)(x) = c f(x)로 정의된다. 이 연산 하에서 연속 함수들의 집합은 벡터 공간이 된다. 마찬가지로, 다항식들의 집합, 미분 가능 함수들의 집합, 또는 주어진 미분 방정식의 해집합도 각각의 연산에 대해 벡터 공간을 구성한다.

또 다른 유형의 예시로 행렬 공간을 들 수 있다. 모든 m x n 실수 행렬의 집합 M_{m×n}(R)은 행렬의 덧셈과 실수 스칼라 곱셈에 대해 벡터 공간이 된다. 이 공간은 선형 변환을 연구하고 표현하는 데 핵심적인 역할을 한다. 이처럼 벡터 공간은 수학의 다양한 분야에서 공통적으로 나타나는 대수적 구조를 포착하여, 서로 다른 영역의 문제들을 통일된 관점에서 분석할 수 있는 강력한 틀을 제공한다.

벡터 공간의 부분공간은 원래 벡터 공간의 부분 집합이면서, 그 자체로 벡터 공간의 공리들을 만족하는 구조이다. 즉, 주어진 벡터 공간 V의 부분 집합 W가 V에서 정의된 벡터 덧셈과 스칼라 곱셈에 대해 닫혀 있고, 이 연산들로 인해 W 자체가 하나의 벡터 공간이 될 때, W를 V의 부분공간이라고 한다. 이는 벡터 공간이라는 큰 구조 안에 존재하는 더 작은 벡터 공간을 의미한다.

어떤 부분 집합 W가 부분공간이 되기 위해서는 반드시 세 가지 조건을 만족해야 한다. 첫째, W는 영벡터를 포함해야 한다. 둘째, W에 속하는 임의의 두 벡터 u, v에 대해 그 합 u+v도 W에 속해야 한다(덧셈에 대해 닫혀 있음). 셋째, W에 속하는 임의의 벡터 u와 임의의 스칼라 c에 대해 스칼라 곱 c*u도 W에 속해야 한다(스칼라 곱셈에 대해 닫혀 있음). 이 세 조건은 W가 벡터 공간의 모든 공리를 자동으로 만족하게 하는 충분조건이 된다.

부분공간의 대표적인 예시로는 평면이나 직선과 같은 기하학적 공간을 들 수 있다. 예를 들어, 3차원 공간 R^3에서 원점을 지나는 모든 직선은 1차원 부분공간이며, 원점을 지나는 모든 평면은 2차원 부분공간이다. 영벡터만으로 이루어진 집합 {0}은 가장 작은 부분공간(자명한 부분공간)이며, 벡터 공간 V 자신은 가장 큰 부분공간이다.

부분공간의 개념은 선형대수학 전반에서 핵심적인 역할을 한다. 선형 방정식의 해 집합, 선형 변환의 핵과 상, 그리고 벡터 공간의 구조를 결정하는 기저와 차원을 논할 때 모두 부분공간이 등장한다. 특히, 주어진 벡터들의 모든 선형 결합으로 이루어진 집합은 부분공간을 이루며, 이를 그 벡터들이 생성하는 부분공간이라고 부른다.

선형 결합은 주어진 벡터들의 집합과 스칼라 계수를 이용하여 새로운 벡터를 만들어내는 기본적인 연산이다. 구체적으로, 벡터 공간 V의 유한한 벡터들 v1, v2, ..., vk와 스칼라 체 F의 원소들 a1, a2, ..., ak가 주어졌을 때, 식 a1v1 + a2v2 + ... + akvk의 형태로 표현되는 벡터를 이 벡터들의 선형 결합이라고 한다. 이때 각 스칼라 a_i를 선형 결합의 계수라고 부른다.

선형 결합의 개념은 벡터 공간의 구조를 이해하는 데 핵심적이다. 예를 들어, 평면 R^2 위의 두 벡터 (1,0)과 (0,1)은 그들의 선형 결합 a(1,0) + b(0,1) = (a,b)를 통해 평면 위의 모든 벡터를 생성할 수 있다. 이처럼 하나의 벡터 집합의 모든 가능한 선형 결합을 모은 집합을 그 집합의 생성이라고 하며, 이는 원래 벡터 공간의 부분공간을 이룬다.

선형 결합은 선형 방정식의 해를 표현하거나, 행렬의 열공간을 정의하는 데에도 직접적으로 활용된다. 또한, 선형 독립과 선형 종속의 정의는 선형 결합을 통해 이루어진다. 즉, 벡터들의 집합이 선형 독립이라는 것은 영벡터를 표현하는 선형 결합이 모든 계수가 0인 경우(자명한 경우)로 유일하다는 뜻이며, 그렇지 않으면 선형 종속이다. 이 개념은 기저와 차원이라는 더 추상적인 구조를 정의하는 토대가 된다.

선형 독립과 선형 종속은 벡터 공간에서 벡터들의 관계를 설명하는 핵심 개념이다. 어떤 벡터들의 집합이 선형 독립이라는 것은, 그 벡터들 중 어느 하나도 다른 벡터들의 선형 결합으로 표현될 수 없다는 것을 의미한다. 반대로, 선형 종속이라는 것은 집합 안의 적어도 하나의 벡터가 다른 벡터들의 선형 결합으로 표현될 수 있다는 뜻이다.

이 개념을 수학적으로 엄밀하게 정의하면 다음과 같다. 벡터 공간 V의 유한 집합 {v₁, v₂, ..., vₙ}이 주어졌을 때, 스칼라 a₁, a₂, ..., aₙ에 대한 선형 결합 a₁v₁ + a₂v₂ + ... + aₙvₙ이 영벡터가 되는 경우는 모든 스칼라 aᵢ가 0인 경우 뿐일 때, 이 벡터들의 집합을 선형 독립이라고 한다. 만약 모든 스칼라가 0이 아닌데도 선형 결합이 영벡터가 되는 경우가 존재한다면, 그 집합은 선형 종속이다.

선형 독립과 종속은 기저와 차원 개념의 토대를 이룬다. 벡터 공간의 기저는 그 공간을 생성하는 최소한의 선형 독립인 벡터들의 집합으로 정의된다. 즉, 기저는 선형 독립이면서 동시에 생성 집합이어야 한다. 벡터 공간의 차원은 바로 이 기저를 이루는 벡터의 개수로 정의되며, 이는 공간의 복잡성과 자유도를 나타내는 척도가 된다.

이러한 개념들은 선형 방정식 풀이, 고유값 문제, 함수 공간 분석 등 선형대수학의 다양한 응용 분야에서 근본적인 역할을 한다. 예를 들어, 연립일차방정식의 해가 유일하게 존재하는지 여부는 관련 계수 행렬의 열벡터들이 선형 독립인지 여부와 직접적으로 연결된다.

벡터 공간에서 기저는 그 공간의 모든 벡터를 유일하게 선형 결합으로 나타낼 수 있는 선형 독립인 벡터들의 집합이다. 즉, 기저는 공간을 '생성'하면서도 '불필요한 벡터가 없는' 최소한의 생성 집합이다. 예를 들어, 2차원 평면 좌표계에서 단위벡터 (1,0)과 (0,1)은 실수체 위의 벡터 공간 R^2의 표준 기저를 이룬다. 이 두 벡터는 서로 독립이며, 평면 위의 어떤 점 (x,y)도 x*(1,0) + y*(0,1)의 형태로 유일하게 표현할 수 있다.

기저의 중요한 성질 중 하나는, 하나의 벡터 공간에 대해 기저의 선택은 무수히 많을 수 있지만, 그 기저를 구성하는 벡터의 개수는 항상 일정하다는 점이다. 이 고정된 수를 벡터 공간의 차원이라고 정의한다. 따라서 차원은 벡터 공간의 규모와 복잡도를 수치화한 척도가 된다. 예를 들어, R^2의 차원은 2이며, R^n의 차원은 n이다. 영벡터만으로 이루어진 자명한 공간의 차원은 0으로 정의된다.

차원은 벡터 공간의 구조를 이해하는 핵심 도구이다. 같은 체 위에서 정의된 두 벡터 공간이 동형일 필요충분조건은 그 차원이 서로 같은 것이다. 또한, 유한 차원 벡터 공간의 경우, 그 부분공간의 차원은 항상 전체 공간의 차원보다 작거나 같다. 선형 변환의 핵과 상의 차원 사이에는 중요한 관계식(차원 정리)이 성립하여, 선형대수학의 여러 정리와 계산의 기초가 된다.

벡터 공간의 부분공간들 사이에는 집합론적 연산인 합집합과 교집합을 생각할 수 있다. 그러나 일반적으로 두 부분공간의 합집합은 다시 부분공간이 되지 않는다. 벡터 공간의 구조를 보존하면서 두 부분공간을 결합하는 자연스러운 방법은 두 집합의 합집합이 아니라, 두 부분공간에 속하는 모든 벡터들의 선형 결합으로 이루어진 집합을 고려하는 것이다. 이를 두 부분공간의 합이라고 한다.

두 부분공간 \( U \)와 \( W \)의 합 \( U + W \)는 \( \{ u + w \mid u \in U, w \in W \} \)로 정의된다. 이 집합은 원래 벡터 공간의 부분공간이 된다. 반면, 두 부분공간의 교집합 \( U \cap W \) 역시 항상 부분공간이 된다. 이는 두 부분공간에 동시에 속하는 벡터들의 집합이다.

합과 교집합은 차원과 밀접한 관계가 있다. 유한차원 부분공간 \( U \)와 \( W \)에 대해, 두 부분공간의 합의 차원은 각각의 차원의 합에서 교집합의 차원을 뺀 것과 같다. 이를 차원 공식이라고 한다. 이 공식은 두 부분공간이 어떻게 겹치는지에 대한 정보를 제공하며, 특히 두 부분공간의 합이 직합이 되는 조건(즉, \( U \cap W = \{0\} \))을 판별하는 데 유용하게 쓰인다.

벡터 공간의 부분공간들 사이의 중요한 연산 중 하나로, 두 부분공간의 직합은 그들의 합이면서 동시에 교집합이 자명한 특별한 경우를 가리킨다. 벡터 공간 V의 두 부분공간 U와 W에 대해, V의 모든 벡터 v가 u ∈ U, w ∈ W를 사용하여 v = u + w의 형태로 유일하게 표현될 수 있을 때, V는 U와 W의 직합이라고 하며, V = U ⊕ W로 표기한다. 이 유일한 표현 가능성은 두 부분공간의 교집합이 영벡터만으로 이루어져 있다는 조건, 즉 U ∩ W = {0}과 동치이다.

직합의 개념은 벡터 공간을 더 작고 구조적으로 단순한 부분공간들로 '분해'하는 데 유용하다. 예를 들어, 평면 ℝ²는 x축과 y축에 해당하는 두 개의 1차원 부분공간의 직합으로 볼 수 있다. 마찬가지로, 3차원 공간 ℝ³는 xy-평면과 z축의 직합, 또는 x축, y축, z축 각각의 직합으로 표현될 수 있다. 이는 공간을 서로 '직교'하는 독립적인 방향으로 나누어 이해하는 기하학적 직관을 제공한다.

직합의 핵심 성질은 기저와 차원과 밀접하게 연결된다. 만약 U와 W가 V의 부분공간이고 V = U ⊕ W이면, U의 기저와 W의 기저를 합친 집합은 V의 기저가 된다. 결과적으로, V의 차원은 U의 차원과 W의 차원의 합과 같다. 이 성질은 유한 차원 벡터 공간을 분석할 때 매우 강력한 도구가 된다. 또한, 선형 변환을 연구할 때, 정의역이나 공역이 부분공간의 직합으로 분해되면 변환의 행렬 표현을 더 단순한 블록 형태로 나타낼 수 있어 계산과 이해가 용이해진다.

직합의 개념은 두 개 이상의 부분공간으로 일반화될 수 있다. 벡터 공간 V가 여러 부분공간 W₁, W₂, ..., Wₖ의 직합이라는 것은, V의 모든 벡터가 각 부분공간에서 하나씩의 벡터를 더한 형태로 유일하게 표현됨을 의미한다. 이는 모든 i ≠ j에 대해 Wᵢ ∩ Wⱼ = {0}이라는 조건보다 더 강한 조건으로, 각 부분공간이 다른 모든 부분공간과의 교집합이 자명해야 함을 요구한다. 이러한 구조는 벡터 공간을 완전히 독립적인 구성 요소들로 분해하는 틀을 마련해 준다.

선형 변환은 두 벡터 공간 사이의 구조를 보존하는 함수이다. 구체적으로, 벡터 공간 V와 W에 대해, 함수 T: V → W가 모든 벡터 u, v ∈ V와 모든 스칼라 c에 대해 T(u + v) = T(u) + T(v)와 T(cv) = c T(v)를 만족하면 T를 선형 변환이라고 한다. 이 두 조건은 선형성을 정의하는 핵심 공리이며, 이를 통해 T가 벡터의 덧셈과 스칼라 곱셈 연산을 보존함을 알 수 있다. 이러한 선형 변환은 행렬로 표현될 수 있으며, 선형대수학의 핵심 연구 대상 중 하나이다.

선형 변환은 여러 중요한 성질을 가진다. 예를 들어, 선형 변환은 반드시 영벡터를 영벡터로 보낸다. 즉, T(0) = 0이다. 또한, 선형 변환의 합성 역시 선형 변환이 된다. 두 선형 변환 T: U → V와 S: V → W가 있을 때, 합성 함수 (S∘T): U → W도 선형 변환이다. 이는 선형 변환이 만드는 구조가 매우 안정적임을 보여준다.

선형 변환을 분석하는 데 있어 핵심적인 두 개의 부분 공간이 바로 핵과 상이다. 핵은 선형 변환 T에 의해 영벡터가 되는 V의 모든 벡터들의 집합이며, 상은 V의 벡터들이 T에 의해 변환되어 얻어지는 W 내의 모든 벡터들의 집합이다. 핵의 차원을 널리티, 상의 차원을 랭크라고 부르며, 이 두 값 사이에는 중요한 관계식이 성립한다.

선형 변환의 핵은 변환을 적용했을 때 결과가 영벡터가 되는 모든 입력 벡터들의 집합이다. 즉, 선형 변환 T: V → W에 대해 핵(Ker T)은 V의 부분집합으로, T(v) = 0을 만족하는 모든 벡터 v로 구성된다. 핵은 항상 정의역 V의 부분공간이 된다. 핵의 차원을 퇴화계수라고 부르며, 이는 변환에 의해 '사라지는' 정보의 양을 측정한다. 핵이 영벡터만으로 이루어진 경우, 즉 퇴화계수가 0인 경우, 해당 선형 변환은 단사 함수이다.

선형 변환의 상은 정의역의 모든 벡터를 변환시켜 얻은 결과 벡터들의 집합이다. 변환 T: V → W에 대해 상(Im T)은 W의 부분집합으로, 어떤 v ∈ V에 대해 w = T(v) 형태를 갖는 모든 벡터 w로 구성된다. 상 또한 항상 공역 W의 부분공간이 된다. 상의 차원을 계수라고 부르며, 이는 변환의 '출력 범위'의 크기를 나타낸다.

핵과 상의 차원 사이에는 중요한 관계가 성립한다. 유한차원 벡터 공간 V에서 정의된 선형 변환 T에 대해, 정의역 V의 차원은 핵의 차원(퇴화계수)과 상의 차원(계수)의 합과 같다. 이 관계를 차원 정리라고 한다. 이 정리는 선형 변환이 정의역의 정보를 어떻게 분배하는지를 보여주며, 선형 방정식의 해 공간을 분석하거나 선형 변환의 가역성을 판별하는 데 핵심적으로 활용된다.

선형 변환의 행렬 표현은 유한 차원 벡터 공간 사이의 선형 사상을 구체적인 숫자 배열로 나타내는 방법이다. 유한 차원 벡터 공간에서는 기저를 선택함으로써 모든 벡터를 좌표로 표현할 수 있으며, 이는 벡터 공간을 좌표 공간과 동형으로 만든다. 이때, 두 벡터 공간의 기저를 각각 고정하면, 그 사이의 임의의 선형 변환은 유일한 행렬에 대응된다. 구체적으로, 선형 변환 T가 벡터 v를 변환한 결과 T(v)의 좌표는, v의 좌표 벡터에 T에 대응되는 행렬을 곱한 것과 같다.

행렬 표현의 가장 큰 장점은 추상적인 선형 변환의 연산을 행렬의 구체적인 연산, 즉 행렬의 덧셈, 스칼라 곱, 그리고 행렬 곱셈으로 환원시킬 수 있다는 점이다. 예를 들어, 두 선형 변환의 합성은 대응되는 두 행렬의 곱으로, 선형 변환의 역변환이 존재하는 조건은 대응 행렬이 가역 행렬인 조건과 동치이다. 또한, 선형 변환의 핵과 상을 구하는 문제는 연립일차방정식을 푸는 문제, 즉 행렬에 대한 연산으로 귀결된다.

같은 선형 변환이라도 선택하는 기저에 따라 그 행렬 표현은 달라진다. 서로 다른 두 기저에서의 행렬 표현 사이에는 기저 변환 행렬을 이용한 유사 변환 관계가 성립한다. 이는 선형 변환의 본질적인 성질, 예를 들어 계수, 행렬식, 고유값 등은 기저의 선택에 무관함을 보여준다. 이러한 불변량들은 행렬 표현을 통해 계산될 수 있지만, 그 값 자체는 선형 변환의 고유한 속성이다.

내적 공간은 벡터 공간에 추가적인 구조인 내적이 정의된 공간이다. 내적은 두 벡터를 입력받아 스칼라를 출력하는 연산으로, 벡터의 길이와 각도를 측정할 수 있는 기하학적 개념을 제공한다. 이는 유클리드 공간에서의 점곱 개념을 일반적인 벡터 공간으로 확장한 것이다.

내적은 공리적으로 정의된다. 실수체 위의 벡터 공간에서 내적은 두 벡터를 실수에 대응시키는 함수이며, 다음 세 가지 공리를 만족해야 한다. 첫째, 임의의 벡터에 대해 자기 자신과의 내적은 항상 0 이상이며, 그 값이 0인 경우는 그 벡터가 영벡터인 경우와 동치이다. 둘째, 내적은 첫 번째 변수에 대해 선형성을 가진다. 즉, 스칼라 곱과 벡터 덧셈에 대해 분배 법칙이 성립한다. 셋째, 내적은 대칭성을 가진다. 두 벡터의 순서를 바꾸어도 내적값은 동일하다.

복소수 벡터 공간, 즉 켤레 내적 공간의 경우 정의가 약간 달라진다. 여기서는 에르미트 대칭성을 만족해야 하며, 이는 한 벡터와 다른 벡터의 내적이, 순서를 바꾼 내적의 복소수 켤레와 같다는 것을 의미한다. 또한 선형성은 첫 번째 변수에 대해서만 성립하고, 두 번째 변수에 대해서는 켤레 선형성을 가진다.

내적이 정의되면 이를 통해 벡터의 노름과 두 벡터 사이의 각도를 정의할 수 있다. 벡터의 노름은 그 벡터와 자신의 내적의 제곱근으로 정의되며, 이는 벡터의 길이를 일반화한 개념이다. 또한 코시-슈바르츠 부등식이 성립함에 따라, 두 벡터의 내적값을 각각의 노름으로 나눈 값의 절댓값이 1 이하가 되어, 이를 통해 두 벡터 사이의 각도의 코사인 값을 정의하는 것이 가능해진다.

내적이 정의된 내적 공간에서는 벡터의 길이와 두 벡터 사이의 거리를 자연스럽게 정의할 수 있다. 이렇게 정의된 길이를 노름이라고 하며, 두 벡터 사이의 거리는 한 벡터에서 다른 벡터로의 차이 벡터의 노름으로 정의된다.

내적 공간에서 벡터 v의 노름은 그 벡터와 자신의 내적의 제곱근으로 정의된다. 이 노름은 벡터의 길이 또는 크기를 나타내며, 항상 0 이상의 실수값을 가진다. 노름이 0인 벡터는 오직 영벡터뿐이다. 또한, 스칼라를 곱하면 노름은 그 스칼라의 절댓값만큼 배가 되고, 두 벡터의 합의 노름은 각각의 노름의 합보다 크지 않다는 삼각부등식이 성립한다. 이러한 성질들을 만족하는 함수를 일반적으로 노름이라고 정의하며, 내적으로부터 유도된 노름은 그 대표적인 예시이다.

두 벡터 u와 v 사이의 거리는 벡터 u - v의 노름으로 정의된다. 이 거리 함수는 두 점이 같을 때만 0이 되고, 대칭성, 그리고 삼각부등식을 만족한다. 이러한 성질을 가진 함수를 거리 함수라고 하며, 노름이 정의되면 자연스럽게 거리 함수를 얻을 수 있어 벡터 공간을 거리 공간으로 볼 수 있게 된다.

노름과 거리의 개념은 해석학과 기하학에서 매우 중요하다. 이를 통해 벡터의 수렴, 연속성, 그리고 완비성과 같은 개념을 논할 수 있으며, 유클리드 공간에서의 직관적인 길이와 거리의 개념을 추상적인 벡터 공간으로 확장하는 토대가 된다.

직교성은 내적 공간에서 두 벡터가 수직 관계에 있음을 나타내는 개념이다. 두 벡터의 내적이 0일 때, 그 두 벡터는 서로 직교한다고 정의한다. 이는 2차원 또는 3차원 유클리드 공간에서의 직각 개념을 일반적인 벡터 공간으로 확장한 것이다.

직교성은 기저와 밀접한 관련이 있다. 벡터 공간의 기저를 구성하는 벡터들이 모두 서로 쌍별로 직교할 때, 이를 직교 기저라고 한다. 더 나아가, 직교 기저를 이루는 모든 벡터의 노름이 1인 경우, 즉 단위 벡터인 경우, 이를 정규 직교 기저라고 부른다. 정규 직교 기저는 계산상 많은 편리함을 제공한다.

직교성의 중요한 응용 중 하나는 그람-슈미트 직교화 과정이다. 이 과정은 임의의 기저를 입력받아, 이를 선형 독립성을 유지하면서 직교 기저 또는 정규 직교 기저로 변환하는 알고리즘이다. 이를 통해 주어진 내적 공간에서 계산에 유리한 기저를 구성할 수 있다.

또한, 부분공간에 대한 직교의 개념으로 직교 여공간이 정의된다. 어떤 부분공간의 직교 여공간은 전체 공간의 벡터 중 그 부분공간의 모든 벡터와 직교하는 벡터들의 집합으로, 그 자체도 부분공간이 된다. 이 개념은 선형 방정식의 해를 분석하거나 최소제곱법과 같은 문제를 푸는 데 핵심적인 역할을 한다.

벡터 공간 이론은 선형 방정식 체계를 이해하고 해결하는 데 핵심적인 틀을 제공한다. 선형 방정식은 미지수에 대해 1차식으로만 표현된 방정식을 말하며, 여러 개의 선형 방정식이 모인 것을 연립 일차 방정식이라고 한다. 이러한 방정식 체계는 행렬과 벡터를 이용해 A**x** = **b**와 같은 간결한 형태로 표현될 수 있다. 여기서 계수 행렬 A는 선형 변환을, 미지수 벡터 **x**와 상수 벡터 **b**는 벡터 공간의 원소를 나타낸다.

선형 방정식의 해는 벡터 공간의 구조를 통해 명확히 분석된다. 예를 들어, 동차 방정식 A**x** = **0**의 모든 해의 집합은 행렬 A의 핵이라고 불리며, 이는 벡터 공간의 부분공간을 이룬다. 비동차 방정식 A**x** = **b**의 해는, 만약 존재한다면, 이 동차 방정식의 해 공간(부분공간)에 특수해 하나를 더한 형태, 즉 아핀 공간의 형태를 가진다. 이는 해의 존재성과 유일성을 벡터 공간의 개념인 선형 독립과 생성을 통해 판별할 수 있음을 의미한다.

선형 방정식의 해를 구하는 대표적인 알고리즘인 가우스 소거법은 기본 행 연산을 통해 계수 행렬을 행 사다리꼴 또는 기약 행 사다리꼴로 변환한다. 이 과정은 본질적으로 벡터 공간에서의 기저를 찾는 작업과 연결된다. 결과적으로, 선형 방정식 체계의 해는 자유 변수의 개수, 즉 미지수 공간의 차원과 계수 행렬의 계수 사이의 관계로 결정되며, 이는 벡터 공간의 핵심 개념인 차원 정리의 직접적인 적용 사례이다.

고유값과 고유벡터는 선형 변환이나 정사각행렬을 분석하는 데 핵심적인 개념이다. 어떤 선형 변환을 행렬 A로 나타냈을 때, 영벡터가 아닌 벡터 v에 대해 A를 적용한 결과가 원래 벡터 v의 스칼라 배가 될 때, 즉 A v = λ v를 만족하는 스칼라 λ와 벡터 v를 각각 고유값과 고유벡터라고 한다. 이 관계는 변환이 특정 방향(고유벡터의 방향)의 벡터를 단지 길이만 λ배로 늘이거나 줄이는(혹은 방향을 뒤집는) 변환으로 작용함을 의미한다. 따라서 고유벡터는 그 선형 변환에 의해 방향이 보존되는, 변환의 본질적인 특성을 드러내는 축과 같은 역할을 한다.

고유값과 고유벡터를 구하는 과정은 특성 방정식 det(A - λI) = 0을 푸는 것으로 시작한다. 여기서 I는 단위행렬이고, det는 행렬식을 의미한다. 이 방정식을 만족하는 λ가 고유값이 되며, 각 고유값 λ에 대해 연립방정식 (A - λI) v = 0을 풀어서 얻은 영이 아닌 해 v가 해당 고유값에 대응하는 고유벡터가 된다. 이때 고유벡터는 무수히 많을 수 있으며, 보통 기저를 이루는 벡터들로 표현한다. 고유값이 복소수가 될 수도 있으며, 이는 변환에 회전 성분이 있음을 나타낼 수 있다.

이 개념은 다양한 분야에 응용된다. 공학에서 구조물의 고유 진동수를 분석하거나, 통계학에서 주성분 분석을 통해 데이터의 주요 변동 방향을 찾는 데 사용된다. 양자역학에서는 관측 가능한 물리량이 연산자의 고유값으로 나타난다. 또한 행렬의 거듭제곱 계산이나 미분 방정식의 해를 구할 때도 강력한 도구가 된다.