확률 공간

표본 공간은 확률 실험에서 발생할 수 있는 모든 가능한 기본 결과의 집합을 가리킨다. 이는 확률 공간을 구성하는 첫 번째 핵심 요소이며, 일반적으로 그리스 문자 오메가(Ω)로 표기한다. 예를 들어, 동전을 한 번 던지는 실험의 표본 공간은 {앞면, 뒷면}이며, 주사위를 한 번 던지는 실험의 표본 공간은 {1, 2, 3, 4, 5, 6}이다. 표본 공간의 각 원소는 상호 배타적이고 포괄적인 단일 결과를 나타내며, 이를 표본점 또는 근원사건이라고 부른다.

표본 공간의 정의는 고려하는 실험의 범위에 따라 달라질 수 있다. 예를 들어, 동전을 두 번 던지는 실험에서 각 차례의 결과를 순서쌍으로 기록한다면, 표본 공간은 {(앞, 앞), (앞, 뒷), (뒷, 앞), (뒷, 뒷)}이 된다. 이처럼 표본 공간은 유한집합, 가산무한집합(예: 동전을 앞면이 나올 때까지 던지는 횟수), 또는 연속적인 집합(예: 특정 구간의 실수) 등 다양한 형태를 가질 수 있다. 확률론에서 이후에 정의되는 사건은 바로 이 표본 공간의 부분집합으로 이해된다.

사건 시그마-대수는 표본 공간 Ω의 부분 집합들 중에서 확률을 부여할 수 있는, 즉 '측정 가능한' 사건들의 모임을 말한다. 이는 집합론의 시그마 대수 구조를 따르며, 일반적으로 ℱ로 표기한다. 사건 시그마-대수는 표본 공간의 모든 가능한 결과를 포함하는 것이 아니라, 확률론적으로 의미 있고 다룰 수 있는 사건들만을 선별하여 포함한다.

사건 시그마-대수 ℱ는 반드시 다음 세 가지 조건을 만족해야 한다. 첫째, 전체 표본 공간 Ω 자체가 ℱ에 포함되어야 한다. 둘째, 어떤 사건 A가 ℱ에 속하면 그 여사건 A^c도 ℱ에 속해야 한다. 셋째, 가산 개의 사건 A1, A2, ...가 ℱ에 속하면, 그들의 합집합도 ℱ에 속해야 한다. 이 마지막 조건인 가산 가법성은 무한한 시행을 다룰 수 있는 수학적 엄밀성을 보장한다.

실제 문제에서 사건 시그마-대수를 어떻게 구성하는가는 중요하다. 가장 단순한 경우는 표본 공간의 모든 부분 집합을 포함하는 경우지만, 표본 공간이 실수의 구간과 같이 무한할 때는 기술적 어려움이 발생한다. 따라서 일반적으로는 다루고자 하는 모든 기본 사건을 생성할 수 있는 최소의 시그마-대수를 사용하며, 실수 상에서는 보렐 시그마 대수가 대표적으로 사용된다. 이는 모든 열린 구간들로부터 생성되는 시그마-대수이다.

사건 시그마-대수 ℱ와 확률 측도 P가 결합되면, 비로소 (Ω, ℱ, P)로 표현되는 완전한 확률 공간이 정의된다. 즉, ℱ는 확률이 정의될 수 있는 '무대'의 범위를 규정하는 역할을 한다.

확률 측도는 사건 공간의 각 사건에 0과 1 사이의 확률 값을 할당하는 함수이다. 이 함수는 P: ℱ → [0, 1]로 표기하며, 측도론의 특수한 경우로 볼 수 있다. 확률 측도는 확률 공리라 불리는 세 가지 기본 조건을 반드시 만족시켜야 한다.

첫째, 비음성 공리는 모든 사건 A에 대해 그 확률 P(A)가 0 이상이어야 함을 규정한다. 둘째, 규격화 공리는 전체 표본 공간 Ω에 대한 확률이 정확히 1이어야 함을 의미한다. 셋째, 가산 가법성 공리는 서로 배반인 가산 개의 사건들에 대해, 그 합집합의 확률이 각 사건의 확률의 합과 같아야 한다는 조건이다. 이 세 번째 공리는 유한 개의 사건에 대해서도 성립하며, 확률의 계산과 이론 전개를 위한 핵심적 토대가 된다.

확률 측도는 사건의 발생 가능성을 수치적으로 정량화하는 역할을 한다. 이를 통해 조건부 확률, 기댓값, 분산과 같은 다른 확률론적 개념들이 엄밀하게 정의될 수 있다. 또한, 확률 변수의 확률 분포는 본질적으로 확률 측도에 의해 유도되는 개념이다.

확률 변수는 확률 공간의 표본 공간에서 실수 집합으로 가는 가측 함수이다. 즉, 표본 공간의 각 원소(기본 결과)에 실수 값을 할당하는 규칙이다. 이때 확률 변수가 취할 수 있는 모든 값의 집합을 그 확률 변수의 상태 공간이라고 부른다. 확률 변수는 실험의 결과를 수치적으로 표현하는 도구로, 통계학과 확률론의 핵심 개념이다.

확률 변수는 그 값이 셀 수 있는지 여부에 따라 이산 확률 변수와 연속 확률 변수로 크게 분류된다. 이산 확률 변수는 유한 개 또는 가산 무한 개의 값을 가질 수 있으며, 동전 던지기의 앞면/뒷면이나 주사위 눈금이 대표적이다. 반면 연속 확률 변수는 어떤 구간 내의 모든 실수 값을 취할 수 있으며, 키나 체중, 대기 시간과 같은 측정값이 여기에 속한다.

확률 변수 자체는 단순히 값을 할당하는 함수이지만, 이에 의해 유도되는 확률 분포가 더 중요하다. 확률 변수 X가 주어지면, X가 특정 값이나 구간에 속할 확률을 계산할 수 있으며, 이를 통해 기댓값, 분산, 표준편차 등의 숫자적 특징을 정의하고 분석할 수 있다. 따라서 확률 변수는 추상적인 확률 공간과 구체적인 데이터 분석을 연결하는 다리 역할을 한다.

확률 공간 위에서 정의된 확률 변수는 각 표본 공간의 원소를 실수나 다른 공간의 값으로 대응시킨다. 이 확률 변수가 취할 수 있는 값들의 분포, 즉 각 값 또는 값들의 집합이 나타날 가능성을 수학적으로 기술한 것을 확률 분포라고 한다. 확률 분포는 확률 변수의 행동을 완전히 규정하며, 누적 분포 함수나 확률 밀도 함수, 확률 질량 함수 등을 통해 표현된다.

확률 분포는 크게 이산형과 연속형으로 나뉜다. 이산 확률 분포는 확률 변수가 유한 개 또는 가산 무한 개의 값을 취할 때 적용되며, 각 값에 대한 확률을 확률 질량 함수로 직접 부여한다. 대표적인 예로 베르누이 분포, 이항 분포, 포아송 분포가 있다. 반면 연속 확률 분포는 확률 변수가 연속적인 구간의 값을 취할 때 사용되며, 특정 점에서의 확률은 0이고, 확률 밀도 함수를 이용해 구간에 대한 확률을 계산한다. 정규 분포, 지수 분포, 균등 분포가 대표적이다.

확률 분포는 단변량 분포와 다변량 분포로도 구분할 수 있다. 단변량 분포는 하나의 확률 변수에 대한 분포를 다루는 반면, 다변량 분포는 두 개 이상의 확률 변수가 결합된 분포를 다루어 변수들 간의 관계를 포함한다. 대표적인 다변량 분포로는 다변량 정규 분포가 있으며, 여기서 변수들 간의 선형적 관계는 공분산 행렬로 표현된다.

확률 분포는 통계적 추론의 기초가 된다. 표본 데이터를 바탕으로 모집단의 확률 분포를 추정하는 점추정과 구간추정, 또는 가정된 분포에 대한 검정을 수행하는 가설 검정 등 모든 통계적 방법론은 특정 확률 분포를 전제로 한다. 또한 중심극한정리와 같은 중요한 정리들은 확률 분포의 수렴 현상을 설명하며, 이는 대표본 이론의 근간을 이룬다.