ZF 공리계

러셀의 역설은 1901년 버트런드 러셀이 발견한 집합론의 모순으로, 소박한 집합론의 근본적 결함을 드러냈다. 이 역설은 "자신을 원소로 포함하지 않는 모든 집합의 집합"을 고려할 때 발생한다. 만약 그 집합이 자신을 포함한다면, 정의에 따라 자신을 포함하지 않아야 하며, 반대로 자신을 포함하지 않는다면 정의에 따라 자신을 포함해야 하는 모순에 빠진다[2].

이 역설은 게오르크 칸토어가 창시한 초기 집합론이 직관에 의존한 '너무 큰 집합'의 형성을 허용했기 때문에 나타났다. 러셀의 역설은 수학의 기초를 뒤흔들었으며, 다비트 힐베르트가 제기한 수학의 무모순성 문제와 맞물려 수학 기초론의 위기를 초래했다.

이러한 위기를 해결하기 위해 수학자들은 집합의 형성을 엄격한 규칙 아래에 두는 공리적 집합론을 구축하게 되었다. 체르멜로-프렝켈 집합론은 그 대표적인 결과물이다. ZF 공리계는 분류 공리꼴과 같은 공리를 통해 집합을 구성할 때, 이미 존재하는 집합의 부분으로만 정의하도록 제한함으로써 러셀의 역설과 같은 '너무 큰' 총체의 형성을 원칙적으로 차단한다.

체르멜로는 1908년에 자신의 공리계를 발표했다. 이 공리계는 러셀의 역설과 같은 역설을 피하면서도 칸토어의 순수 집합론의 핵심 내용을 보존하는 것을 목표로 했다. 그의 체계는 외연 공리, 공집합 공리, 짝 공리, 분류 공리, 멱집합 공리, 무한 공리, 선택 공리를 포함했다. 그러나 체르멜로의 원래 공리계는 순서쌍이나 함수와 같은 개념을 정의하기에 충분하지 않다는 비판을 받았다.

1922년, 아브라함 프렝켈은 체르멜로의 체계에 중요한 수정을 제안했다. 그는 분류 공리를 더 강력한 치환 공리로 대체할 것을 제안했다. 이 치환 공리는 함수의 상이 집합을 이룬다는 것을 보장하여, 순서수와 같은 무한 서수를 구성하는 데 필수적이었다. 또한 프렝켈은 정칙성 공리를 추가하여 집합이 자기 자신을 포함하는 등의 이상한 순환을 방지했다.

체르멜로의 원래 공리계와 프렝켈의 수정안이 결합되어 오늘날 ZF 공리계 또는 ZFC 공리계로 알려진 체계가 완성되었다. 이 공리계는 그들의 이름을 따서 명명되었다. 이 체계는 이후 폰 노이만, 베르나이스, 괴델 등의 수학자들에 의해 더욱 정교화되었다.

확장 공리 또는 외연 공리는 체르멜로-프렝켈 집합론의 핵심 공리 중 하나이다. 이 공리는 두 집합이 동일한지 판단하는 근본적인 기준을 제시한다. 즉, 두 집합이 정확히 같은 원소들을 포함하고 있다면, 그 두 집합은 동일한 집합으로 간주된다.

이 공리는 집합의 동일성을 그 외연, 즉 집합이 실제로 포함하는 원소들의 총체에 의해 정의한다. 이는 집합의 내재적 속성이나 구조가 아니라 구성원에만 주목하는 것이다. 공리의 형식적 표현은 다음과 같다: 임의의 집합 x와 y에 대해, x의 모든 원소가 y의 원소이고 y의 모든 원소가 x의 원소라면, x는 y와 같다[3].

외연 공리는 수학적 논증에서 집합의 동일성을 증명하는 데 필수적이다. 예를 들어, 두 집합 A와 B가 A ⊆ B이고 B ⊆ A임을 보이면, 이 공리에 의해 A = B라는 결론을 내릴 수 있다. 이 공리가 없다면, 동일한 원소들로 구성된 서로 다른 집합이 존재할 수 있어 집합론의 기초가 흔들리게 된다.

짝 공리는 주어진 두 집합으로부터 그 둘만을 원소로 가지는 새로운 집합, 즉 순서쌍을 구성할 수 있음을 보장하는 공리이다. 이 공리는 체르멜로 공리계의 일부이며, ZF 공리계와 ZFC 공리계에도 포함된다.

공리의 공식적 표현은 다음과 같다. 임의의 두 집합 a와 b에 대하여, a와 b만을 원소로 가지는 집합 {a, b}가 존재한다. 즉, ∀a ∀b ∃c ∀x (x ∈ c ↔ (x = a ∨ x = b))이다. 이때 c = {a, b}로 표기한다. 특히 a와 b가 같은 집합인 경우, 이 공리는 하나의 원소만을 가지는 단일원소 집합 {a}의 존재도 보장한다.

짝 공리는 집합론에서 관계와 함수를 정의하는 데 필수적인 기초가 된다. 예를 들어, 두 집합 a와 b의 순서쌍 (a, b)는 일반적으로 {{a}, {a, b}}와 같이 정의되는데, 이 정의는 짝 공리를 반복 적용하여 얻은 집합들로 구성된다. 순서쌍의 개념이 확립되면 이를 통해 카르테시안 곱, 이항관계, 그리고 궁극적으로 함수의 정확한 집합론적 정의가 가능해진다. 따라서 짝 공리는 집합론이 현대 수학의 언어로서 역할을 수행하는 데 있어 핵심적인 구성 요소 중 하나이다.

분류 공리는 주어진 집합과 조건을 만족하는 원소들로 구성된 새로운 집합의 존재를 보장하는 공리꼴이다. 이 공리는 러셀의 역설과 같은 역설을 피하기 위해 원소의 범위를 기존 집합으로 제한한다는 점에서 특징적이다. 즉, 임의의 조건에 대해 집합 전체를 구성하는 것이 아니라, 이미 존재하는 집합의 부분집합만을 형성할 수 있게 한다.

보다 정확히는, 어떤 논리식 φ(x)가 주어졌을 때, 집합 z가 존재하면 φ(x)를 만족하는 x들 중에서 z에 속하는 것들만 모아 새로운 집합 y를 만들 수 있다. 이는 다음과 같은 형식으로 표현된다: ∀z ∃y ∀x ( x ∈ y ⇔ ( x ∈ z ∧ φ(x) ) ). 여기서 y는 z의 부분집합이며, φ(x)는 x에 대한 명제 함수를 나타낸다.

이 공리는 공리꼴, 즉 공리의 스키마이다. 이는 φ(x)가 특정한 하나의 논리식이 아니라, 다양한 가능한 논리식 각각에 대해 하나의 공리 인스턴스가 생성됨을 의미한다. 따라서 분류 공리는 사실상 무한히 많은 공리들의 집합으로 볼 수 있다. 이 방식을 통해 집합론은 러셀의 역설에서 발생한 "모든 것을 포함하는 집합"의 문제를 피하면서도 충분히 풍부한 집합들을 구성할 수 있게 되었다.

합집합 공리는 주어진 집합의 모든 원소들의 원소들을 모아 새로운 집합을 구성할 수 있음을 보장하는 공리이다. 공식적으로는, 임의의 집합 A에 대해, A의 모든 원소들의 원소들을 모두 포함하는 집합이 존재한다고 서술한다. 이렇게 만들어진 집합을 A의 합집합이라고 부르며, 기호로는 ∪A로 표기한다.

예를 들어, 집합 A = {{1, 2}, {2, 3}, {5}}가 있을 때, 합집합 공리에 의해 ∪A = {1, 2, 3, 5}라는 집합의 존재가 보장된다. 이 공리는 두 집합의 합집합 개념을 일반화한 것으로, 유한 개의 집합뿐만 아니라 무한히 많은 집합들의 합집합도 구성할 수 있게 해준다. 이는 자연수 집합이나 실수 집합과 같은 무한 집합을 다루는 데 필수적이다.

합집합 공리는 다른 공리들과 결합하여 중요한 집합 연산을 정의하는 데 사용된다. 예를 들어, 두 집합 X와 Y의 합집합 X ∪ Y는 짝 공리로 {X, Y}라는 집합을 먼저 만들고, 이 집합에 합집합 공리를 적용하여 얻을 수 있다. 즉, X ∪ Y = ∪{X, Y}로 정의된다. 이처럼 합집합 공리는 집합론의 기본적인 구성 도구 중 하나로, 수학적 객체들을 조립하고 확장하는 토대를 제공한다.

멱집합 공리는 주어진 집합의 모든 부분집합들을 원소로 가지는 새로운 집합, 즉 멱집합의 존재를 보장하는 공리이다. 공식적으로는, 임의의 집합 X에 대하여, X의 모든 부분집합을 원소로 포함하는 집합 P(X)가 존재한다는 명제로 서술된다.

이 공리는 집합론에서 매우 강력한 구성 원리를 제공한다. 예를 들어, 어떤 집합 X가 유한 집합이라면, 그 멱집합 P(X)의 크기는 2의 |X|제곱이 된다. 무한 집합의 경우에도, 칸토어의 정리에 따르면 집합 X의 크기는 항상 그 멱집합 P(X)의 크기보다 작다. 이는 무한에도 크기의 위계가 존재함을 보여주는 핵심 결과이다.

멱집합 공리는 실수의 집합과 같은 복잡한 수학적 객체를 구성하는 데 필수적이다. 자연수의 집합 N이 존재한다고 가정할 때(이는 무한 공리에 의해 보장됨), 그 멱집합 P(N)을 취함으로써 자연수 집합과 크기가 다른, 보다 '큰' 무한 집합을 얻을 수 있다. 이 과정을 반복하면 점점 더 큰 무한 집합들의 위계를 구성할 수 있으며, 이는 현대 집합론의 핵심 연구 주제 중 하나이다.

무한 공리는 자연수의 집합과 같은 무한 집합의 존재를 보장하는 공리이다. 이 공리는 체르멜로-프렝켈 집합론이 단순히 유한한 집합들만을 다루는 이론이 아님을 선언하며, 현대 수학의 대부분을 전개하는 데 필수적인 기초를 제공한다.

공리의 정확한 내용은 다음과 같다. 공집합을 원소로 포함하고, 어떤 집합 x를 원소로 가질 때 그 집합의 '후계자' x ∪ {x} 역시 원소로 가지는 집합이 존재한다[4]. 즉, ∃I (∅ ∈ I ∧ ∀x (x ∈ I → x ∪ {x} ∈ I)). 이러한 귀납적 집합 I가 존재함을 선언함으로써, 그 교집합을 취해 자연수 전체의 집합 ω를 구성할 수 있다.

이 공리가 없으면 모든 집합이 유한하다는 가정 하에 집합론을 전개할 수 있으며, 이러한 체계를 유한 집합론이라고 부른다. 무한 공리는 실수의 집합이나 함수 공간과 같은 무한 구조를 논의하는 데 필수적이다. 또한, 이 공리는 선택 공리와 독립적이지만, 무한 공리가 없으면 선택 공리의 많은 중요한 결과들도 의미를 잃게 된다.

정칙성 공리는 모든 집합이 어떤 특정한 성질을 만족하도록 보장하는 공리이다. 이 공리는 "기초 공리"라고도 불리며, 집합론의 공리계에서 논리적 모순을 방지하는 역할을 한다.

이 공리의 핵심 내용은 공집합이 아닌 모든 집합은 자신과 서로소인 원소를 적어도 하나 가진다는 것이다. 즉, 어떤 집합 x가 공집합이 아니라면, x의 원소 중에는 x와 공통된 원소를 하나도 가지지 않는 원소 y가 존재한다. 수식으로는 다음과 같이 표현된다[5].

정칙성 공리의 중요한 결과 중 하나는 어떤 집합도 자기 자신을 원소로 포함할 수 없다는 점이다. 만약 x ∈ x인 집합 x가 존재한다고 가정하면, {x}라는 집합을 생각할 수 있다. 이 집합 {x}는 공집합이 아니지만, 그 유일한 원소 x는 x ∈ x이므로 {x}와 x는 공통 원소 x를 가지게 되어 정칙성 공리에 위배된다. 이 논리는 무한히 내려가는 원소 사슬(예: ... ∈ x₃ ∈ x₂ ∈ x₁)의 존재 또한 배제한다.

따라서 이 공리는 집합의 세계가 "기초를 가진" 구조가 되도록 만든다. 모든 집합은 어떤 시점에서 더 이상 쪼개지지 않는 기본 원자, 즉 공집합으로부터 시작하여 위로 구축될 수 있음을 의미한다. 이 성질은 집합에 대한 귀납법의 적용을 가능하게 하는 중요한 토대를 제공한다.

치환 공리는 ZF 공리계의 공리꼴 중 하나로, 주어진 집합에 대해 특정 조건을 만족하는 원소들로 구성된 새로운 집합의 존재를 보장한다. 보다 구체적으로, 만약 어떤 논리식이 집합 A의 각 원소에 대해 유일한 대상을 지정하는 '함수적' 관계를 정의한다면, 그렇게 얻어진 모든 대상들의 모임 역시 집합이 된다는 것을 주장한다[6].

이 공리는 분류 공리만으로는 구성할 수 없는 더 큰 집합들의 존재를 허용하는 데 필수적이다. 예를 들어, 모든 순서수의 모임은 집합이 아니지만, 치환 공리를 사용하면 주어진 순서수보다 작은 모든 순서수들의 모임은 집합임을 증명할 수 있다. 이는 무한 공리와 함께 순서수 이론의 기초를 마련하는 데 결정적인 역할을 한다.

치환 공리는 원래 에른스트 체르멜로의 초기 공리계에는 포함되지 않았으나, 아브라함 프렝켈이 1922년에 제안하여 추가되었다. 이 공리가 없으면 특정 무한 집합들의 존재를 보장하기 어렵거나, 기수와 순서수의 표준적인 이론을 전개하는 데 심각한 제약이 생긴다. 따라서 현대의 표준적인 ZF 공리계 또는 ZFC에서는 치환 공리꼴을 핵심 구성 요소로 포함한다.

선택 공리는 집합론의 중요한 공리 중 하나로, 체르멜로-프렝켈 집합론에 추가되어 ZFC를 형성한다. 이 공리는 공식적으로 다음과 같이 서술된다: 임의의 집합들의 공집합이 아닌 집합이 주어졌을 때, 그 집합의 각 원소에서 하나의 원소를 선택하는 함수가 존재한다[7].

보다 구체적으로, 서로소인 공집합이 아닌 집합들로 이루어진 집합 *A*가 있다고 가정하자. 선택 공리는 *A*의 각 원소(즉, 각 집합)에서 정확히 하나의 원소를 뽑아 새로운 집합을 구성할 수 있음을 보장한다. 이는 무한히 많은 집합들에 대해서도 적용되며, 각 집합에서 어떤 원소를 선택할지에 대한 명시적인 규칙이나 방법이 없더라도 그러한 선택의 가능성 자체를 인정한다.

선택 공리는 기수와 서수의 기본 성질, 예를 들어 모든 집합이 정렬 가능하다는 정리나 모든 두 기수가 비교 가능하다는 정리를 증명하는 데 필수적이다. 또한 대수학에서 모든 벡터 공간이 기저를 가진다는 정리나 위상수학에서 티호노프 정리와 같은 근본적인 결과들도 선택 공리에 의존한다.

선택 공리는 체르멜로-프렝켈 집합론에 추가되었을 때 가장 논쟁을 불러일으킨 공리였다. 그 내용은 직관적으로, 임의의 집합족에 대해 각 집합에서 하나의 원소를 선택하는 함수가 항상 존재한다는 것이다. 이 공리는 무한 개의 선택을 동시에 수행할 수 있음을 보장하지만, 그 선택 함수를 명시적으로 구성하는 방법은 제시하지 않는다. 이러한 비구성적 성격은 수학의 기초에 대한 철학적 입장, 특히 직관주의나 구성주의 수학과 충돌하여 20세기 초반 심각한 논쟁을 야기했다.

선택 공리의 중요성은 현대 수학의 많은 기본 정리들이 이 공리에 의존한다는 점에서 드러난다. 예를 들어, 모든 벡터 공리가 기저를 가진다는 정리, 티호노프 정리, 조르당 곡선 정리, 그리고 체르멜로 정렬 정리 등이 선택 공리와 동치이거나 이를 필요로 한다. 또한, 실수의 르베그 측도 이론에서 비가산 집합의 측도 가능성 문제나, 집합론 자체에서 비가산 집합의 다양한 성질을 증명하는 데 필수적이다.

선택 공리의 독립성은 쿠르트 괴델과 폴 코언에 의해 증명되었다. 괴델은 1930년대 말에 ZFC가 만일 무모순적이라면 선택 공리를 부정해도 무모순적임을 보였고, 코언은 1960년대에 강제법을 개발하여 선택 공리 자체도 ZF에서 증명될 수 없음을 보였다. 이는 선택 공리가 ZF 공리계와 독립적임을 의미하며, 따라서 선택 공리를 채택한 ZFC와 채택하지 않은 ZF는 서로 다른 집합론 체계가 된다.

이러한 논쟁과 연구의 결과, 오늘날 대부분의 표준적인 수학은 선택 공리를 받아들이고 ZFC를 기초로 삼아 발전하고 있다. 그러나 선택 공리의 비직관적인 귀결, 예를 들어 바나흐-타르스키 역설과 같은 결과를 피하기 위해 선택 공리를 약화시킨 공리(예: 가산 선택 공리)를 사용하거나, 아예 선택 공리를 배제한 체계에서 수학을 전개하는 대안적 연구도 계속되고 있다.

ZF 공리계는 현대 수학의 대부분을 구성하는 데 필요한 기초를 제공한다. 이 공리계 위에서 자연수, 실수, 함수, 위상공간 등 수학의 핵심 객체들을 엄밀하게 정의하고 그 성질을 연구할 수 있다. 예를 들어, 페아노 공리계에 따른 자연수의 구성은 무한 공리와 다른 ZF 공리들을 사용하여 이루어진다. 또한, 선택 공리를 추가한 ZFC는 해석학, 위상수학, 대수학 등 거의 모든 분야에서 표준적인 논의의 틀 역할을 한다.

ZF는 러셀의 역설과 같은 모순을 피하면서도 충분히 풍부한 수학적 체계를 구축하도록 설계되었다. 이는 1차 논리를 기반으로 하여, 모든 수학적 명제를 집합론의 언어로 번역하고 그 증명을 공리로부터 연역적으로 추론할 수 있게 한다. 따라서 ZF는 수학의 대부분을 하나의 통일된 체계 안에서 엄밀하게 전개할 수 있는 기반을 마련했다는 점에서 근대 수학의 중요한 성과로 평가된다.

다른 기초론 체계와 비교했을 때, ZF의 강점은 직관적이면서도 강력하다는 점이다. 예를 들어, 순수 집합론에서는 모든 객체를 집합으로 간주하여, 수학적 구조를 매우 경제적으로 표현할 수 있다. 반면, 형식 이론이나 범주론과 같은 다른 기초론 접근법도 존재하지만, ZF의 단순성과 광범위한 수용도로 인해 여전히 가장 보편적인 기초 체계로 자리 잡고 있다.

ZF 공리계는 현대 수학의 표준적인 기초 체계로 자리 잡았지만, 다른 수학적 체계와도 밀접한 관계를 맺고 있다. 가장 직접적인 비교 대상은 체르멜로 공리계(Z)와 폰 노이만-베르나이스-괴델 집합론(NBG)이다. Z는 ZF에서 치환 공리와 정칙성 공리를 제외한 체계로, ZF보다 약한 이론이다. NBG는 ZF와 동등한 힘을 가지면서도 고유 모임을 공식적으로 다룰 수 있는 2차 논리 체계라는 차이점이 있다.

집합론 외에도, ZF 공리계는 형식 체계와 수리논리학의 중요한 연구 대상이다. 불완전성 정리에 따라 ZF는 스스로의 무모순성을 증명할 수 없다. 또한, 연속체 가설과 같은 명제는 ZF 내에서 증명도 반증도 할 수 없는, 즉 ZF에 대해 독립적인 명제임이 밝혀졌다. 이는 ZF가 수학의 모든 명제를 결정할 수 없음을 보여준다.

범주론은 집합론과 다른 방식으로 수학의 기초를 제공하려는 시도이다. 범주론은 대상과 사상의 관계에 초점을 맞추며, 때로는 토포스 이론과 같은 틀 안에서 집합론을 대체하거나 보완하는 기초 체계로 제안되기도 한다. 한편, 구성주의 수학과 직관주의 논리는 선택 공리나 배중률과 같은 고전적 원리를 받아들이지 않는 체계를 사용하며, 이들은 ZF(C)와는 다른 철학적 입장과 공리적 기반을 가진다.

쿠르트 괴델의 불완전성 정리는 ZF 공리계 및 ZFC와 같은 공리적 체계의 근본적인 한계를 보여준다. 이 정리는 충분히 강력한 공리 체계(예: 페아노 공리계를 포함할 수 있는 체계)는 그 체계 내에서 증명도 부정도 불가능한 명제, 즉 결정 불가능한 명제를 반드시 포함하게 된다고 말한다. ZF와 ZFC는 자연수론을 포함할 수 있을 만큼 강력하므로, 이 불완전성 정리의 적용을 받는다. 이는 ZF(C) 내에서 참이지만 ZF(C)의 공리들로부터는 증명할 수 없는 명제가 존재함을 의미한다.

이러한 불완전성 때문에, ZF(C)의 무모순성 역시 ZF(C) 자체 내에서는 증명될 수 없다. 괴델의 제2 불완전성 정리는 "만약 ZF(C)가 무모순적이라면, 그 무모순성은 ZF(C) 내에서 증명될 수 없다"는 것을 보여준다. 따라서 수학자들은 ZF(C)의 무모순성을 더 강력한 메타 이론(예: 초유한 귀납법을 허용하는 체계)을 통해 상대적으로 증명하거나, 그 무모순성을 하나의 믿음으로 받아들인다.

결정 불가능한 명제의 대표적인 예는 연속체 가설이다. 괴델과 폴 코언의 연구를 통해, 연속체 가설은 ZFC 공리와 독립적임, 즉 ZFC가 무모순적이라면 연속체 가설은 ZFC에서 증명도 반증도 할 수 없음이 밝혀졌다. 이는 ZFC가 수학의 모든 기본 질문에 답을 줄 수 있는 완전한 기초가 될 수 없음을 시사한다. 이러한 독립성 문제는 수학자들로 하여금 새로운 공리(예: 큰 기수 공리)를 탐구하거나, 다른 집합론 체계를 고려하게 하는 동기가 되었다.

폴 코언이 개발한 강제법은 ZF 공리계 내에서 선택 공리와 연속체 가설이 독립적임을 증명하는 데 결정적인 역할을 했다. 이는 특정 공리가 ZF의 다른 공리들로부터 증명될 수도, 반증될 수도 없음을 의미한다. 이러한 결과는 수학적 진리가 공리계에 의존적일 수 있음을 보여주었다.

공리의 독립성은 수학적 논의를 확장시킨다. 예를 들어, 선택 공리를 채택하면 바나흐-타르스키 역설과 같은 반직관적인 정리가 증명되지만, 이를 부정하는 공리(예: 모든 집합은 르베그 가측이다)를 추가한 체계도 무모순적일 수 있다[10]. 마찬가지로, 연속체 가설은 ZFC에서 독립적이므로, 이를 참이나 거짓으로 가정한 새로운 공리계를 구성하는 것이 가능해졌다.

이러한 독립성 문제는 수학의 기초에 대한 철학적 질문을 제기한다. 어떤 공리계를 '옳은' 기초로 선택해야 하는지에 대한 합의는 존재하지 않는다. 수학자들은 연구 목적에 따라 ZFC, 그 변형, 혹은 큰 기수 공리와 같은 더 강력한 공리계를 선택한다. 따라서 현대 집합론은 단일한 절대적 진리 체계라기보다, 다양한 무모순적 가능성들을 탐구하는 분야로 발전해 왔다.