모순과 역설(러셀의 역설 등)

논리적 모순은 동일한 명제가 동시에 참이면서 거짓인 상태, 또는 두 개의 상반된 명제가 모두 참으로 주장되는 상황을 가리킨다. 형식 논리학에서 이는 일반적으로 'P ∧ ¬P' (P이면서 비P이다)라는 형태로 표현된다. 이는 고전 논리의 근본 원리 중 하나인 모순율을 명백히 위반하는 것으로, 어떤 참인 명제도 자신의 부정과 동시에 성립할 수 없다는 법칙이다. 따라서 논리적 모순이 포함된 논증은 타당하지 않으며, 논리적 모순이 참인 체계는 터무니없는 어떤 명제라도 유도해낼 수 있게 되어[1] 그 체계 자체가 무의미해진다.

논리적 모순은 단순한 오류를 넘어서 논증의 구조 자체를 붕괴시키는 치명적 결함으로 간주된다. 예를 들어, "지금 비가 오고 있고, 동시에 비가 오지 않고 있다"는 진술은 현실 세계의 상태와 무관하게, 그 자체로 논리적으로 불가능한 명제이다. 이와 대비되어, 단지 사실에 맞지 않거나 검증되지 않은 명제는 (예: "지구는 평평하다") 논리적 모순이 아닌 단순히 거짓 명제로 분류된다.

다음은 논리적 모순과 관련된 몇 가지 핵심 개념을 정리한 표이다.

이러한 모순의 분석은 명제 논리와 술어 논리 같은 형식 체계의 정합성을 검증하는 데 핵심적 역할을 한다. 한 이론이나 체계 내에서 논리적 모순이 발견된다는 것은 그 체계의 기초에 심각한 결함이 있음을 의미하며, 이를 해결하기 위해 공리를 수정하거나 추론 규칙을 재검토해야 할 필요성이 제기된다.

실용적 모순은 명제 자체의 논리적 구조가 아니라, 그 명제가 발화되는 상황이나 발화자의 행동과 그 명제의 내용이 서로 맞지 않는 상태를 가리킨다. 예를 들어, "나는 지금 말을 하고 있지 않다"라고 말하는 행위 자체가 그 진술의 내용을 거짓으로 만든다. 이는 발언의 진위가 아니라, 발언 행위와 그 내용 간의 불일치에 초점을 맞춘다.

이러한 모순은 주로 언어철학과 화용론의 영역에서 다루어진다. "나는 존재하지 않는다"라고 말하거나, "나는 이 문장을 읽을 수 없다"라고 쓰여진 문장을 읽는 행위는 모두 실용적 모순의 사례이다. 발화 행위가 성공적으로 수행되기 위해서는 전제되는 조건들이 충족되어야 하는데, 그 발화 내용이 바로 그 조건들을 부정할 때 모순이 발생한다.

다음은 논리적 모순과 실용적 모순의 주요 차이점을 보여주는 표이다.

실용적 모순은 자기모순과 유사해 보일 수 있으나, 자기모순이 명제 내부의 논리적 충돌을 의미하는 반면, 실용적 모순은 언어 사용의 맥락적 조건과의 충돌을 의미한다는 점에서 구별된다. 이는 언어가 단순히 정보를 전달하는 도구가 아니라, 사회적 행위로서 기능한다는 점을 보여준다.

자기모순은 한 명제나 진술이 그 자체의 내용에 의해 부정되거나, 그 진술을 성립시키는 조건이 그 진술 자체를 파괴하는 경우를 가리킨다. 이는 주장의 내용과 그 주장을 하는 행위 또는 전제가 서로 화해할 수 없는 상태에 놓여 있음을 의미한다. "나는 지금 말을 하고 있지 않다"라는 진술은 그 내용이 발화 행위 자체를 부정하는 전형적인 자기모순의 예이다.

자기모순적 진술은 논리적으로 항상 거짓으로 판명된다. 왜냐하면 그 진술이 참이라고 가정하면 그 내용에 의해 거짓이 되고, 거짓이라고 가정해도 모순이 발생하기 때문이다. 이러한 특성 때문에 자기모순은 논리적 모순의 한 강력한 형태로 간주된다. 철학적 논변에서 상대방의 주장이 자기모순에 빠져 있음을 보이는 것은 그 주장을 논파하는 효과적인 방법이 된다.

자기모순은 단순한 오류를 넘어서, 언어와 사고의 구조에서 비롯되는 근본적인 문제를 드러내기도 한다. 특히 자기참조를 포함하는 문장들에서 빈번히 발생한다. "이 문장은 거짓이다"와 같은 거짓말쟁이의 역설은 자기모순의 한 형태로, 진리 값을 일관되게 할당할 수 없는 자기참조적 구조를 보여준다.

이러한 자기모순의 분석은 논리학뿐만 아니라 인식론과 언어철학에서도 중요한 주제가 되었다. 어떤 주장이 자기모순적임을 보이는 것은 그 주장이 지닌 내적 결함을 드러내는 강력한 도구이다.

역설은 일반적으로 참이라고 여겨지는 전제나 직관에서 출발하여, 논리적으로 정당한 추론을 거쳤음에도 불구하고, 결론이 받아들일 수 없거나 모순적인 상태에 이르는 구조를 가진다. 이는 단순한 오류나 착오와는 구별되며, 그 내부에 논리적 모순이나 기존 믿음 체계와의 충돌을 내포한다.

역설의 전형적인 구조는 다음과 같은 단계로 나눌 수 있다.

1. 명백한 전제 설정: 공통적으로 받아들여지는 명제나 강력한 직관을 출발점으로 삼는다.

2. ​논리적 추론의 진행: 합리적이고 타당해 보이는 논리적 과정을 통해 전제로부터 결론을 도출한다.

3. ​충돌 또는 모순의 발생: 도출된 결론이 전제 자체를 부정하거나, 다른 확고한 믿음과 양립할 수 없거나, 명백히 거짓이거나 허용되지 않는 명제가 된다.

예를 들어, "이 문장은 거짓이다"라는 거짓말쟁이의 역설을 분석하면, 그 구조가 명확히 드러난다. 문장이 참이라고 가정하면 그 내용에 따라 거짓이 되어야 하며, 거짓이라고 가정하면 그 내용에 따라 참이 되어야 한다. 이는 참과 거짓이라는 논리적 가치 체계 내에서 안정된 진리값을 할당할 수 없는 순환 구조를 보여준다.

이러한 구조는 역설이 단순히 해결해야 할 문제가 아니라, 우리의 사고 체계나 언어, 형식 시스템의 근본적인 한계나 숨겨진 가정을 드러내는 지표 역할을 한다는 점에서 중요성을 가진다. 역설의 분석은 종종 새로운 이론(예: 유형 이론이나 공리적 집합론)의 탄생을 촉발시키는 계기가 되었다.

역설은 종종 직관적인 진리 개념과 엄격한 논리 체계 사이의 충돌로 나타난다. 이는 우리가 일상적으로 믿는 것이 논리적 추론을 통해 모순에 이르게 함을 의미한다. 예를 들어, 거짓말쟁이의 역설에서 "이 문장은 거짓이다"라는 진술은 자신의 진리값을 결정할 수 없다. 이 문장이 참이면 자신이 거짓이라고 진술했으므로 거짓이 되어야 하며, 거짓이면 자신의 진술 내용이 거짓이므로 참이 되어야 한다. 이는 단일한 진리값을 할당할 수 없는 상황을 만들어낸다.

이러한 충돌은 진리의 정의나 논리 체계의 기초에 대한 재검토를 요구한다. 전통적인 이치 논리에서는 모든 명제는 참이거나 거짓이어야 한다는 배중률이 기본 원리로 받아들여진다. 그러나 역설은 이러한 이분법적 진리 개념이 자기참조적인 문장이나 특정 조건에서는 적용되지 않을 수 있음을 보여준다. 따라서 역설을 해결하려는 시도는 종종 진리의 개념을 수정하거나, 논리 체계에 새로운 제약을 도입하는 방향으로 이루어진다.

결국, 역설에서 드러나는 진리와 논리의 충돌은 인간의 인식 체계와 형식적 체계 사이의 간격을 드러내는 지표가 된다. 이는 단순한 오류가 아니라, 우리가 세계를 이해하고 기술하는 데 사용하는 기본 도구들 자체의 한계를 탐구하는 계기를 제공한다[3].

러셀의 역설은 1901년 버트런드 러셀이 발견한 집합론의 역설로, 소박한 집합론의 기초에 심각한 결함이 있음을 드러냈다. 이 역설은 '자신을 원소로 포함하지 않는 모든 집합의 집합'이라는 개념을 고려할 때 발생한다. 이러한 집합을 R이라고 정의하면, R이 자신을 포함하는지 여부에 따라 논리적 모순이 필연적으로 도출된다.

구체적으로, 만약 R이 자신을 원소로 포함한다면, R의 정의에 따라 R은 자신을 원소로 포함하지 않는 집합이어야 한다. 반대로, R이 자신을 원소로 포함하지 않는다면, R의 정의에 의해 R은 자신을 원소로 포함하는 집합이 되어야 한다. 이는 'R ∈ R'이 참이면 거짓이고, 거짓이면 참이라는 명백한 논리적 모순을 낳는다.

이 역설은 게오르크 칸토어와 고틀로프 프레게가 구축한 당시의 집합론 체계를 근본적으로 위협했다. 특히 프레게는 그의 저작 『산술의 기본 법칙』 제2권의 부록에서 이 역설을 접하고 자신의 공리 체계가 붕괴되었음을 인정했다[5]. 러셀의 역설은 무제한적인 내포 공리(즉, 어떤 조건을 만족하는 모든 대상의 집합이 존재한다는 공리)의 사용이 문제를 일으킬 수 있음을 보여주었다.

이 발견은 20세기 초 수학 기초론에 대한 위기 의식을 불러일으키는 계기가 되었고, 보다 엄밀한 공리적 집합론(예: 체르멜로-프렝켈 집합론)의 발전과 유형 이론 같은 새로운 접근법을 촉진하는 동력이 되었다.

거짓말쟁이의 역설은 고대 그리스에서 유래한 가장 유명한 역설 중 하나로, 자기참조와 진리에 관한 근본적인 문제를 제기한다. 이 역설의 핵심은 "나는 지금 거짓말을 하고 있다" 또는 "이 문장은 거짓이다"와 같은 자기모순적인 진술에 있다. 이러한 진술은 자신의 진리값을 결정하려 할 때 논리적 궁지에 빠지게 만든다.

구체적으로, "이 문장은 거짓이다"라는 진술을 참이라고 가정하면, 그 내용에 따라 문장은 거짓이 되어야 한다. 반대로, 그 진술을 거짓이라고 가정하면, 문장이 "거짓이다"라고 말하고 있으므로 그것은 참이 되어야 한다. 이는 다음과 같은 무한 순환을 낳는다.

이 역설은 단순한 언어 유희를 넘어, 진리의 정의와 형식 논리 체계의 기초에 대한 심각한 도전으로 여겨진다. 특히 모든 진술에 명확한 참 또는 거짓의 진리값을 할당할 수 있다는 고전 논리의 기본 전제인 배중률에 직접적인 의문을 제기한다.

역설을 해결하려는 시도는 다양하게 이루어졌다. 알프레드 타르스키는 진리 계층 이론을 제안하여, 한 언어의 진리 술어는 그보다 상위의 메타언어에서만 정의되어야 하므로 "이 문장은 거짓이다"와 같은 자기참조적 진술은 의미 없는 것으로 처리해야 한다고 주장했다[6]. 다른 접근법으로는 참과 거짓 외에 제3의 진리값(예: '미정')을 인정하는 다치 논리를 도입하는 방안도 있다.

베리의 역설은 자기참조와 자연어의 모호성에서 비롯되는 역설이다. 1908년 영국의 도서관 사서 G. G. 베리가 버트런드 러셀에게 제안한 후, 러셀이 1910년 저서 『수학 원리』에서 공식화하여 널리 알려졌다. 이 역설은 러셀의 역설과 함께 기초론 위기를 촉발한 중요한 사례 중 하나로 평가된다.

이 역설은 "열아홉 개 이하의 음절로 서술할 수 없는 가장 작은 자연수"라는 표현을 통해 설명된다. 이 표현 자체는 정확히 열아홉 개의 음절로 구성되어 있다. 만약 그렇게 정의된 수가 실제로 존재한다면, 그 수는 "열아홉 개 이하의 음절로 서술할 수 없는" 수여야 하지만, 방금 열아홉 개의 음절로 서술되었으므로 서술 가능해지는 모순이 발생한다. 반대로, 그런 수가 존재하지 않는다면, '열아홉 개 이하의 음절로 서술할 수 없는 모든 자연수'를 서술할 수 있게 되어, 다시 모순에 이르게 된다.

베리의 역설은 진리나 집합 자체가 아닌, '서술 가능성'이라는 메타 언어적 개념에 초점을 맞춘다. 이는 자연수의 집합이 가산 집합임에도 불구하고, 자연언어로 서술 가능한 수의 집합은 가산 집합이 될 수밖에 없음을 보여준다. 그러나 '서술할 수 없는 수'라는 개념을 자연언어로 정의하려 할 때 발생하는 자기모순적 구조가 문제의 핵심이다. 이 역설은 알프레드 타르스키의 진리론과 형식 언어에 대한 연구에 중요한 동기를 제공했다.

유형 이론은 버트런드 러셀이 러셀의 역설을 비롯한 여러 자기모순적 역설을 해결하기 위해 제안한 이론이다. 이 이론의 핵심은 모든 대상과 명제에 계층적 '유형'을 부여하여, 어떤 대상이 자기 자신을 포함하는 집합과 같은 형태의 자기참조를 원칙적으로 금지하는 데 있다.

구체적으로, 유형 이론은 개체를 가장 낮은 유형(유형 0)으로, 개체의 집합을 그보다 높은 유형(유형 1)으로, 집합의 집합을 더 높은 유형(유형 2)으로 분류한다. 이 체계에서 "모든 집합의 집합"과 같은 표현은 유형 위반으로 간주되어 무의미한 진술이 된다. 왜냐하면 한 유형의 대상은 오직 그보다 낮은 유형의 대상에 대해서만 논할 수 있기 때문이다. 예를 들어, "자신을 포함하지 않는 모든 집합의 집합 R"을 정의하려면 R이 속해야 할 유형이 결정되어야 하지만, 이 정의는 R 자신을 언급함으로써 유형의 계층을 혼란스럽게 만든다. 유형 이론은 이러한 정의 자체를 허용하지 않음으로써 역설의 발생을 근본적으로 차단한다.

러셀은 앨프리드 노스 화이트헤드와 함께 『수학 원리』(Principia Mathematica)에서 이 이론을 정교하게 발전시켜 수학의 기초를 재구성하려 했다. 그러나 유형 이론은 복잡성과 인공성이라는 비판을 받았다. 모든 진술에 엄격한 유형을 부여해야 하므로 수학적 논의가 매우 번거로워지며, "모든 자연수"와 같은 평범한 진술도 무한한 유형을 가진 것으로 처리해야 하는 문제가 발생했다. 이러한 한계로 인해 유형 이론은 이후 공리적 집합론(예: 체르멜로-프렝켈 집합론)에 그 자리를 대부분 내주었지만, 계산 이론과 프로그래밍 언어 이론에서 데이터 타입 시스템의 개념적 기초를 제공하는 등 여전히 중요한 영향을 미치고 있다.

공리적 집합론은 러셀의 역설과 같은 역설로 인해 발생한 소박한 집합론의 문제점을 해결하기 위해, 집합의 존재와 구성에 대해 엄격한 공리들을 제시하는 체계이다. 이 접근법은 집합을 무조건적인 '모임'으로 보지 않고, 공리로부터 엄밀하게 도출될 수 있는 대상으로만 한정함으로써 역설을 피한다.

주요 공리적 집합론 체계로는 체르멜로-프렝켈 집합론(ZF)과 폰 노이만-베르나이스-괴델 집합론(NBG)이 있다. ZF 체계는 다음과 같은 핵심 공리들을 포함한다.

이러한 공리들은 "모든 것을 포함하는 집합"이나 "자신을 원소로 가지는 집합"과 같은 문제적인 집합의 존재를 원천적으로 금지한다. 예를 들어, 러셀의 역설에서 문제가 되었던 "자신을 원소로 포함하지 않는 모든 집합들의 집합 R"은 ZF 체계의 공리들에 의해 하나의 집합으로 구성될 수 없다. 따라서 "R ∈ R?"이라는 질문 자체가 성립되지 않아 역설이 발생하지 않는다. 공리적 집합론은 수학의 기초를 확립하고, 현대 수학의 대부분을 그 체계 안에서 전개할 수 있는 토대를 제공했다.

진리 계층 이론은 거짓말쟁이의 역설과 같은 자기참조적 진리 진술로 인해 발생하는 역설을 해결하기 위해 제안된 이론이다. 이 접근법의 핵심은 진리 술어를 단일하고 평평한 개념으로 보지 않고, 서로 다른 수준 또는 계층으로 분리된 위계적 구조로 보는 것이다. 가장 잘 알려진 체계는 알프레드 타르스키가 제시한 것으로, 대상 언어와 메타 언어를 구분하는 것이다. 대상 언어에서는 진리에 대해 말할 수 없으며, 그 언어의 문장에 대한 진리 진술은 그보다 더 높은 수준의 메타 언어에서만 가능하다. 이렇게 함으로써 "이 문장은 거짓이다"와 같은 문장이 정확히 어느 언어 계층에 속하는지 모호해져 의미를 상실하게 되고, 따라서 역설이 발생하지 않게 된다.

타르스키의 모델은 다음과 같은 간단한 위계 구조를 따른다.

이 구조에서 각 진리 술어는 오직 그보다 낮은 계층의 언어에 대해서만 적용 가능하다. 따라서 "이 문장은 거짓이다"라는 문장은 자신과 같은 계층의 진리 술어를 참조하려 하기 때문에, 어떤 계층 Ln에도 속할 수 없는 무의미한 문장이 된다[7].

진리 계층 이론은 역설을 체계적으로 회피하는 데 성공했지만, 몇 가지 비판에 직면한다. 가장 큰 비판은 이 이론이 자연 언어에서의 진리 개념을 지나치게 인위적이고 제한적으로 만든다는 점이다. 일상적으로 우리는 "내가 방금 한 말은 참이다"와 같은 자기참조적 진술을 문제없이 사용하며, 이를 단일한 진리 개념으로 이해한다. 또한, 이 위계가 무한히 계속되어야 한다는 점도 이론의 복잡성을 증가시킨다. 이러한 한계에도 불구하고, 진리 계층 이론은 형식 의미론과 진리 조건 연구에 지속적인 영향을 미쳤으며, 역설을 피하면서 일관된 진리 이론을 구성하려는 중요한 시도로 평가받는다.

역설은 인간의 인식 체계와 이성의 한계를 드러내는 중요한 사례로 작용한다. 특히 자기참조를 포함하는 역설들은 우리가 세계를 이해하고 기술하는 데 사용하는 언어나 논리 체계 자체에 내재된 근본적인 문제를 지적한다. 이는 단순한 논리적 오류를 넘어, 인식의 틀과 그 틀을 통해 파악하려는 대상 사이의 복잡한 관계를 보여준다.

역설이 제기하는 인식론적 도전은 진리와 지식의 확실성에 대한 의문으로 이어진다. 예를 들어, 거짓말쟁이의 역설은 "이 문장은 거짓이다"와 같은 진술이 단일한 진리값(참 또는 거짓)을 결정적으로 가질 수 없음을 보인다. 이는 우리의 일상적 진리 개념이 특정 조건 하에서 붕괴될 수 있음을 의미하며, 진리에 대한 이분법적 사고의 한계를 지적한다. 역설은 따라서 우리가 세상을 인식하는 기본 도구인 언어와 논리가 완전히 자족적이지 않을 수 있다는 가능성을 제시한다.

이러한 한계는 자기인식과 메타인지의 영역에서도 중요한 함의를 가진다. 시스템이 자신의 전체 상태나 속성을 완전히 설명하거나 판단하는 것은 본질적 어려움에 직면할 수 있다. 이는 괴델의 불완전성 정리와 같은 현대 논리학의 성과와도 연결되며, 충분히 복잡한 형식 체계 내에서는 그 체계 자체로는 증명도 반증도 할 수 없는 명제가 존재함을 보여준다. 역설은 이처럼 인식 주체와 인식 도구, 인식 대상 사이의 경계와 상호작용에 대한 성찰을 요구한다.

결국 역설은 인식 과정이 단순한 대상의 반영이 아니라, 복잡한 표상 체계 내에서의 구성 활동임을 상기시킨다. 역설의 해결을 위한 시도들은 종종 새로운 개념적 분류(예: 유형 이론)나 제한된 규칙의 도입을 요구하는데, 이는 인식의 확장이 종종 기존 틀의 재구성을 동반함을 보여준다. 따라서 역설은 인식의 실패가 아니라, 오히려 인식 체계의 경계를 탐색하고 그 구조를 더 명확히 이해하는 계기를 제공한다.

자기참조는 어떤 진술이나 개념이 직접 또는 간접적으로 자기 자신을 언급하는 구조를 가리킨다. 많은 역설은 이러한 자기참조적 구조에서 비롯된다. 예를 들어, "이 문장은 거짓이다"라는 진술은 그 내용이 자신의 진리값을 지시하기 때문에, 그것이 참이면 거짓이 되고 거짓이면 참이 되는 모순에 빠진다. 이는 거짓말쟁이의 역설의 핵심이다.

자기참조는 언어, 논리, 심지어 수학적 체계 내부에서도 발생할 수 있으며, 체계의 일관성을 위협한다. 러셀의 역설은 "자신을 원소로 포함하지 않는 모든 집합의 집합"이라는 자기참조적 정의에서 파생된 모순이다. 이러한 역설들은 단순한 언어적 장난이 아니라, 우리가 사용하는 표현 체계 자체에 내재된 근본적인 문제를 드러낸다.

자기참조의 문제는 인식론과 언어철학의 중요한 주제가 된다. 완전하고 모순 없는 지식 체계를 구축하려는 시도는, 그 체계가 자기 자신을 설명하려 할 때 한계에 부딪칠 수 있음을 시사한다. 쿠르트 괴델의 불완전성 정리[8]는 이러한 자기참조적 논리의 한 형태를 수학적으로 정립한 사례이다.

이 문제를 해결하기 위한 시도로는, 진술이 자신의 진리값에 대해 말하는 것을 금지하는 진리 계층 이론이나, 집합이 자신을 원소로 포함할 수 없도록 제한하는 공리적 집합론이 발전되었다. 그러나 자기참조 자체는 인간 사고와 창의성에서도 중요한 역할을 하므로, 단순히 배제하는 것만이 유일한 해법은 아니다.

러셀의 역설은 소박한 집합론의 근본적인 결함을 드러내며, 이를 해결하기 위한 새로운 공리적 체계의 필요성을 촉발시켰다. 이로 인해 20세기 초 집합론은 급격한 발전을 이루게 되었다.

가장 대표적인 해결책은 체르멜로-프렝켈 집합론(ZF)이다. 이 체계는 공리를 통해 집합의 존재를 엄격히 제한하여, '모든 집합의 집합'과 같은 역설적 대상이 구성되지 못하도록 막았다. 특히 분리 공리꼴은 주어진 집합의 원소 중 특정 조건을 만족하는 것들만 모아 새로운 집합을 형성할 수 있게 함으로써, 러셀의 역설을 일으키는 집합의 생성을 원천적으로 차단했다. 이후 선택 공리를 추가한 체르멜로-프렝켈 선택 공리 집합론(ZFC)이 현대 수학의 표준 기초 이론으로 자리 잡았다.

ZF/ZFC와는 다른 접근법을 보인 이론도 등장했다. 폰 노이만-베르나이스-괴델 집합론(NBG)은 고유 모임의 개념을 도입하여 '모든 집합의 모임'은 집합이 아닌 모임으로 취급함으로써 역설을 회피했다. 한편, 타입 이론은 러셀 자신이 제안한 해결책으로, 대상에 계층적 유형을 부여하여 자기참조적 진술을 허용하지 않는 방식을 취했다. 이 이론은 이후 컴퓨터 과학의 형식 검증과 프로그래밍 언어 이론에 지대한 영향을 미쳤다.

이러한 발전은 단순히 하나의 역설을 해결하는 것을 넘어, 수학의 기초를 보다 엄밀하고 강건한 논리적 토대 위에 세우는 결과를 가져왔다. 집합론은 역설을 극복하는 과정에서 더욱 정교해졌으며, 현대 수학의 거의 모든 분야가 이 공리적 집합론 위에서 전개될 수 있는 기반을 마련했다.

형식 시스템은 명확한 규칙에 따라 기호를 조작하여 논리적 추론을 체계화한 것을 말한다. 20세기 초, 다비트 힐베르트와 같은 수학자들은 수학의 모든 명제를 하나의 완전하고 무모순적인 형식 시스템 안에서 증명하거나 반증할 수 있을 것이라고 기대했다. 이는 힐베르트 계획으로 알려져 있다. 그러나 쿠르트 괴델의 불완전성 정리와 같은 발견은 이러한 형식적 접근의 근본적인 한계를 드러냈다.

괴델의 불완전성 정리는 충분히 강력한 형식 시스템(예: 자연수의 산술을 포함하는 시스템)은 그 시스템 내에서 증명할 수도 반증할 수도 없는 명제, 즉 불완전성을 항상 포함하게 된다는 것을 보여주었다. 또한, 그 시스템 자체의 무모순성을 그 시스템 내에서 증명할 수 없다는 것도 보여주었다. 이는 모든 수학적 진리를 기계적인 규칙에 따라 완전히 포착하려는 형식주의 프로그램에 결정적인 타격을 주었다.

이러한 한계는 러셀의 역설과 같은 역설들이 초래한 위기와 깊이 연결되어 있다. 역설들은 자기참조와 같은 개념이 형식 시스템 내에서 통제되지 않을 때 모순을 초래할 수 있음을 보여주었다. 괴델의 정리는 본질적으로 특정 형식 시스템 내에서 "이 명제는 증명할 수 없다"는 식의 자기참조적 명제를 구성함으로써 증명되었다. 이는 역설이 단지 피해야 할 결함이 아니라, 형식 시스템의 표현력과 그 시스템이 스스로를 설명하는 능력 사이의 근본적인 긴장 관계를 드러내는 지표임을 시사한다.

결과적으로, 역설과 이를 해결하려는 노력, 그리고 괴델의 발견은 형식 시스템이 본질적으로 자족적이지 않음을 보여주었다. 모든 체계적인 지식은 그 체계 바깥의 관점(메타관점)을 필요로 하며, 완전한 폐쇄와 절대적 확실성은 달성할 수 없는 목표일 수 있다는 인식으로 이어졌다. 이는 현대 논리학, 수학 기초론, 컴퓨터 과학, 심지어 철학에까지 지대한 영향을 미쳤다.