이 문서의 과거 버전 (r1)을 보고 있습니다. 수정일: 2026.02.23 16:34
게임 이론은 상호작용하는 의사결정자들의 전략적 상황을 수학적 모델로 연구하는 학문이다. 의사결정 주체를 플레이어로, 그들이 선택할 수 있는 행동을 전략으로, 그리고 그 결과로 얻는 이득이나 손실을 보수로 모형화하여 분석한다. 이 이론은 개인의 선택이 다른 사람의 선택에 따라 결과가 달라지는 복잡한 상황에서 합리적 행동을 예측하고 이해하는 데 목적이 있다.
게임 이론은 1944년 존 폰 노이만과 오스카 모르겐슈테른의 저서 『게임 이론과 경제 행동』을 통해 처음으로 체계화되었다. 이후 존 내시가 내시 균형 개념을 제안하며 비협력 게임 이론의 기초를 확립했고, 이 공로로 노벨 경제학상을 수상했다. 게임 이론의 핵심 개념으로는 내시 균형 외에도 최소최대 이론, 협력 게임, 비협력 게임 등이 있다.
초기에는 주로 경제학과 군사 전략 분야에서 응용되었으나, 현재는 정치학, 국제 관계, 생물학의 진화 게임 이론, 그리고 컴퓨터 과학 및 인공지능 등 매우 다양한 학문 분야에서 핵심적인 분석 도구로 활용되고 있다. 특히 인공지능에서는 다중 에이전트 시스템의 상호작용을 설계하고 분석하는 데 게임 이론이 필수적이다.
이론의 발전은 순차 게임, 불완전 정보 게임 등 점점 더 현실을 반영하는 복잡한 게임 모형을 분석할 수 있는 해법 개념을 만들어냈다. 죄수의 딜레마나 최후통첩 게임과 같은 대표적인 게임 모형은 사회과학 전반에 걸쳐 인간의 의사결정을 이해하는 데 중요한 통찰을 제공해 왔다.
게임 이론에서 분석 대상이 되는 모든 게임은 몇 가지 공통적인 구성 요소로 이루어진다. 가장 기본적인 구성 요소는 게임에 참여하는 의사결정 주체인 플레이어이다. 플레이어는 개인일 수도 있고, 기업이나 국가와 같은 집단일 수도 있다. 각 플레이어가 선택할 수 있는 모든 행동의 목록을 전략이라고 하며, 이는 게임의 규칙을 정의한다.
게임의 중요한 구성 요소 중 하나는 정보 집합이다. 이는 각 플레이어가 자신의 차례에 행동을 결정할 때 알고 있는 정보의 상태를 나타낸다. 예를 들어, 상대방이 이미 어떤 행동을 취했는지를 알 수 있는지 여부에 따라 게임의 양상이 크게 달라진다. 마지막으로, 각 플레이어는 자신이 선택한 전략과 다른 플레이어들의 전략 선택에 따라 결과를 얻는데, 이를 수치화한 것을 보수라고 한다. 보수는 이익이나 효용을 나타내며, 각 플레이어는 일반적으로 자신의 보수를 극대화하려는 목표를 가진다.
이러한 구성 요소들을 명확히 규정함으로써 복잡한 사회적 상호작용을 추상화된 모델로 단순화하여 분석할 수 있다. 예를 들어, 시장에서의 기업 간 경쟁이나 국제 관계에서의 협상과 같은 상황을 게임 이론의 틀 안에서 이해하는 데 기초를 제공한다.
게임 이론에서 전략은 각 참가자가 게임이 진행되는 동안 취할 수 있는 모든 가능한 행동 계획을 의미한다. 이는 단순히 한 번의 선택일 수도 있고, 상대방의 이전 행동에 따라 달라지는 복잡한 의사결정 규칙일 수도 있다. 예를 들어, 체스에서 '왕의 기사로 e4 칸을 지키라'는 단순한 지시지만, '상대방이 공격하면 수비하고, 기회가 오면 반격하라'는 조건부 전략에 가깝다. 게임의 유형에 따라 전략의 범위가 결정되며, 각 참가자는 가능한 전략 집합 중 하나를 선택하게 된다.
보수는 각 참가자가 선택한 전략의 조합에 따라 게임이 종료된 후 받게 되는 결과를 수치화한 것이다. 이는 이익, 효용, 점수, 또는 금전적 보상 등 다양한 형태로 표현될 수 있다. 보수 행렬은 참가자들의 전략 선택과 그에 따른 결과를 한눈에 보여주는 도구로, 특히 동시 게임 분석에 유용하게 사용된다. 게임 이론의 목표는 주어진 보수 구조 하에서 각 참가자가 어떻게 행동할지를 예측하는 것이다.
참가자들은 일반적으로 자신의 보수를 극대화하려는 합리성을 가진 것으로 가정된다. 이 합리적 선택의 개념은 게임 이론의 핵심 기반이다. 그러나 보수는 반드시 개인의 이득만을 의미하지는 않으며, 타인의 이익이나 집단의 복지를 포함하는 사회적 선호도 반영될 수 있다. 따라서 보수 함수를 어떻게 정의하느냐에 따라 게임의 해석과 예측 결과가 크게 달라질 수 있다.
전략과 보수는 게임의 규칙을 수학적으로 정의하는 기본 구성 요소이다. 모든 게임은 '누가', '무엇을', '언제' 할 수 있는지(전략)와 그 결과 '무엇을 얻는지'(보수)에 의해 서술된다. 이후의 분석, 특히 내시 균형과 같은 해결 개념은 이 두 요소를 바탕으로 각 참가자에게 최선의 전략이 무엇인지를 찾아내는 과정이다.
게임 이론에서 합리성의 가정은 모든 참가자가 자신의 이익을 극대화하려는 합리적 행위자라고 가정하는 것을 말한다. 이는 게임의 결과를 예측하고 분석하는 데 있어 가장 기본적인 전제 조건으로 작용한다. 여기서 합리성은 참가자가 주어진 정보와 제약 조건 하에서 자신의 보수를 최대화하는 결정을 내릴 수 있는 능력을 의미하며, 이는 모든 참가자에게 공통적으로 적용된다.
합리성의 가정은 참가자들이 게임의 규칙을 완벽히 이해하고, 자신의 선호를 일관되게 정렬할 수 있으며, 가능한 모든 결과를 계산하여 최적의 전략을 선택할 수 있다고 본다. 이러한 가정 하에서 도출되는 해결 개념이 바로 내시 균형과 같은 균형 개념이다. 합리성은 또한 상대방도 마찬가지로 합리적이라고 믿는 상호 합리성에 대한 믿음을 포함하기도 한다.
그러나 이 가정은 현실의 의사결정과 괴리가 있을 수 있다는 비판을 받는다. 실제 인간은 인지 편향이나 제한된 계산 능력, 감정적 요소에 영향을 받아 완전히 합리적인 선택을 하지 못할 수 있다. 이러한 점을 보완하기 위해 행동 경제학이나 진화 게임 이론과 같은 분야에서는 제한적 합리성이나 다른 행동 모델을 도입하기도 한다.
이러한 합리성의 가정은 경제학에서의 시장 분석부터 국제 관계에서의 협상 모델, 인공지능의 다중 에이전트 시스템 설계에 이르기까지 게임 이론이 적용되는 모든 분야의 분석 틀을 제공하는 핵심 기둥이다.
게임 이론에서 게임은 협조적 게임과 비협조적 게임으로 크게 구분된다. 이 분류는 게임 참가자들이 협약을 맺고 이행할 수 있는 메커니즘이 있는지 여부에 따라 달라진다.
비협조적 게임은 각 참가자가 자신의 이익을 극대화하기 위해 독립적으로 행동하는 상황을 모델링한다. 여기서는 구속력 있는 합의나 협약이 불가능하며, 참가자들은 상대방의 선택을 예측하면서 자신의 전략을 결정한다. 대표적인 해법 개념인 내시 균형은 비협조적 게임의 핵심 분석 도구로, 어떤 참가자도 자신의 전략을 단독으로 변경함으로써 이득을 볼 수 없는 전략 조합을 의미한다. 죄수의 딜레마는 비협조적 게임의 전형적인 예시이다.
반면, 협조적 게임은 참가자들이 구속력 있는 합의를 통해 연합을 형성하고 공동의 이익을 추구할 수 있는 상황을 다룬다. 분석의 초점은 개별 참가자의 전략이 아니라, 다양한 연합이 형성될 때 얻을 수 있는 총 이익과 그 이익을 참가자들 사이에 어떻게 공정하게 분배할 것인지에 맞춰진다. 샤플리 가치는 협조적 게임에서 개별 참가자의 기여도에 기반한 공평한 분배 솔루션을 제시하는 대표적인 개념이다. 이러한 분석은 정치학에서 연정 형성이나 경제학에서 기업 간 합병 및 협상 연구에 응용된다.
게임의 유형을 구분하는 중요한 기준 중 하나는 게임 참여자들의 보수 합계가 항상 일정한지 여부이다. 이에 따라 제로섬 게임과 비제로섬 게임으로 나뉜다.
제로섬 게임은 한 참여자의 이득이 반드시 다른 참여자의 손실로 이어지는 상황을 모델링한다. 즉, 모든 참여자가 얻는 보수의 합이 항상 0(또는 일정한 상수)이 되어, 순수한 이해관계의 충돌을 보여준다. 대표적인 예로 포커나 체스 같은 2인용 보드 게임이 있으며, 군사 전략이나 특정 경쟁 시장 분석에도 적용된다. 이러한 게임에서는 상대방의 손실을 자신의 이익으로 삼아야 하므로, 최소최대 이론과 같은 적대적 접근법이 핵심 해결 개념이 된다.
반면, 비제로섬 게임은 참여자들의 보수 합계가 일정하지 않아, 상호작용의 결과가 모두에게 이익이 되거나 모두에게 손해가 될 수 있는 상황을 다룬다. 현실의 대부분의 경제적, 사회적 상호작용은 이 범주에 속한다. 예를 들어, 기업 간의 연구 개발 협력이나 국가 간의 무역 협정은 상생의 결과를 낳을 수 있는 비제로섬 게임이다. 가장 유명한 죄수의 딜레마도 비제로섬 게임의 일종으로, 개인의 합리적 선택이 집단적으로 비합리적인 결과를 초래할 수 있음을 보여준다.
이러한 구분은 게임의 해법을 찾는 접근법에 직접적인 영향을 미친다. 제로섬 게임에서는 상대방을 이기는 데 초점을 맞추지만, 비제로섬 게임에서는 협력의 가능성, 신호 게임, 담합 등 보다 복잡한 전략적 고려가 필요해진다. 따라서 게임의 구조가 제로섬인지 비제로섬인지를 파악하는 것은 해당 상호작용의 본질과 해결 가능성을 이해하는 첫걸음이다.
게임 이론에서 게임의 정보 구조는 의사결정자가 다른 참가자들에 대해 얼마나 많은 정보를 가지고 있는지를 구분하는 중요한 기준이다. 이에 따라 게임은 완전 정보 게임과 불완전 정보 게임으로 나뉜다.
완전 정보 게임은 모든 참가자가 게임의 규칙, 가능한 전략, 그리고 다른 참가자들의 보수에 대해 완벽하게 알고 있는 상황을 말한다. 즉, 게임의 모든 구조가 공통 지식이다. 대표적인 예로는 체스나 바둑 같은 보드 게임이 있다. 이러한 게임에서는 상대방의 기물 배치나 가능한 수를 모두 볼 수 있으며, 각 수를 둘 때 발생하는 결과도 명확하다. 존 폰 노이만과 오스카 모르겐슈테른이 초기 게임 이론을 체계화할 때 주로 분석한 모형들도 이러한 완전 정보를 가정한 경우가 많았다. 완전 정보 하에서는 각 참가자가 상대방의 선택을 예측하고 자신의 최선의 대응을 계산하는 것이 이론적으로 가능하다.
반면, 불완전 정보 게임은 적어도 한 명의 참가자가 게임의 중요한 요소, 예를 들어 다른 참가자의 보수 함수나 유형, 혹은 과거의 행동 중 일부를 알지 못하는 상황이다. 현실의 대부분의 경제적, 사회적 상호작용은 이 범주에 속한다. 예를 들어, 경매에서 다른 입찰자들이 그 상품에 대해 실제로 지불할 의사가 있는 금액을 정확히 알 수 없거나, 기업 간 경쟁에서 상대방의 생산 비용을 모르는 경우가 여기에 해당한다. 불완전 정보 게임을 분석하기 위해서는 베이지안 게임 이론이 도입되었으며, 여기서 참가자들은 자신이 가진 사전 믿음을 바탕으로 베이지안 내시 균형을 계산하게 된다. 이는 존 내시의 균형 개념을 정보가 불완전한 상황으로 확장한 것이다.
이러한 구분은 게임의 해법과 균형 개념에 직접적인 영향을 미친다. 완전 정보 순차 게임은 역진 귀납법을 통해 분석할 수 있지만, 불완전 정보 하에서는 참가자들의 믿음과 그 갱신 과정이 게임의 핵심 요소가 된다. 따라서 게임 이론은 정보의 비대칭성과 불확실성이 존재하는 경제학, 국제 관계, 담합 분석 등 다양한 복잡한 현실 문제를 이해하는 데 강력한 도구를 제공한다.
게임의 진행 방식에 따라 순차 게임과 동시 게임으로 구분된다. 순차 게임은 참가자들이 자신의 차례를 번갈아 가며 행동하는 게임으로, 한 참가자의 선택이 이후 차례의 참가자에게 공개된 상태에서 다음 선택이 이루어진다. 체스나 바둑과 같은 보드 게임이 대표적인 예시이며, 이러한 구조는 게임 트리를 통해 분석된다. 참가자는 상대방의 이전 행동을 관찰하고 그에 따라 대응할 수 있어, 위협과 약속 같은 전략적 요소가 중요하게 작용한다.
반면 동시 게임은 모든 참가자가 서로의 선택을 알지 못한 채 동시에, 또는 순서와 관계없이 행동을 결정하는 게임이다. 대표적인 예로 죄수의 딜레마가 있으며, 여기서 두 명의 범인은 서로의 자백 여부를 모른 채 동시에 결정을 내린다. 이러한 게임은 보수 행렬을 사용하여 표현하고 분석하는 것이 일반적이다. 동시 게임에서는 상대방의 실제 선택을 확인할 수 없기 때문에, 상대방이 어떻게 행동할지에 대한 믿음이나 예상이 전략 수립의 핵심이 된다.
두 유형의 게임은 해법을 찾는 접근법에서도 차이를 보인다. 순차 게임의 분석에는 상대방의 미래 행동을 예측하고 자신의 현재 선택이 미칠 영향을 역추적하는 역진 귀납법이 핵심 도구로 사용된다. 이 방법을 통해 도출되는 해결 개념이 하위 게임 완전 균형이다. 한편, 동시 게임의 가장 근본적인 해결 개념은 내시 균형이며, 이는 각 참가자가 다른 참가자들의 전략을 주어진 것으로 보고 자신의 보수를 최대화하는 전략을 선택할 때 안정된 상태를 의미한다.
실제 많은 전략적 상황은 순차적 요소와 동시적 요소가 혼합되어 있다. 예를 들어, 경매에서 입찰자는 동시에 입찰가를 제출하지만(동시 게임), 여러 라운드에 걸쳐 진행되는 경우 이전 라운드의 결과가 다음 라운드에 영향을 미친다(순차 게임). 또한 불완전 정보 게임 하에서는 참가자들이 동시에 행동하더라도 서로에 대한 정확한 정보가 부족할 수 있어, 베이지안 내시 균형과 같은 보다 정교한 균형 개념이 필요하게 된다.
지배전략 균형은 게임 이론에서 가장 강력한 해결 개념 중 하나이다. 이는 각 참가자가 다른 참가자가 어떤 선택을 하든 상관없이 자신에게 가장 좋은 결과를 가져다주는 전략, 즉 지배전략을 가지고 있을 때 성립한다. 모든 참가자가 자신의 지배전략을 선택하는 상태가 지배전략 균형이다. 이 균형은 다른 참가자의 행동에 대한 예측이나 복잡한 계산 없이도 각자의 이익을 극대화하는 단순한 합리성에 기초한다.
대표적인 예로 죄수의 딜레마를 들 수 있다. 이 게임에서 각 죄수는 상대방이 자백하든 침묵하든 관계없이 자신이 자백하는 것이 항상 더 짧은 형기를 보장받는다. 따라서 '자백'이 각자의 지배전략이 되며, 둘 다 자백하는 결과가 지배전략 균형에 해당한다. 이 균형은 개인의 합리적 선택이 집단적으로는 최악의 결과를 초래할 수 있음을 보여주는 고전적 사례이다.
그러나 지배전략 균형이 존재하는 게임은 그리 많지 않다. 대부분의 전략적 상황에서는 자신의 최선의 선택이 상대방의 선택에 의존하기 때문이다. 예를 들어, 조정 게임이나 치킨 게임에서는 명확한 지배전략이 존재하지 않는다. 따라서 지배전략 균형은 강력하지만 적용 범위가 제한적인 개념이며, 보다 일반적인 해결 개념으로는 내시 균형이 널리 사용된다.
내시 균형은 비협조적 게임에서 가장 핵심적인 해결 개념 중 하나이다. 이 개념은 존 내시가 1950년 논문에서 제안하였으며, 그 공로로 그는 이후 노벨 경제학상을 수상하게 된다. 내시 균형은 게임에 참여하는 모든 참가자가 자신의 전략을 선택했을 때, 다른 참가자들의 전략이 주어진 상태에서 어느 한 참가자도 자신만 단독으로 전략을 바꾸어 더 나은 결과(보수)를 얻을 수 없는 상태를 의미한다. 즉, 모든 참가자의 전략 선택이 서로에 대해 최선의 대응이 되어 안정된 상태를 형성하는 것이다.
내시 균형은 지배전략 균형보다 더 일반적이고 널리 적용되는 개념이다. 지배전략 균형은 다른 참가자의 선택에 관계없이 자신에게 항상 최선인 전략이 존재할 때 성립하지만, 내시 균형은 다른 참가자들의 특정 전략 선택을 전제로 자신의 최선의 대응이 결정되는 상황을 다룬다. 따라서 모든 지배전략 균형은 내시 균형이지만, 그 역은 성립하지 않는다. 내시 균형은 게임의 해가 반드시 하나만 존재해야 한다는 제약도 없으며, 여러 개의 내시 균형이 존재하거나 아예 존재하지 않을 수도 있다.
내시 균형의 계산은 각 참가자가 다른 참가자들의 전략에 대한 최선의 대응을 찾는 과정을 통해 이루어진다. 이는 최적화 문제와 유사하게 접근할 수 있으며, 특히 행렬 형태로 표현된 정규형 게임에서는 상대방의 각 전략에 대해 자신의 보수를 비교하여 최선의 대응을 표시하는 방식으로 구할 수 있다. 내시 균형은 순수 전략으로 이루어질 수도 있고, 혼합 전략으로 이루어질 수도 있다. 혼합 전략 내시 균형은 참가자들이 확률적으로 여러 순수 전략을 선택할 때, 다른 참가자들의 혼합 전략이 주어졌을 때 자신의 기대 보수를 극대화하는 상태를 말한다.
이 개념은 경제학의 시장 구조 분석, 정치학의 선거 및 협상 모형, 국제 관계의 군비 경쟁 모델, 생물학의 진화 게임 이론에서 진화적으로 안정한 전략을 설명하는 데, 그리고 컴퓨터 과학의 분산 시스템 및 인공지능 다중 에이전트 시스템 설계에 이르기까지 광범위하게 응용된다. 그러나 내시 균형은 참가자들의 완전 합리성을 가정하며, 균형에 도달하는 과정이나 균형 선택의 문제(여러 균형이 존재할 때 어느 것을 선택할지)에 대해서는 설명하지 않는다는 한계를 지닌다.
하위 게임 완전 균형은 순차 게임에서 중요한 해법 개념으로, 존 내시의 내시 균형 개념을 다단계 의사결정 과정에 적용하여 강화한 것이다. 이 균형은 게임의 모든 가능한 상황, 즉 모든 '하위 게임'에서도 균형을 이루는 전략 조합을 의미한다. 여기서 하위 게임이란 게임 트리 상의 어떤 결정점에서 시작하여 그 이후의 모든 가능한 진행을 포함하는 게임의 일부분을 말한다.
이 개념은 게임의 진행 과정에서 비합리적인 위협이나 약속이 포함된 전략을 배제하는 역할을 한다. 예를 들어, 협상이나 견제 과정에서 상대방을 위협하는 전략이 실제로 그 위협이 실행되는 상황에서도 자신에게 최선의 선택이어야만 그 위협이 신뢰할 수 있다고 간주한다. 하위 게임 완전 균형은 이러한 신뢰성 조건을 만족시키지 못하는 전략 조합을 균형에서 제외시킨다.
하위 게임 완전 균형을 찾는 일반적인 방법은 역진 귀납법이다. 이 방법은 게임의 마지막 단계에서부터 시작하여, 각 결정점에서 합리적인 플레이어가 어떤 선택을 할지 분석한 뒤, 그 결과를 바탕으로 한 단계 앞의 결정을 분석하는 방식으로 게임 트리를 거꾸로 푼다. 이 과정을 통해 게임의 시작점까지 분석하면 하위 게임 완전 균형에 도달하게 된다.
이 균형 개념은 경제학의 계약 이론, 정치학의 선거 전략, 국제 관계의 군비 경쟁 및 협상 모형, 그리고 인공지능의 다중 에이전트 시스템 설계 등 다양한 분야에서 순차적 상호작용을 분석하는 데 널리 활용된다.
베이지안 내시 균형은 불완전 정보 게임에서의 핵심적인 해결 개념이다. 이는 각 참가자가 자신의 타입이라는 사적 정보를 가지고 있으며, 이 타입에 따라 선호도나 보수가 달라지는 상황을 다룬다. 참가자들은 다른 참가자들의 실제 타입을 정확히 알지 못하지만, 각 타입의 분포에 대한 사전 확률 분포는 공통적으로 알고 있다고 가정한다. 이 균형 개념은 존 내시의 이름을 딴 내시 균형을 불완전 정보 상황으로 확장한 것이다.
균형에서 각 참가자는 자신의 타입을 관찰한 후, 주어진 신념 하에서 자신의 보수를 최대화하는 전략을 선택한다. 여기서 신념이란 다른 참가자들의 가능한 타입에 대한 확률적 평가를 의미한다. 동시에, 이 균형에서 형성된 신념은 베이즈 규칙에 따라 게임의 진행과 관찰 가능한 행동으로부터 일관되게 갱신되어야 한다. 즉, 균형 전략과 균형 신념이 서로를 강화하는 상태가 베이지안 내시 균형이다.
이 개념은 경매 이론, 신호 게임, 계약 이론 등 정보의 비대칭성이 중요한 다양한 경제 모델에서 광범위하게 응용된다. 예를 들어, 입찰자들이 서로의 가치 평가를 모르는 공개 입찰에서 각 입찰자의 전략과 그에 따른 신념 체계가 베이지안 내시 균형을 이룬다. 또한 정치학에서 유권자와 후보자 간의 정보 비대칭을 분석하거나, 국제 관계에서 상대국의 의도를 불확실하게 보는 상황을 모델링하는 데에도 사용된다.
베이지안 내시 균형은 게임의 해를 찾는 강력한 도구이지만, 복잡한 게임에서는 다중 균형이 존재할 수 있고 균형 신념을 형성하는 데 추가적인 정제 기준이 필요할 수 있다는 한계를 가진다. 그럼에도 불구하고, 이 개념은 불완전 정보 하의 전략적 상호작용을 체계적으로 분석하는 데 있어 이론적 토대를 제공한다.
죄수의 딜레마는 게임 이론에서 가장 유명한 비협조적 게임 모형 중 하나이다. 이 모형은 개인의 합리적 선택이 집단 전체에 비합리적인 결과를 초래할 수 있는 상황을 설명한다. 두 명의 공범이 체포되어 서로 다른 방에서 심문을 받는 가상의 시나리오를 기반으로 한다. 각 죄수는 상대방의 선택을 모른 채 자백(배신)하거나 침묵(협력)할 수 있는 선택지를 가지며, 이 선택에 따라 서로 다른 형량이 부과된다.
이 게임의 핵심 구조는 각 참가자에게 배신이 지배전략이 되도록 보수 행렬이 설계되어 있다는 점이다. 상대방이 협력하든 배신하든, 자신이 배신하는 것이 항상 더 짧은 형기를 보장한다. 그러나 양측 모두 이 합리적인 지배전략을 선택하면, 결국 둘 모두 협력했을 때보다 더 나쁜 결과(더 긴 형기)를 받게 된다. 이는 개인적 합리성이 집단적 비합리성으로 이어지는 전형적인 딜레마를 보여준다.
죄수의 딜레마는 한 번만 진행되는 정적 게임으로 분석될 때, 유일한 내시 균형은 양측 모두 배신하는 것이다. 이 균형은 파레토 효율성을 충족하지 않는다. 즉, 다른 결과(양측 협력)가 존재하여 적어도 한 사람의 이득을 줄이지 않으면서도 다른 사람의 이득을 증가시킬 수 있다. 이 모형은 군비 경쟁, 환경 오염, 공유지의 비극과 같은 다양한 사회적, 경제적 갈등 상황을 이해하는 데 널리 응용된다.
이 딜레마는 게임이 반복될 때, 즉 반복 게임의 맥락에서 흥미로운 변화를 보인다. 미래에 대한 기대가 현재의 선택에 영향을 미칠 수 있기 때문이다. 생물학의 진화 게임 이론에서는 협력 행위의 진화를 설명하는 데 이 모형의 변형이 사용되기도 한다. 죄수의 딜레마는 단순한 구조에도 불구하고 합리성, 협력, 신뢰의 본질에 대한 깊은 통찰을 제공한다.
조정 게임은 게임 이론에서 두 명 이상의 플레이어가 서로의 선택에 의존하여 상호 이익을 얻거나 손실을 피하려는 상황을 모델링한 것이다. 이 게임의 핵심은 플레이어들이 협력을 통해 서로 조화된 행동을 선택할 때 가장 높은 보상을 받는다는 점에 있다. 즉, 개인의 이익과 공동의 이익이 일치하는 지점을 찾는 것이 목표이다. 이는 상충되는 이해관계가 존재하는 죄수의 딜레마와는 대비되는 개념으로, 플레이어들의 이해관계가 기본적으로 일치하는 경우를 다룬다.
전형적인 조정 게임의 예로는 두 사람이 약속 없이 특정 장소에서 만나기로 한 약속의 장소 게임이 있다. 두 플레이어 모두 만나고 싶어 하지만, 어디에서 만날지 사전에 협의하지 못했다고 가정한다. 한쪽은 역에서 기다리고, 다른 쪽은 공원에서 기다린다면 서로 만나지 못해 보상을 얻지 못한다. 반면, 둘 다 같은 장소를 선택하면 성공적으로 만나 높은 보상을 받는다. 이 게임에는 여러 개의 내시 균형이 존재하는데, 모든 플레이어가 같은 장소를 선택하는 조합이 균형이 된다.
조정 게임은 순수 전략 내시 균형이 여러 개 존재할 수 있어, 플레이어들이 어느 균형에 수렴할지 예측하는 것이 중요한 과제이다. 이때 초점 효과라는 개념이 작용하는데, 플레이어들이 문화, 관습, 사전 경험, 또는 게임의 구조상 눈에 띄는 명백한 해결책을 공유할 때 특정 균형으로 자연스럽게 조정되는 현상을 말한다. 예를 들어, 통신 수단이 없는 상태에서 도로의 양방향 차량이 어느 쪽으로 비켜갈지 결정할 때, 대부분의 국가에서는 오른쪽으로 비켜가는 규칙이 초점 역할을 하여 균형을 이끌어낸다.
이러한 모형은 경제학에서 표준의 형성, 네트워크 효과를 통한 시장 지배, 그리고 금융 시장에서의 투자자 행동 조정을 분석하는 데 널리 응용된다. 또한 컴퓨터 과학에서는 분산 시스템 내의 프로토콜 설계나 다중 에이전트 시스템에서의 행동 조정 문제를 이해하는 데 유용한 틀을 제공한다.
치킨 게임은 두 명의 참가자가 서로를 위협하면서도 충돌을 피하려는 갈등 상황을 모델링한 대표적인 비제로섬 게임이다. 이 게임은 종종 두 대의 차량이 서로를 향해 질주하여, 먼저 핸들을 틀어 피하는 쪽이 '겁쟁이'가 되는 상황으로 비유된다. 핵심은 상대방이 결국 피할 것이라는 믿음 아래 최후까지 직진하는 공격적인 전략과, 충돌을 피하기 위해 일찍 피하는 소극적인 전략 사이의 긴장 관계에 있다. 이 모형은 국제 관계에서의 핵 억지 전략이나 기업 간의 가격 경쟁, 심지어 청소년들의 위험한 놀이를 분석하는 데도 적용된다.
치킨 게임의 전형적인 보수 행렬은 다음과 같다. 한 참가자가 직진하고 다른 참가자가 피하면, 직진한 쪽은 큰 승리를, 피한 쪽은 치욕적인 패배를 얻는다. 둘 다 피하면 어느 정도 손실을 보지만 충돌보다는 낫고, 둘 다 직진하면 최악의 결과인 상호 충돌이 발생한다. 이 게임에는 두 개의 순수 전략 내시 균형이 존재하는데, 하나는 A가 직진하고 B가 피하는 것이고, 다른 하나는 그 반대인 A가 피하고 B가 직진하는 상황이다. 그러나 어느 쪽 균형이 실현될지는 게임의 구조만으로는 결정되지 않으며, 이는 게임의 불안정성을 보여준다.
치킨 게임은 죄수의 딜레마와 자주 비교되지만, 중요한 차이가 있다. 죄수의 딜레마에서는 상호 협력이 아닌 상호 배신이 유일한 내시 균형이지만, 치킨 게임에서는 한쪽이 공격하고 다른 쪽이 양보하는 비대칭적 결과가 균형을 이룬다. 또한, 치킨 게임에는 혼합 전략 균형도 존재하여, 참가자들이 확률에 따라 직진과 회피를 선택할 수 있다. 이 모형은 합리적인 개인들의 선택이 어떻게 파국적인 충돌로 이어질 수 있는지를 보여주며, 의사소통과 협상, 위신의 역할이 중요한 상황을 이해하는 데 도움을 준다.
최후통첩 게임은 두 명의 참가자가 일정 금액을 어떻게 나눌지 결정하는 간단한 비협조적 게임 모형이다. 제안자와 응답자라는 역할이 주어지며, 제안자는 전체 금액 중 얼마를 응답자에게 제안할지 결정한다. 응답자는 이 제안을 받아들이거나 거부할 수 있다. 제안이 수락되면 제안된 대로 금액이 분배되지만, 거부되면 두 참가자 모두 아무것도 받지 못한다.
이 게임은 전통적인 합리성과 기대 효용 이론에 도전하는 결과를 보여준다. 순수한 경제적 합리성에 따르면, 응답자는 0보다 큰 어떤 제안이든 수락하는 것이 유리하며, 따라서 제안자는 극히 작은 금액을 제안하는 것이 최적의 전략이 된다. 그러나 실제 실험에서는 대부분의 제안자가 금액의 40%에서 50% 정도를 공정하게 제안하며, 불공정한 제안(예: 20% 미만)은 높은 확률로 거부당한다.
이러한 현상은 인간의 의사결정에 공정성, 복수, 상대적 박탈감과 같은 사회적 선호가 중요하게 작용함을 시사한다. 응답자들은 단순한 금전적 이득보다는 불공정함에 대한 처벌을 더 가치 있게 여기기 때문에, 손해를 보더라도 제안자를 응징하는 선택을 할 수 있다. 이는 행동 경제학의 중요한 연구 주제가 되었다.
최후통첩 게임은 협상 이론, 계약 설계, 그리고 사회적 규범의 진화를 이해하는 데 널리 응용된다. 또한 게임의 변형을 통해 문화 간 차이, 정보의 비대칭성, 반복 상호작용의 효과 등을 탐구할 수 있어, 실험 경제학에서 빈번히 사용되는 도구이다.
게임 이론은 경제학 분야에서 시장 구조, 기업 간 경쟁, 협상, 경매, 계약 설계 등 다양한 전략적 상호작용을 분석하는 핵심 도구로 널리 활용된다. 특히 미시경제학의 중요한 한 분야를 이루며, 소수의 경제 주체가 서로의 행동을 고려해 의사결정을 내리는 과점 시장이나 독점 시장의 분석에 유용하다. 예를 들어, 기업들의 가격 경쟁이나 생산량 결정, 신제품 출시 시기 등을 게임 이론 모형을 통해 예측하고 최적의 전략을 도출할 수 있다.
공공경제학과 재정학에서도 게임 이론은 정부 정책의 효과를 분석하거나 조세 회피 문제, 공공재 제공에서의 무임승차 문제 등을 연구하는 데 적용된다. 또한 노동경제학에서는 임금 협상이나 파업 전략을, 금융공학에서는 투자자들의 시장 참여 행동을 이해하는 데 게임 이론적 접근이 사용된다. 이러한 응용을 통해 복잡한 경제 현상 뒤에 숨은 전략적 논리를 체계적으로 규명할 수 있다.
정치학 및 국제 관계 분야는 게임 이론이 가장 활발히 응용되는 영역 중 하나이다. 이는 정치 행위자들 간의 상호작용이 전략적 의사결정의 전형적인 사례이기 때문이다. 선거에서의 정당 간 경쟁, 의회 내에서의 입법 협상, 국가 간의 외교 협상이나 군사적 충돌 등은 모두 각 행위자가 자신의 이익을 극대화하기 위해 상대방의 선택을 예측하며 행동하는 게임으로 모형화될 수 있다.
국제 관계에서 게임 이론은 특히 안보 딜레마와 군비 경쟁, 동맹 형성, 협상 전략 등을 분석하는 데 유용하게 쓰인다. 예를 들어, 냉전 시기의 핵 억지 전략은 대표적인 제로섬 게임의 사례로 연구되었다. 또한, 국가 간 분쟁 해결 과정이나 국제 기구 설립을 위한 협상은 비협조적 협상 게임으로 접근하여, 각국이 합의에 이르거나 실패하는 조건을 규명하는 데 활용된다.
선거와 투표 행위 역시 게임 이론의 중요한 적용 대상이다. 다수결 원칙 하에서의 전략적 투표, 정당의 공약 수립 과정, 혹은 연립 정부 구성 협상은 모두 참여자들의 합리적 선택을 분석하는 게임 이론 모형으로 설명될 수 있다. 이는 정치 체제의 안정성이나 정책 결정의 효율성을 평가하는 데 기여한다.
이러한 분석을 통해 게임 이론은 정치적 결과가 단순히 이념이나 가치관의 충돌만이 아니라, 제도적 규칙과 전략적 상호작용 아래에서 발생하는 체계적 산물임을 보여준다. 따라서 정치 현상을 보다 과학적으로 예측하고 이해하는 강력한 도구로 자리 잡았다.
생물학, 특히 진화 생물학 분야에서 게임 이론은 진화 게임 이론이라는 이름으로 널리 응용된다. 이는 존 메이너드 스미스가 1970년대에 도입한 개념으로, 자연 선택 하에서 개체들의 행동 전략이 어떻게 진화적으로 안정한 상태에 도달하는지를 분석하는 데 사용된다. 경제학에서의 합리적 행위자 대신, 여기서는 유전자에 의해 전달되거나 학습을 통해 획득된 행동 전략을 가진 개체들이 상호작용하며, 더 높은 적응도를 남기는 전략이 집단 내에서 점차 퍼져나간다.
진화 게임 이론의 핵심 개념은 진화적으로 안정한 전략이다. 이는 한 집단의 대다수가 채택한 특정 전략에 대해, 다른 어떤 돌연변이 전략도 그 집단에 침투하여 퍼져나갈 수 없는 상태를 의미한다. 예를 들어, 호크-비둘기 게임 모형은 공격적인 호크 전략과 회피적인 비둘기 전략이 어떤 조건에서 안정적인 비율로 공존할 수 있는지를 보여준다. 이 분석은 동물의 영역 싸움, 구애 행동, 이타주의의 진화와 같은 다양한 생물학적 현상을 설명하는 데 유용하게 적용된다.
이 접근법은 군집 생태학과 행동 생태학 연구에 깊은 영향을 미쳤으며, 협력과 공생의 진화적 기원을 이해하는 데 중요한 이론적 틀을 제공한다. 또한, 병원체와 숙주의 공진화, 또는 식물과 초식동물 간의 군게 경쟁과 같은 생물 간 상호작용을 게임 이론적 모형으로 분석할 수 있게 한다.
게임 이론은 컴퓨터 과학과 인공지능 분야에서 복잡한 의사결정 문제를 모델링하고 해결하는 데 핵심적인 도구로 활용된다. 특히 다중 에이전트 시스템에서 각각의 에이전트가 상호작용하며 최적의 전략을 선택해야 하는 상황을 분석하는 데 적합하다. 알고리즘 설계, 자동화된 협상, 네트워크 보안, 경매 시스템 설계 등 다양한 응용 분야에서 게임 이론적 접근법이 사용된다.
인공지능 연구에서는 게임이 복잡한 의사결정 환경을 제공하는 훌륭한 테스트베드 역할을 해왔다. 체스, 바둑, 포커와 같은 게임은 완전 정보 게임과 불완전 정보 게임의 대표적인 예시로, 이를 극복하기 위한 탐색 알고리즘과 기계 학습 기술의 발전을 촉진했다. 특히 딥마인드의 알파고는 몬테카를로 트리 탐색과 딥러닝을 결합하여 바둑에서 인간 최고수들을 상대로 승리하며 게임 이론과 인공지능의 결합이 낳은 성과를 보여주었다.
컴퓨터 과학의 실용적 문제에도 게임 이론이 널리 적용된다. 인터넷의 라우팅 프로토콜 설계나 클라우드 컴퓨팅 자원 할당에서 각 노드나 사용자가 자신의 이익을 극대화하려는 행동이 전체 시스템 성능에 미치는 영향을 분석할 수 있다. 또한 사이버 보안 분야에서는 공격자와 방어자의 상호작용을 게임으로 모델링하여 최적의 방어 전략을 수립하는 데 활용된다. 블록체인과 암호화폐의 합의 메커니즘 설계 역시 게임 이론적 인센티브 구조에 크게 의존하고 있다.
게임 이론의 현대적 체계는 1944년 존 폰 노이만과 오스카 모르겐슈테른의 공저 《게임 이론과 경제 행동》 출간으로 확립되었다. 이 저서는 경제학에서의 의사결정 문제를 분석하기 위해 수학적 틀을 제공했으며, 특히 제로섬 게임에서의 최소최대 이론을 정립했다. 이후 1950년대에 존 내시는 비협조적 게임의 핵심 해법인 내시 균형 개념을 제시하여 게임 이론의 범위를 경제학의 다양한 상호작용으로 확장시켰다. 그의 업적은 이후 경제학, 정치학, 사회학 등 사회과학 전반에 걸쳐 이론적 토대를 마련했다.
1960년대부터 1970년대에 걸쳐 게임 이론은 진화 생물학에 성공적으로 도입되었다. 존 메이너드 스미스는 진화 게임 이론을 발전시켜, 유전자나 개체의 전략이 자연선택을 통해 어떻게 진화적으로 안정된 전략을 형성하는지 설명했다. 이는 협력 행동의 진화와 같은 생물학적 현상을 분석하는 강력한 도구가 되었다.
20세기 후반과 21세기에는 컴퓨터 과학과 인공지능 분야에서 게임 이론의 응용이 활발해졌다. 알고리즘 게임 이론은 인터넷 검색 알고리즘, 온라인 광고 경매, 분산 컴퓨팅 시스템의 설계에 활용된다. 또한 다중 에이전트 시스템과 기계 학습, 특히 강화 학습 연구에서 상호작용하는 에이전트들의 전략적 행동을 모델링하는 데 게임 이론이 필수적이다. 군사 전략 및 국제 관계 분석에서도 국가 간 협상과 갈등 해결을 위한 이론적 기반을 계속해서 제공하고 있다.
게임 이론은 강력한 분석 도구이지만 여러 비판과 한계를 지닌다. 가장 근본적인 비판은 인간 행동에 대한 지나치게 단순화된 가정에 있다. 게임 이론은 대부분의 모형에서 모든 행위자가 완전한 합리성을 바탕으로 자신의 보수를 극대화한다고 가정한다. 그러나 실제 인간의 의사결정에는 인지적 한계, 감정, 공정성에 대한 선호, 타인의 의도에 대한 해석 등 복잡한 요소들이 개입한다. 이러한 요소들은 행동 경제학과 같은 분야에서 연구되며, 게임 이론의 전통적 예측과는 다른 결과를 보여주는 경우가 많다.
또한 게임 이론 모형은 종종 정보와 게임의 규칙이 모든 참가자에게 명확하게 주어진다고 가정한다. 그러나 현실 세계의 전략적 상호작용은 정보가 비대칭적이거나 불완전한 경우가 대부분이며, 게임의 규칙 자체가 모호하거나 변화할 수 있다. 이러한 복잡성을 완전히 포착하기는 어렵다. 특히 베이지안 내시 균형과 같은 개념은 불완전 정보를 다루려 시도하지만, 참가자들이 서로의 신념에 대해 가지고 있다는 신념에 대한 복잡한 계산을 요구하며, 이는 실제 적용을 어렵게 만드는 경우가 있다.
게임 이론의 해법 개념, 특히 내시 균형은 하나의 게임에 여러 개가 존재할 수 있어 어떤 결과가 실제로 발생할지에 대한 명확한 예측을 제공하지 못하는 경우가 있다. 이는 '균형의 정제' 문제로 이어지며, 해법의 다중성은 예측력의 한계로 지적된다. 또한 게임의 구조가 미시적으로 설정되면 균형이 도출되지만, 그 구조 자체가 어떻게 형성되는지에 대한 설명은 부족한 경우가 많다.
마지막으로, 게임 이론은 도덕성이나 규범적 가치를 분석의 중심에 두지 않는다는 점에서 윤리적 비판을 받기도 한다. 게임 이론은 '있는 그대로'의 전략적 행동을 분석하는 데 초점을 맞추기 때문에, '어떻게 행동해야 하는가'라는 질문에는 답하지 않는다. 따라서 사회적 선이나 공공복리를 증진하기 위한 정책 설계에 직접적으로 적용하기에는 한계가 있을 수 있으며, 이는 정치철학이나 윤리학과의 대화가 필요한 부분이다.