글로벌 분산 트랜잭션

ACID는 트랜잭션이 안전하게 수행된다는 것을 보장하기 위한 네 가지 핵심 속성이다. 이 속성들은 특히 여러 데이터베이스나 서비스에 걸쳐 있는 글로벌 분산 트랜잭션의 정확성을 정의하는 데 중요한 기준이 된다.

첫째, 원자성(Atomicity)은 트랜잭션에 포함된 모든 작업이 전부 성공하거나, 아니면 전부 실패하여 원 상태로 돌아가야 함을 의미한다. 부분적인 성공은 허용되지 않으며, 이는 "All or Nothing" 원칙으로 설명된다. 둘째, 일관성(Consistency)은 트랜잭션이 실행을 마친 후에도 데이터베이스가 미리 정의된 모든 규칙과 제약 조건을 만족하는 상태를 유지해야 함을 보장한다.

셋째, 격리성(Isolation)은 동시에 실행되는 여러 트랜잭션이 서로에게 영향을 미치지 않도록 분리하는 것을 말한다. 각 트랜잭션은 다른 트랜잭션의 중간 상태를 보지 못하고, 마치 순차적으로 실행되는 것처럼 동작해야 한다. 마지막으로 지속성(Durability)은 한 번 커밋된 트랜잭션의 결과는 시스템 장애가 발생하더라도 영구적으로 보존되어야 함을 의미한다.

이러한 ACID 속성은 전통적인 단일 데이터베이스 시스템에서는 비교적 잘 구현되어 왔으나, 분산 시스템 환경에서는 이를 보장하는 것이 큰 기술적 도전 과제가 된다. 글로벌 분산 트랜잭션을 구현하는 2단계 커밋 프로토콜이나 사가 패턴과 같은 방법론들은 각각 다른 방식으로 이러한 ACID 속성, 특히 원자성과 일관성을 달성하려고 노력한다.

분산 트랜잭션은 여러 개별 시스템에 걸쳐 작업을 조율하기 위해 몇 가지 핵심 구성 요소가 상호작용하는 구조로 이루어진다. 주요 구성 요소로는 애플리케이션 프로그램, 트랜잭션 관리자, 그리고 리소스 관리자가 있다.

애플리케이션 프로그램은 비즈니스 로직을 실행하며, 분산 트랜잭션을 시작하고 종료하는 주체이다. 이 프로그램은 트랜잭션 관리자에게 트랜잭션의 시작과 커밋 또는 롤백을 요청한다. 트랜잭션 관리자는 전체 분산 트랜잭션의 생명주기를 제어하는 코디네이터 역할을 하며, 2단계 커밋 프로토콜과 같은 프로토콜을 사용하여 모든 참여자의 작업 결과를 조정한다.

리소스 관리자는 실제 데이터를 관리하는 개별 시스템으로, 각각의 데이터베이스나 메시지 큐와 같은 자원을 의미한다. 각 리소스 관리자는 트랜잭션 관리자의 지시에 따라 로컬 트랜잭션을 준비하거나 커밋 및 롤백을 수행한다. 이러한 구성 요소들은 XA 표준과 같은 표준 인터페이스를 통해 상호 통신하며, 분산 환경에서도 원자성과 일관성을 보장하려는 목표를 공유한다.

2단계 커밋은 분산 트랜잭션을 조정하는 가장 기본적인 프로토콜이다. 이 방식은 중앙에 있는 트랜잭션 관리자가 모든 참여자, 즉 리소스 관리자들의 작업을 조율하여 원자성을 보장한다. 프로토콜의 이름처럼 작업은 '커밋 요청'과 '커밋 실행'이라는 두 단계로 나뉘어 진행된다.

첫 번째 단계에서는 트랜잭션 관리자가 모든 참여자에게 커밋 준비가 되었는지 질의한다. 각 참여자는 자신의 로컬 트랜잭션 작업을 완료하고, 모든 변경 사항을 영구 저장소에 기록할 수 있는 상태가 되면 준비 완료 표시를 한다. 만약 어떤 참여자라도 준비에 실패하면 실패 응답을 보낸다.

두 번째 단계는 첫 번째 단계의 응답에 따라 결정된다. 모든 참여자가 준비 완료했다고 응답하면, 트랜잭션 관리자는 모든 참여자에게 최종 커밋을 지시한다. 반면, 하나라도 실패 응답이 있었다면 트랜잭션 관리자는 모든 참여자에게 롤백을 지시하여, 부분적으로만 적용된 변경 사항을 되돌린다. 이를 통해 모든 노드에서 작업이 전부 성공하거나 전부 실패하도록 보장한다.

그러나 이 방식은 단점을 가지고 있다. 모든 참여자가 트랜잭션 관리자의 지시를 기다리는 동안 관련 자원을 잠그고 있어야 하므로, 성능과 가용성에 부정적인 영향을 미칠 수 있다. 또한, 트랜잭션 관리자나 특정 참여자가 두 단계 사이에 고장 나는 경우, 다른 참여자들은 불확실한 상태에 빠져 영구히 대기할 수 있는 '차단' 문제가 발생한다. 이러한 한계를 해결하기 위해 3단계 커밋이나 사가 패턴 같은 대안 프로토콜이 개발되었다.

3단계 커밋은 2단계 커밋 프로토콜의 단점을 보완하기 위해 제안된 분산 트랜잭션 커밋 프로토콜이다. 2단계 커밋의 주요 문제점인 블로킹 현상과 트랜잭션 관리자 단일 장애점 문제를 완화하는 것을 목표로 한다. 이를 위해 커밋 결정 과정을 준비 단계, 예비 커밋 단계, 실행 단계로 총 세 단계로 나누어 진행한다.

2단계 커밋에서는 코디네이터가 최종 커밋 결정을 내린 후 참여자들에게 통지하는 과정에서 코디네이터에 장애가 발생하면, 참여자들은 무기한 대기 상태에 빠질 수 있다. 3단계 커밋은 이 문제를 해결하기 위해 예비 커밋이라는 중간 단계를 도입한다. 이 단계에서 모든 참여자가 커밋 준비가 완료되었음을 확인하면, 코디네이터는 참여자들에게 예비 커밋 메시지를 보낸다. 참여자들은 이 메시지를 받은 시점부터는 최종 커밋이 확정될 것이라는 것을 알고 있게 된다.

이러한 설계 덕분에 코디네이터 장애 시에도 시스템이 더 유연하게 대응할 수 있다. 예비 커밋 단계 이후 코디네이터가 실패하더라도, 새로운 코디네이터가 선출되면 나머지 참여자들의 상태를 확인하여 트랜잭션을 안전하게 커밋하거나 중단할 수 있다. 이는 2단계 커밋에 비해 가용성을 높이는 장점이 있다. 그러나 메시지 교환 횟수가 증가하여 네트워크 오버헤드와 지연 시간이 늘어나고, 구현이 더 복잡해진다는 단점도 존재한다.

사가 패턴은 긴 트랜잭션을 여러 개의 짧은 트랜잭션으로 분해하여 처리하는 분산 트랜잭션 설계 패턴이다. 마이크로서비스 아키텍처 환경에서 각 서비스가 자체 데이터베이스를 관리할 때, 여러 서비스에 걸친 비즈니스 프로세스를 완성하기 위해 고안되었다. ACID 트랜잭션의 엄격한 원자성을 포기하는 대신, 각 단계의 트랜잭션은 로컬에서 커밋되며, 후속 단계에서 실패가 발생하면 이전에 성공한 단계들을 보상 트랜잭션을 통해 순차적으로 롤백하는 방식으로 일관성을 유지한다.

사가 패턴의 실행 흐름은 크게 코레오그래피와 오케스트레이션 두 가지 방식으로 구현된다. 코레오그래피 방식에서는 각 서비스가 이벤트를 발행하고 구독하여 서로 통신하며, 중앙 관리자가 존재하지 않는다. 반면 오케스트레이션 방식에서는 사가 오케스트레이터라는 중앙 코디네이터가 각 단계의 실행 순서와 보상 트랜잭션 호출을 명령적으로 지시한다. 각 방식은 시스템의 복잡도와 결합도에 따라 선택된다.

이 패턴의 주요 장점은 장시간 락을 방지하여 가용성과 확장성을 높일 수 있다는 점이다. 또한 부분 실패에 대한 복구 메커니즘이 명확하다. 단점으로는 격리성이 보장되지 않아 다른 동시성 제어 메커니즘이 필요할 수 있으며, 보상 로직을 직접 설계해야 하는 부담이 있다. 전자상거래의 주문 처리나 여행 예약과 같이 여러 서비스가 협력하는 장시간 실행 비즈니스 워크플로우에서 널리 응용된다.

TCC (Try-Confirm-Cancel)는 글로벌 분산 트랜잭션을 구현하기 위한 보상 트랜잭션 기반의 패턴이다. 마이크로서비스 아키텍처와 같은 분산 환경에서 2단계 커밋 프로토콜의 단점인 장시간의 자원 잠금을 피하기 위해 설계되었다. 이 패턴은 하나의 비즈니스 트랜잭션을 여러 개의 로컬 트랜잭션으로 분해하고, 각 로컬 트랜잭션은 Try, Confirm, Cancel이라는 세 단계의 인터페이스를 구현해야 한다.

TCC 패턴의 동작 흐름은 다음과 같다. 먼저 Try 단계에서 모든 참여 서비스는 비즈니스 로직을 실행하지 않고, 필요한 자원(예: 재고 차감, 포인트 차감)을 사전에 점검하고 예약만 한다. 이 단계에서 모든 서비스가 성공하면 Confirm 단계로 진입하여 실제 비즈니스 로직을 확정적으로 실행한다. 만약 Try 단계에서 하나라도 실패하면 Cancel 단계로 전환되어 모든 서비스가 예약했던 작업을 롤백하는 보상 작업을 수행한다.

이 패턴의 주요 장점은 확정 단계와 취소 단계가 시스템 장애 후에도 재시도될 수 있도록 멱등성을 보장해야 한다는 점이다. 이를 통해 부분 실패 상황에서도 최종 일관성을 달성할 수 있다. 또한, Try 단계에서 실제 업데이트를 하지 않기 때문에 격리성 문제를 완화하고 전체 트랜잭션 시간을 단축할 수 있다.

그러나 TCC 패턴은 모든 비즈니스 로직에 대해 명시적인 보상 로직(Cancel)을 설계하고 구현해야 하므로 개발 복잡도가 높다. 따라서 사가 패턴과 함께 분산 트랜잭션 문제를 해결하는 대표적인 컴펜세이팅 트랜잭션 패턴으로 널리 사용된다.

글로벌 분산 트랜잭션에서 일관성을 유지한다는 것은, 트랜잭션이 완료된 후에도 모든 참여 데이터베이스나 서비스의 데이터가 사전에 정의된 비즈니스 규칙과 제약 조건을 만족하는 상태를 보장하는 것을 의미한다. 이는 ACID 속성 중 하나로, 원자성과 밀접하게 연관되어 있다. 원자성이 "모두 성공하거나 모두 실패한다"는 실행의 관점을 다룬다면, 일관성은 그 실행의 결과로 인한 데이터 상태의 정합성을 보장하는 개념이다. 분산 환경에서는 네트워크 지연, 시스템 장애, 동시성 제어 등으로 인해 이 일관성을 달성하는 것이 특히 어렵다.

일관성 수준은 응용 프로그램의 요구사항에 따라 달라질 수 있다. 강한 일관성은 모든 참여 노드가 항상 최신의 동일한 데이터를 읽도록 보장하지만, 이는 성능과 가용성에 큰 비용을 치르게 한다. 반면, 최종 일관성은 일시적인 불일치를 허용하지만, 충분한 시간이 지나면 모든 복제본이 동일한 값으로 수렴함을 보장하는 모델로, 많은 분산 시스템과 마이크로서비스 아키텍처에서 채택하고 있다. SAGA 패턴은 장기 실행 트랜잭션을 일련의 로컬 트랜잭션으로 분해하고, 실패 시 보상 트랜잭션을 통해 최종적으로 일관된 상태를 달성하는 방식으로 이 문제에 접근한다.

일관성을 유지하기 위한 주요 도전 과제로는 동시에 실행되는 여러 트랜잭션 간의 간섭을 관리하는 격리성 수준 설정이 있다. 분산 환경에서는 잠금 기반의 고립화가 성능 병목과 데드락을 초래할 수 있어, 다중 버전 동시성 제어나 낙관적 동시성 제어와 같은 대안적 기법이 고려된다. 또한, 부분 실패 상황에서 일부 시스템만 업데이트되고 나머지는 실패하는 비일관적 상태가 발생하지 않도록 하는 것이 2단계 커밋 프로토콜 같은 프로토콜의 핵심 목표이다.

글로벌 분산 트랜잭션에서 성능과 가용성은 상충되는 목표로 간주되며, 설계 시 중요한 고려 사항이다. 성능은 일반적으로 처리량과 지연 시간으로 측정되는데, 분산 시스템의 특성상 네트워크 통신과 여러 리소스 관리자 간의 조정이 필수적이므로, 중앙 집중식 트랜잭션에 비해 지연 시간이 증가하고 처리량이 제한될 수 있다. 특히 2단계 커밋 프로토콜과 같은 강한 일관성 모델은 모든 참여자의 응답을 기다려야 하므로, 네트워크 지연이나 노드 장애 시 성능 저하가 두드러진다.

가용성은 시스템이 중단 없이 서비스를 계속 제공할 수 있는 능력을 의미한다. 전통적인 ACID 트랜잭션과 XA 표준을 따르는 글로벌 분산 트랜잭션은 일관성을 최우선으로 하기 때문에, 일부 참여 시스템의 장애나 네트워크 분할이 발생하면 전체 트랜잭션을 차단하거나 롤백해야 할 수 있어 가용성이 떨어진다. 이는 마이크로서비스 아키텍처와 같이 독립적으로 배포되고 장애에 격리되어야 하는 환경에서는 심각한 단점이 된다.

이러한 문제를 완화하기 위해 최근에는 성능과 가용성을 희생하지 않고 더 유연한 일관성을 제공하는 패턴이 등장했다. 대표적으로 SAGA 패턴은 긴 트랜잭션을 일련의 로컬 트랜잭션으로 분해하고, 각 단계가 성공하면 다음 단계를 진행하며 실패 시 보상 트랜잭션을 실행하는 방식으로, 장기간의 리소스 잠금을 피하고 부분 실패에 더 탄력적으로 대응한다. 결과적 일관성 모델을 채택함으로써 가용성과 성능을 높일 수 있다.

성능 최적화를 위해 트랜잭션 관리자의 역할을 최소화하거나, 비동기 메시징을 활용하는 방법도 고려된다. 또한, 트랜잭션의 범위를 최소화하고, 핫스팟이 되는 데이터 접근을 분산시키는 설계는 성능과 가용성 모두에 긍정적인 영향을 미친다. 결국 애플리케이션의 요구사항에 따라 강한 일관성, 가용성, 성능 사이의 적절한 트레이드오프를 선택하는 것이 글로벌 분산 트랜잭션 설계의 핵심이다.

XA 표준은 오픈 그룹에서 정의한 분산 트랜잭션 처리를 위한 업계 표준 인터페이스이다. 이 표준은 트랜잭션 관리자와 리소스 관리자 간의 상호작용 방식을 규정하여, 이기종 데이터베이스나 메시징 시스템과 같은 여러 리소스에 걸친 글로벌 트랜잭션의 원자성을 보장하는 데 사용된다. XA 표준의 핵심은 2단계 커밋 프로토콜을 구현하는 데 필요한 API를 제공하는 것이다.

XA 표준의 주요 구성 요소는 애플리케이션 프로그램, 트랜잭션 관리자, 그리고 하나 이상의 리소스 관리자이다. 애플리케이션은 트랜잭션 관리자에게 글로벌 트랜잭션의 시작과 종료를 요청한다. 트랜잭션 관리자는 커밋 또는 롤백 명령을 조율하는 코디네이터 역할을 하며, 각 리소스 관리자는 자신이 관리하는 데이터의 일관성을 유지한다. 이 구조를 통해 여러 독립적인 시스템이 하나의 논리적 작업 단위로 동작할 수 있다.

XA 인터페이스를 지원하는 많은 상용 및 오픈소스 데이터베이스 관리 시스템과 애플리케이션 서버가 존재한다. 이를 통해 Java EE 플랫폼이나 .NET 프레임워크 환경에서 표준화된 방식으로 분산 트랜잭션을 구현할 수 있다. 그러나 XA 기반의 2단계 커밋은 블로킹 문제와 성능 오버헤드라는 한계를 가지고 있어, 마이크로서비스 아키텍처가 보편화된 현대에는 사가 패턴이나 TCC와 같은 보상 트랜잭션 기반의 대안이 널리 논의되고 채택된다.

분산 트랜잭션 코디네이터는 분산 트랜잭션의 전체 생명주기를 관리하고 조정하는 핵심 구성 요소이다. 이는 트랜잭션 관리자의 역할을 수행하며, 애플리케이션 프로그램의 요청에 따라 여러 리소스 관리자(예: 데이터베이스, 메시지 큐)에 걸친 작업을 하나의 논리적 단위로 묶고, 2단계 커밋 프로토콜이나 3단계 커밋 같은 프로토콜을 사용하여 모든 참여자의 커밋 또는 롤백을 보장한다. 코디네이터는 트랜잭션의 시작, 참여자 등록, 커밋 또는 중단 결정의 전파, 그리고 실패 시의 복구 절차를 총괄한다.

XA 표준은 분산 트랜잭션 코디네이터와 리소스 관리자 간의 상호작용을 정의하는 업계 표준 인터페이스이다. 이 표준 하에서 코디네이터는 글로벌 트랜잭션의 고유 식별자를 생성하고, 각 리소스 관리자에게 작업을 준비하도록 요청한 후(1단계), 모든 준비가 성공하면 커밋을 지시한다(2단계). Java 트랜잭션 API나 .NET의 System.Transactions 네임스페이스와 같은 미들웨어는 종종 내장된 코디네이터 기능을 제공하여 애플리케이션 개발자가 복잡한 분산 트랜잭션 로직을 직접 구현하지 않도록 돕는다.

분산 트랜잭션 코디네이터의 주요 도전 과제는 가용성과 성능이다. 코디네이터 자체가 단일 장애점이 될 수 있으며, 이 경우 전체 트랜잭션 시스템이 마비될 위험이 있다. 또한, 2단계 커밋 프로토콜은 모든 참여자가 준비 상태를 유지하는 동안 락을 유지해야 하므로, 응답 시간이 길어지고 동시성이 저하될 수 있다. 이러한 문제를 완화하기 위해 사가 패턴이나 TCC 같은 보상 트랜잭션 기반의 대안적 패턴이 마이크로서비스 아키텍처 환경에서 주목받고 있다.