인터록

뮤텍스(Mutual Exclusion)는 인터록을 구현하는 가장 기본적인 동기화 기법 중 하나이다. 이는 멀티스레드 환경에서 공유 자원에 대한 접근을 제어하기 위해 사용되며, 한 번에 오직 하나의 스레드만이 임계 구역에 진입할 수 있도록 보장한다. 뮤텐스는 일반적으로 잠금과 잠금 해제라는 두 가지 연산을 제공하며, 자원을 사용하려는 스레드는 먼저 뮤텍스의 잠금을 획득해야 한다.

뮤텍스의 핵심 원리는 소유권 개념에 있다. 잠금을 성공적으로 획득한 스레드가 해당 뮤텍스의 소유자가 되며, 임계 구역 내의 코드를 실행한 후에는 반드시 자신이 잠금을 해제해야 한다. 이는 다른 스레드가 자원을 사용할 수 있도록 하기 위함이다. 만약 한 스레드가 뮤텍스를 잠근 채로 종료되거나 잠금 해제를 잊는다면, 다른 스레드들은 무한정 대기하는 상태에 빠질 수 있어 데드락이나 시스템 정지와 같은 심각한 문제를 초래한다.

뮤텍스는 구현 방식에 따라 재진입 가능 뮤텍스와 비재진입 가능 뮤텍스로 구분된다. 비재진입 가능 뮤텍스는 잠금을 보유한 스레드가 동일한 뮤텍스를 다시 잠그려고 시도하면 데드락에 빠지는 반면, 재진입 가능 뮤텍스(재귀적 뮤텍스)는 동일 스레드의 반복적인 잠금 요청을 허용하여 더 유연한 프로그래밍을 가능하게 한다. 이러한 뮤텍스는 운영체제 커널 수준에서 제공되거나, POSIX 스레드(pthreads) 라이브러리나 윈도우 API와 같은 프로그래밍 인터페이스를 통해 사용할 수 있다.

뮤텍스는 세마포어와 비교될 때, 세마포어가 신호 메커니즘을 통해 여러 개의 자원 접근을 허용하거나 스레드 간 실행 순서를 조정하는 데 사용될 수 있는 반면, 뮤텍스는 단순히 상호 배제만을 위한 목적으로 설계되었다는 점이 특징이다. 따라서 동기화의 기본 요구사항이 단일 자원에 대한 독점적 접근 보장일 때, 뮤텍스가 보다 직관적이고 효율적인 선택이 될 수 있다.

세마포어는 에츠허르 데이크스트라가 1965년 제안한 동기화 도구로, 멀티스레딩 환경에서 공유 자원에 대한 접근을 제어하는 카운터 기반의 메커니즘이다. 세마포어는 사용 가능한 자원의 수를 나타내는 정수 값과, 이 값을 안전하게 조작하며 스레드를 대기 상태로 만들거나 깨우는 연산으로 구성된다. 이는 임계 구역에 진입할 수 있는 스레드의 수를 하나 이상으로 일반화한 개념으로, 뮤텍스가 상호 배제만을 위한 이진 세마포어의 일종이라면, 세마포어는 리소스 풀 접근 제어나 생산자-소비자 문제 해결 등 더 넓은 범위의 병행 프로그래밍 문제에 적용될 수 있다.

세마포어의 핵심 연산은 대기(P)와 신호(V)이다. P 연산은 세마포어 값을 감소시키려 시도하며, 값이 0이면 사용 가능한 자원이 없음을 의미하므로 호출한 스레드는 대기 큐에 들어가 블록된다. V 연산은 세마포어 값을 증가시키고, 대기 중인 스레드가 있다면 하나를 깨워 진행할 수 있도록 한다. 이러한 연산은 원자적 연산으로 구현되어 경쟁 상태가 발생하지 않도록 보장된다.

세마포어는 카운팅 세마포어와 이진 세마포어로 구분된다. 카운팅 세마포어는 제한된 개수를 가진 자원(예: 연결 풀의 데이터베이스 연결)에 대한 접근을 제어하는 데 사용되며, 초기값은 사용 가능한 자원의 총수로 설정된다. 이진 세마포어는 값이 0 또는 1만을 가지며, 상호 배제를 구현하는 데 사용되어 사실상 뮤텍스와 유사한 역할을 한다. 그러나 세마포어는 소유권 개념이 없어 한 스레드가 P 연산을 하고 다른 스레드가 V 연산을 할 수 있어, 뮤텍스에 비해 유연하지만 잘못 사용하기 쉬운 단점이 있다.

세마포어의 구현과 사용은 저수준의 동기화 기본 요소로 간주되며, 직접 사용 시 데드락이나 우선순위 역전 같은 문제를 초래할 수 있다. 따라서 많은 현대 프로그래밍 언어와 프레임워크는 더 높은 수준의 추상화를 제공하는 모니터나 락 같은 동기화 메커니즘을 선호한다. 그러나 운영체제 커널 개발이나 특정 임베디드 시스템에서는 여전히 세마포어가 근본적인 동기화 수단으로 활용된다.

모니터는 프로세스 동기화를 위한 고수준 추상화 도구로, 공유 자원과 그 자원에 접근하는 프로시저들을 하나의 모듈로 묶어 관리한다. 모니터 내부에는 상호 배제를 보장하기 위한 뮤텍스가 내장되어 있어, 모니터 내의 프로시저는 한 번에 하나의 스레드만이 실행할 수 있다. 이는 프로그래머가 명시적으로 락과 언락 연산을 호출해야 하는 세마포어나 뮤텍스에 비해 사용이 간편하고 오류 가능성을 줄여준다.

모니터는 조건 변수를 활용하여 스레드 간의 실행 순서를 조정할 수 있다. 어떤 스레드가 공유 자원을 사용할 수 없는 조건에 직면하면, 해당 조건 변수에서 대기하게 된다. 이후 다른 스레드가 자원을 사용한 후 조건 변수에 신호를 보내면, 대기 중이던 스레드 중 하나가 깨어나 작업을 재개한다. 이 메커니즘은 생산자-소비자 문제나 판독기-기록기 문제와 같은 전형적인 동시성 제어 문제를 해결하는 데 효과적이다.

이러한 설계 덕분에 모니터는 자바, C#과 같은 현대적인 프로그래밍 언어에 내장 동기화 구조로 널리 채택되었다. 예를 들어, 자바의 synchronized 키워드나 C#의 lock 문은 모니터의 개념을 구현한 것이다. 컴파일러나 런타임이 내부적인 락 관리와 상호 배제를 처리해주므로, 개발자는 비즈니스 로직에 더 집중할 수 있다는 장점이 있다.

데드락은 교착 상태라고도 불리며, 둘 이상의 스레드나 프로세스가 서로 상대방이 점유하고 있는 자원을 기다리느라 무한정 대기하게 되는 상태를 가리킨다. 인터록 기법을 사용하는 멀티스레드 환경에서 흔히 발생할 수 있는 심각한 문제점 중 하나이다.

데드락이 발생하기 위해서는 일반적으로 네 가지 조건이 동시에 성립해야 한다. 첫째, 상호 배제 조건으로, 한 번에 한 스레드만이 자원을 사용할 수 있어야 한다. 둘째, 점유와 대기 조건으로, 스레드가 이미 할당받은 자원을 보유한 채 다른 자원을 기다려야 한다. 셋째, 비선점 조건으로, 다른 스레드가 점유한 자원을 강제로 빼앗을 수 없어야 한다. 넷째, 순환 대기 조건으로, 두 개 이상의 스레드가 서로의 자원을 기다리는 순환 고리가 형성되어야 한다.

이를 해결하기 위한 방법으로는 예방, 회피, 탐지 및 복구가 있다. 예방은 데드락의 네 가지 필요 조건 중 하나를 시스템 차원에서 허용하지 않도록 설계하는 것이다. 회피는 은행원 알고리즘과 같이 자원 할당 상태를 사전에 분석해 데드락 가능성을 피하는 방법이다. 탐지 및 복구는 주기적으로 시스템 상태를 검사해 순환 대기가 발생했는지 확인하고, 발생 시 하나 이상의 프로세스를 강제 종료하거나 자원을 선점하여 데드락을 푸는 방식이다.

실제 프로그래밍에서는 뮤텍스나 세마포어를 사용할 때 모든 스레드가 동일한 순서로 락을 획득하도록 규칙을 정하거나, 타임아웃을 설정하여 일정 시간 내에 락을 얻지 못하면 다른 작업을 수행하도록 하는 등의 기법으로 데드락 가능성을 줄인다.

인터록은 경쟁 상태를 방지하는 데 필수적이지만, 그 자체가 성능 저하의 주요 원인으로 작용할 수 있다. 동기화를 위해 사용되는 뮤텍스나 세마포어 같은 락은 임계 구역에 진입하려는 스레드를 대기 상태로 만들며, 이 대기 시간이 성능 손실로 직접 이어진다. 특히 락의 경쟁이 심한 핫스팟에서는 다수의 스레드가 순차 실행을 위해 줄을 서야 하므로, 병렬 처리의 이점이 크게 감소한다.

성능 저하는 단순한 대기 시간을 넘어서 시스템 효율에 광범위한 영향을 미친다. 락을 획득하기 위한 반복적인 시도는 CPU 사이클을 낭비시키고, 문맥 교환을 빈번하게 유발하여 오버헤드를 증가시킨다. 또한 과도한 락 경쟁은 스케줄링을 왜곡시켜 전체 시스템의 처리량을 저하시킬 수 있다. 이러한 이유로 병행 프로그래밍에서는 인터록 사용을 최소화하거나, 락-프리 알고리즘이나 읽기-쓰기 락 같은 대안을 모색하는 것이 일반적이다.