동시성 프로그래밍

동시성과 병렬성은 컴퓨팅에서 작업을 동시에 처리하는 개념으로, 종종 혼동되지만 명확한 차이가 있다. 동시성은 단일 프로세서에서 여러 작업이 번갈아 가며 실행되어 동시에 처리되는 것처럼 보이는 것을 의미한다. 이는 운영체제의 스케줄링을 통해 스레드나 프로세스 간의 빠른 전환으로 구현되며, 주로 입출력 대기 시간을 효율적으로 활용하여 응답성을 높이는 데 목적이 있다. 반면, 병렬성은 물리적으로 여러 개의 프로세서 코어가 동시에 서로 다른 작업을 수행하여 실제 처리량을 증가시키는 것을 말한다.

이 두 개념의 차이는 작업을 처리하는 방식에 있다. 동시성은 논리적인 동시 실행을 다루며, 하나의 코어가 여러 작업을 교차 실행한다. 이는 작업이 서로 독립적이지 않고 자원을 공유해야 할 때, 또는 작업 중 일부가 대기 상태에 들어갈 때 유용하다. 병렬성은 물리적인 동시 실행을 다루며, 여러 코어가 각각 별도의 작업을 동시에 처리한다. 이는 계산 집약적인 작업을 분할하여 실행 시간을 단축하는 데 효과적이다.

동시성 프로그래밍은 주로 동시성의 문제를 해결하는 데 초점을 맞춘다. 즉, 공유 자원에 대한 안전한 접근, 경쟁 조건 방지, 데드락 회피 등을 다룬다. 병렬 프로그래밍은 작업을 물리적으로 분할하고 코어 간의 작업 부하를 균등하게 분배하는 것에 더 중점을 둔다. 현대의 멀티코어 프로세서 시스템에서는 이 두 개념이 혼합되어 사용되며, 동시성을 통해 자원 활용도를 높이고 병렬성을 통해 성능을 극대화한다.

따라서 동시성은 작업의 구조와 관리에 관한 것이고, 병렬성은 하드웨어 자원의 활용에 관한 것이다. 효과적인 동시성 프로그래밍은 시스템의 잠재적 성능을 이끌어내는 동시에, 스레드 안전성과 같은 복잡한 문제를 정확히 처리할 수 있어야 한다.

동시성 프로그래밍은 현대 소프트웨어 시스템에서 필수적인 요소이다. 그 필요성은 크게 시스템 자원의 효율적 활용, 응답성 향상, 그리고 처리량 증가라는 세 가지 핵심 목표에서 비롯된다. 단일 프로세스가 순차적으로 작업을 처리하는 방식은 CPU나 입출력 장치 같은 자원이 유휴 상태로 머무는 시간을 증가시켜 전체적인 시스템 효율을 떨어뜨린다. 동시성을 통해 여러 작업을 교차적으로 실행하면, 하나의 작업이 입출력을 기다리는 동안 다른 작업이 CPU를 사용할 수 있어 자원 사용률을 극대화할 수 있다.

사용자 경험 측면에서 동시성은 응답성 향상에 결정적인 역할을 한다. 그래픽 사용자 인터페이스를 가진 애플리케이션에서 사용자 입력을 처리하는 스레드와 화면을 렌더링하는 스레드를 분리하면, 무거운 계산 작업 중에도 인터페이스가 멈추지 않고 반응할 수 있다. 이는 웹 서버에서도 마찬가지로, 하나의 요청 처리가 지연되더라도 다른 요청을 동시에 받아들일 수 있어 전체적인 서비스의 반응 속도를 유지한다.

또한, 멀티코어와 멀티프로세서 시스템이 보편화된 현대 하드웨어 환경에서 동시성 프로그래밍은 시스템의 전체 처리량을 증가시키는 유일한 방법이다. 병렬성과 결합된 동시성은 여러 스레드나 프로세스를 물리적으로 다른 코어에서 동시에 실행시켜 단위 시간당 더 많은 작업을 완료할 수 있게 한다. 이는 과학 계산, 빅데이터 처리, 인공지능 모델 학습과 같은 계산 집약적 작업의 성능을 획기적으로 높인다.

마지막으로, 동시성은 복잡한 시스템의 모델링과 설계를 자연스럽게 만든다. 분산 시스템이나 마이크로서비스 아키텍처처럼 본질적으로 여러 독립적인 요소가 동시에 실행되고 통신하는 시스템을 프로그래밍할 때, 동시성 모델은 현실 세계의 동작 방식을 더 직관적으로 코드에 반영할 수 있는 틀을 제공한다. 따라서 동시성 프로그래밍은 성능 최적화를 넘어 현대 소프트웨어 구조의 근간을 이루는 핵심 패러다임이다.

동시성 프로그래밍의 기본 단위는 프로세스와 스레드이다. 운영체제 관점에서 프로세스는 실행 중인 프로그램의 인스턴스로, 독립된 메모리 공간과 시스템 자원을 할당받는다. 반면 스레드는 하나의 프로세스 내에서 생성되는 실행 흐름의 최소 단위로, 동일한 프로세스에 속한 스레드들은 메모리와 자원을 공유한다.

멀티태스킹 환경에서 운영체제는 여러 프로세스를 동시에 실행하는 것처럼 보이게 한다. 이는 동시성의 대표적인 예시이다. 프로세스 간에는 일반적으로 메모리가 격리되어 있어, 한 프로세스의 오류가 다른 프로세스에 직접적인 영향을 미치지 않는다는 장점이 있다. 그러나 프로세스 간 통신은 상대적으로 무겁고 복잡한 IPC 방식을 필요로 한다.

하나의 프로세스 내에서 여러 스레드를 사용하는 멀티스레딩은 보다 가벼운 동시성 처리를 가능하게 한다. 스레드는 프로세스에 비해 생성과 전환 비용이 적고, 같은 힙 메모리 영역을 공유하기 때문에 데이터 교환이 쉽다. 이는 응용 프로그램의 응답성을 높이고 자원을 효율적으로 활용하는 데 기여한다. 그러나 공유 자원에 대한 접근이 동시에 발생할 수 있어 경쟁 조건이나 데드락 같은 문제가 발생할 위험이 따른다.

따라서 동시성 프로그래밍을 설계할 때는 작업의 독립성, 데이터 공유 필요성, 오류 격리 수준 등을 고려하여 프로세스와 스레드 중 적절한 실행 단위를 선택해야 한다. 대규모 병렬 처리를 위해서는 MPI와 같은 프로세스 기반 모델이, 공유 상태를 효율적으로 관리해야 하는 서버 애플리케이션에서는 스레드 기반 모델이 각각 더 적합할 수 있다.

여러 스레드나 프로세스가 동시에 접근할 수 있는 메모리, 파일, 데이터베이스와 같은 자원을 공유 자원이라고 한다. 동시성 프로그래밍에서 이러한 자원은 효율성을 위해 공유되는 경우가 많다. 그러나 여러 실행 흐름이 공유 자원을 동시에 읽거나 쓰려고 할 때, 그 접근 순서와 타이밍에 따라 프로그램의 실행 결과가 달라질 수 있는 문제가 발생한다. 이렇게 예측 불가능하고 비결정적인 결과를 초래하는 상황을 경쟁 조건이라고 한다.

경쟁 조건의 전형적인 예는 공유 변수를 사용하는 카운터 프로그램이다. 두 개의 스레드가 각각 공유 카운터 값을 읽고, 1을 증가시킨 후 다시 저장하는 작업을 동시에 수행하면, 두 스레드가 같은 값을 읽어 증가시켜 저장하는 과정에서 한 번의 증가가 무시될 수 있다. 이는 읽기-수정-쓰기 작업이 원자적으로 실행되지 않아 발생하는 문제이다.

이러한 문제를 방지하기 위해서는 동기화 기법이 필요하다. 뮤텍스나 세마포어 같은 락을 사용하여 특정 코드 영역에 한 번에 하나의 스레드만 접근하도록 제어하는 방법이 일반적이다. 이렇게 공유 자원에 대한 접근을 조율하여 경쟁 조건을 제거하고 프로그램의 정확성을 보장하는 것을 스레드 안전성이라고 한다.

그러나 동기화 기법을 과도하게 적용하면, 스레드들이 락을 얻기 위해 대기하는 시간이 길어져 성능이 저하되거나, 데드락과 같은 새로운 문제를 야기할 수 있다. 따라서 동시성 프로그래밍에서는 공유 자원을 최소화하고, 필요한 경우에만 적절한 동기화를 적용하여 경쟁 조건을 관리하는 것이 중요하다.

동기화는 작업의 실행 순서나 시점을 조정하여 여러 스레드나 프로세스가 공유 자원에 안전하게 접근하도록 보장하는 것을 말한다. 이는 경쟁 조건을 방지하고 데이터의 일관성을 유지하기 위한 핵심 기법이다. 반면, 비동기화는 한 작업의 완료를 기다리지 않고 다음 작업을 시작하는 방식으로, 특히 입출력 작업과 같이 대기 시간이 긴 작업에서 시스템의 응답성을 높이는 데 유용하다.

동기화의 대표적인 예로는 함수 호출이 있다. 호출된 함수의 실행이 완전히 끝날 때까지 호출자는 대기 상태에 머무른다. 이는 실행 흐름이 직관적이고 순차적이지만, 자원이 놀게 되는 단점이 있다. 비동기화는 콜백 함수나 프로미스와 같은 메커니즘을 통해 구현된다. 예를 들어, 네트워크 요청을 보낸 후 응답을 기다리지 않고 즉시 다음 코드를 실행하다가, 응답이 도착하면 미리 등록해둔 콜백 함수를 실행하는 방식이다.

두 방식은 상호 배타적이지 않으며, 현대 동시성 프로그래밍에서는 상황에 맞게 혼용되어 사용된다. 동기화는 데이터 정합성이 중요한 크리티컬 섹션에서, 비동기화는 사용자 인터페이스의 반응성을 유지하거나 서버의 처리량을 높이는 데 주로 활용된다. 많은 프로그래밍 언어와 프레임워크는 async/await와 같은 키워드를 제공하여 비동기 코드를 동기식 코드처럼 작성할 수 있게 함으로써 개발 편의성을 높이고 있다.

락은 동시성 프로그래밍에서 공유 자원에 대한 접근을 제어하여 경쟁 조건을 방지하는 핵심적인 동기화 기법이다. 여러 스레드나 프로세스가 동시에 같은 데이터를 읽거나 쓰는 것을 막음으로써 실행 결과의 일관성을 보장한다. 가장 대표적인 락의 종류로는 뮤텍스와 세마포어가 있다.

뮤텍스는 상호 배제를 의미하며, 한 번에 하나의 스레드만이 공유 자원을 사용하도록 보장하는 이진 세마포어와 유사한 동기화 객체이다. 뮤텍스를 획득한 스레드만이 임계 구역에 진입할 수 있으며, 사용을 마친 후 반드시 뮤텍스를 해제해야 다른 스레드가 접근할 수 있다. 이는 스레드 안전성을 구현하는 기본적인 방법이다.

세마포어는 공유 자원에 동시에 접근할 수 있는 스레드의 수를 제한하는 카운팅 메커니즘이다. 세마포어는 사용 가능한 자원의 개수를 나타내는 정수 값을 가지며, 스레드가 자원을 사용하려면 값을 감소시키고, 사용이 끝나면 값을 증가시킨다. 값이 1인 세마포어는 뮤텍스와 유사하게 동작하지만, 일반적으로 세마포어는 여러 개의 동시 접근을 허용하는 생산자-소비자 문제나 리소스 풀 관리와 같은 시나리오에 더 널리 사용된다.

이러한 락 기법은 데드락이나 기아 상태와 같은 문제를 유발할 수 있으므로 신중하게 설계되어야 한다. 예를 들어, 뮤텍스를 중첩해서 획득하거나 특정 순서 없이 락을 요청할 경우 데드락이 발생하기 쉽다. 따라서 동시성 프로그래밍에서는 적절한 락의 선택과 사용이 시스템의 정확성과 성능에 결정적인 영향을 미친다.

모니터는 동시성 프로그래밍에서 공유 자원에 대한 접근을 동기화하기 위한 고수준의 추상화 도구이다. 프로세스나 스레드가 모니터 내부의 공유 자원에 접근하려면 반드시 모니터를 통해서만 가능하며, 모니터는 한 번에 하나의 스레드만 내부 코드를 실행하도록 보장한다. 이는 상호 배제를 자동으로 제공하여 프로그래머가 저수준의 락을 직접 관리하는 복잡성을 줄여준다.

모니터의 핵심 구성 요소는 상호 배제를 위한 뮤텍스와 조건 변수이다. 조건 변수는 스레드가 특정 조건이 충족될 때까지 대기하거나, 조건이 충족되었음을 다른 대기 중인 스레드에게 알리는 데 사용된다. 스레드는 조건 변수에서 대기 상태로 들어가 모니터의 락을 해제하며, 다른 스레드가 조건을 만족시킨 후 신호를 보내면 대기 중이던 스레드가 깨어나 작업을 재개한다.

이러한 구조는 데드락이나 경쟁 조건 같은 문제를 방지하는 데 도움이 되지만, 여전히 조건 변수를 잘못 사용하거나 중첩 모니터 호출 문제와 같은 새로운 복잡성을 초래할 수 있다. 자바의 synchronized 블록과 wait(), notify() 메서드, C++의 조건 변수 라이브러리는 모니터 개념을 구현한 대표적인 예시이다.

원자적 연산은 동시성 프로그래밍에서 공유 자원에 대한 접근을 제어하는 가장 기본적인 동기화 기법 중 하나이다. 이 연산은 중단될 수 없는 하나의 단위 연산으로, 멀티스레딩 환경에서 여러 스레드가 동일한 데이터를 동시에 읽고 쓰려 할 때 발생하는 경쟁 조건을 방지하는 데 사용된다. 원자적 연산이 보장하는 것은 연산의 시작부터 끝까지 다른 스레드의 간섭 없이 완료된다는 점으로, 이를 통해 데이터의 일관성을 유지할 수 있다.

대표적인 원자적 연산에는 비교 후 교환(CAS)과 페치 앤 애드(Fetch-and-add) 등이 있다. 이러한 연산들은 하드웨어 수준에서 지원되는 경우가 많으며, 운영체제나 프로그래밍 언어의 라이브러리를 통해 제공된다. 예를 들어, Java에서는 java.util.concurrent.atomic 패키지에 AtomicInteger나 AtomicReference 같은 클래스를 제공하여 원자적 연산을 쉽게 활용할 수 있도록 한다.

원자적 연산은 락 기반의 동기화에 비해 일반적으로 성능상의 이점이 있다. 뮤텍스나 세마포어를 사용하면 스레드가 락을 획득하지 못하면 대기 상태에 들어가 문맥 교환이 발생할 수 있지만, 원자적 연산은 하드웨어의 지원을 받아 대기 없이 연산을 시도하고 성공 여부를 즉시 확인하는 방식으로 작동하기 때문이다. 이는 병렬 컴퓨팅에서 성능을 극대화하는 데 중요한 요소가 된다.

그러나 원자적 연산은 모든 동기화 문제를 해결하는 만능 도구는 아니다. 복잡한 논리나 여러 변수에 걸친 일관성이 필요한 연산에는 적합하지 않을 수 있으며, 이 경우에는 모니터나 다른 고수준 동기화 메커니즘을 사용해야 한다. 또한 원자적 연산의 오용은 여전히 데드락이나 기아 상태와 같은 문제를 초래할 수 있으므로 주의가 필요하다.

멀티스레딩은 하나의 프로세스 내에서 여러 개의 스레드를 생성하고 관리하여 여러 작업을 동시에 처리하는 동시성 프로그래밍 모델이다. 이는 운영체제가 지원하는 기본적인 동시성 실행 단위를 활용하는 방식으로, 주로 시스템 자원의 효율적 활용과 응답성 향상을 목표로 한다. 멀티스레딩을 구현하는 프로그램은 사용자 입력을 처리하는 스레드와 백그라운드 계산을 수행하는 스레드를 분리함으로써 사용자 인터페이스의 멈춤 현상을 방지할 수 있다.

멀티스레딩의 핵심 이점은 자원 공유에 있다. 동일한 프로세스에 속한 스레드들은 메모리 공간과 파일 핸들 같은 자원을 공유하기 때문에, 프로세스 간 통신(IPC)에 비해 데이터 교환의 오버헤드가 적고 효율이 높다. 이는 처리량 증가에 직접적으로 기여한다. 또한, 현대의 멀티코어 프로세서 시스템에서는 여러 스레드를 물리적으로 다른 CPU 코어에 분배하여 진정한 병렬성을 달성할 수 있다.

그러나 멀티스레딩은 주요 도전 과제를 동반한다. 여러 스레드가 공유 자원에 동시에 접근할 때 발생하는 경쟁 조건을 방지하기 위해 락이나 모니터와 같은 동기화 기법이 필수적이다. 동기화를 잘못 관리하면 데드락이나 기아 상태 같은 문제가 발생할 수 있으며, 이는 프로그램의 정확성과 안정성을 해친다. 따라서 스레드 안전성을 확보하는 것이 멀티스레딩 프로그래밍의 관건이다.

멀티스레딩은 Java, C++, C#과 같은 많은 현대 프로그래밍 언어에서 표준 라이브러리를 통해 광범위하게 지원된다. 이 모델은 데이터베이스 서버, 웹 서버, 게임 엔진, 그리고 과학 계산 소프트웨어 등 처리량이 중요하거나 복잡한 작업을 백그라운드에서 수행해야 하는 다양한 애플리케이션 분야에서 널리 사용된다.

이벤트 루프는 단일 스레드에서 여러 작업을 동시에 처리하는 동시성 모델이다. 이 모델은 이벤트를 기반으로 하며, 이벤트 드리븐 프로그래밍의 핵심 메커니즘으로 작동한다. 이벤트 루프는 메시지 큐에서 이벤트나 콜백 함수를 끊임없이 확인하고, 이를 순차적으로 실행하는 무한 루프 구조를 가진다. 이 방식은 자바스크립트의 런타임 환경인 Node.js나 브라우저 환경에서 널리 사용된다.

이벤트 루프의 주요 장점은 블로킹 I/O 작업이 시스템 전체를 멈추지 않도록 한다는 점이다. 파일 읽기나 네트워크 요청과 같은 시간이 오래 걸리는 작업은 비동기적으로 처리되어 백그라운드에서 실행되고, 작업이 완료되면 그 결과가 콜백 함수 형태로 메시지 큐에 들어간다. 이벤트 루프는 콜 스택이 비어 있을 때마다 큐에서 다음 작업을 꺼내 실행함으로써, 단일 스레드임에도 높은 응답성과 처리량을 달성한다.

이 모델은 멀티스레딩에 비해 경쟁 조건이나 데드락 같은 복잡한 동기화 문제에서 상대적으로 자유롭다. 공유 자원에 대한 접근이 기본적으로 단일 스레드 내에서 순차적으로 이루어지기 때문이다. 그러나 CPU 집약적인 작업을 처리할 때는 성능에 한계가 있을 수 있으며, 하나의 작업이 오래 실행되면 전체 이벤트 처리가 지연되는 문제가 발생할 수 있다.

액터 모델은 동시성 프로그래밍을 위한 중요한 프로그래밍 패러다임 중 하나이다. 이 모델은 시스템을 고립된 상태와 행동을 가진 독립적인 액터들의 집합으로 구성한다고 본다. 각 액터는 메시지를 통해 다른 액터와만 통신하며, 자신의 내부 상태를 직접 공유하지 않는다. 이는 공유 자원에 대한 접근으로 인해 발생하는 경쟁 조건이나 데드락 같은 전통적인 동시성 문제를 근본적으로 피할 수 있는 설계 철학을 제공한다.

액터 모델의 핵심 원칙은 메시지 전달을 통한 통신과 상태의 캡슐화이다. 각 액터는 자신에게 도착한 메시지 큐를 순차적으로 처리하며, 메시지에 대한 응답으로 내부 상태를 변경하거나, 다른 액터에게 새로운 메시지를 보내거나, 새로운 액터를 생성할 수 있다. 이 모델은 분산 시스템 환경에 특히 적합하며, 에를랑 프로그래밍 언어와 아카 프레임워크가 이 모델을 구현한 대표적인 예이다.

액터 모델의 주요 장점은 스레드 안전성을 보장하기 쉽다는 점이다. 액터 간에 메모리를 공유하지 않으므로 복잡한 락 기반의 동기화 기법이 필요하지 않다. 이는 프로그램의 논리적 오류를 줄이고 모듈화를 촉진한다. 또한, 액터의 고립 특성은 시스템의 확장성과 회복탄력성을 높이는 데 기여한다. 하나의 액터가 실패하더라도 다른 액터에 직접적인 영향을 미치지 않도록 설계할 수 있기 때문이다.

하지만 액터 모델도 완벽한 해결책은 아니다. 메시지 전달에 따른 오버헤드가 존재할 수 있으며, 시스템 전체의 상태를 이해하거나 디버깅하는 것이 상대적으로 복잡해질 수 있다. 또한, 순차적인 메시지 처리로 인해 단일 액터가 성능 병목 지점이 될 가능성도 있다. 이러한 특성들로 인해 액터 모델은 멀티스레딩이나 이벤트 루프와 같은 다른 동시성 모델과 함께 상황에 맞게 선택되어 활용된다.

CSP는 동시성 프로그래밍의 주요 모델 중 하나로, 프로세스들이 메모리를 공유하지 않고 메시지 전달을 통해 통신하는 방식을 강조한다. 이 모델은 공유 자원에 대한 접근으로 인해 발생하는 경쟁 조건이나 데드락 같은 복잡한 문제를 피하고자 설계되었다. CSP에서 각 프로세스는 순차적으로 실행되며, 명시적인 채널을 통해 다른 프로세스와 데이터를 주고받는다.

이 모델의 핵심 원칙은 "통신이 동기화의 수단이다"라는 것이다. 즉, 프로세스 간의 모든 데이터 교환은 동기적인 메시지 전달을 통해 이루어지며, 송신자와 수신자가 모두 준비되었을 때만 통신이 발생한다. 이 접근 방식은 멀티스레딩 모델에서 흔히 사용되는 락이나 모니터와 같은 명시적인 동기화 기법의 필요성을 크게 줄여준다.

CSP는 분산 시스템 설계에 큰 영향을 미쳤으며, Go 프로그래밍 언어의 동시성 모델인 고루틴과 채널의 기반이 되었다. 또한 에르랑과 같은 함수형 언어의 액터 모델과 개념적으로 유사점을 가지지만, 액터 모델이 비동기 메시징에 더 중점을 둔 반면, CSP는 동기적인 통신 채널을 강조한다는 차이가 있다.

이 모델을 사용하면 병렬 컴퓨팅 시스템을 보다 구조적이고 예측 가능한 방식으로 구성할 수 있으며, 스레드 안전성을 달성하기가 상대적으로 용이해진다. 각 프로세스가 격리되어 실행되므로, 시스템의 논리적 흐름을 이해하고 디버깅하는 데 도움이 된다.

데드락은 둘 이상의 프로세스나 스레드가 서로가 가진 자원을 기다리며 무한정 대기하는 상태를 말한다. 이는 동시성 프로그래밍과 운영체제에서 발생하는 심각한 문제 중 하나로, 시스템의 정상적인 진행을 완전히 멈추게 할 수 있다.

데드락이 발생하기 위해서는 일반적으로 네 가지 조건이 동시에 성립해야 한다. 첫째는 상호 배제로, 한 번에 하나의 프로세스만 자원을 사용할 수 있어야 한다. 둘째는 점유와 대기로, 프로세스가 할당된 자원을 가진 상태에서 다른 자원을 기다린다. 셋째는 비선점으로, 다른 프로세스가 점유한 자원을 강제로 빼앗을 수 없다. 넷째는 순환 대기로, 두 개 이상의 프로세스가 자원을 기다리는 순환 고리가 형성되어야 한다.

이 문제를 해결하는 방법은 예방, 회피, 탐지 및 복구로 나눌 수 있다. 예방은 데드락의 네 가지 필요 조건 중 하나를 시스템 차원에서 허용하지 않도록 설계하는 것이다. 회피는 은행원 알고리즘과 같이 자원 할당 상태를 사전에 분석해 데드락 가능성이 있는 할당을 허용하지 않는 방법이다. 탐지 및 복구는 주기적으로 시스템 상태를 검사해 데드락이 발생했는지 확인하고, 발생 시 하나 이상의 프로세스를 강제 종료하거나 자원을 선점하여 순환 고리를 깨는 방법을 사용한다.

실제 프로그래밍에서는 데드락을 피하기 위해 락의 획득 순서를 항상 동일하게 유지하거나, 타임아웃 메커니즘을 도입하는 등의 코딩 규칙을 적용한다. 또한 모니터나 액터 모델과 같은 고수준 동시성 모델을 사용하면 데드락 가능성을 낮추는 데 도움이 된다.

기아 상태는 동시성 프로그래밍에서 하나 이상의 스레드나 프로세스가 필요한 공유 자원을 계속해서 얻지 못하고 무한정 대기하게 되는 문제를 가리킨다. 이는 시스템이 특정 작업에 대한 자원 할당을 공정하게 관리하지 못할 때 발생하며, 해당 작업은 실행을 위한 조건을 충족하지 못해 실제로는 진행 가능함에도 불구하고 처리가 지연되거나 중단된 것처럼 보인다.

기아 상태는 주로 자원 할당 정책의 불공정성에서 비롯된다. 예를 들어, 운영체제의 스케줄링 알고리즘이 우선순위가 높은 작업만 계속 실행하도록 설계된 경우, 낮은 우선순위를 가진 작업은 실행 기회를 얻지 못해 기아 상태에 빠질 수 있다. 또한, 동기화 기법인 세마포어나 락을 사용할 때 특정 스레드가 락을 계획적으로 또는 우연히 오래 점유하면, 다른 스레드들은 그 락을 얻지 못해 기다리게 된다.

이 문제를 해결하기 위한 일반적인 방법은 자원 할당에 공정성을 보장하는 메커니즘을 도입하는 것이다. 대표적인 기법으로는 에이징이 있으며, 이는 대기 시간이 길어질수록 작업의 우선순위를 점진적으로 높여 결국에는 자원을 할당받을 수 있도록 한다. 또한, 선점형 스케줄링이나 라운드 로빈과 같은 공정한 스케줄링 알고리즘을 사용하거나, 락을 획득하는 순서를 정해 데드락과 함께 기아 상태도 방지하는 방법이 있다.

경쟁 조건은 둘 이상의 스레드 또는 프로세스가 공유된 자원에 동시에 접근하고, 그 접근 순서에 따라 프로그램의 실행 결과가 달라질 수 있는 상황을 가리킨다. 이는 동시성 프로그래밍에서 가장 흔히 발생하는 문제 중 하나로, 스레드 안전성을 해치는 주요 원인이 된다. 경쟁 조건이 발생하면 프로그램이 비결정적(non-deterministic)으로 동작하여, 같은 입력에 대해 매번 다른 결과를 내거나 예상치 못한 오류를 일으킬 수 있다.

이 문제는 주로 공유 자원인 메모리, 파일, 데이터베이스 연결 등에 대한 읽기와 쓰기 연산이 원자적 연산이 아닐 때 발생한다. 예를 들어, 두 스레드가 공유 변수의 값을 읽어 1씩 증가시킨 후 다시 저장하는 간단한 연산에서도, 두 스레드가 거의 동시에 같은 초기값을 읽어 각자 증가시켜 저장하면 최종 결과는 한 번만 증가한 값이 되어 데이터의 정합성이 깨지게 된다.

경쟁 조건을 해결하기 위한 핵심 방법은 동기화 기법을 적용하는 것이다. 뮤텍스나 세마포어와 같은 락을 사용하여 임계 구역을 설정하면, 한 번에 하나의 스레드만 공유 자원에 접근할 수 있도록 보장할 수 있다. 또한 모니터나 원자적 연산을 지원하는 특수 명령어를 활용하는 방법도 있다. 이러한 기법들은 접근을 직렬화하여 결과의 일관성을 유지하지만, 과도한 사용은 성능 저하나 데드락과 같은 다른 문제를 초래할 수 있으므로 신중하게 설계되어야 한다.

자바는 플랫폼 초기부터 멀티스레딩을 지원하며, java.lang.Thread 클래스와 java.lang.Runnable 인터페이스를 통해 스레드를 생성하고 실행하는 기본 모델을 제공한다. 자바의 동시성 프로그래밍은 스레드 풀, 동기화 메커니즘, 그리고 고수준의 동시성 유틸리티를 포함하는 광범위한 표준 라이브러리를 특징으로 한다.

자바에서 공유 자원에 대한 안전한 접근을 보장하기 위한 주요 동기화 도구로는 synchronized 키워드와 java.util.concurrent.locks 패키지의 락 객체들이 있다. 또한 java.util.concurrent 패키지는 세마포어, 카운트다운 래치, 사이클릭 배리어와 같은 고급 동시성 구성 요소와 동시성 컬렉션을 제공하여 개발자가 경쟁 조건과 데드락 같은 문제를 더 쉽게 피할 수 있도록 돕는다.

자바 5.0에서 도입된 java.util.concurrent 패키지는 동시성 프로그래밍을 위한 강력한 프레임워크를 구축했으며, ExecutorService를 통한 태스크 실행 관리, Future와 Callable을 이용한 비동기 계산 결과 처리, 원자적 변수 클래스들을 포함한다. 자바 8에서는 람다 표현식과 함께 CompletableFuture 클래스가 추가되어 비동기 프로그래밍을 더욱 간결하고 유연하게 만들었다.

최신 자바 버전에서는 가상 스레드 (Project Loom)와 같은 경량 스레드 모델에 대한 실험이 진행 중이며, 이는 대량의 동시 작업을 처리할 때의 성능과 확장성을 크게 향상시킬 것으로 기대된다. 자바의 동시성 모델은 지속적으로 발전하며, 개발자에게 시스템의 응답성과 처리량을 높이기 위한 다양한 저수준 및 고수준의 도구를 제공한다.

Go 언어는 동시성 프로그래밍을 언어 설계의 핵심 요소로 삼고 있으며, 이를 위해 경량 스레드인 고루틴과 통신을 위한 채널이라는 독특한 메커니즘을 제공한다. 고루틴은 운영체제의 스레드보다 훨씬 가볍고 생성 비용이 저렴하여 수천, 수만 개를 동시에 실행하는 것이 가능하다. 이는 멀티스레딩을 기반으로 하지만, 전통적인 스레드 풀 방식보다 훨씬 효율적인 동시성 모델을 구현한다.

Go의 동시성 철학은 "공유 메모리를 통한 통신이 아닌, 통신을 통한 메모리 공유"에 있다. 즉, 고루틴 간에 공유 자원을 직접 접근하게 하여 경쟁 조건을 유발하는 대신, 채널이라는 파이프라인을 통해 데이터를 안전하게 주고받도록 설계되었다. 채널은 동기화를 내장하고 있어, 데이터를 보내고 받는 시점에서 자연스럽게 고루틴의 실행 흐름을 조율할 수 있다.

이러한 접근 방식은 전통적인 락 기반의 동기화에서 발생하는 데드락이나 복잡한 스레드 안전성 문제를 상당 부분 완화한다. 또한 select 문을 사용하면 여러 채널의 작업을 동시에 대기하고, 먼저 준비된 작업을 처리하는 이벤트 루프와 유사한 다중 통신 제어가 가능하다. Go의 런타임은 고루틴을 다수의 운영체제 스레드에 자동으로 분배하여 실행하는 스케줄러를 포함하고 있어, 개발자는 저수준의 스레드 관리보다는 비즈니스 로직에 집중할 수 있다.

파이썬에서의 동시성 프로그래밍은 GIL이라는 전역 인터프리터 락의 존재로 인해 독특한 특성을 가진다. GIL은 한 번에 하나의 네이티브 스레드만이 파이썬 바이트코드를 실행하도록 제한하기 때문에, CPU 바운드 작업을 위한 전통적인 멀티스레딩은 진정한 병렬성을 제공하지 못한다. 이로 인해 파이썬의 동시성 접근 방식은 I/O 바운드 작업에 최적화되어 있으며, 주로 스레드 기반과 비동기 프로그래밍 기반의 두 가지 패러다임으로 나뉜다.

I/O 집약적 작업의 경우 threading 모듈을 사용한 멀티스레딩이 효과적이다. 스레드는 GIL을 공유하지만, I/O 작업 중에는 GIL이 해제되어 다른 스레드가 실행될 수 있기 때문에, 네트워크 요청이나 파일 입출력과 같은 대기 시간이 긴 작업의 처리량을 크게 향상시킬 수 있다. 반면, CPU 집약적 작업을 병렬로 처리하려면 multiprocessing 모듈을 사용해야 한다. 이 모듈은 별도의 프로세스를 생성하며, 각 프로세스는 자신만의 파이썬 인터프리터와 메모리 공간을 가지므로 GIL의 제약을 벗어나 멀티코어를 활용한 진정한 병렬 실행이 가능하다.

최근 파이썬 동시성의 주요 흐름은 asyncio 모듈을 중심으로 한 비동기 프로그래밍이다. 싱글 스레드 기반의 이벤트 루프를 사용하여 여러 코루틴을 협력적으로 스케줄링한다. async/await 문법을 통해 명시적인 콜백 지옥 없이 비동기 코드를 작성할 수 있으며, I/O 대기 시간 동안 다른 코루틴으로 제어권을 넘겨 시스템 자원을 극도로 효율적으로 활용한다. 이는 대량의 동시 연결을 처리해야 하는 웹 서버나 네트워크 클라이언트에 특히 적합한 모델이다.

이러한 다양한 도구들은 각각의 장단점을 가지며, 작업의 성격에 따라 선택되어야 한다. 파이썬 생태계는 concurrent.futures 모듈과 같은 고수준 API를 제공하여 스레드와 프로세스 풀을 통한 작업 제출을 단순화함으로써 개발자가 보다 쉽게 동시성 프로그램을 작성할 수 있도록 지원한다.