Fragmentation Attack

IP 단편화 공격은 네트워크 계층에서 IP 패킷의 분할과 재조합 기능을 악용하는 공격 기법이다. 라우터나 방화벽과 같은 네트워크 장비는 전송 효율을 위해 큰 데이터 패킷을 작은 조각으로 나누고, 목적지에서 이를 다시 조립하는 기능을 수행한다. 공격자는 이 과정에서 비정상적인 단편화 패킷을 다량 생성하여 시스템에 과부하를 주거나, 보안 검사를 우회하는 데 이 기법을 사용한다.

주요 공격 형태로는 단편화된 패킷을 완전히 재조합하지 못하게 하여 버퍼를 고갈시키는 방법, 또는 단편화 오프셋 값을 조작하여 재조합 시 시스템 메모리를 파괴하는 방법이 있다. 또한, 일부 보안 시스템은 첫 번째 패킷 조각만 검사하는 특징을 이용해, 악성 코드를 후속 조각에 숨겨 필터링을 우회하는 공격도 가능하다. 이는 서비스 거부 공격을 유발하거나 시스템의 취약점을 노출시킬 수 있다.

이러한 공격에 대응하기 위해 현대의 네트워크 보안 솔루션은 단편화 패킷의 정상성을 철저히 검증한다. 대표적인 방어 기법으로는 단편화 패킷의 재조합을 완전히 수행한 후에만 내용을 분석하는 방식, 비정상적인 오프셋 값을 가진 패킷을 차단하는 방식, 그리고 단편화 공격을 탐지하는 침입 탐지 시스템의 활용 등이 있다.

메모리 단편화 공격은 운영체제의 메모리 관리 방식 중 하나인 동적 메모리 할당 과정에서 발생하는 취약점을 악용한다. 프로그램이 실행 중에 힙 영역의 메모리를 반복적으로 할당하고 해제할 때, 사용 가능한 메모리 공간이 작고 조각난 상태로 남게 되는 메모리 단편화 현상이 발생한다. 공격자는 이 현상을 유도하여 시스템의 가용 메모리를 고갈시키거나, 메모리 할당자의 동작을 교란시켜 서비스 거부 상태를 유발한다.

이 공격의 주요 유형으로는 힙 영역을 대상으로 하는 힙 단편화 공격이 있다. 공격자는 특정 크기의 메모리 블록을 지속적으로 요청하고 해제하는 패턴을 만들어, 실제로는 충분한 총 메모리가 남아 있음에도 연속된 큰 메모리 블록을 할당받지 못하게 만든다. 이로 인해 정상적인 애플리케이션이 필요한 메모리를 할당받지 못해 비정상 종료되거나 성능이 심각하게 저하될 수 있다. 또한, 단편화된 메모리 공간을 관리하는 메모리 할당자의 메타데이터를 손상시켜 임의 코드 실행과 같은 더 심각한 공격으로 이어질 수도 있다.

메모리 단편화 공격을 방어하기 위해서는 메모리 풀 사용, 가비지 컬렉션 도입, 메모리 압축 기술 적용 등이 있다. 운영체제와 메모리 할당자의 알고리즘을 개선하여 단편화를 최소화하는 것도 중요하다. 개발 단계에서는 메모리 할당과 해제의 빈도를 줄이고, 객체 풀 패턴을 사용하는 등의 안전한 코딩 관행을 준수해야 한다.

데이터베이스 단편화 공격은 데이터베이스 관리 시스템의 내부 저장 구조를 악용하는 공격 기법이다. 이 공격은 데이터베이스가 데이터를 저장하고 관리하는 과정에서 발생하는 논리적 또는 물리적 단편화 현상을 유발하여, 시스템 성능을 저하시키거나 서비스 거부 상태를 만드는 것을 목표로 한다. 쿼리 처리 속도가 극단적으로 느려지거나, 디스크 입출력 부하가 급증하여 정상적인 데이터베이스 운영을 방해한다.

주요 공격 방식으로는 의도적으로 많은 양의 작은 트랜잭션을 생성하거나, 데이터 삽입과 삭제를 반복하여 인덱스와 테이블 공간을 심하게 단편화시키는 방법이 있다. 또한, 특정 SQL 쿼리를 악용하여 데이터베이스 엔진의 메모리 할당 로직에 부하를 주는 방식도 사용된다. 이러한 공격은 클라우드 데이터베이스나 웹 애플리케이션의 백엔드 시스템을 표적으로 삼는 경우가 많다.

이 공격에 대응하기 위해서는 정기적인 데이터베이스 재구성 작업을 수행하여 단편화를 해소해야 한다. 또한, 트랜잭션 모니터링 도구를 활용하여 비정상적인 패턴의 쿼리나 접속을 실시간으로 탐지하고 차단하는 것이 중요하다. 데이터베이스 설계 단계에서 단편화에 강인한 스키마를 설계하고, 적절한 파티셔닝 전략을 수립하는 것도 근본적인 예방책이 된다.

DoS/DDoS 공격은 단편화 공격의 주요 위협 중 하나이다. 단편화 공격은 네트워크 장비나 호스트가 IP 패킷의 재조합 과정에 과도한 시스템 자원을 소모하도록 유도하여, 정상적인 서비스를 제공하지 못하게 만드는 서비스 거부 공격의 한 형태로 작용한다. 특히 라우터나 방화벽과 같은 네트워크 장비는 단편화된 패킷을 처리하고 재조합하는 데 CPU와 메모리를 사용하는데, 공격자는 이를 악용해 장비의 성능을 저하시키거나 마비시킬 수 있다.

단편화 공격을 이용한 DoS/DDoS 공격은 주로 네트워크 계층에서 이루어진다. 공격자는 정상적인 통신에서는 필요하지 않을 정도로 많은 수의 단편화된 패킷을 생성하거나, 재조합이 불가능하도록 오프셋 값을 조작한 패킷을 지속적으로 전송한다. 이로 인해 대상 시스템은 유효하지 않은 패킷 조각들을 처리하느라 자원을 고갈시키고, 결국 합법적인 트래픽에 대한 서비스를 중단하게 된다. 이러한 공격은 대역폭을 직접 포화시키는 전통적인 플러딩 공격과는 다른 방식으로 시스템을 공격한다.

단편화 DoS 공격에 효과적으로 대응하기 위해서는 네트워크 장비에서 단편화 패킷 처리 방식을 강화해야 한다. 대표적인 방어 기법으로는 불필요한 단편화 트래픽을 차단하는 방화벽 규칙 설정, 단편화 패킷의 재조합 수를 제한하는 방법, 그리고 침입 탐지 시스템을 통해 비정상적인 단편화 패킷 흐름을 탐지하고 차단하는 것이 있다. 또한 최신 운영체제와 네트워크 장비는 단편화 공격에 취약한 재조합 알고리즘을 개선한 버전을 사용하기도 한다.

버퍼 오버플로우는 소프트웨어 보안 취약점 중 가장 오래되고 위험한 유형 중 하나이다. 이 공격은 프로그램이 할당된 메모리 공간(버퍼)의 경계를 넘어서 데이터를 쓰려고 할 때 발생한다. 이로 인해 인접한 메모리 영역이 손상되고, 공격자가 악성 코드를 실행하거나 프로그램의 흐름을 제어할 수 있게 된다. C나 C++와 같은 메모리 관리를 직접 해야 하는 언어로 작성된 프로그램에서 주로 발견된다.

버퍼 오버플로우 공격의 주요 원리는 프로그램의 스택 또는 힙 메모리 영역을 조작하는 것이다. 예를 들어, 스택 기반 오버플로우에서는 함수의 반환 주소를 덮어쓰여 공격자가 원하는 임의의 코드를 실행하도록 유도할 수 있다. 이 공격은 운영체제의 커널부터 웹 서버, 데이터베이스 관리 시스템에 이르기까지 광범위한 소프트웨어를 대상으로 한다.

이러한 취약점을 방어하기 위한 여러 기법이 개발되었다. 대표적으로 스택 가드(Stack Guard)나 주소 공간 배치 난수화(ASLR)와 같은 컴파일러 수준의 보호 기법이 있으며, 데이터 실행 방지(DEP)를 통해 메모리 영역의 실행 권한을 제한하는 방법도 있다. 또한, 안전한 코딩 관행을 통해 메모리 할당과 문자열 처리 함수를 신중하게 사용하는 것이 근본적인 예방책이다.

버퍼 오버플로우는 서비스 거부 공격(DoS)을 유발하거나 시스템에 대한 완전한 제어 권한을 획득하는 데 악용될 수 있어, 사이버 보안에서 지속적으로 주목받는 위협이다. 이는 네트워크를 통한 패킷 조작을 이용하는 단편화 공격과는 다른 계층의 공격이지만, 궁극적으로 시스템 자원을 고갈시키거나 제어권을 탈취한다는 점에서 유사한 영향을 미칠 수 있다.