OSPF

링크 상태 알고리즘(Link State Algorithm)은 OSPF의 핵심 동작 원리이다. 이 알고리즘에 따라 각 OSPF 라우터는 자신과 직접 연결된 모든 링크(인터페이스)의 상태 정보를 수집하여 링크 상태 광고(Link State Advertisement, LSA)라는 특수 패킷으로 생성한다. 생성된 LSA는 플러딩(Flooding) 과정을 통해 동일한 OSPF 에어리어 내의 모든 라우터에게 전파된다.

각 라우터는 수신한 모든 LSA 정보를 링크 상태 데이터베이스(Link State Database, LSDB)에 저장한다. 하나의 에어리어 내 모든 라우터의 LSDB는 동기화되어 완전히 동일한 내용을 유지하는 것이 목표이다[1]. LSDB는 네트워크 토폴로지에 대한 완전한 "지도" 역할을 한다.

LSDB가 구축되면, 각 라우터는 다익스트라 알고리즘(Dijkstra's Algorithm) 또는 SPF(Shortest Path First) 알고리즘을 독립적으로 실행한다. 이 알고리즘은 LSDB의 정보를 기반으로 자신을 루트(Root)로 하는 최단 경로 트리(Shortest Path Tree)를 계산한다. 계산 결과는 라우팅 테이블에 반영되어 실제 데이터 패킷의 전송 경로를 결정한다.

OSPF는 대규모 네트워크에서 발생할 수 있는 문제를 관리하기 위해 네트워크를 논리적 단위인 에어리어(Area)로 분할하는 계층적 구조를 사용한다. 에어리어 0은 반드시 존재해야 하는 백본 에어리어(Backbone Area)이며, 다른 모든 에어리어는 이 백본 에어리어에 직접 연결되어야 한다. 이 구조는 링크 상태 데이터베이스(LSDB)의 크기를 해당 에어리어 내부로 제한함으로써, 라우터의 메모리 사용량과 SPF 알고리즘 재계산 빈도를 줄이고 네트워크의 안정성과 확장성을 높이는 데 목적이 있다.

에어리어 설계 시 주요 고려사항은 에어리어의 크기와 경계 설정이다. 일반적으로 한 에어리어 내의 라우터 수는 라우터 성능과 네트워크 안정성을 고려하여 제한한다. 에어리어 경계는 일반적으로 라우터의 물리적 인터페이스에 따라 설정되며, 한 라우터가 여러 에어리어에 속할 수 있다. 이렇게 여러 에어리어에 연결된 라우터를 영역 경계 라우터(ABR)라고 부른다. ABR은 각 에어리어별로 별도의 LSDB를 유지하고, 에어리어 간의 라우팅 정보를 요약하여 전파하는 중요한 역할을 수행한다.

효율적인 에어리어 설계는 라우트 요약(Route Summarization)을 가능하게 하는 IP 주소 할당 계획과 밀접한 관계가 있다. 연속된 네트워크 주소 블록을 같은 에어리어에 배치하면, ABR이 여러 개의 상세 경로를 하나의 요약 경로로 대체하여 광고할 수 있다. 이는 LSDB와 라우팅 테이블의 크기를 더욱 줄이고, 토폴로지 변화의 영향을 지역화시킨다. 또한, 특수 에어리어 유형(예: 스텁 에어리어, NSSA)을 적절히 활용하면 불필요한 라우팅 정보의 전파를 차단하여 에어리어 내부 라우터의 부하를 최소화할 수 있다.

OSPF에서 라우터 ID는 각 OSPF 라우터를 고유하게 식별하는 32비트 값이다. 일반적으로 라우터의 루프백 인터페이스에 할당된 가장 높은 IP 주소가 자동으로 라우터 ID로 선정된다. 명시적으로 구성된 라우터 ID가 있을 경우 그 값을 우선 사용한다. 라우터 ID는 헬로 패킷 교환, DR 선출, LSA 식별 등 OSPF의 모든 기본 동작에 필수적인 요소이다.

OSPF는 물리적 네트워크 토폴로지에 따라 서로 다른 네트워크 유형으로 동작하도록 설계되었다. 주요 네트워크 유형은 다음과 같다.

네트워크 유형에 따라 이웃 관계 형성 방식과 DR/[BDR] 선출 여부가 결정된다. 예를 들어, 브로드캐스트 멀티액세스 네트워크에서는 모든 라우터 간의 완전 메시(full-mesh) 링크 상태 통신을 피하기 위해 DR과 BDR이 선출되어 LSA의 효율적인 배포를 담당한다. 반면 포인트투포인트 네트워크에서는 DR/BDR 선출이 필요 없이 두 라우터가 직접 이웃 관계를 형성한다. 네트워크 유형은 라우터 인터페이스에서 명시적으로 변경하여 구성할 수 있다.

이웃 관계 형성은 OSPF가 정확한 링크 상태 정보를 수집하기 위한 첫 번째 단계이다. 이 과정은 Hello 패킷의 교환을 통해 시작된다.

라우터는 OSPF가 활성화된 모든 인터페이스를 통해 일정한 간격(HelloInterval)으로 Hello 패킷을 멀티캐스트(224.0.0.5) 주소로 전송한다. 이 패킷에는 자신의 라우터 ID, 에어리어 ID, Hello 및 Dead 인터벌, 인증 정보, 이미 알고 있는 이웃 라우터 목록, 그리고 해당 인터페이스의 OSPF 네트워크 유형에 따른 지정 라우터(DR)와 백업 지정 라우터(BDR) 정보 등이 포함된다. 수신 측 라우터는 패킷 내의 매개변수(에어리어 ID, Hello/Dead 인터벌, 스텁 에어리어 플래그 등)가 자신의 설정과 일치하는지 확인한다. 매개변수가 일치하면 발신자를 '이웃(Neighbor)'으로 인식하고 자신의 Hello 패킷에 해당 라우터 ID를 넣어 응답한다. 양방향으로 Hello 패킷에 상대방의 라우터 ID가 포함되어 확인되면 '2-Way' 상태가 성립된다.

2-Way 상태 이후, 실제 링크 상태 데이터베이스(LSDB) 동기화를 위해 '이웃 관계(Adjacency)'가 형성될지 여부는 네트워크 유형에 따라 결정된다. 브로드캐스트 멀티액세스나 비브로드캐스트 멀티액세스(NBMA)와 같은 멀티액세스 네트워크에서는 모든 라우터 간에 완전한 이웃 관계를 형성하면 정보 교환 오버헤드가 크기 때문에, 지정 라우터(DR)와 백업 지정 라우터(BDR)가 선출된다. 이 경우, DRother 라우터들은 DR 및 BDR과만 완전한 이웃 관계(Full Adjacency)를 형성하고, 다른 DRother 라우터들과는 2-Way 상태에 머문다. 반면, 포인트투포인트나 포인트투멀티포인트 네트워크 유형에서는 발견된 모든 이웃과 완전한 이웃 관계를 형성한다. 이웃 관계가 형성되어야만 본격적인 링크 상태 광고(LSA) 교환이 이루어질 수 있다.

이웃 관계가 성공적으로 형성된 후, 라우터들은 링크 상태 데이터베이스를 동기화하기 위해 본격적인 링크 상태 정보 교환 과정을 시작한다. 이 과정은 주로 Database Description 패킷, Link State Request 패킷, Link State Update 패킷의 교환을 통해 이루어진다.

먼저, 라우터들은 Database Description 패킷을 교환하여 각자의 LSDB 요약 정보를 서로 알린다. 이 패킷에는 라우터가 보유한 링크 상태 광고의 헤더 정보(예: LSA 유형, 광고 라우터 ID, 시퀀스 번호, 체크섬)가 포함되어 있다. 양측은 이 정보를 비교하여 자신에게 없는 또는 더 최신의 LSA를 식별한다. 이 교환은 주(Master)와 종(Slave)의 역할을 정한 후 순서적으로 이루어지며, 각 DBD 패킷은 Link State Acknowledgment 패킷으로 확인 응답을 받는다.

자신의 LSDB에 부족한 정보가 확인되면, 라우터는 Link State Request 패킷을 사용하여 구체적인 LSA를 요청한다. 요청을 받은 라우터는 Link State Update 패킷에 해당 LSA를 담아 응답한다. LSU 패킷은 하나 이상의 LSA를 전송할 수 있으며, 수신 측은 이 LSA를 자신의 LSDB에 설치하고 다시 LSAck 패킷으로 수신 확인을 보낸다. 이 과정을 통해 양측 라우터의 LSDB는 완전히 동일한 상태로 동기화된다. LSDB 동기화가 완료된 라우터 간의 관계를 '완전 인접 관계(Fully Adjacent)'라고 한다.

SPF 알고리즘은 다익스트라 알고리즘을 기반으로 하며, 링크 상태 데이터베이스에 저장된 전체 네트워크 토폴로지 정보를 바탕으로 최단 경로 트리를 구성한다. 각 라우터는 자신을 루트로 하는 이 트리를 계산하여 모든 목적지까지의 최단 경로와 비용을 결정한다.

알고리즘 실행 과정은 다음과 같다. 먼저, 라우터 자신을 트리의 루트로 놓고 비용을 0으로 설정한다. 그 후, LSDB에서 자신과 직접 연결된 이웃 라우터들의 링크 정보를 확인하여, 각 이웃까지의 경로 비용을 계산하고 후보 목록에 추가한다. 후보 목록에서 누적 비용이 가장 낮은 라우터를 트리에 추가하고, 해당 라우터를 통해 접근 가능한 새로운 목적지나 기존 목적지에 대한 더 저렴한 경로가 있는지 탐색한다. 이 과정을 모든 라우터가 트리에 포함될 때까지 반복한다.

계산이 완료되면, 생성된 최단 경로 트리를 기반으로 라우팅 테이블이 갱신된다. 트리에서 각 목적지 네트워크까지의 다음 홉(Next Hop) 라우터와 출구 인터페이스, 그리고 해당 경로의 총 비용(Cost)이 테이블에 기록된다. 이 비용은 경로상의 모든 링크 비용의 합산이다. LSDB에 변화가 발생하면(예: 링크 다운, 비용 변경), 해당 정보를 반영한 새로운 SPF 계산이 트리거되어 라우팅 테이블을 최신 상태로 유지한다.

OSPF 이웃 관계 형성과 유지의 핵심을 담당하는 특수한 제어 패킷이다. 모든 OSPF 라우터는 활성화된 OSPF 인터페이스를 통해 일정한 간격으로 Hello 패킷을 멀티캐스트 주소(224.0.0.5)로 전송한다. 이 패킷의 주요 목적은 직접 연결된 네트워크 상에서 다른 OSPF 라우터를 발견하고, 서로의 매개변수가 호환되는지 확인하여 이웃(Neighbor) 관계를 수립하는 것이다.

Hello 패킷에는 라우터 간의 관계 설정과 유지에 필수적인 정보들이 포함되어 있다. 주요 필드로는 라우터 ID, Hello Interval, Dead Interval, 네트워크 마스크, 인증 정보, 그리고 이미 발견된 이웃 라우터의 ID 목록(Neighbor List) 등이 있다. 특히 Hello Interval과 Dead Interval은 라우터 간에 반드시 일치해야 하는 중요한 타이머 값으로, 일반적으로 Dead Interval은 Hello Interval의 4배로 설정된다[2]. 수신된 Hello 패킷의 매개변수가 자신의 설정과 일치하지 않으면, 해당 라우터와는 이웃 관계를 형성하지 않는다.

이 패킷은 단순한 발견 기능을 넘어 지속적인 연결 상태를 모니터링하는 역할도 수행한다. 라우터는 정해진 Dead Interval 시간 내에 이웃으로부터 Hello 패킷을 수신하지 못하면, 해당 이웃이 다운된 것으로 판단하고 링크 상태 데이터베이스를 갱신하는 절차를 시작한다. 또한, DR(지정 라우터)과 BDR(백업 지정 라우터) 선출 과정에서도 Hello 패킷에 포함된 우선순위(Priority) 값과 라우터 ID 정보가 결정적인 요소로 사용된다.

Database Description 패킷은 OSPF 이웃 관계가 형성된 후, 라우터들 간에 링크 상태 데이터베이스의 내용을 요약하여 교환하는 데 사용됩니다. 이 과정은 LSDB 동기화의 첫 번째 단계로, 각 라우터가 상대방이 어떤 링크 상태 광고 정보를 보유하고 있는지 파악하게 합니다.

패킷 교환은 주종(Master/Slave) 방식으로 이루어집니다. 먼저 Hello 패킷 교환을 통해 이웃 관계가 수립된 라우터들은 DBD 패킷을 통해 라우터 ID를 비교하여 마스터와 슬레이브를 선출합니다. 마스터 라우터가 교환 순서를 제어하며, 각 DBD 패킷에는 일련번호(Sequence Number)가 포함되어 신뢰성 있는 전송을 보장합니다. 패킷에는 실제 LSA 데이터 전체가 아닌, 각 LSA의 헤더 정보(유형, 라우터 ID, 시퀀스 번호, 체크섬 등)가 담긴 요약 목록이 포함됩니다.

이 교환 과정을 통해 각 라우터는 자신의 LSDB와 상대방의 LSDB 요약을 비교합니다. 비교 결과, 자신에게 없는 또는 더 최신 버전의 LSA 정보를 발견하면, 해당 정보의 전체 내용을 요청하기 위해 링크 상태 요청 패킷을 보냅니다. 따라서 DBD 패킷 교환은 효율적인 링크 상태 정보의 전체 동기화를 위한 '목차 교환' 단계 역할을 합니다.

LSR 패킷은 OSPF 라우터가 인접 관계를 형성한 상대 라우터에게 특정 링크 상태 정보를 요청할 때 사용하는 패킷 유형이다. 이 패킷은 DBD 패킷 교환 과정에서 자신의 LSDB에 없는 정보나 더 최신 정보가 있음을 발견했을 때 전송된다.

LSR 패킷의 주요 필드는 요청하는 LSA의 헤더 정보를 포함한다. 이는 링크 상태 유형, 링크 상태 ID, 광고 라우터의 주소로 구성되며, 이 세 가지 값을 통해 특정 LSA를 정확히 식별하고 요청한다. 라우터는 수신한 DBD 패킷에 담긴 LSA 헤더 목록을 자신의 LSDB와 비교하여 누락되거나 오래된 항목이 있을 경우, 해당 LSA 각각에 대해 하나의 LSR 항목을 생성하여 상대 라우터에게 보낸다.

상대 라우터는 이 LSR 패킷을 받으면, 요청된 정확한 LSA를 LSU 패킷에 담아 응답한다. 이 요청-응답 과정은 요청자가 더 이상 요청할 LSA가 없을 때까지 반복되며, 모든 필요한 링크 상태 정보가 교환되어 양측 라우터의 LSDB가 완전히 동기화되면 종료된다. 따라서 LSR 패킷은 OSPF의 신뢰할 수 있는 플러딩 메커니즘에서 정보 갱신을 정확히 요청하는 핵심 단계를 담당한다.

LSU 패킷은 실제 링크 상태 정보를 담아 전송하는 패킷이다. 이 패킷은 LSR 패킷에 대한 응답으로, 또는 네트워크 토폴로지 변화가 감지되었을 때 주기적으로 전송된다. LSU 패킷의 페이로드에는 하나 이상의 LSA가 포함되어 있으며, 이 LSA들이 LSDB를 구성하는 최신의 정보를 담고 있다.

LSU 패킷의 교환은 신뢰성 있는 전송 메커니즘을 통해 이루어진다. 수신 라우터는 LSU 패킷을 받으면, 포함된 LSA를 자신의 LSDB와 비교하여 새로운 정보이면 LSDB를 갱신한다. 이후, 해당 LSA에 대한 확인 응답으로 LSAck 패킷을 발송한다. 발신 라우터는 LSAck를 받지 못하면 LSU 패킷을 재전송하여 정보의 신뢰성 있는 전달을 보장한다.

LSU 패킷은 다음과 같은 주요 상황에서 발생한다.

이 패킷은 OSPF가 링크 상태 라우팅 프로토콜로서 동작하는 핵심 매커니즘을 담당한다. 모든 라우터가 동일한 네트워크 맵을 유지할 수 있도록, 변화된 정보를 효율적이고 신뢰성 있게 전체 에어리어 내에 전파하는 역할을 한다.

Link State Acknowledgment 패킷은 OSPF가 신뢰할 수 있는 전송을 보장하기 위한 메커니즘의 핵심 요소이다. 이 패킷은 Link State Update 패킷을 수신한 라우터가 발신자에게 정상적으로 LSA 정보를 받았음을 확인하는 데 사용된다. 패킷 타입 번호는 5번이다.

LSAck 패킷의 주요 기능은 플러딩 과정의 신뢰성을 유지하는 것이다. LSU 패킷을 받은 라우터는 그 안에 포함된 하나 이상의 LSA 헤더를 추출하여 LSAck 패킷에 담아 회신한다. 확인 응답 방식은 네트워크 유형에 따라 달라지는데, 브로드캐스트 멀티액세스 네트워크에서는 효율성을 위해 멀티캐스트 주소(224.0.0.5)로 단일 LSAck 패킷을 전송하여 여러 이웃에게 동시에 응답할 수 있다. 반면, 포인트투포인트나 비브로드캐스트 멀티액세스 네트워크에서는 일반적으로 유니캐스트로 각 발신자에게 직접 응답한다.

라우터는 전송한 LSU 패킷에 대한 LSAck 패킷을 일정 시간 내에 받지 못하면, 해당 LSA를 재전송한다. 이 재전송 메커니즘은 모든 라우터의 링크 상태 데이터베이스가 일관되고 최신 상태로 동기화되도록 보장한다. LSAck 패킷 자체는 별도의 확인 응답을 필요로 하지 않으며, 단순히 LSA 헤더의 나열로 구성되어 데이터 교환의 오버헤드를 최소화한다.

브로드캐스트 멀티액스세스 네트워크는 이더넷과 같이 하나의 공유 매체에 여러 라우터가 연결되어 있고, 브로드캐스트와 멀티캐스트가 가능한 네트워크 유형이다. 이 유형에서는 OSPF 헬로 패킷을 통해 DR과 BDR이 선출된다. 모든 라우터는 멀티캐스트 주소 224.0.0.5(AllSPFRouters)로 헬로 패킷을 전송하여 이웃을 발견하고, DR/BDR이 선출된 후에는 링크 상태 정보 교환이 효율화된다.

이 네트워크에서의 주요 동작은 다음과 같다.

1. DR/BDR 선출: 네트워크 내 라우터들은 헬로 패킷을 교환하여 가장 높은 OSPF 우선순위와 라우터 ID를 가진 라우터를 DR로, 두 번째로 높은 라우터를 BDR으로 선출한다.

2. 이웃 관계 형성: 모든 라우터(DROther)는 DR 및 BDR과만 완전한 이웃 관계를 형성한다. DROther 간에는 2-Way 상태까지만 관계가 수립된다.

3. 효율적인 정보 교환: DROther 라우터들은 링크 상태 정보를 멀티캐스트 주소 224.0.0.6(AllDRouters)로 DR과 BDR에게만 전송한다. DR은 이 정보를 받아 모든 OSPF 라우터(224.0.0.5)에게 다시 전파하여 불필요한 플러딩을 방지한다.

이 구조는 네트워크에 라우터가 많을 경우 발생할 수 있는 과도한 LSA 교환과 SPF 알고리즘 재계산을 줄여 네트워크 안정성과 확장성을 높이는 데 기여한다.

비브로드캐스트 멀티액세스는 프레임 릴레이나 X.25와 같은 네트워크 기술에서 일반적으로 나타나는 OSPF 네트워크 유형이다. 이 유형의 물리적 토폴로지는 여러 라우터가 하나의 공유 네트워크 세그먼트에 연결된 멀티포인트 형태이지만, 네트워크 자체가 브로드캐스트 패킷을 지원하지 않는다는 특징이 있다. 따라서 DR과 BDR 선출은 필요하지만, 이웃 발견과 선출 과정에 브로드캐스트를 사용할 수 없어 추가 구성이 필요하다.

이 네트워크 유형에서는 모든 라우터가 서로 직접 통신할 수 있어야 정상적인 OSPF 동작이 가능하다. 그러나 브로드캐스트 기능이 없기 때문에, 라우터는 Hello 패킷을 멀티캐스트 주소(224.0.0.5)로 보낼 수 없다. 대신, 네트워크 관리자가 각 라우터에 이웃 라우터의 IP 주소를 정적으로 지정해야 한다. DR과 BDR은 반드시 모든 다른 라우터와 양방향 통신 상태를 유지해야 하며, 그렇지 않으면 라우팅 정보의 불일치가 발생할 수 있다.

NBMA 환경의 단점을 보완하기 위해, 종종 포인트투멀티포인트 네트워크 유형이나 포인트투포인트 서브인터페이스로 재구성하는 방법을 사용한다. 이러한 대체 구성은 NBMA의 복잡한 이웃 정적 구성과 DR 선출 문제를 피할 수 있어 관리가 더 간편해진다.

포인트투포인트 네트워크 유형은 두 대의 OSPF 라우터가 직렬 링크와 같은 전용 회선으로 직접 연결된 토폴로지를 말한다. 이 유형에서는 멀티캐스트 주소(224.0.0.5와 224.0.0.6)를 사용하여 Hello 패킷을 교환하고, DR(지정 라우터)과 BDR(백업 지정 라우터) 선출 과정이 필요 없다. 두 라우터는 서로를 직접 인식하고 이웃 관계를 즉시 형성할 수 있다.

이 네트워크 유형의 주요 특징은 다음과 같다.

구성은 간단하며, 일반적으로 링크의 기본 설정이 포인트투포인트로 인식된다. 인터페이스의 OSPF 네트워크 유형을 명시적으로 'point-to-point'로 설정할 수도 있다. 이 방식은 WAN(광역 통신망) 연결이나 두 라우터 간의 전용 이더넷 링크에서 흔히 사용된다.

포인트투멀티포인트 네트워크 유형은 하나의 중앙 라우터가 여러 원격 라우터와 논리적인 포인트투포인트 링크를 통해 연결된 토폴로지를 모델링합니다. 이 유형은 프레임 릴레이나 ATM과 같은 NBMA 네트워크에서 풀 메시 토폴로지가 구성되지 않았을 때 주로 사용됩니다. 각 원격 라우터는 중앙 라우터와 직접 연결된 것으로 인식하며, 라우터 간의 직접 통신은 필요하지 않습니다.

이 네트워크 유형에서는 OSPF가 멀티캐스트를 사용하여 헬로 패킷을 보내 이웃을 발견합니다. DR과 BDR 선출 과정이 발생하지 않으므로, 모든 라우터 간에 직접적인 이웃 관계가 형성됩니다. 각 링크는 호스트 경로(/32)가 아닌, 실제 서브넷 마스크를 가진 네트워크 경로로 광고됩니다.

다음은 포인트투멀티포인트 네트워크 유형의 주요 특징을 정리한 표입니다.

포인트투멀티포인트 네트워크는 구성이 비교적 간단하고, 불필요한 DR 선출 트래픽을 제거하며, NBMA 클라우드에서 풀 메시 가상 회선을 구성할 필요가 없다는 장점이 있습니다. 그러나 모든 트래픽이 중앙 라우터를 통해 흐르기 때문에 해당 라우터에 부하가 집중될 수 있습니다.

내부 라우터는 자신이 속한 OSPF 에어리어 내부에 모든 인터페이스를 가진 라우터를 의미한다. 이 라우터는 오직 하나의 에어리어에만 소속되며, 다른 에어리어나 외부 자율 시스템과 직접 연결되지 않는다. 따라서 내부 라우터의 주요 역할은 자신이 위치한 에어리어 내에서만 링크 상태 정보를 교환하고, SPF 알고리즘을 실행하여 해당 에어리어 내부의 최단 경로를 계산하는 것이다.

내부 라우터는 자신이 속한 에어리어의 링크 상태 데이터베이스만 유지 관리한다. 이 LSDB에는 해당 에어리어 내부의 모든 라우터와 네트워크에 대한 정보가 포함되어 있으며, 다른 에어리어나 외부 네트워크에 대한 정보는 포함하지 않는다. 다른 에어리어로의 경로는 영역 경계 라우터가 요약하여 전달한 요약 라우트를 통해 학습한다.

네트워크 설계에서 내부 라우터는 가장 일반적이고 기본적인 OSPF 라우터 유형이다. 이들은 복잡한 라우팅 정책이나 에어리어 간 경로 재분배를 처리할 필요가 없기 때문에, 라우팅 테이블의 크기와 SPF 알고리즘 계산 부담이 상대적으로 적다. 대규모 OSPF 네트워크에서는 에어리어를 분할함으로써 내부 라우터의 수를 늘리고, 영역 경계 라우터나 자율 시스템 경계 라우터의 수를 최소화하여 네트워크의 확장성과 안정성을 높이는 것이 일반적이다.

영역 경계 라우터(ABR)는 둘 이상의 OSPF 에어리어에 인터페이스를 연결하고, 이들 에어리어 간의 라우팅 정보를 조정하는 라우터이다. 특히, 적어도 하나의 인터페이스가 백본 에어리어(Area 0)에 연결되어 있어야 한다는 것이 핵심 요구사항이다. ABR는 각 에어리어의 링크 상태 데이터베이스(LSDB)를 독립적으로 유지하며, 자신이 속한 에어리어들의 토폴로지 정보를 서로에게 전파하지 않는다.

ABR의 주요 역할은 에어리어 간의 라우트 요약과 필터링을 수행하여 라우팅 테이블의 크기와 프로토콜 오버헤드를 줄이는 것이다. ABR는 내부 에어리어에서 학습한 링크 상태 광고(LSA)를 요약하여 다른 에어리어로 전파하는 요약 LSA(Summary LSA, Type 3 및 Type 4)를 생성하고 광고한다. 이 과정에서 불필요한 세부 경로 정보를 숨김으로써 네트워크의 확장성과 안정성을 높인다.

ABR는 다음과 같은 특별한 라우터 유형으로 분류될 수 있다.

또한, ABR는 스텁 에어리어(Stub Area)나 NSSA(Not-So-Stubby Area)와 같은 특수 에어리어를 구성할 때 외부 라우트나 요약 라우트를 적절히 차단하거나 변환하는 중요한 기능을 담당한다. 이러한 설계는 OSPF 네트워크를 논리적으로 분할하고, 라우팅 업데이트의 영향을 지역화하여 전체 시스템의 효율성을 극대화하는 데 기여한다.

자율 시스템 경계 라우터(ASBR, Autonomous System Boundary Router)는 OSPF 자율 시스템(AS) 내부와 외부를 연결하는 라우터이다. 이 라우터의 핵심 역할은 다른 라우팅 프로토콜(RIP, EIGRP, BGP 등)이나 정적 라우트로부터 학습한 외부 라우트 정보를 OSPF 도메인 내부로 재분배(Redistribute)하는 것이다. ASBR은 반드시 자율 시스템 경계에 위치하며, 하나 이상의 OSPF 인터페이스와 하나 이상의 외부 라우팅 소스를 가진다.

ASBR은 외부 라우트 정보를 링크 상태 광고(LSA) 타입 5(External LSA)로 생성하여 OSPF 영역 전체에 전파한다. 이 LSA는 OSPF 백본(Area 0)을 통해 모든 일반 영역으로 전달된다. 외부 라우트의 메트릭 타입은 E1과 E2로 구분되는데, E2는 기본적으로 ASBR까지의 내부 비용을 고려하지 않는 반면, E1은 외부 비용에 ASBR까지의 내부 경로 비용을 누적하여 계산한다[5].

ASBR의 위치는 특정 영역에 제한되지 않으며, 내부 라우터, 영역 경계 라우터(ABR), 또는 백본 라우터가 동시에 ASBR의 역할을 수행할 수 있다. 단, Stub Area나 완전 스텁 영역(Totally Stubby Area)에는 ASBR이 존재할 수 없으며, 외부 라우트를 필요로 하는 특수 영역인 NSSA(Not-So-Stubby Area)에서는 ASBR이 타입 7 LSA를 생성하여 외부 라우트를 광고한다.

OSPF에서 백본 라우터는 에어리어 0 또는 백본 에어리어에 인터페이스가 하나 이상 연결된 라우터를 의미한다. 이는 라우터의 전체적인 역할에 따른 분류보다는 물리적 위치에 기반한 구분이다. 따라서 영역 경계 라우터와 자율 시스템 경계 라우터도 만약 그들의 인터페이스 중 하나라도 에어리어 0에 연결되어 있다면 동시에 백본 라우터로 간주된다. 또한, 에어리어 0 내부에 모든 인터페이스가 위치한 내부 라우터 역시 백본 라우터이다.

백본 라우터의 주요 임무는 OSPF 도메인의 중심 허브인 에어리어 0 내에서 링크 상태 정보를 유지하고 전파하는 것이다. 모든 에어리어 간의 트래픽은 반드시 백본 에어리어를 통과해야 하므로, 백본 라우터들은 안정적이고 효율적인 경로 제공을 보장해야 한다. 이들은 에어리어 0 내의 SPF 알고리즘을 실행하여 백본 네트워크의 토폴로지에 대한 최단 경로 트리를 계산한다.

백본 라우터의 구성은 네트워크 설계에 따라 달라질 수 있다. 다음 표는 다양한 유형의 라우터가 백본 라우터 역할을 동시에 수행할 수 있는 관계를 보여준다.

가상 링크를 구성하면 물리적으로 에어리어 0에 직접 연결되지 않은 라우터도 논리적으로 백본에 접속되게 할 수 있다. 이 경우, 가상 링크를 통해 에어리어 0에 접속된 라우터도 백본 라우터의 기능을 수행한다[6].

라우트 요약은 OSPF에서 특정 에어리어 내부의 여러 연속된 네트워크 주소를 하나의 대표 주소(슈퍼넷)로 묶어 광고하는 기법이다. 이 과정은 주로 영역 경계 라우터가 수행하며, 한 에어리어에서 다른 에어리어(특히 백본 에어리어)로 라우팅 정보를 전파할 때 적용된다. 라우트 요약의 주요 목적은 링크 상태 데이터베이스와 라우팅 테이블의 크기를 줄이고, SPF 알고리즘 재계산 빈도를 감소시키며, 네트워크의 안정성과 확장성을 향상시키는 것이다.

라우트 요약은 두 가지 주요 유형으로 구분된다. 첫째는 에어리어 간 요약으로, ABR이 한 에어리어의 내부 라우트를 요약하여 백본 에어리어로 광고한다. 둘째는 자율 시스템 간 요약으로, 자율 시스템 경계 라우터가 외부에서 재분배된 라우트(타사 라우팅 프로토콜 또는 정적 라우트에서 학습한 라우트)를 요약하여 OSPF 도메인 내부로 광고한다. 효과적인 요약을 위해서는 네트워크 주소 체계를 연속된 블록으로 계획적으로 할당하는 것이 필수적이다.

라우트 요약을 적용하면 다음과 같은 이점이 발생한다. LSDB의 크기가 감소하여 라우터의 메모리 사용량이 줄어들고, 토폴로지 변화 시 발생하는 LSA 플러딩 범위가 제한되어 네트워크 오버헤드와 라우터의 CPU 부하가 감소한다. 또한, 특정 서브넷의 상태 변화(예: 링크 다운)가 다른 에어리어로 전파되지 않아 네트워크의 안정성이 높아진다. 반면, 과도하게 요약하면 정확한 경로 정보가 손실되어 최적이 아닌 경로로 트래픽이 전송될 수 있는 위험이 있다.

가상 링크는 OSPF 에어리어 0인 백본 에어리어에 물리적으로 연결되지 않은 에어리어를 백본에 논리적으로 연결하기 위해 구성하는 터널 같은 논리적 연결 경로이다. OSPF 설계 원칙상 모든 에어리어는 반드시 에어리어 0에 직접 연결되어야 하며, 에어리어 간 트래픽은 항상 백본 에어리어를 통해 전송되어야 한다. 가상 링크는 이 원칙을 유지하면서 물리적 제약을 극복하는 수단을 제공한다.

가상 링크는 일반적으로 두 개의 영역 경계 라우터 사이에 설정된다. 이 두 라우터는 공통의 '트랜짓 에어리어'를 공유해야 하며, 둘 다 백본 에어리어에 연결되어 있어야 한다. 가상 링크를 구성하면, 두 ABR 간의 연결이 마치 백본 에어리어 내의 직접적인 포인트투포인트 링크인 것처럼 동작한다. 이를 통해 분리된 에어리어가 백본에 논리적으로 접속되어 링크 상태 데이터베이스 동기화와 라우팅 정보 교환이 가능해진다.

가상 링크의 주요 용도와 구성 요소는 다음과 같다.

가상 링크는 물리적 링크가 아니므로 대역폭이나 지연 시간을 고려한 SPF 알고리즘의 메트릭 계산에 직접적인 영향을 주지 않는다. 대신, 가상 링크를 통해 전달되는 라우팅 정보는 트랜짓 에어리어를 통과하는 실제 경로의 비용을 기반으로 계산된다. 가상 링크 구성은 네트워크 설계의 복잡성을 증가시키고, 디버깅을 어렵게 만들 수 있으므로, 물리적 토폴로지를 재설계하는 것이 장기적으로 더 바람직한 경우가 많다[7].

Stub Area는 OSPF 에어리어 설계에서 외부 라우트 정보의 유입을 차단하여 라우팅 테이블 크기와 라우터의 처리 부하를 줄이기 위해 사용되는 특수 영역이다. 이 영역 내부의 라우터들은 자율 시스템 경계 라우터를 통해 전파되는 외부 라우트를 학습하지 않는다. 대신, 외부 네트워크로의 트래픽은 영역 경계 라우터가 자동으로 생성한 기본 라우트(0.0.0.0/0)를 통해 전달된다. Stub Area는 완전한 Stub Area(Totally Stubby Area)로 더욱 최적화될 수 있으며, 이 경우 영역 간 라우트 정보도 차단되어 오직 영역 내부 라우트와 기본 라우트만을 유지한다[8].

NSSA(Not-So-Stubby Area)는 Stub Area의 변형으로, 외부 라우트를 일반적인 방식으로 수신하지는 않지만, 영역 내부에 ASBR이 존재하여 제한적으로 외부 라우트를 생성하고 광고할 수 있도록 허용한다. NSSA 내부의 ASBR은 LSA 타입 7이라는 특수한 링크 상태 광고를 생성하여 외부 라우트 정보를 영역 내부에 전파한다. 이 LSA 타입 7 패킷은 영역의 ABR에 도달하면, ABR에 의해 표준 LSA 타입 5로 변환되어 백본 에어리어 및 다른 일반 영역으로 전파된다. 이 메커니즘을 통해 NSSA는 Stub Area의 장점을 유지하면서도 영역 내에서 외부 라우트를 도입해야 하는 필요성을 해결한다.

Stub Area와 NSSA의 적용은 네트워크 설계에 중요한 영향을 미친다. 주요 특징과 차이점은 아래 표와 같다.

이러한 영역 타입을 사용함으로써, 네트워크 관리자는 라우팅 테이블의 크기를 효과적으로 줄이고, SPF 알고리즘 계산에 소요되는 라우터 자원을 절약하며, 네트워크의 안정성을 높일 수 있다. 특히 말단의 소규모 지사 네트워크나 리소스가 제한된 라우터가 위치한 영역에 Stub Area나 NSSA를 구성하는 것이 일반적이다.

OSPF는 네트워크 보안을 강화하기 위해 링크 간 인증 기능을 제공한다. 인증은 라우터 간에 교환되는 모든 OSPF 패킷에 적용되어, 허가되지 않은 라우터가 라우팅 정보를 주입하거나 교환 과정을 방해하는 것을 방지한다. 인증이 활성화된 링크에서는 각 패킷에 인증 정보가 포함되어야 하며, 이를 확인하지 못한 패킷은 폐기된다.

OSPF는 주로 두 가지 인증 방식을 지원한다. 간단한 텍스트 문자열을 사용하는 평문 인증(Type 1)과 더 강력한 MD5 암호화 해시를 기반으로 하는 암호화 인증(Type 2)이 그것이다. 평문 인증은 구성이 쉽지만 패킷 스니핑으로 암호가 노출될 수 있어 보안 수준이 낮다. 반면, MD5 인증은 공유된 비밀키를 사용하여 각 패킷에 대해 암호화된 다이제스트를 생성하고, 패킷 시퀀스 번호를 포함하여 재전송 공격을 방지한다.

인증 설정은 각 OSPF 인터페이스별로 적용되며, 동일한 링크(네트워크 세그먼트)에 연결된 모든 라우터는 반드시 동일한 인증 타입과 비밀키를 사용해야 정상적인 이웃 관계를 형성할 수 있다. 특히 MD5 인증을 사용할 경우, 키 관리 정책에 따라 키 식별자와 비밀키를 주기적으로 변경하는 것이 권장된다.

OSPF는 링크 상태 라우팅 프로토콜에 기반하며, RIP와 EIGRP는 거리 벡터 라우팅 프로토콜에 속한다. 이 근본적인 차이는 여러 측면에서 구체적인 비교점을 만든다.

첫째, 수렴 속도와 메트릭 계산 방식에서 차이가 있다. OSPF는 네트워크 토폴로지 변화를 감지하면 즉시 LSA를 전파하여 모든 라우터가 SPF 알고리즘을 재실행하므로 수렴이 빠르다. 반면, RIP는 주기적인 전체 라우팅 테이블 브로드캐스트와 느린 수렴으로 인해 루핑 문제가 발생할 수 있다. EIGRP는 DUAL 알고리즘을 사용해 백업 경로를 미리 계산하여 수렴 속도가 OSPF에 버금가지만, 시스코 전용 프로토콜이라는 제약이 있다. 메트릭은 OSPF가 대역폭을 기반으로 한 비용을 사용하는 반면, RIP는 홉 카운트만을, EIGRP는 대역폭, 지연, 신뢰도, 부하를 복합적으로 고려한다.

둘째, 확장성과 관리 효율성 측면에서 차이가 두드러진다. OSPF는 계층적 에어리어 구조를 통해 대규모 네트워크로의 확장을 용이하게 하고, 불필요한 라우팅 업데이트 트래픽을 제한한다. RIP는 최대 홉 수가 15로 제한되어 규모가 큰 네트워크에 부적합하며, 플랫한 구조로 인해 모든 업데이트가 전체 네트워크에 전파된다. EIGRP는 자동 요약 기능이 있으나, 명시적인 계층적 설계 측면에서는 OSPF의 에어리어 개념이 더 정교한 제어를 제공한다.

아래 표는 주요 특성을 비교한 것이다.

결론적으로, 소규모 단순 네트워크에는 RIP가 간편할 수 있으나, 대규모 엔터프라이즈 네트워크에서는 확장성과 빠른 수렴을 제공하는 OSPF가 표준적인 선택이다. EIGRP는 시스코 환경에서 OSPF와 유사한 성능을 보이지만, 다벤더 환경에서는 OSPF가 선호된다.

OSPF를 네트워크에 적용할 때는 프로토콜의 특성과 네트워크 환경을 고려하여 몇 가지 중요한 사항을 검토해야 한다. 첫째, SPF 알고리즘의 계산 부하를 고려해야 한다. 링크 상태 변화가 발생할 때마다 모든 라우터가 SPF 계산을 수행하므로, 대규모 네트워크에서는 빈번한 토폴로지 변화가 CPU 자원을 상당히 소모할 수 있다. 따라서 네트워크를 적절한 에어리어로 분할하여 라우팅 도메인의 크기를 관리하는 것이 필수적이다. 둘째, 설계 단계에서 에어리어 0을 포함한 계층적 에어리어 구조를 명확히 계획해야 한다. 모든 에어리어는 반드시 백본 에어리어(Area 0)에 물리적으로 또는 가상 링크를 통해 연결되어야 하며, 이 규칙을 위반하면 라우팅 루프나 연결성 손실이 발생할 수 있다.

네트워크 대역폭과 메모리 사용량도 중요한 고려사항이다. OSPF는 초기 형성 과정과 토폴로지 변화 시에 LSA 플러딩을 통해 많은 제어 트래픽을 생성한다. 저대역폭 링크가 있는 환경에서는 이를 최소화하기 위해 Stub Area나 NSSA를 활용하는 것이 유용하다. 또한, 각 라우터는 전체 에어리어의 LSDB를 메모리에 저장해야 하므로, 라우터의 메모리 용량이 네트워크 규모에 적합한지 확인해야 한다.

다음은 주요 적용 시 고려사항을 정리한 표이다.

마지막으로, 네트워크 운영 및 관리 측면에서의 복잡성을 평가해야 한다. ABR과 ASBR의 역할과 설정, 다양한 OSPF 네트워크 유형에 따른 동작 차이, 인증 설정 등은 OSPF를 구성하고 문제를 해결하는 데 필요한 지식 수준을 높인다. 따라서 네트워크 엔지니어의 숙련도와 모니터링 체계가 이를 뒷받침할 수 있어야 한다.