OSPF와 BGP 라우팅 설계: 내부 수렴과 정책 기반 경로 제어

라우팅의 경계에서 OSPF와 BGP를 나누는 기준

엔터프라이즈와 통신사 네트워크에서 가용성 및 확장성은 경로를 어떤 기준으로 계산하고 배포하는지에 달려 있다. OSPF(Open Shortest Path First)는 내부 도메인의 수렴과 비용 기반 경로 선택을 담당하고, BGP(Border Gateway Protocol)는 AS 간 연결에서 정책에 따라 경로를 통제한다.

내부 수렴 속도와 간결한 비용 기반 선택이 우선이면 OSPF가 맞는다. 인터넷 접속, 멀티클라우드 연동, 대규모 라우트 처리처럼 도메인 간 정책 제어가 본체라면 BGP가 적합하다.

OSPF는 링크 상태 기반 IGP다. 영역(Area) 단위로 토폴로지를 계층화하며, LSA(Link State Advertisement)를 플러딩한 뒤 SPF(Dijkstra) 알고리즘으로 최단 경로를 계산한다.

BGP는 경로 벡터(Path-vector) 기반 EGP다. TCP/179 세션에서 AS_PATH, LOCAL_PREF, MED 등의 경로 속성을 교환하고, 이를 정책과 함께 비교해 경로를 선택한다.

OSPF는 영역과 LSDB를 중심으로 수렴을 관리한다

OSPF 설계의 중심은 Backbone(Area 0)과 다계층 영역 구조다. 영역별로 LSDB 범위를 제한하면 수렴 시간과 메모리 사용을 관리할 수 있다. LSA 타입(1~7), 에이징, 시퀀스 번호는 LSDB의 일관성을 유지하는 데 쓰인다.

인접성은 Hello/Dead 타이머와 네트워크 타입에 따라 형성된다. Point-to-Point와 Broadcast 환경은 동작 방식이 다르며, Broadcast에서는 DR/BDR 선출 절차가 적용된다. 동기화가 끝나면 SPF 트리를 계산해 RIB/FIB에 반영하고, 링크 변화가 발생하면 부분 재계산을 수행한다.

외부 라우트의 유입은 Stub 또는 Not-So-Stubby(Area)로 조절할 수 있다. Summary와 Default를 삽입해 라우팅 테이블을 줄이는 방식도 함께 사용한다. LSA throttle과 SPF throttling 같은 안정화 파라미터는 LSA 폭주를 억제하는 수단이다.

BGP는 세션과 속성, 정책을 함께 다룬다

BGP는 eBGP와 iBGP 세션으로 경로를 배포한다. iBGP를 풀메시로 구성하기 어렵다면 Route Reflector(RR) 또는 Confederation을 사용해 확장한다. Keepalive/Hold 타이머와 Graceful Restart는 세션 회복력에 영향을 준다.

경로 선택은 다음 속성 비교 순서를 따른다.

LOCAL_PREF > AS_PATH 길이 > ORIGIN > MED > eBGP 우선 > IGP metric to next-hop > Router-ID

Multipath(ECMP)를 활성화하면 동등 비용 경로를 병렬로 사용할 수 있다.

정책은 Prefix, Community, Ext-Community를 기준으로 필터링하고 Route-map으로 적용한다. AS_PATH prepend, MED 조정도 경로 정책의 일부다. max-prefix, dampening, flap damping은 경로 변동성을 제어하는 데 사용한다.

보안과 안정성 측면에서는 TCP MD5/TTL Security, GTSM, BGP TTL-Hack, RPKI 기반 Origin Validation을 활용할 수 있다. 최신 배포 현황은 환경별 상이하므로 최신 정보 확인이 필요하다. Outbound prefix-control을 우선하고, Ingress 필터로 Bogon과 프라이빗 AS를 제거한다.

입력 상태가 RIB와 FIB에 반영되는 흐름

⤢✕

OSPF에서 Hello/Dead 값, MTU, 네트워크 타입, Area-ID, Authentication이 맞지 않으면 인접성이 형성되지 않을 수 있다. BGP가 Active 상태에 머문다면 도달성, ACL, TCP 179 차단 여부를 확인해야 한다. Keepalive/Hold 타이머 조정은 오검출을 줄이는 데 사용한다.

수렴, 확장성, 운영 모델의 차이

지표	OSPF	BGP
성능(수렴)	링크 장애 시 수백 ms~수초 수준, FRR/LSA Throttle로 추가 단축 가능	정책/세션 의존, 수초~수십 초, GR/BFD 연동 시 수렴 단축 가능
확장성	영역 분할로 수천~수만 프리픽스 실무 운용 적합	RR/정책 기반으로 수십만~수백만 경로 스케일링 가능
일관성	LSDB 전역 일관성, SPF 결정론적 동작	속성 기반 비결정성 가능, 정책 충돌 시 비대칭/루프 위험, 엄격한 필터 필요
안정성	LSA 스톰 제어, Stub/NSSA로 외부 경로 절제	Dampening/Max-prefix/RPKI로 경로 변동성·오리진 위조 대응
운영 편의	설계 규율(Area, 타입) 명확, 장애 분석 용이	정책 복잡도 높음, 템플릿·자동화·검증 파이프라인 필요

네트워크 형태별 프로토콜 배치

엔터프라이즈 코어와 캠퍼스에서는 코어-디스트리뷰션 구간을 OSPF 멀티에어리어로 구성하고, Stub/NSSA로 외부 라우트를 억제할 수 있다. 인터넷 엣지는 eBGP 이중 ISP 피어링으로 구성하며, 내부에는 iBGP+RR을 두거나 OSPF 재분배를 최소화하는 방식이 가능하다.

데이터센터와 클라우드 연동에서는 리프-스파인 Underlay에 OSPF 또는 iBGP를 사용하고, Overlay에는 EVPN-BGP를 적용한다. 하이브리드 또는 멀티클라우드 연결에서는 eBGP로 정책을 제어하고 프리픽스를 격리한다.

ISP와 콘텐츠 네트워크는 코어 IGP(OSPF/IS-IS)로 내부 수렴을 최적화하고, 경계에서는 eBGP로 대규모 경로를 교환한다. RPKI/RPSL 기반 정책 거버넌스와 자동화된 루트 밸리데이션 파이프라인도 이 구조와 맞물린다.

변경 전 검증과 관측성을 운영 절차에 포함한다

설계와 배포는 주소계획, ASN, 정책 요건을 입력으로 삼아 OSPF 영역 분할과 BGP RR 토폴로지, 타이머와 보안 설정을 결정하는 흐름이다. 결과는 단계적 롤아웃, 검증, 모니터링으로 이어진다.

변경 전에는 헬스 상태, 테이블 크기, 정책 시뮬레이션을 확인하고 Canaries 및 백아웃 계획을 준비한다. OSPF는 Area 인증(MD5/Key-Chain), LSA Rate-limit, Default만 재분배하는 방식을 고려할 수 있지만 세부 경로 가시성이 낮아지는 트레이드오프가 있다. BGP는 Outbound 최소 허용 리스트, Ingress Bogon/Private-AS 제거, Max-prefix, MD5/GTSM, RPKI 적용을 검토하되 정책 복잡도 증가를 감안해야 한다.

관측성도 프로토콜별로 나눠야 한다. OSPF에서는 Neighbor, LSDB, Topology를 그래프화하고 SPF 시간과 빈도를 본다. BGP에서는 Best-Path 이유코드, Attribute 분포, Flap/Dampening 이벤트, RPKI 유효성 지표를 추적한다.

Cisco IOS 구성 예시와 확인 순서

전제조건: Cisco IOS 15.x 이상, R1–R2 직결, 기본 IP 도달성 확보, 각 장비 시간 동기화 권장.

OSPF 최소 구성 예시다.

! R1
router ospf 10
 router-id 1.1.1.1
 network 10.0.12.0 0.0.0.255 area 0
 area 0 authentication message-digest
interface GigabitEthernet0/0
 ip address 10.0.12.1 255.255.255.0
 ip ospf message-digest-key 1 md5 SECRET1
 ip ospf 10 area 0

! R2
router ospf 10
 router-id 2.2.2.2
 network 10.0.12.0 0.0.0.255 area 0
 area 0 authentication message-digest
interface GigabitEthernet0/0
 ip address 10.0.12.2 255.255.255.0
 ip ospf message-digest-key 1 md5 SECRET1
 ip ospf 10 area 0

다음은 기본 정책을 포함한 BGP 최소 구성이다.

! R1 (AS 65001) - eBGP to ISP, iBGP to RR 예시 아님(단순 피어 1개)
router bgp 65001
 bgp log-neighbor-changes
 neighbor 203.0.113.2 remote-as 64500
 neighbor 203.0.113.2 password BGPMD5SECRET
 neighbor 203.0.113.2 timers 30 90
 neighbor 203.0.113.2 ttl-security hops 2
 !
 address-family ipv4
  network 198.51.100.0 mask 255.255.255.0
  neighbor 203.0.113.2 activate
  neighbor 203.0.113.2 route-map OUT-FILTER out
  neighbor 203.0.113.2 maximum-prefix 50000 90 restart 5
 exit-address-family
!
ip prefix-list PUB permit 198.51.100.0/24
route-map OUT-FILTER permit 10
 match ip address prefix-list PUB
 set community no-export additive
route-map OUT-FILTER deny 100

검증은 OSPF Neighbor가 Full 상태인지 확인한 뒤 LSDB와 Route 수를 확인하는 순서로 진행한다. 이어 BGP 세션 Established 상태, 수신·송신 경로 수와 정책 매칭을 점검하고, RIB/FIB 반영 및 실제 트래픽 경로를 확인한다.

수렴과 운영 효율에서 기대할 수 있는 변화

OSPF 영역·타이머 최적화 및 BFD 연동 시 링크 장애 감지~~전환까지 200~~800ms 수준 달성이 가능하며, 환경에 따라 달라진다. BGP는 GR/BFD/RR 최적화로 수렴 1~5초대를 달성할 수 있고, 대형 테이블 수렴에서는 수십 초까지 확대될 수 있다.

OSPF 멀티에어리어와 요약을 적용하면 라우트 엔트리를 30~70% 줄이는 효과가 있다. BGP에 RR을 도입하면 iBGP 세션 수는 O(N^2)에서 O(N)으로 전환되고 제어면 부하가 급감한다.

BGP Prefix-control/RPKI 적용은 오리진 위조·오염 경로 수용률을 대폭 낮춰 인시던트 리스크를 줄인다. OSPF 인증과 LSA 제어는 내부 라우팅 평면의 위변조 위험을 완화한다. 템플릿화와 자동화(CI 검증 포함)는 변경 작업 시간을 30~60% 단축하고 변경 실패율을 낮춘다.

OSPF는 내부 수렴과 비용 기반 최적화에, BGP는 도메인 간 정책 제어와 대규모 경로 교환에 배치한다. 영역 설계, RR 토폴로지, 정책·보안 통제, 관측성을 표준화 템플릿과 자동화 파이프라인으로 제도화하고 단계적 도입과 정량 지표 기반 검증으로 확장한다.