OSI 계층 모델로 보는 네트워크 통신 구조
OSI 계층 모델의 역할, 데이터 단위, TCP/IP 모델과의 대응 관계를 바탕으로 네트워크 통신과 장애 분석 구조를 정리한다.
2026-08-14 · 최초 발행 2025-07-16
제조사별 프로토콜의 벽을 계층으로 나누다
OSI(Open System Interconnection) 모델은 네트워크 통신 과정을 계층별로 분리해 설명하는 국제 표준 프레임워크다. ISO(국제표준화기구)가 1984년 제정했으며, 서로 다른 시스템이 연결되고 정보를 교환하는 기준을 제공한다.
1970년대 이전에는 제조사마다 독자적인 프로토콜을 사용하는 경우가 많았다. 하드웨어와 소프트웨어가 달라지면 상호 운용이 어려웠고, 통신 규칙이 통일되지 않은 환경에서는 충돌과 혼선도 발생했다. OSI 모델은 통신 과정을 7개 계층으로 모듈화해 이 복잡성을 분리했다.
신호에서 사용자 서비스까지 이어지는 계층
물리 계층: 비트를 전기 신호로 전달한다
물리 계층은 0과 1로 이루어진 비트를 전기적 신호로 변환해 전송한다. 허브, 리피터, 케이블, 커넥터, 트랜시버가 이 계층의 장비에 해당하며, RS-232, RS-449, X.21, V.35, Ethernet 물리 규격이 관련 표준이다. 네트워크 케이블을 따라 데이터가 전기 신호로 전달되는 과정이 대표적인 예다.
데이터 링크 계층: 인접 노드 사이의 전송을 맡는다
데이터 링크 계층은 인접한 노드 사이에서 신뢰성 있게 데이터를 전달하고 흐름제어와 오류제어를 수행한다. 이 계층의 데이터 단위는 프레임(Frame)이며, 브릿지와 스위치가 주요 장비다.
MAC(Media Access Control)와 LLC(Logical Link Control)로 나뉘고, Ethernet, HDLC, PPP, Frame Relay, ATM이 관련 프로토콜이다. MAC 주소를 이용해 프레임을 전송하거나 CSMA/CD 방식으로 충돌을 감지하는 작업도 여기에 속한다.
네트워크 계층: 다른 네트워크로 향할 길을 찾는다
네트워크 계층은 서로 다른 네트워크를 연결하고, 논리적 주소를 바탕으로 패킷(Packet)의 경로를 결정한다. 라우터가 대표 장비이며 IP, ICMP, OSPF, BGP, RIP이 관련 프로토콜이다. IP 주소를 사용해 최적 경로를 설정하고 인터넷의 서로 다른 네트워크 사이로 데이터를 보내는 역할을 한다.
전송 계층: 종단 간 통신을 제어한다
전송 계층은 종단 간(End-to-End) 통신을 제어한다. 연결 지향 또는 비연결 지향 서비스를 제공하고, 오류 복구와 흐름 제어를 담당한다. TCP에서는 세그먼트(Segment), UDP에서는 데이터그램(Datagram)이 주요 단위이며 TCP, UDP, SCTP가 관련 프로토콜이다.
포트 번호로 프로세스를 식별한다. TCP를 이용한 웹 페이지 로딩은 신뢰성을 보장하는 예이고, UDP를 이용한 스트리밍 서비스는 속도를 우선하는 예다.
세션 계층: 통신 대화를 유지한다
세션 계층은 통신 세션을 구성하고 유지하며 종료하고 동기화한다. 세션 설정, 데이터 교환, 세션 종료가 주요 서비스이고 NetBIOS, RPC, PPTP가 관련 프로토콜이다. 화상회의의 다자간 통신 세션 관리나 대화권 토큰 관리가 이 계층의 예다.
표현 계층: 데이터 표현 방식을 맞춘다
표현 계층은 데이터 형식을 변환하고 암호화·복호화와 압축·압축해제를 수행한다. 문자 인코딩, 데이터 압축, 데이터 암호화가 주요 서비스이며 SSL/TLS, JPEG, MPEG, ASCII, EBCDIC이 관련 프로토콜 또는 형식이다. 웹브라우저가 HTML, XML, JSON 형식을 해석해 표시하는 과정도 이 계층과 연결된다.
응용 계층: 애플리케이션과 네트워크 서비스를 연결한다
응용 계층은 사용자 인터페이스를 제공하고 네트워크 서비스와 애플리케이션 사이의 인터페이스 역할을 한다. HTTP, HTTPS, FTP, SMTP, POP3, IMAP, DNS, DHCP, Telnet이 관련 프로토콜이며, 웹 브라우저·이메일 클라이언트·파일 전송 프로그램처럼 사용자가 직접 접하는 서비스가 여기에 속한다.
TCP/IP 모델과 겹쳐 보는 방식
실제 인터넷 표준으로 널리 사용되는 TCP/IP 모델은 응용, 전송, 인터넷, 네트워크 인터페이스의 4개 계층으로 구성된다. OSI의 응용·표현·세션 계층은 TCP/IP의 응용 계층으로 통합되고, 네트워크 계층은 인터넷 계층에 대응한다. 데이터 링크와 물리 계층은 네트워크 인터페이스 계층에 포함된다.
계층을 지날 때 바뀌는 데이터 단위
응용 계층부터 세션 계층까지는 데이터(Data)로 다뤄진다. 전송 계층에서는 세그먼트(Segment) 또는 데이터그램(Datagram)이 되고, 네트워크 계층에서는 패킷(Packet), 데이터 링크 계층에서는 프레임(Frame), 물리 계층에서는 비트(Bit)가 된다.
송신 측에서는 상위 계층의 데이터가 하위 계층으로 내려가며 각 계층의 프로토콜 정보인 헤더가 추가된다. 이 캡슐화(Encapsulation)를 거친 데이터는 물리 계층에서 비트 스트림으로 변환돼 전송된다.
수신 측은 반대 방향으로 처리한다. 하위 계층부터 상위 계층으로 올라가면서 각 계층이 헤더를 해석하고 제거하며, 최종적으로 원본 데이터만 응용 계층에 전달한다. 이 과정이 역캡슐화(Decapsulation)다.
장애 분석과 설계에서의 쓰임
네트워크 장애가 발생하면 물리 계층부터 상위 계층으로 범위를 좁혀 갈 수 있다. 웹페이지에 접속할 수 없는 상황이라면 케이블 연결을 확인하고, 스위치 동작과 MAC 주소를 점검한 뒤, IP 주소와 라우팅을 확인한다. 이어 포트 개방 여부와 방화벽을 살피고, 마지막으로 웹 서버 동작을 확인하는 식이다.
보안 통제도 계층별로 배치할 수 있다. 네트워크 계층에는 방화벽과 IPsec, 전송 계층에는 SSL/TLS, 응용 계층에는 인증과 권한 관리가 적용된다.
계층화는 네트워크 설계에서도 모듈화된 접근을 가능하게 한다. 각 계층에서 독립적으로 기술을 선택할 수 있고, 특정 기술을 교체할 때 다른 계층에 미치는 영향을 최소화할 수 있다. TCP/IP 모델이 실제 구현에서 더 널리 사용되더라도, OSI 모델은 통신 프로토콜 개발과 시스템 설계, 문제 해결의 기준으로 남는다.