네트워크 프로토콜과 OSI·TCP/IP 계층 구조

장비가 달라도 통신이 이어지는 이유

프로토콜은 서로 다른 정보기기가 연결될 때 데이터 전달 방식, 통신 방식, 오류 검출 방식을 미리 합의한 규칙이다. 컴퓨터와 통신 장비는 이 규칙을 바탕으로 데이터를 교환하며, 통신 프로토콜에는 신호 체계, 인증, 오류 감지와 수정 기능이 포함된다.

제조사가 다른 장비가 함께 동작하려면 공통된 약속이 필요하다. ISO의 개방형 시스템 간 상호 연결 모델인 OSI는 이 약속을 계층으로 나누어 체계화한 기준이다.

통신 책임을 나눈 OSI 계층

물리 계층에서 비트를 전달한다

물리 계층은 0과 1로 표현된 비트 전송을 맡는다. 전기적·기계적·기능적·절차적 특성을 정의하며, RS-232는 직렬 통신 인터페이스 표준으로 쓰인다. X.25와 X.21은 패킷 교환 네트워크에서 사용되는 프로토콜이다.

데이터 링크 계층은 링크 단위 전송을 다룬다

데이터 링크 계층은 물리적 링크를 지나는 데이터 전송의 신뢰성을 보장하고, 데이터를 프레임 단위로 처리한다.

Ethernet(이더넷): LAN 환경에서 가장 널리 사용되는 프로토콜이며 CSMA/CD 방식을 사용한다.
HDLC(High-level Data Link Control): 비트 지향 동기식 데이터 링크 제어 프로토콜이다.
PPP(Point-to-Point Protocol): 두 라우터를 직접 연결하기 위한 프로토콜이다.

네트워크 계층은 주소와 경로를 결정한다

네트워크 계층은 패킷의 라우팅과 전달을 담당한다. 논리 주소를 지정하고 목적지까지의 경로를 결정한다.

IP(Internet Protocol): 패킷 교환 네트워크에서 데이터를 주고받는 프로토콜이다.
ICMP(Internet Control Message Protocol): IP 통신 중 발생한 오류를 보고하고 제어 메시지를 전송한다.
IGMP(Internet Group Management Protocol): 멀티캐스트 그룹을 관리한다.
IPSec(IP Security): IP 통신에 보안 서비스를 제공한다.
ARP(Address Resolution Protocol): IP 주소를 MAC 주소로 변환한다.
RIP(Routing Information Protocol): 거리 벡터 라우팅 프로토콜이다.

전송 계층은 종단 간 전달을 보장한다

전송 계층은 종단간 통신 서비스를 제공하며 데이터 무결성과 신뢰성을 다룬다. TCP는 연결 지향 방식으로 신뢰성 있는 전송을 보장한다. UDP는 비연결형으로 빠른 전송을 우선하지만 신뢰성은 낮다. RTP는 오디오와 비디오 같은 실시간 데이터를 전송한다.

세션 계층은 연결 상태를 관리한다

세션 계층은 통신 세션의 구성·유지·종료를 관리하고 데이터 교환을 동기화한다.

NetBIOS(Network Basic Input/Output System): 로컬 네트워크에서 통신 인터페이스를 제공한다.
RPC(Remote Procedure Call): 원격 시스템의 프로시저를 호출하는 프로토콜이다.
Winsock(Windows Socket): 윈도우 환경의 네트워크 프로그래밍 인터페이스다.

표현 계층은 데이터 표현 방식을 맞춘다

표현 계층은 데이터 형식의 변환, 암호화, 압축을 담당한다.

XDR(External Data Representation): 서로 다른 컴퓨터 아키텍처 사이의 데이터 교환 표준이다.
SSL(Secure Sockets Layer)/TLS: 통신 보안을 위한 암호화 프로토콜이다.
MPEG(Moving Picture Experts Group): 디지털 비디오와 오디오 압축 표준이다.
ASCII(American Standard Code for Information Interchange): 문자 인코딩 표준이다.

응용 계층은 사용자 서비스와 맞닿는다

응용 계층은 사용자와 네트워크의 인터페이스를 제공하고 최종 사용자 서비스를 담당한다.

HTTP(Hypertext Transfer Protocol): 웹 통신 프로토콜이며 포트 80을 사용한다.
SMTP(Simple Mail Transfer Protocol): 이메일 전송 프로토콜이며 포트 25를 사용한다.
SNMP(Simple Network Management Protocol): 네트워크 관리 프로토콜이다.
FTP(File Transfer Protocol): 파일 전송 프로토콜이며 포트 20, 21을 사용한다.
TELNET: 원격 터미널 접속 프로토콜이며 포트 23을 사용한다.
IMAP(Internet Message Access Protocol): 이메일 검색 프로토콜이다.
IRC(Internet Relay Chat): 실시간 인터넷 채팅 프로토콜이다.
SIP(Session Initiation Protocol): 음성 및 화상 통화 세션을 관리한다.
SSH(Secure Shell): 보안 네트워크 통신 프로토콜이며 포트 22를 사용한다.
DNS(Domain Name System): 도메인 이름과 IP 주소를 변환하는 시스템이다.

연결부터 종료까지의 요청 흐름

⤢✕

TCP/IP 스택에서 프로토콜이 놓이는 위치

⤢✕

웹과 이메일에서 만나는 프로토콜 조합

웹 브라우징에서는 사용자가 브라우저에 URL을 입력한 뒤 DNS가 도메인 이름을 IP 주소로 변환한다. 브라우저는 HTTP로 웹 서버에 페이지를 요청하고, TCP는 데이터 패킷의 신뢰성 있는 전송을 보장한다. IP는 패킷 라우팅을 맡으며, 마지막 전달은 데이터 링크 계층과 물리 계층을 거쳐 비트 전송으로 이어진다.

이메일을 보낼 때는 SMTP를 통해 메일 서버로 메시지를 전송한다. 수신자는 POP3 또는 IMAP으로 메일 서버에서 이메일을 받는다. 이 과정에서 TCP는 데이터 무결성을 보장하고, 네트워크 계층의 IP는 패킷 라우팅을 처리한다.

서비스 요구사항에 맞춰 고를 기준

프로토콜 선택은 처리량·지연 시간·오버헤드 같은 성능 조건에서 시작한다. 데이터 손실 방지와 오류 검출·복구 기능은 신뢰성 검토 대상이며, 암호화와 인증 메커니즘은 보안성 판단에 포함된다.

다른 시스템과 연동할 수 있는 호환성, 요구사항 변화에 대응하는 확장성도 함께 봐야 한다. 국제 표준 프로토콜을 채택하면 상호운용성을 높일 수 있다.

변화하는 통신 환경의 프로토콜

HTTP/3는 QUIC(Quick UDP Internet Connections)를 기반으로 개발되어 지연 시간 감소를 목표로 한다. IPv6는 늘어나는 IP 주소 요구에 대응하며 보안과 라우팅 기능을 향상한다.

5G 프로토콜은 초고속·초저지연·대용량 연결을 지원한다. IoT 환경에서는 MQTT, CoAP 같은 경량 통신 프로토콜 활용이 늘고 있으며, 블록체인에서는 분산 원장 기술을 위한 새로운 합의 프로토콜이 개발되고 있다.

아키텍처 설계에서 확인할 지점

네트워크 아키텍처를 설계할 때 프로토콜 선택은 시스템 성능과 안정성에 직접 연결된다. 기업 IT 인프라에서는 표준 프로토콜 채택이 향후 확장성과 유지보수성에 영향을 준다.

보안 관점에서는 프로토콜의 취약점을 이해하고 대응책을 마련해야 한다. 새로운 디지털 서비스를 도입할 때는 프로토콜 호환성 검토가 필수 절차이며, 비즈니스 요구사항에 맞는 프로토콜 선택은 TCO(Total Cost of Ownership) 절감에 기여한다.