악성코드의 유형과 감염 경로, 탐지·대응 체계

악성코드의 유형과 감염 경로를 정리하고, 정적·동적 분석부터 조직의 예방·탐지·복구 대응 체계까지 살펴본다.

2026-08-15 · 최초 발행 2025-06-15

악성코드는 침투 뒤 피해 단계를 밟는다

악성코드(Malware)는 사용자의 동의 없이 시스템에 들어와 의도하지 않은 동작을 수행하도록 만들어진 소프트웨어다. 악의적인(Malicious)과 소프트웨어(Software)를 합친 말이며, 시스템 손상이나 정보 탈취 같은 목적을 가진다. 데이터 탈취·변조·파괴, 시스템 통제권 탈취처럼 공격 목표도 다양하다.

형태는 전파 방식과 악성 행위에서 맡는 역할을 기준으로 구분된다. 바이러스는 다른 실행 파일, 문서 파일, 부트 섹터 같은 숙주에 자신을 복제해 감염시키며 숙주 파일 없이는 독립적으로 실행할 수 없다. 웜은 독립 실행 가능한 프로그램으로 자체 복제 능력을 갖고 네트워크를 통해 자동 확산하며, 이 과정에서 시스템 자원을 소모해 서비스 거부(DoS) 현상을 유발할 수 있다.

트로이목마는 정상 프로그램처럼 보이도록 위장해 사용자의 실행을 유도한다. 자체 전파 기능은 없지만 실행된 뒤 백도어 설치, 정보 유출, 원격 제어 같은 기능을 수행한다. 원격 제어 트로이, 뱅킹 트로이, 다운로더가 여기에 속한다.

랜섬웨어는 시스템을 잠그거나 데이터를 암호화한 뒤 몸값을 요구한다. 스파이웨어는 사용자 정보를 무단 수집해 외부로 보내며, 키로거·화면 캡처·브라우저 모니터링 기능을 포함할 수 있다. 애드웨어는 광고 표시 또는 특정 웹사이트 유도로 이어진다. 루트킷은 시스템 깊은 곳에 숨어 관리자 권한을 얻고 지속적인 시스템 접근을 유지하며, 다른 악성코드를 숨기거나 보호하는 역할도 한다. 봇넷은 감염된 여러 컴퓨터를 네트워크로 묶어 원격 제어하는 구조로, C&C(Command and Control) 서버를 통해 DDoS 공격, 스팸 발송, 크립토재킹에 활용될 수 있다.

감염은 다양한 진입점에서 시작된다

이메일 첨부파일과 피싱은 사회공학 기법으로 사용자를 속여 매크로 활성화나 악성 링크 클릭을 유도하는 대표적인 감염 경로다. 취약한 웹사이트 방문은 드라이브-바이 다운로드로 이어질 수 있고, 광고 네트워크나 제로데이 취약점도 웹 기반 공격에 악용될 수 있다. 정상 소프트웨어로 위장한 다운로드 파일이나 사용자를 속여 실행을 유도하는 소셜 엔지니어링도 같은 위험을 만든다.

USB 드라이브와 외장 하드디스크 같은 이동식 저장장치는 물리적인 전파 수단이 된다. Autorun.inf 파일 악용이 가능하며, 에어갭(Air-gap) 네트워크를 우회하는 수단으로도 쓰인다. 정상 소프트웨어의 업데이트 메커니즘, 개발 도구, 라이브러리를 침해하는 공급망 공격도 침투 경로가 될 수 있다. RDP, SSH 같은 원격 관리 포트는 브루트포스 공격이나 유출된 인증정보를 통한 침투 지점이 된다.

패치되지 않은 운영체제·애플리케이션·네트워크 장비의 취약점 역시 침투 경로가 된다. 유출된 인증정보와 암호 재사용 취약점은 계정 탈취로 이어질 수 있다. 침투한 악성코드는 지속성을 확보하고 권한을 높인 뒤 내부로 확산하며, 관리자 계정을 빼앗아 다른 시스템과 도메인 전체로 확산하는 측면 이동(Lateral Movement)을 수행할 수 있다. 이후 데이터 탈취·시스템 무력화·랜섬웨어 실행처럼 목적에 맞는 행위를 수행한다.

데이터 유출시스템 파괴금전적 이득감염 벡터초기 침투지속성 확보권한 상승내부 확산목적 달성데이터 탈취시스템 무력화랜섬웨어 실행

탐지는 파일과 실행 행위를 함께 본다

정적 분석은 실행 전 파일의 특성을 확인하는 방식이다. 시그니처 기반 탐지는 악성코드의 고유 패턴을 데이터베이스와 대조하고, 해시 기반 식별은 파일 해시값을 기존 악성코드 해시와 비교한다. 휴리스틱 분석은 의심스러운 코드 패턴이나 행동 특성을 기준으로 판단하며, 코드 구조 분석은 바이너리 파일의 구조와 특성을 살핀다. 디스어셈블러와 디컴파일러 등을 활용할 수 있지만, 난독화되거나 암호화된 코드 분석에는 제약이 있다.

동적 분석은 격리된 환경에서 실제 동작을 관찰한다. 샌드박스 분석, 시스템 API 호출 패턴을 보는 API 콜 모니터링, 비정상 통신을 찾는 네트워크 트래픽 분석, 실행 중인 프로세스 메모리를 확인하는 메모리 포렌식이 여기에 속한다. 동적 분석에서는 파일 변경과 네트워크 통신도 확인하며, 안티-가상화와 안티-디버깅 기법은 분석을 제한할 수 있다.

신종 위협이나 우회 기법을 다룰 때는 기계학습 기반 탐지와 행동 기반 탐지를 활용할 수 있다. 파일 내용의 무작위성 정도를 측정해 암호화나 패킹을 찾는 엔트로피 분석, 다양한 입력을 시도해 취약점을 탐색하는 퍼징(Fuzzing)도 분석 범위를 넓힌다. 메모리 포렌식은 RAM 덤프에서 휘발성 증거를 수집·분석하는 방식으로, 루트킷과 파일리스 악성코드처럼 은닉된 위협을 찾는 데 쓰인다.

사건은 악성코드가 노리는 대상을 보여준다

스턱스넷(Stuxnet)은 2010년 발견된 산업 제어 시스템 대상의 첫 악성코드다. 이란 핵시설의 원심분리기를 타겟으로 설계됐으며, 제로데이 취약점 활용, 정교한 확산 메커니즘, 특정 타겟 공격이 특징이다. 국가 지원 사이버 무기의 시작점으로 인식된다.

워너크라이(WannaCry)는 2017년 전 세계적으로 확산된 랜섬웨어다. 150개국 이상에서 23만 대 이상의 컴퓨터를 감염시켰고, EternalBlue 취약점을 악용해 빠르게 퍼졌다. 영국 NHS 마비와 글로벌 기업 시스템 다운이 주요 피해로 언급된다.

제우스(Zeus)는 금융 정보 탈취에 특화된 트로이목마다. 키로깅과 폼 그래빙 등을 통해 은행 계정 정보를 노렸으며, 여러 변종으로 발전을 거치며 지속적으로 진화했다. 전 세계적으로 수백만 대의 컴퓨터 감염 기록이 있다.

예방부터 사후 분석까지 이어지는 대응 체계

예방 단계에서는 운영체제와 소프트웨어의 최신 보안 업데이트를 적용하는 패치 관리가 출발점이 된다. 취약점 관리 프로세스와 정기적인 취약점 스캔·조치를 운영하고, 최신 안티바이러스·안티멀웨어 솔루션, 방화벽과 IDS/IPS 같은 네트워크 보안 장비, 스팸 및 피싱 메일 차단 시스템도 함께 운영한다. 사용자 교육과 피싱 시뮬레이션 훈련은 사회공학 공격에 대한 방어 능력을 높이는 수단이다. 최소 권한 원칙(Principle of Least Privilege), 관리자 계정 보호, 네트워크 세그먼테이션, USB 등 이동식 미디어 통제는 공격 범위를 줄인다.

탐지 단계에서는 시스템·네트워크 활동을 실시간으로 모니터링하고, SIEM으로 보안 이벤트를 통합 관리·분석한다. 네트워크·엔드포인트·이메일·웹 보안을 통합한 다계층 보안 아키텍처와 이상 행위 탐지 시스템, 24/7 보안관제 체계를 통해 지속적으로 모니터링한다. 위협 인텔리전스를 수집·분석하고 최신 IOC(Indicators of Compromise)를 적용하며, 정기적으로 취약점을 점검해 개선한다.

사고가 확인되면 침해사고 대응팀(CERT)을 구성해 전문 대응 인력을 운영하고, 대응 프로세스와 책임자를 명확히 한다. 단계별 조치사항을 문서화하고 정기적으로 모의훈련한다. 감염 시스템은 네트워크에서 분리하고 전문 도구로 악성코드를 제거한다. 루트킷처럼 고도화된 위협에는 시스템 재설치를 고려할 수 있다.

복구는 정기적이고 안전한 백업을 기반으로 데이터를 되살리는 과정이다. 포렌식 분석으로 감염 원인과 경로를 확인하고, 공격 벡터와 영향 범위를 분석해 재발 방지책을 마련해야 한다. 이후 보안 통제 강화와 취약점 제거로 이어가며, 침해사고 대응 프로세스의 개선점을 평가해 정책과 운영 절차에 반영한다.

정책과 기술 통제를 순환 구조로 운영한다

조직 차원의 악성코드 대응은 정책 수립에서 끝나지 않는다. 위험 평가를 바탕으로 기술적·관리적 대책을 마련하고, 모니터링·대응·복구·사후 분석 결과를 다시 정책 개선에 반영하는 흐름이 필요하다.

정책 수립위험 평가기술적 대책관리적 대책모니터링대응복구개선

정책 측면에서는 조직 전반의 악성코드 대응 정책을 마련하고, 보안 담당자와 일반 사용자의 역할과 책임을 명확히 한다. 관련 법규와 산업 표준을 준수하며, 위험 평가와 관리 체계를 지속적으로 유지해야 한다. 경영진의 보안 인식, 보안 챔피언 프로그램, 인센티브 기반 참여는 임직원 보안 문화를 뒷받침한다.

기술 측면에서는 심층 방어(Defense in Depth)로 다층 보안 구조를 구축한다. 기본적으로 신뢰하지 않는 제로 트러스트 모델을 적용하고, 마이크로세그멘테이션과 클라우드 네이티브 보안 통제를 검토할 수 있다. 위협 탐지와 대응을 자동화하는 체계를 마련하며, SOAR(Security Orchestration, Automation and Response), 자동화된 패치 관리와 취약점 조치는 대응체계의 운영 범위를 넓힌다. 지속적 모니터링은 24/7 보안 모니터링 체계 운영으로 이어진다.

위협 인텔리전스 플랫폼, 악성코드 샘플 수집·분석 역량, OSINT(Open Source Intelligence)은 지속적 위협 모니터링의 기반이 된다. 위협 헌팅(Threat Hunting)으로 능동적으로 위협을 탐색하고 제거하며, 산업별 특화 위협 정보 공유체계 참여도 선제 대응에 도움이 된다. 사이버 복원력(Cyber Resilience)은 비즈니스 연속성 계획과 통합돼야 하며, 랜섬웨어에 대비한 안전한 백업 체계와 정기적인 재해복구 훈련까지 갖춰야 복구 가능성을 유지할 수 있다.

파일리스·공급망 위협까지 넓어지는 공격 표면

파일리스 멀웨어(Fileless Malware)는 디스크에 파일을 남기지 않고 메모리에서만 동작한다. PowerShell, WMI 같은 정상 시스템 도구를 악용해 기존 안티바이러스 탐지를 회피할 수 있다. APT(Advanced Persistent Threat)는 지능적이고 지속적인 표적 공격이며, 특정 기업·산업·국가를 겨냥해 장기간 은밀하게 활동하며 정보를 수집한다. AI를 활용한 악성코드는 회피와 확산 기술에 인공지능을 사용한다. 스마트 기기를 대상으로 하는 IoT 타겟팅과 소프트웨어 공급망을 통한 악성코드 배포도 위협 범위를 넓힌다.

랜섬웨어는 암호화와 데이터 유출을 결합한 이중 갈취(Double Extortion) 전략을 쓰고, RaaS(Ransomware-as-a-Service) 비즈니스 모델로 확산한다. 주요 인프라와 의료기관처럼 사회적 영향이 큰 대상도 공격 대상이 된다. 머신러닝은 공격 자동화와 탐지 회피를 위한 적대적 머신러닝에 활용될 수 있으며, 딥페이크 기술은 사회공학적 공격을 고도화한다.

대응 기술도 변하고 있다. 머신러닝과 딥러닝을 활용한 AI 기반 탐지, 시스템 행동 패턴에 기반한 이상 탐지, 능동적으로 위협을 탐색하고 제거하는 위협 헌팅이 활용된다. 무결성 검증을 위한 블록체인 기술 도입과 공격 탐지 시 자동 복구 기능을 구현하는 자가 치유 시스템도 대응 방향에 포함된다.

악성코드 대응은 단일 제품이나 일회성 조치로 끝나지 않는다. 사용자 교육, 보안 기술 도입, 신속한 대응 체계를 함께 갖추고 보안 인식 문화와 기술적 역량을 지속적으로 강화해야 디지털 자산을 보호할 수 있다.

악성코드사이버보안랜섬웨어침해사고 대응위협 탐지