GTIG가 포착한 AI 생성 제로데이와 방어적 AI 보안 체계

2026년 5월 Google 위협 인텔리전스 그룹(GTIG)은 해킹 집단이 AI 모델로 개발한 제로데이 익스플로잇을 실제 공격 전에 찾아 차단했다고 밝혔다. AI가 생성한 실전 제로데이 공격을 방어적 AI가 무력화한 최초의 공식 사례로 제시된 사건이다. 취약점 무기화에 AI가 이미 쓰이고 있다는 점과, 방어 조직도 AI 기반 위협 인텔리전스를 갖춰야 한다는 점이 함께 드러났다.

익스플로잇 코드에 남은 AI 생성의 흔적

GTIG 보고서에서 다룬 익스플로잇은 오픈소스 웹 기반 시스템 관리 도구의 2단계 인증(2FA) 우회 취약점을 겨냥한 Python 스크립트였다. 코드의 목적은 일반적인 익스플로잇과 크게 다르지 않았지만, 구성 방식에는 LLM 지원 개발을 의심하게 하는 흔적이 남아 있었다.

함수의 동작, 인자, 반환값을 교과서처럼 설명하는 과도한 교육용 docstring이 스크립트 전체에 들어 있었다. 간결한 코드와 적은 주석으로 작성되는 일반적인 익스플로잇과 대비되는 지점이다.

주석에는 공개되지 않은 취약점의 공통 취약점 점수 시스템(CVSS) 값을 임의로 만들어 넣은 환각된 메타데이터도 있었다. 여기에 LLM 학습 데이터에서 자주 보이는 Best Practice 중심의 Python 패턴이 코드 전체에 균일하게 적용됐다. GTIG는 이런 특성을 함께 분석해 해당 익스플로잇이 AI 모델의 지원을 받아 개발됐다고 고신뢰도(High Confidence)로 판단했다.

AI를 공격 흐름에 편입한 위협 행위자

이 사건은 고립된 사례가 아니다. GTIG의 AI 위협 트래커(AI Threat Tracker)는 2026년 초부터 여러 국가 연계 해킹 집단이 사이버 작전에 AI를 활용해 온 정황을 문서화하고 있다.

중국 연계 위협 행위자(APT27, UNC2814 등)는 대규모 취약점 스캐닝에 LLM을 사용한다. 이들은 Hexstrike, Strix 프레임워크와 Graphiti 메모리 시스템을 결합해 타깃을 자율 탐색하는 AI 에이전트 체계를 구축한 것으로 확인됐다. 단순한 보조 도구를 넘어 자동화된 AI 에이전트 기반 캠페인으로 이동하는 양상이다.

북한 연계 위협 행위자(APT45, UNC5673, UNC6201 등)는 역공학(reverse engineering)과 소셜 엔지니어링에 AI를 활용하고 있다. 딥페이크 기반 스피어 피싱, 합성 미디어를 이용한 대규모 허위 정보 캠페인도 AI 지원 아래 빠르게 확대되고 있다.

공격 유형	설명	위협 행위자
AI 취약점 스캐닝	LLM으로 코드 로직 결함을 자동 식별	중국, 북한 연계 그룹
AI 익스플로잇 자동 생성	발견된 취약점을 무기화하는 코드 자동 작성	범죄 해킹 그룹
폴리모픽 악성코드 생성	탐지 회피를 위해 동적으로 코드 변이	다수 행위자
자율 악성코드 운영	AI 모델이 명령을 동적 생성하여 자율 운영	고급 APT 그룹
AI 기반 허위 정보	딥페이크·합성 미디어 대규모 생성·유포	국가 연계 그룹

⤢✕

GTIG가 수집·분석·대응을 연결하는 방식

GTIG가 공격 실행 전에 신호를 포착할 수 있었던 배경에는 다층 위협 인텔리전스 체계가 있다. 이 과정에서 Google의 Big Sleep AI 에이전트가 중요한 역할을 맡는다.

Big Sleep은 소프트웨어에 아직 알려지지 않은 보안 취약점을 능동적으로 탐색하는 AI 에이전트다. 실제 위협 행위자가 활용하려 했던 실세계 취약점을 먼저 찾은 성과도 검증됐다. 공격자가 취약점을 무기화하기 전에 방어 조직이 먼저 발견하는 선제 발굴(Proactive Discovery) 전략을 AI 역량으로 수행하는 셈이다.

AI 생성 코드 식별에서는 코드 구조, 실행 행태, 캠페인 맥락을 함께 본다. 과도한 docstring, LLM 학습 데이터의 특성이 보이는 코딩 스타일, CVSS·CVE 같은 환각된 메타데이터, 비정상적으로 균일한 코드 품질과 주석은 코드 구조 분석의 대상이다.

행동 분석은 취약점 스캐닝에서 익스플로잇 생성, 배포 전 준비로 이어지는 비정상적 속도와 자동화된 대규모 타깃 열거, 인간 해커와 다른 비정형 시간대 활동을 포착한다. 캠페인 귀속(Attribution)에서는 코드 스타일 지문으로 AI 모델 계열을 추정하고, 알려진 위협 행위자의 TTP(전술·기법·절차)와 대조한다. 인기 통합 라이브러리에 악성 로직을 삽입하거나 트로이목마화한 구성 파일을 배포하는 공급망 공격 패턴도 이 분석 범위에 포함된다.

⤢✕

선제 발굴과 자동 대응을 함께 운영하기

공격자가 AI로 취약점 탐색과 익스플로잇 작성을 빠르게 이어가는 환경에서는 AI vs AI 방어 패러다임이 필요하다. Big Sleep 외에 CodeMender도 이 흐름에서 언급된다. CodeMender는 Gemini 모델로 크리티컬 코드 취약점을 자동 수정하는 실험적 AI 에이전트다. 취약점 탐지부터 패치까지의 사이클을 극단적으로 단축하는 방향을 제시한다.

LLM은 개발자의 의도를 추론하고 기능적으로는 올바르게 보이는 잠재적 논리 결함을 발굴하는 능력이 탁월하다. 따라서 전통적인 정적 분석 도구가 발견하지 못한 숨은 취약점을 찾을 수 있다.

AI 기반 공격은 속도가 빠르므로 수동 분석 중심의 기존 침해 지표(IOC) 공유 체계만으로는 대응이 불가능하다. 방어 아키텍처에는 탐지된 AI 생성 악성코드 특성, TTP, IOC를 실시간 공유하는 AI 위협 인텔리전스 피드가 필요하다. 탐지 즉시 격리·차단·알림을 실행하는 SOAR 기반 플레이북도 함께 있어야 한다.

SIEM, EDR, SAST에는 AI 생성 코드의 특성을 식별하는 모듈을 통합할 수 있다. 취약점이 발견되면 벤더와 책임 공개 협력을 통해 패치를 개발·배포하는 대응 체계도 연결돼야 한다.

AI 환경으로 넓어진 공급망 공격면

GTIG는 2026년 위협 행위자들이 AI 시스템 자체를 목표로 공급망 공격을 활발히 시도하고 있다고 경고한다. 인기 AI 통합 라이브러리에 악성 로직을 삽입하거나, 트로이목마화된 구성 파일을 배포하는 전통적인 공급망 전술이 AI 환경에도 적용되고 있다.

AI 모델의 무결성 검증과 AI 파이프라인 보안은 이제 전통적인 소프트웨어 보안과 같은 비중으로 다뤄야 한다. 라이브러리 무결성, 구성 파일 서명, 파이프라인 격리는 개별 탐지 기능만으로는 다루기 어려운 공격면을 보완한다.

가속과 확장 단계에 있는 AI 위협

GTIG는 현재의 위협을 과장하지 않는 평가도 내놓았다. 2026년 초 기준으로 위협 행위자들은 아직 프론티어 AI 모델의 핵심 보안 로직을 우회하는 획기적 역량에는 도달하지 못한 것으로 평가된다. 현시점의 AI 악용은 기존 공격 기법의 가속화(Acceleration)와 확장(Scaling)에 주로 집중돼 있다.

다만 모델의 코딩 능력이 계속 향상되면 인간 개입 없이 타깃 탐색, 취약점 발굴, 익스플로잇, 측면 이동까지 수행하는 자율 AI 공격 에이전트가 예상된다. 시그니처 기반 탐지를 약화하는 AI 기반 폴리모픽 악성코드, 진입 장벽을 낮추는 LLM 취약점 역공학도 같은 흐름에 있다. 프롬프트 인젝션, 모델 탈취, 학습 데이터 오염처럼 AI 시스템 자체를 겨냥하는 공격 역시 늘어날 수 있다.

GTIG의 선제 탐지는 방어적 AI가 공격적 AI에 대응할 수 있는 실질적 역량을 보여준 사례다. 보안 조직은 AI 기반 위협 인텔리전스, 자동화 탐지, 선제 취약점 발굴을 분리된 실험이 아니라 운영 체계로 연결해야 한다. AI 공급망 보안과 AI 파이프라인 무결성 검증도 그 체계 안에서 우선순위를 가져야 한다.