AI 관련 취약점이 2025년 사이버 리스크 중 가장 빠르게 늘었다

2025년 사이버 보안 환경에서 AI 관련 취약점이 가장 빠르게 성장한 리스크 카테고리 1위로 부상했다. 응답 기업의 87%가 AI 관련 취약점을 가장 빠르게 증가하는 사이버 리스크로 지목했으며, 프롬프트 인젝션, 모델 탈옥, 데이터 유출 등 기존 보안 체계로는 대응하기 어려운 신종 공격 벡터가 급증하고 있다. 2025년 한 해 동안 공개된 AI 특화 CVE만 약 1,418건에 달하며, 이는 AI 시스템이 실무 환경에 깊이 통합될수록 공격 표면이 기하급수적으로 확대되고 있음을 보여준다.

숫자로 보는 2025년 CVE 지형

2025년은 취약점 공개 역사상 기록적인 한 해였다. 전체 CVE 공개 건수와 AI 특화 취약점 모두 전례 없는 수준으로 증가했다.

지표	2024년	2025년	증가율
전체 CVE 공개	40,009건	46,407건	+16%
일 평균 CVE	110건	127건	+15%
AI 특화 CVE	~850건	~1,418건	+67%
AI 프레임워크 취약점	~320건	~580건	+81%

AI 특화 CVE는 전체 CVE의 약 3%를 차지하지만, 성장률은 전체 평균(16%)의 4배 이상이다. AI 프레임워크(TensorFlow, PyTorch, LangChain 등)와 추론 엔진, AI 통합 도구에서 발견되는 취약점이 특히 빠르게 증가하고 있다.

AI 시스템 고유의 공격 벡터는 기존 OWASP Top 10과는 다른 위협 분류 체계를 필요로 한다.

⤢✕

가장 많이 악용되는 것부터: 프롬프트 인젝션과 탈옥

프롬프트 인젝션은 OWASP가 LLM01:2025로 지정한 최상위 위협이다. 2025년 프로덕션 AI 배포 환경의 73%에서 프롬프트 인젝션 시도가 탐지됐다. 직접 프롬프트 인젝션은 사용자 입력이 직접적으로 모델 동작을 변경하는 공격으로 시스템 프롬프트 우회, 역할 탈피 등이 해당하며, 간접 프롬프트 인젝션은 웹사이트·문서 등 외부 소스에 악성 지시문을 삽입해 LLM이 해당 콘텐츠를 처리할 때 동작을 변경하는 공격으로 사용자 인지 없이 발생하므로 더 위험하다. 2026년 중반까지 수백 건의 공개 탈옥 사례부터 은밀한 공급망형 공격까지 문서화되어, 프롬프트 인젝션은 프로덕션 LLM 배포 환경에서 가장 많이 악용되는 취약점으로 확인됐다.

OWASP는 프롬프트 인젝션과 탈옥을 구분한다. 탈옥은 안전 메커니즘을 우회해 콘텐츠 필터를 무력화하는 데 초점을 맞추는 반면, 프롬프트 인젝션은 기능적 동작 자체를 조작한다. 멀티턴 대화를 통한 점진적 안전장치 우회, 역할극 시나리오를 활용한 필터 우회, 인코딩·번역을 이용한 필터 회피, 멀티모달 입력(이미지 내 텍스트 삽입)을 통한 탈옥이 대표적인 탈옥 기법이다.

데이터를 오염시키거나 빼내는 공격

학습 데이터 오염 측면에서는 2025년 연구에서 100~500개의 오염된 샘플만으로 의료 진단 모델의 출력을 왜곡할 수 있음이 실증됐다. 데이터 유출은 프롬프트 인젝션과 결합해 시스템 프롬프트, 학습 데이터, 사용자 개인정보를 추출하는 공격이다.

2026년 AI 에이전트 시스템의 공격 표면은 에이전트 지시문을 조작하는 프롬프트 인젝션, 장기 메모리에 악성 데이터를 주입하는 메모리 오염, 연결된 외부 도구·API의 악의적 호출을 유도하는 도구 오용, MCP(Model Context Protocol) 등 에이전트 프로토콜을 노리는 공급망 공격, 에이전트가 접근하는 민감 데이터의 외부 전송인 데이터 유출로 나뉜다. OWASP는 2025년 말 에이전트 애플리케이션 전용 Top 10을 별도 발표해, 이러한 리스크가 독립적인 프레임워크를 필요로 할 만큼 심각함을 공식 인정했다.

조직은 얼마나 준비돼 있나

AI 도구의 보안성을 평가하는 조직의 비율은 2025년 37%에서 2026년 64%로 급증했다. 이는 AI 보안 인식의 빠른 성숙을 보여주지만, 여전히 36%의 조직이 AI 도구 보안 평가를 수행하지 않고 있다.

위협 유형	방어 전략	우선순위
프롬프트 인젝션	입출력 필터링, 샌드박싱, 컨텍스트 격리	최상
모델 탈옥	레드팀 테스팅, 다중 안전 레이어, 모니터링	상
데이터 오염	학습 데이터 검증, 출처 추적, 이상 탐지	상
에이전트 공격	도구 접근 제한, 최소 권한 원칙, 감사 로그	상
데이터 유출	DLP 정책, 출력 필터링, 민감 데이터 마스킹	최상

위협은 어디로 향하고 있나

AI 보안 위협 환경은 몇 가지 방향으로 진화하고 있다. MCP 등 에이전트 프로토콜의 보급으로 공격 벡터가 다양해지며 에이전트 시스템 공격 표면이 넓어지고, EU AI Act 시행과 함께 AI 시스템 보안 요구사항이 의무화되는 규제 강화가 진행되며, AI를 이용해 AI 취약점을 탐지하는 자동화된 레드팀이 확산되고, 오픈소스 AI 모델과 프레임워크의 신뢰성 검증 필요성이 커지면서 공급망 보안의 중요성이 커지고 있다.

AI 관련 취약점이 2025년 가장 빠르게 성장한 사이버 리스크 카테고리로 부상한 것은 AI 시스템의 실무 통합이 가속화되면서 공격 표면이 동시에 확대되고 있기 때문이다. 프롬프트 인젝션, 모델 탈옥, 데이터 오염, 에이전트 시스템 공격 등 AI 고유의 위협은 기존 보안 체계만으로는 대응이 불가하며, OWASP LLM Top 10과 에이전트 Top 10을 기반으로 한 체계적 보안 전략이 필수적이다. 2026년에는 AI 에이전트 생태계의 확산과 함께 보안 위협이 더욱 정교해질 것으로 예상되므로, 선제적 보안 투자와 조직 차원의 AI 보안 거버넌스 수립이 시급하다.