프롬프트가 아니라 환경을 설계한다: 컨텍스트 엔지니어링과 성숙도 피라미드

2026년 들어 AI 실무 커뮤니티에서 "컨텍스트 엔지니어링(Context Engineering)"이라는 용어가 빠르게 확산되고 있다. arXiv 논문 "Context Engineering: From Prompts to Corporate Multi-Agent Architectures"(2603.09619)는 정적 프롬프트 최적화에 집중하는 프롬프트 엔지니어링의 한계를 지적하며, 에이전트 런타임이 수신하는 컨텍스트 전체를 체계적으로 설계하고 동적으로 관리하는 새로운 패러다임을 제시한다. 75%의 기업이 2년 내 에이전틱 AI 도입을 계획하는 시점에서 컨텍스트 엔지니어링은 프로덕션 AI 시스템의 핵심 설계 역량으로 부상하고 있다.

무엇을 묻느냐가 아니라, 무엇이 둘러싸고 있느냐

컨텍스트 엔지니어링은 LLM에 전달되는 컨텍스트 창 전체의 구조, 포맷, 정보 배치를 체계적으로 설계하고 런타임에 동적으로 관리하는 실천 체계다. 핵심 정의는 간단하다. 프롬프트 엔지니어링이 "어떻게 물을 것인가(how you ask)"에 집중한다면, 컨텍스트 엔지니어링은 "어떤 정보가 요청을 둘러싸고 있는가(what information surrounds your request)"에 집중한다.

프롬프트 엔지니어링이 단일 API 호출에서 텍스트 입력을 최적화하는 정적 접근법이라면, 컨텍스트 엔지니어링은 에이전트가 여러 단계에 걸쳐 다양한 도구, 메모리, 외부 데이터를 활용하는 동적 오케스트레이션 체계다. 단순 챗봇에서 자율 멀티에이전트 시스템으로 AI가 진화하면서, 정적 프롬프트 최적화만으로는 시스템 성능을 제어하기 어렵다는 실무적 인식이 이 패러다임 전환을 이끌고 있다.

프롬프트에서 의도까지, 누적되는 성숙도

arXiv 2603.09619 논문은 에이전트 엔지니어링의 성숙도를 피라미드 모델로 체계화한다. 각 단계는 이전 단계를 필수 토대로 삼는 누적 구조다.

프롬프트 엔지니어링(Prompt Engineering)은 개별 LLM 호출에서 입력 텍스트를 최적화한다. Chain-of-Thought, Few-shot 예시, 역할 지정 등의 기법이 여기에 해당한다. 단일 호출의 품질을 높이는 데 효과적이지만, 멀티-스텝 에이전트 워크플로우에서는 한계를 드러낸다.

컨텍스트 엔지니어링(Context Engineering)은 에이전트 런타임이 수신하는 전체 컨텍스트를 설계한다. 시스템 프롬프트, 인컨텍스트 학습 예시, 도구 스펙, 메모리 레이어, RAG 통합이 모두 이 범주에 속한다. 동적으로 구성되는 컨텍스트 창 전체를 하나의 설계 단위로 취급한다.

명세 엔지니어링(Specification Engineering)은 기업 정책, 표준, 운영 절차를 기계가 읽을 수 있는 형식으로 코드화한다. 에이전트가 자율적으로 의사결정할 때 참조할 수 있는 구조화된 규범 체계를 구축한다.

의도 엔지니어링(Intent Engineering)은 조직의 목표, 가치관, 트레이드오프 우선순위를 에이전트 인프라에 내재화한다. 가장 높은 수준의 추상화로, 에이전트가 명시적 지시 없이도 조직의 의도에 부합하는 의사결정을 할 수 있도록 한다.

⤢✕

시스템 프롬프트부터 RAG까지, 컨텍스트를 이루는 조각들

컨텍스트 엔지니어링의 실천은 다음 구성요소들을 체계적으로 설계하는 작업이다.

시스템 프롬프트(System Prompt)는 에이전트의 역할, 행동 규범, 제약 조건을 정의한다. 정적으로 고정되는 것이 아니라 배포 환경, 사용자 컨텍스트, 세션 상태에 따라 동적으로 조정될 수 있다.

인컨텍스트 학습(In-Context Learning, ICL)은 추론 시점에 관련 예시를 컨텍스트에 포함시켜 모델의 행동을 유도한다. 어떤 예시를 선택하고, 어떤 순서로 배치하고, 얼마나 포함할지가 모두 설계 결정이다.

도구 스펙(Tool Specification)은 에이전트가 사용할 수 있는 함수와 API를 정의한다. 도구 설명의 명확성, 매개변수 타입 정의, 사용 예시의 품질이 에이전트의 도구 활용 능력에 직접 영향을 미친다.

메모리 레이어(Memory Layer)는 단기 메모리(현재 세션 컨텍스트), 장기 메모리(외부 데이터베이스), 의미론적 메모리(벡터 검색)를 계층적으로 관리한다. 각 레이어의 갱신 정책과 검색 전략이 컨텍스트 품질을 결정한다.

RAG 통합(Retrieval-Augmented Generation)은 외부 지식 베이스에서 관련 정보를 검색해 컨텍스트에 동적으로 포함시킨다. 검색 쿼리 설계, 청크 크기, 재순위화(Reranking) 전략이 RAG 성능의 핵심 변수다.

⤢✕

컨텍스트를 진화하는 플레이북으로

arXiv 2510.04618 논문이 제안한 에이전틱 컨텍스트 엔지니어링(ACE)은 한 단계 더 나아간다. ACE는 컨텍스트를 정적인 입력이 아닌 진화하는 플레이북으로 취급한다. 에이전트가 작업을 수행하면서 발견한 전략, 오류 패턴, 성공 사례를 컨텍스트에 누적하고 정제하는 모듈식 생성-반영-큐레이션 프로세스를 통해 에이전트가 경험을 통해 자기 개선하는 메커니즘을 구현한다.

이 접근법은 특히 장기 실행 작업이나 반복 작업에서 강력하다. 초기 실행에서 학습된 전략이 후속 실행의 컨텍스트에 자동으로 반영되어, 작업 반복 횟수가 증가할수록 성능이 향상되는 자기 강화 루프가 형성된다.

규모를 키우려면 거버넌스가 먼저다

2026년 현재 75%의 기업이 에이전틱 AI 도입을 계획하지만, 실제 배포 후 규모 확장에 어려움을 겪는 사례가 증가하고 있다(KPMG 2026). 그 핵심 원인 중 하나가 컨텍스트 거버넌스의 부재다.

기업 멀티에이전트 환경에서 컨텍스트 거버넌스는 다음 원칙을 따라야 한다.

컨텍스트 일관성은 여러 에이전트가 협력할 때 각 에이전트가 서로 모순되지 않는 컨텍스트를 유지해야 한다는 원칙이다. 오케스트레이터 에이전트가 하위 에이전트에 전달하는 컨텍스트의 범위와 형식을 표준화하는 것이 핵심이다.

컨텍스트 보안은 에이전트가 접근할 수 있는 정보의 범위를 역할 기반으로 제한해야 한다는 원칙이다. 민감 정보가 불필요하게 컨텍스트에 포함되어 유출되는 위험을 방지한다.

컨텍스트 감사는 각 에이전트 호출에서 컨텍스트 창의 내용을 기록하고 추적해야 한다는 원칙이다. 문제 발생 시 어떤 정보가 어떤 에이전트에 전달됐는지 재현할 수 있어야 한다.

컨텍스트 비용 최적화는 컨텍스트 창의 크기가 직접적으로 API 비용과 지연 시간에 영향을 미친다는 인식에서 나온다. 관련성 낮은 정보를 제거하고 필수 정보를 압축하는 컨텍스트 최적화 전략이 운영 비용 절감의 핵심 레버다.

로드맵이자 성숙도 지표

컨텍스트 엔지니어링은 프롬프트 엔지니어링의 단순한 발전이 아니라, AI 시스템 설계 철학의 근본적 전환이다. 단일 호출의 입력 텍스트를 다듬는 것에서 에이전트 런타임이 수신하는 전체 정보 환경을 동적으로 설계하고 관리하는 것으로 초점이 이동했다. 피라미드 모델이 제시하는 체계—프롬프트 엔지니어링에서 컨텍스트 엔지니어링, 명세 엔지니어링, 의도 엔지니어링으로—는 기업 에이전틱 AI 도입의 성숙도 지표이자 로드맵으로 기능한다. 실무에서 이 패러다임을 내재화한 팀이 프로덕션 에이전틱 AI 시스템의 품질과 비용 효율성에서 결정적 우위를 확보하게 될 것이다.