에이전트 메모리 설계: 승격·만료·폐기로 만드는 이중 계층 구조

기억을 쌓는 일보다 남길 내용을 고르는 일이 먼저다

에이전트 메모리는 단계, 세션, 사용자 상호작용을 넘어서 유지되는 영속 상태다. 2026년의 메모리 설계는 프롬프트를 길게 만드는 문제가 아니라 모델의 컨텍스트 창과 분리된 구성 요소를 만드는 문제로 다뤄진다.

작업 메모리는 현재 세션의 활성 프롬프트, 최근 대화 턴, 실시간 도구 출력을 담는다. 세션이 끝나면 비워지는 영역이다. 반면 장기 메모리는 에이전트 수명 주기 동안 축적되며 세션이 끝난 뒤에도 남는다.

대화 이력을 작업·에피소드·의미 계층으로 나누고, 적응형 회수 게이팅과 보존 정규화를 적용하는 다계층 프레임워크도 제시되고 있다. 실무 메모리 시스템에서는 임베딩, 청킹, 사실 추출, 모순 해소가 적재 단계에 함께 들어가는 구성이 일반적이다.

버퍼가 토큰 상한에 가까워지면 오래된 턴은 요약한다. 이때 논리적 결론은 남기되 원시 도구 출력은 버린다. 모든 내용을 영구 보관하면 오래된 오류도 다시 호출되고, 아무것도 남기지 않으면 매 세션 같은 설명을 반복하게 된다.

단기 버퍼와 장기 저장소의 경계를 세운다

단기 버퍼에는 최근 대화와 활성 도구 출력을 원문으로 유지한다. 다만 상한에 접근하면 결론 중심의 요약으로 바꾸고 원시 출력은 폐기한다. 세션 종료 시 버퍼를 비우는 규칙도 분명해야 한다. 이 경계가 없으면 단기 상태와 장기 상태가 뒤섞인다.

장기 저장소로 보내는 조건은 반복 등장, 사용자의 명시 지시, 확정된 결정으로 좁힌다. 한 번 언급된 정보까지 저장 대상으로 삼으면 대화 로그 사본이 될 뿐이다. 저장된 항목에는 근거가 된 세션 식별자를 함께 남겨야 한다. 나중에 저장 이유를 추적할 단서가 된다.

사실과 선호는 별도의 저장소에 두는 편이 낫다. 검증 가능한 사실은 틀리면 정정해야 하고, 선호는 바뀌면 갱신해야 하므로 수명 관리 방식이 다르다. 선호는 짧고 재사용률이 높아 회수 예산에서 우선순위를 높게 둘 가치가 있다.

항목 유형별 유효 기간을 두고, 기간이 지나면 삭제하거나 재확인 대상으로 전환한다. 만료가 없는 저장소에서는 오래된 항목도 최신 정보와 같은 무게로 회수되어 정확도가 낮아진다. 시간 경과와 미확인 기간에 따라 신뢰도를 낮추면 오래된 항목은 자연스럽게 정렬 순위에서 내려간다. 감쇠는 삭제와 다르므로, 다시 확인할 근거가 생기면 신뢰도를 복원할 수 있어야 한다.

새 항목이 기존 정보와 충돌할 때는 최신 항목을 채택하되 기존 항목을 바로 지우지 않고 폐기 표시로 남긴다. 모순 검출은 회수 시점이 아니라 적재 시점에 해야 한다. 회수 단계에서 발견하면 충돌한 두 항목이 이미 같은 컨텍스트에 들어온 뒤다.

회수 정렬에는 유사도만 쓰지 않는다. 최근성, 항목 유형, 신뢰도를 함께 반영해야 오래된 유사 항목이 계속 상위에 오르는 문제를 줄일 수 있다. 회수 항목 수 자체도 예산으로 제한해 메모리가 검색 결과의 자리를 과도하게 차지하지 않도록 한다.

개인정보는 저장 금지 범주를 미리 정의하고 적재 단계에서 걸러야 한다. 저장 후 삭제하려면 회수 캐시와 파생 요약까지 따라가야 하므로 훨씬 복잡하다. 정보 주체별 조회와 일괄 삭제 경로도 처음부터 마련해야 한다.

⤢✕

저장 정책은 스키마와 함께 결정한다

저장할 대상은 범주부터 정한다. 허용 범주만 정의하지 말고 저장 금지 범주도 같은 문서에 적어야 허용과 금지 판단이 한 흐름에서 이뤄진다. 범주 없이 시작하면 저장소가 결국 대화 로그 복제본이 된다.

반복 횟수의 임계와 명시 지시 표현도 구체화해야 한다. 임계가 낮으면 잡음이 쌓이고, 높으면 필요한 기억이 비어 있다. 초기에는 보수적으로 잡은 뒤 미승격 때문에 재설명이 발생하는 빈도를 보며 낮춘다.

저장소 항목에는 유형, 신뢰도, 출처 세션, 유효 기간, 폐기 표시를 필수 필드로 둔다. 이 필드가 빠지면 만료와 감쇠를 구현할 수 없다. 자유 텍스트 하나만 저장하는 방식으로는 나중에 유형별 정책을 적용하기 어렵다.

유효 기간은 항목 유형마다 달라야 한다. 조직 정책은 길게 두고 진행 중인 작업 상태는 짧게 잡는 방식이 기본이다. 만료 예정 항목에 대한 사전 알림 경로도 필요하다. 중요한 정보가 조용히 사라지는 상황을 막기 위해서다.

모순 여부는 적재 시 같은 대상을 가리키는 기존 항목을 조회해 판정한다. 자동 판단이 어려운 충돌은 사람 확인 대기열로 보내고, 판단 전까지 양쪽 모두 회수 대상에서 제외한다.

정보 주체의 삭제 요청은 항목만 지우는 작업이 아니다. 해당 항목이 반영된 요약과 회수 캐시도 삭제 범위에 넣어야 한다. 삭제 완료를 확인할 조회 경로와 처리 이력도 남긴다.

저장 범주 확대와 만료 기간 연장은 승인 대상으로 관리할 필요가 있다. 메모리 저장소의 접근 권한 역시 대화 로그 권한과 분리한다.

대화 로그만 남기는 방식과의 차이

구분	이중 계층 메모리	단일 대화 로그 유지
맥락 정확도	높음	시간 경과 시 하락
저장 비용	낮음	지속 증가
오류 정정	가능	곤란
구현 난도	높음	낮음
회수 지연	짧음	김
개인정보 통제	범주 단위	전량 단위

이중 계층 메모리는 승격된 항목만 장기 보관하므로 저장량을 억제할 수 있다. 만료와 감쇠는 오래된 오류가 반복 회수되는 일을 줄이고, 항목 단위 정정과 삭제는 개인정보 요구 대응에도 유리하다. 회수 대상이 적어 지연도 짧다. 대신 승격, 만료, 모순 조정을 모두 구현해야 하며 승격 판단을 잘못하면 필요한 정보가 애초에 저장되지 않는다.

단일 대화 로그 유지는 구현 부담이 거의 없고 무엇을 저장할지 결정하지 않아도 되므로 누락이 발생하지 않는다. 그러나 시간순 로그가 계속 쌓이는 구조에서는 틀린 내용을 고치거나 중복을 합치기 어렵다. 저장량과 회수 지연은 계속 늘고, 개인정보 삭제 요청이 오면 로그 전체가 대응 단위가 된다. 승격 기준이 아직 불확실하다면 로그는 원본으로 보존하되 회수는 승격된 항목에서만 수행하는 병행 구성이 안전하다.

자동 승격은 사용자 조작 없이 맥락을 축적해 재설명 부담을 줄이고 대화 흐름을 끊지 않는다. 하지만 잘못 해석된 내용이 사실처럼 굳어 이후 세션에 영향을 줄 수 있으며, 사용자는 자신에 관한 저장 내용을 알지 못할 수 있다. 사용자 확인 승격은 동의를 거친 저장으로 오기억 위험을 낮추고 저장 사실을 투명하게 만들지만, 확인 요청이 반복되면 사용자가 무조건 승인하게 될 수 있다. 사실은 자동 승격하고 사용자 선호와 개인정보는 확인을 거치게 하는 유형별 분리가 두 위험을 나눠 다룬다.

구조화된 사실 저장은 유형, 신뢰도, 유효 기간 같은 정책 필드를 붙일 수 있어 만료와 감쇠를 적용하기 쉽다. 항목 단위 비교가 가능해 모순 검출이 정확해지고, 회수 시 필요한 정보만 정밀하게 가져올 수 있다. 반대로 추출 과정에서 뉘앙스와 조건이 사라질 수 있고 추출기 자체가 오류원이 된다. 원문 요약 저장은 구현이 단순하며 맥락과 조건이 서술로 남지만, 부분 정정과 모순 검출이 어렵고 필요 없는 내용까지 회수 예산을 차지할 수 있다. 핵심 사실은 구조화하고 판단 근거는 요약으로 붙이는 이원 저장이 회수 정확도와 맥락 보존을 함께 노리는 방식이다.

데이터 관리와 개인정보보호 관점에서 보는 메모리

사실과 선호를 분리하는 구조는 데이터 성격에 따라 저장소를 나누는 원칙의 적용이다. 항목 유형, 신뢰도, 출처를 필수 필드로 두는 설계는 메타데이터 관리의 기본 요건이기도 하다.

저장 금지 범주를 적재 단계에서 차단하는 방식은 수집 최소화 원칙을 기술적으로 구현한 것이다. 정보 주체별 조회와 일괄 삭제 경로는 삭제권 대응을 위한 필수 설계가 된다.

승격, 만료, 감쇠, 폐기로 이어지는 흐름은 정보 생애주기 관리 모델과 직접 연결된다. 특히 파생 요약과 캐시까지 삭제 범위에 포함해야 폐기 단계가 완결된다.

독립된 메모리 계층으로 향하는 흐름

메모리를 모델 창과 분리된 독립 구성 요소로 두는 설계는 에이전트 프레임워크의 기본형으로 굳어지는 방향이다. 작업·에피소드·의미 계층으로 분해하는 다계층 메모리는 이중 계층을 대체하며 확산되는 흐름에 있다.

회수 정확도, 신선도, 충돌률을 함께 측정하는 메모리 전용 평가 지표도 표준화되는 방향이다. 개인정보 삭제 요구 대응은 메모리 시스템 도입에서 필수 심사 항목으로 요구되는 흐름이다.

저장 이전에 폐기 기준을 설계한다

메모리 설계의 핵심은 저장 방식보다 승격과 폐기의 기준이다. 반복, 명시, 확정으로 승격 조건을 좁히고, 만료와 신뢰도 감쇠로 오래된 항목을 밀어내며, 사실과 선호를 구분해 관리하는 구조가 이중 계층 메모리의 뼈대가 된다.

한번 저장된 정보는 파생 요약과 캐시까지 삭제 범위를 넓힌다. 그래서 저장 금지 범주를 적재 단계에서 걸러내는 일이 사후 삭제 대응보다 훨씬 값싸다.