LangChain이 에이전트 트레이스 전용 데이터베이스를 새로 만든 이유

LangChain이 AI 에이전트 관측성 전용 분산 데이터베이스 SmithDB를 출시했다. Rust와 Apache DataFusion 쿼리 엔진, Vortex 컬럼형 파일 포맷을 결합해 트레이스 트리 로드 P50 92ms, 전문 검색 400ms, 런 필터링 82ms의 성능을 달성했으며, 기존 LangSmith 스택 대비 최대 15배 빠른 관측성 경험을 제공한다. 현재 미국 클라우드 수집과 트레이싱 UI 쿼리의 100%를 SmithDB가 처리하고 있다.

관계형 DB로는 에이전트 트레이스를 감당할 수 없다

현대 AI 에이전트 트레이스는 수백 개의 중첩된 스팬, 멀티모달 콘텐츠(텍스트·이미지·오디오), 수 시간 동안 열린 채 유지되는 롱-런닝 스팬을 포함한다. 전통적인 관측성 스토어가 설계된 마이크로서비스 트레이스와는 데이터 볼륨과 쿼리 패턴이 근본적으로 다르다. 관계형 DB는 수백 스팬의 계층적 조인에서 지수적으로 성능이 저하되고, 범용 컬럼형 스토어는 에이전트 특화 전문 검색과 실시간 스트리밍 수집을 동시에 지원하지 못한다.

SmithDB는 오브젝트 스토리지 기반 LSM(Log-Structured Merge Tree) 구조로 설계됐다. 세 레이어로 구성된다. 수집 레이어는 상태를 갖지 않는(Stateless) 수집 서비스가 에이전트 SDK로부터 스팬 스트림을 수신한다. 스팬은 인메모리 버퍼에 누적된 뒤 Vortex 형식으로 직렬화되어 오브젝트 스토리지에 플러시된다. 로컬 디스크 의존성이 없어 컨테이너 재시작 시 데이터 손실이 없다. 스토리지 레이어는 Vortex 파일 포맷이 데이터 지역성을 최대화하도록 컬럼별로 압축 저장하고, Postgres 메타데이터 스토어는 파일 매니페스트, 파티션 메타정보, 인덱스 위치만 관리하며 실제 데이터는 오브젝트 스토리지에 위치한다. 쿼리 레이어는 Apache DataFusion 기반 쿼리 엔진이 SQL 쿼리를 물리적 실행 계획으로 변환하고, LangSmith 특화 커스텀 실행 플랜이 트레이스 트리 재구성, 스팬 집계, 전문 검색을 최적화한다.

⤢✕

에이전트 트레이스는 시작 시각 기준으로 파티셔닝되며, 시계열 인덱스는 특정 시간 범위의 트레이스 조회 시 불필요한 파일 스캔을 건너뛴다. 실시간 수집은 Kafka 호환 스트리밍 인터페이스를 통해 스팬이 생성되는 즉시 수집 레이어로 전달되며, 배치 플러시 주기는 구성 가능하다(기본값 5초).

Rust와 DataFusion이 만드는 속도

Apache DataFusion은 Rust로 구현된 임베디드 분석 쿼리 엔진으로, Arrow 컬럼형 메모리 포맷 위에서 SIMD 명령어를 활용한 벡터화 실행(Vectorized Execution)을 지원한다. LangSmith 팀은 DataFusion의 확장 포인트(Custom ExecutionPlan 트레이트)를 구현해 에이전트 트레이스 특화 최적화를 추가했다.

파티션 프루닝은 쿼리의 시간 범위 조건과 프로젝트 ID를 분석해 불필요한 오브젝트 스토리지 파일을 스캔 전 제거한다. 일반적인 트레이스 조회에서 전체 데이터의 95% 이상을 스캔 대상에서 제외한다. 트리 재구성 플랜은 스팬 계층 구조를 중첩 조인 없이 해시맵 기반으로 재구성한다. 부모 스팬 ID를 키로 해시맵을 빌드한 뒤 단일 패스로 트리를 조립하므로, 수백 스팬의 중첩 트레이스도 선형 시간에 처리된다.

Vortex는 Apache Arrow와 호환되는 컬럼형 파일 포맷으로, Linux Foundation AI & Data의 인큐베이션 프로젝트다. SmithDB에서 Vortex를 선택한 이유가 있다.

특성	Parquet	Vortex
압축 방식	컬럼별 독립 압축	중첩 인코딩 + 적응형 압축
랜덤 접근	페이지 단위	배열 청크 단위 (더 세밀)
인메모리 포맷	별도 역직렬화 필요	Arrow 직접 매핑
트레이스 특화	미지원	중첩 구조 네이티브 지원

Rust의 소유권 모델 덕분에 쿼리 실행 중 메모리 누수나 이중 해제가 발생하지 않는다. DataFusion의 메모리 풀 API를 통해 대형 쿼리의 메모리 상한을 설정하고, 초과 시 디스크 스필(Spill)로 전환한다. 병렬 쿼리는 파티션별로 독립적인 Tokio 비동기 태스크로 실행되며, 코어 수에 따라 자동 스케일된다.

기존 스택 대비 15배, 그리고 경쟁 구도

기존 LangSmith는 Postgres 기반의 범용 관계형 스토리지를 사용했다. 에이전트 복잡도가 증가하면서 중첩 스팬 조인 쿼리의 레이턴시가 수 초 단위로 늘어나는 문제가 발생했다. SmithDB 전환 이후 트레이스 로드는 P50 92ms(최대 15배 개선), 전문 검색은 P50 400ms를 달성했다.

2026년 AI 에이전트 관측성 시장은 LangSmith, Langfuse, Arize AI 세 플랫폼이 주요 경쟁자다. Langfuse는 오픈소스 코어로 자체 호스팅 친화적이고, Arize AI는 ML 모델 평가에 강점이 있다. SmithDB는 LangSmith의 자체 데이터 레이어로, 오브젝트 스토리지 기반 설계 덕분에 자체 호스팅 환경에서도 로컬 디스크 관리 없이 배포 가능하다.

SmithDB의 전문 검색 기능은 에러 메시지·도구 이름·출력 값을 인덱싱해 에이전트 실패를 신속히 추적할 수 있게 한다. 오브젝트 스토리지 기반 아키텍처는 핫 데이터와 콜드 데이터를 자동으로 티어링해 스토리지 비용을 절감한다. 수집 레이어가 상태를 갖지 않으므로 트래픽 급증 시 수평 확장이 즉시 가능하다.

SmithDB는 범용 데이터베이스의 한계를 AI 에이전트 트레이스 관측성 특화 아키텍처로 극복한 사례다. Rust의 안전한 메모리 관리, Apache DataFusion의 확장 가능한 쿼리 엔진, Vortex의 고압축 컬럼형 포맷이 조합되어 P50 92ms라는 실용적 성능을 달성했다. 오브젝트 스토리지 기반 LSM 구조는 자체 호스팅과 멀티클라우드 배포를 모두 지원하며, AI 에이전트 복잡도가 계속 증가하는 2026년 관측성 플랫폼의 기준점을 새로 설정했다.

관계형 DB로는 에이전트 트레이스를 감당할 수 없다

Rust와 DataFusion이 만드는 속도

기존 스택 대비 15배, 그리고 경쟁 구도

Sources

함께 읽기