GPT-5.5·Qwen 3.7 Max·SubQ로 읽는 LLM 경쟁 구도

하나의 순위로 설명하기 어려워진 LLM 시장

2026년 5월, OpenAI·Alibaba·Subquadratic은 30일 남짓한 기간에 GPT-5.5·Qwen 3.7 Max·SubQ를 잇달아 공개했다. 세 모델이 내세운 강점은 서로 달랐다. GPT-5.5는 환각 제어와 에이전틱 워크플로우, Qwen 3.7 Max는 장기 자율 실행, SubQ는 초장문 컨텍스트의 연산 구조를 전면에 배치했다.

같은 시기의 경쟁 모델까지 포함하면 구도는 더 복잡하다. 2026년 4월 23일 출시된 GPT-5.5 외에 Claude Opus 4.7은 SWE-Bench Verified 87.6%로 코딩 부문 1위를 기록했고, Gemini 3.5 Flash는 속도·멀티모달·비용 효율을 강점으로 삼았다. 2026년 5월 19일 공개된 Qwen 3.7 Max는 35시간 자율 에이전트 실행 기록을 제시했다. DeepSeek V4 Pro는 가성비 지표와 중국 LLM 리더보드 점수 87로 선두에 올랐으며, 2026년 5월 5일 출시된 SubQ는 12M 토큰을 처리하는 서브쿼드라틱 아키텍처를 내놓았다.

이 시장을 읽을 때는 정확성만 볼 수 없다. 환각 감소·팩트 체크·근거 생성 능력, 장기 자율 실행·툴콜 정확도·멀티스텝 플래닝, 장문 처리 비용·속도·품질, 허깅페이스 파생 모델 수·API 호환성·오픈소스 전략이 각각 별도의 경쟁 축을 이룬다.

GPT-5.5는 모델 밖의 검증 과정까지 묶는다

GPT-5.5의 SWE-Bench Verified는 88.7%, MMLU는 92.4%다. 가격은 백만 토큰당 입력 $5, 출력 $30로 책정됐으며 GPT-5.4보다 약 2배 비싸다. GPT-5.x 시리즈의 단일 릴리즈 가운데 가장 큰 가격 인상이다.

환각 60% 감소를 해석할 때 볼 조건

OpenAI 공식 발표에 따르면 개별 클레임의 팩트 정확도는 23% 향상됐고, 응답당 팩트 오류는 3% 감소했다. 다만 “60% 감소”는 OpenAI 시스템 카드에 직접 적힌 수치가 아니라 툴 사용과 검색 그라운딩 조건에서 얻은 측정값이다.

Artificial Analysis의 독립 평가에서는 AA-Omniscience 기준으로 자체 파라미터에 의존할 때 환각률이 86%였으며, 이는 Claude Opus 4.7보다 2배 이상 높았다. 따라서 개선의 중심을 순수 파라미터 품질에만 두기보다 툴 사용, RAG, 검증 루프를 포함한 컨텍스트 엔지니어링에서 찾아야 한다.

처리 과정은 외부 근거를 가져오고, 불확실한 출력을 판별한 뒤, 필요한 경우 다시 검증하는 식으로 구성된다. 추론 중 외부 검색 API를 호출하고 클레임별 출처를 추적해 인라인 근거 태그를 붙인다. 프롬프트 처리 전에는 검색 쿼리를 만들고 문서 청크를 주입하며, 컨텍스트 안에서 근거 문서의 우선순위를 조정한다.

출력 토큰별 신뢰도 점수를 이용한 불확실성 캘리브레이션도 포함된다. 신뢰도가 낮은 구간은 “확인 불가”나 대안 표현으로 바꾼다. 초안 생성 후 자가 비평과 수정 재생성을 거치며, 에이전트 모드에서는 툴 콜 결과를 교차 검증한다.

⤢✕

출력 토큰 $30/M이라는 가격은 법무·금융·의료처럼 데이터 정확성을 요구하는 고부가가치 기업 에이전트 워크플로우를 겨냥한다. OpenAI가 인프라 최적화를 마친 뒤 12~~18개월 안에 가격을 40~~60% 낮춰온 역사적 패턴을 적용하면 이후 가격 하락을 예상할 수 있지만, 현재 포지션은 프리미엄 에이전트 시장이다.

Qwen 3.7 Max는 자율 실행 시간을 경쟁력으로 삼았다

Alibaba Group Qwen 팀은 2026년 5월 19일 공식 블로그의 “Qwen3.7: The Agent Frontier”를 통해 Qwen 3.7 Max를 발표했다. 이 모델은 Alibaba Cloud Model Studio API로만 접근할 수 있으며 오픈소스나 오픈웨이트 모델이 아니다.

이 선택은 이전 세대와 대비된다. Qwen3.6 시리즈는 허깅페이스 누적 7억 다운로드와 113,000개 이상의 파생 모델을 확보했다. Qwen3.7 Max에서는 독점 클라우드 모델로 방향을 바꾸면서 수익화와 기업 계약에 무게를 실었다. 오픈웨이트 생태계에서 경쟁 우위를 확보한 뒤 상용화 단계로 이동한 셈이며, Meta와 Google의 오픈소스 전략과도 다른 경로다.

긴 맥락을 유지하며 툴을 반복 호출한다

Qwen 3.7 Max의 컨텍스트 윈도우는 1M 토큰이다. 장문 컨텍스트 어텐션을 다시 구성해 윈도우 말단의 검색 품질을 유지하고, 기존 LLM에서 나타나는 Lost-in-the-Middle 현상을 완화했다.

확장 사고 모드는 최종 응답을 내기 전에 내부 체인 오브 쏘트를 생성한다. 고난도 논리 추론, 과학 계산, 전문가 수준 쿼리가 주요 대상이다.

에이전트 성능을 보여주는 기록은 단일 세션의 35시간 자율 실행이다. 이 과정에서 1,158개 툴 콜과 432회 커널 평가를 수행했으며, 반복적인 코드 개선으로 기하평균 10.0배의 속도 향상을 달성했다.

OpenAI API와 Anthropic API 스펙을 모두 지원하는 것도 운영 측면의 특징이다. 기존 OpenAI 또는 Anthropic SDK 기반 코드베이스에서 최소한의 변경으로 전환할 수 있다.

SubQ는 어텐션 비용 구조 자체를 바꾸려 한다

마이애미의 스타트업 Subquadratic은 시리즈 A로 $2,900만을 유치하고 2026년 5월 5일 SubQ를 출시했다. 핵심 주장은 완전한 서브쿼드라틱, 즉 선형 스케일링 어텐션을 처음 구현한 LLM이라는 것이다.

SSA가 전체 토큰 비교를 줄이는 방식

기존 Dense Attention의 연산 복잡도는 O(n²)다. 시퀀스가 길어질수록 연산량이 길이의 제곱에 비례해 늘어난다. SubQ가 사용하는 SSA(Subquadratic Sparse Attention)는 O(n) 복잡도를 내세우며, 12M 토큰에서 어텐션 연산량을 약 1,000배 줄인다고 주장한다.

SSA는 각 토큰을 전체 시퀀스와 비교하지 않는다. 관련성이 높은 토큰의 서브셋을 선택하고, 학습으로 결정한 동적 희소성 패턴에 따라 계산 범위를 좁힌다. 1M 토큰 처리에서는 FlashAttention보다 약 52배 빠르며 GPU 메모리 피크 사용량을 줄여 단일 노드에서 초장문을 처리할 수 있다는 설명이다.

12M 토큰 컨텍스트는 청크 단위로 나뉜다. 분산 추론 과정에서는 청크 사이의 상태 전달을 최소화하는 메시지 패싱 프로토콜을 사용한다.

⤢✕

유사 워크로드에서의 비용은 Claude Opus와 GPT-5.5 가격의 약 1/5 수준이다. 장문 문서 분석, 법률 계약 검토, 전체 코드베이스 이해처럼 대용량 컨텍스트가 필요한 작업에서 경제성을 내세울 수 있는 구조다.

다만 성능 수치는 모두 벤더 자체 측정이며 독립 재현이 끝나지 않았다. 전체 테크니컬 리포트와 모델 웨이트도 공개되지 않았다. Mamba·RWKV·DeepSeek Sparse Attention 등 앞선 서브쿼드라틱 아키텍처가 프론티어 스케일에서 트랜스포머보다 낮은 성능을 반복해서 보였다는 선례도 있다. 독립 벤치마크가 공개되기 전에는 실사 관점에서 주장을 비판적으로 받아들여야 한다.

성능표보다 먼저 사용 조건을 맞춘다

항목	GPT-5.5	Qwen 3.7 Max	SubQ
출시일	2026-04-23	2026-05-19	2026-05-05
컨텍스트 윈도우	미공개(추정 256K)	1M 토큰	12M 토큰
어텐션 방식	Dense Transformer	개선 Dense	SSA 서브쿼드라틱
오픈소스	아님	아님	아님
입력 가격/1M	$5	미공개	GPT-5.5 대비 약 1/5
출력 가격/1M	$30	미공개	GPT-5.5 대비 약 1/5
에이전트 특화	높음	매우 높음	낮음
환각 제어	컨텍스트 엔지니어링 기반	확장 사고 모드	미측정
독립 검증	부분 완료	부분 완료	미완료

기업 에이전트 자동화에서 정확성을 우선한다면 GPT-5.5가 맞는다. 생태계 성숙도와 툴 통합, 검증된 에이전트 신뢰성이 선택 근거다.

35시간 이상 중단 없이 돌아가는 장기 자율 에이전트에는 Qwen 3.7 Max가 대응한다. 35시간 연속 자율 실행 기록과 1M 컨텍스트가 장기 작업의 맥락 유지에 연결된다.

10M 토큰이 넘는 초장문을 단일 프롬프트로 처리해야 한다면 SubQ가 후보가 된다. 근거는 12M 컨텍스트, 1/5 가격, 52배 속도 향상 주장이다. 단, 적용 판단은 독립 검증 이후로 미루는 편이 안전하다.

코딩 생산성을 독립 검증된 벤치마크로 판단할 때는 SWE-Bench 87.6%를 기록한 Claude Opus 4.7이 권장 모델이다.

가격 측면에서는 DeepSeek V4 Pro가 가성비 선두에 있고, GPT-5.5와 Qwen 3.7 Max는 프리미엄 에이전트 영역에 자리한다. SubQ는 검증을 조건으로 장문 처리의 저비용 모델을 지향한다. Qwen3.6·Llama 4·Gemma 4를 포함한 오픈소스 경쟁은 클라우드 독점 모델 가격에 하방 압력을 가하는 요인이다.

⤢✕

아키텍처 경쟁이 갈라지는 지점

GPT-5.5는 고밀도 트랜스포머를 유지하면서 외부 툴, RAG, 검증 루프로 결과 품질을 보완한다. 현재 생태계와 툴체인을 그대로 활용할 수 있다는 점이 이 접근의 강점이다.

Qwen 3.7 Max도 트랜스포머 계열이지만 최적화의 중심을 장기 자율 실행, 툴 오케스트레이션, 멀티스텝 플래닝에 둔다. 에이전트 워크플로우에서 실제 자율 실행 기록을 제시했다는 점이 구분된다.

SubQ의 SSA는 Mamba·RWKV·선형 어텐션으로 이어진 서브쿼드라틱 계열에 속한다. 목표는 선형 복잡도로 초장문 컨텍스트의 비용 구조를 바꾸는 것이다. 남은 과제는 프론티어 스케일에서 품질과 효율의 트레이드오프를 입증하는 일이다.

2026년 하반기에는 다극화 구도가 유지되면서 각 경쟁 축 안의 압박이 커질 전망이다. 2027년에는 서브쿼드라틱 아키텍처의 독립 검증이 완료되거나 실패 여부가 드러날 수 있다. 2028년 이후에는 Dense 코어와 선형 확장 레이어를 결합한 하이브리드 아키텍처로 수렴할 가능성이 있다.

현재 실무 선택은 하나의 승자를 고르는 문제가 아니다. 검증된 에이전트 워크플로우에는 GPT-5.5나 Qwen 3.7 Max를 검토하고, 초장문 처리에서는 SubQ의 독립 벤치마크를 기다리는 판단이 맞는다. 2026년 하반기 시장의 향방은 아키텍처 혁신과 오픈소스·독점 전략이 어떻게 교차하는지에 달려 있다.