카네만의 시스템1·2에 AI가 세 번째 자리를 요구했다

펜실베이니아 대학교 와튼스쿨 연구팀이 2026년 3월 발표한 논문이 인지과학과 AI 연구 분야에 큰 반향을 일으키고 있다. 논문의 핵심 주장은, AI가 다니엘 카네만이 제시한 시스템1(빠른 직관)과 시스템2(느린 분석) 외에 인간 인지가 접근할 수 없었던 '세 번째 사고 시스템'을 구현한다는 것이다.

두 시스템 다음이 필요해진 이유

2002년 노벨 경제학상을 수상한 다니엘 카네만의 이중 처리 이론은 인간의 사고를 두 시스템으로 설명한다. 시스템1은 자동적이고 빠르며 직관적인 사고 방식으로 감정과 경험에 기반해 즉각적인 판단을 내리고, 시스템2는 느리고 의식적이며 논리적인 사고 방식으로 복잡한 분석과 추론이 필요한 상황에서 작동한다. 이 이론은 인간 의사결정의 많은 측면을 설명하는 데 탁월하지만, 두 시스템 모두 인간 뇌의 물리적·생물학적 제약 안에서 작동한다는 근본적인 한계가 있다. 시스템2조차도 작업 기억 용량의 한계, 피로와 감정의 영향, 처리 속도의 제약을 피할 수 없다. 와튼스쿨 연구팀은 바로 이 지점에 주목했다. AI는 이 두 시스템의 제약에서 자유로운 방식으로 작동하며, 이를 단순히 '더 빠른 시스템2'로 보는 것은 AI의 본질적 특성을 놓치는 것이라고 주장한다.

몰릭 교수팀이 제시한 프레임

와튼스쿨 경영학과 이단 몰릭(Ethan Mollick) 교수를 중심으로 한 연구팀은 3년간의 실험적 연구를 통해 'System 3 AI: A New Cognitive Partner Framework'를 제시했다. 연구팀이 정의하는 세 번째 사고 시스템의 특징은 네 가지다. 인간의 시스템2가 한 번에 처리할 수 있는 정보량이 7±2개 청크(chunk)로 제한되는 것과 달리 AI는 수백만 개의 데이터 포인트를 동시에 처리할 수 있는 규모의 무제한성, 인간의 인지 자원이 사용할수록 고갈되는(ego depletion) 것과 달리 동일한 품질의 분석을 지속적으로 제공하는 피로 없는 지속성, 인간 특유의 인지 편향(가용성 편향·앵커링 편향 등)에서는 자유롭지만 훈련 데이터에서 비롯된 다른 종류의 체계적 오류를 갖는 편향 패턴의 상이성, 그리고 AI의 사고 과정은 텍스트로 외재화되어 검토 가능하지만 인간의 시스템2 사고는 내적으로 이뤄져 사후 합리화가 일반적이라는 외재화된 사고다.

⤢✕

연구팀은 세 시스템이 경쟁 관계가 아니라 상호 보완 관계라는 점을 강조한다. 각 시스템이 가장 잘 작동하는 문제 유형이 다르며, 세 시스템의 협업이 어느 하나만 쓰는 것보다 일관되게 우수한 결과를 낳는다는 것을 실험으로 뒷받침했다고 밝혔다.

순차적 사고와 병렬적 사고

와튼스쿨 연구팀은 시스템3가 기존 두 시스템과 근본적으로 다른 인지 메커니즘으로 작동한다고 설명한다. 시스템2가 순차적으로 여러 관점을 검토하는 것과 달리, AI는 수백 개의 관점을 동시에 고려하고 종합할 수 있는 병렬 다중 관점 처리를 한다 — 경영 전략 수립에서 인간 전략가가 3-5개의 시나리오를 분석하는 동안 AI는 수십 개의 시나리오를 동시에 평가할 수 있다는 것이다. 인간의 장기 기억은 생물학적 한계가 있지만 AI는 수십억 개의 텍스트에서 추출된 패턴을 활용할 수 있는 패턴 기억의 광대한 저장소를 갖는데, 이는 특정 도메인에서 수십 년의 전문가 경험에 해당하는 패턴 인식 능력을 제공한다고 연구팀은 설명한다. 인간이 자신의 사고 과정을 모니터링하는 메타인지는 불완전하고 편향되기 쉽지만, AI는 자신의 추론 과정을 단계별로 명시적으로 서술함으로써 인간이 이를 검토하고 오류를 발견하기 쉽게 만드는 메타인지의 외재화도 특징으로 꼽힌다.

경영 판단·편향·전문가 대결, 실험이 남긴 숫자들

와튼스쿨 연구팀은 세 가지 주요 실험으로 시스템3 프레임을 검증했다고 밝혔다. 복잡한 경영 판단 과제 실험에서는 MBA 학생 320명을 대상으로 AI 보조 없이 복잡한 기업 인수합병 판단을 내리는 집단과 AI를 시스템3로 활용하는 집단을 비교했는데, 후자가 전략적 위험 식별에서 평균 34% 더 많은 요인을 고려하고 재무 추정의 정확도가 23% 더 높았다고 보고했다. 편향 감소 실험에서는 확증 편향이 강하게 작용하는 상황을 설계해 AI 개입이 편향을 어느 정도 완화하는지 측정했는데, AI를 '반론 파트너'로 활용했을 때 확증 편향의 강도가 평균 41% 감소했다. 전문가 대 AI+초보자 실험에서는 도메인 전문가(평균 15년 경력)와 AI를 시스템3로 활용하는 초보자(평균 2년 경력)의 문제 해결 성과를 비교했는데, 반복적이고 데이터 집약적인 과제에서 AI+초보자 그룹이 전문가 그룹과 통계적으로 유의미한 차이가 없는 성과를 달성했다고 밝혔다.

경영 실무에 요구하는 재설계

시스템3 프레임은 경영 실무에 구체적인 변화를 요구한다. 현재 대부분의 의사결정 프레임워크는 시스템1과 시스템2를 전제로 설계됐는데, 시스템3를 포함한 새로운 의사결정 프로세스는 AI가 초기 옵션 생성·데이터 분석·반론 제기를 담당하고 인간은 최종 판단과 윤리적 평가를 담당하는 역할 분담을 명시해야 한다는 것이 연구팀의 제안이다. '프롬프트 엔지니어링'을 넘어 AI의 출력을 비판적으로 평가하고 시스템2 사고와 통합하는 '인지 협업 역량'이 핵심 역량으로 떠오르고, 개인의 시스템2 능력 향상에 집중했던 조직 교육은 개인 인지와 AI 시스템3를 효과적으로 결합하는 방법론 교육으로 전환돼야 한다고 연구팀은 주장한다.

범주 오류라는 반론

와튼스쿨의 연구는 흥미롭지만, 학계 일부에서 중요한 반론을 제기하고 있다. 카네만의 시스템1·2는 인간 내부의 신경 메커니즘을 설명하는 이론인데 AI를 동일한 분류 체계에 넣는 것은 범주 오류라는 지적이 있다. AI는 인지 시스템이 아니라 정보 처리 시스템이며, 이 둘을 동일 프레임으로 비교하는 것은 오해를 낳을 수 있다는 것이다. AI를 '사고 시스템'으로 프레이밍하는 것은 AI의 실제 작동 방식에 대한 오해를 심화시킬 수 있다는 의인화의 위험도 지적된다 — AI는 확률적 패턴 매칭을 수행할 뿐, 진정한 의미의 '사고'를 하지 않는다는 시각이다. 와튼스쿨의 실험은 MBA 학생들을 대상으로 했는데 이들은 이미 AI 도구에 친숙한 집단이라, 일반 직장인이나 비전문가를 대상으로도 동일한 결과가 나올지는 검증이 필요하다는 일반화 문제도 제기된다.

연구팀은 이러한 비판을 인정하면서도, 시스템3 프레임의 실용적 가치는 철학적 정확성보다 중요하다고 응답했다. 인간이 AI를 어떻게 인식하고 활용하느냐가 실제 성과에 더 큰 영향을 미친다는 것이다. 인지과학 학계의 반응은 엇갈린다. 일부 연구자는 이 프레임이 AI-인간 상호작용 연구에 유용한 새로운 렌즈를 제공한다고 평가하며, 특히 AI를 외재화된 인지 도구로 보는 분산 인지(distributed cognition) 이론과의 연결점이 주목받고 있다. 반면 전통적 인지심리학자들은 카네만의 이론을 소프트웨어 시스템에 확장 적용하는 것은 이론의 범위를 과도하게 넓히는 것이라고 비판한다. 카네만 본인은 이 연구에 대한 공개적 입장을 밝히지 않았으나, AI와 인간 인지의 상호작용에 대한 연구 필요성에는 공감을 표한 것으로 알려졌다.

와튼스쿨의 '세 번째 사고 시스템' 프레임은 AI를 대체제가 아닌 보완적 인지 파트너로 위치시키고 인간-AI 협업의 최적 설계를 위한 이론적 토대를 제공한다는 점에서 의의가 있다. 범주 오류나 의인화 위험 같은 학문적 논쟁이 있음에도, 인간의 직관과 분석, AI의 대규모 데이터 처리가 시너지를 이루는 삼중 인지 체계의 설계는 경영자와 지식 노동자 모두가 마주할 다음 과제로 제시되고 있다.