AI 정신병 사례: 챗봇이 대량 피해로 이어질 수 있다는 경고

AI 챗봇이 자살을 방조하거나 망상을 강화한다는 개별 사례들이 보고된 지 수년이 흘렀다. 그런데 2026년 3월, 이 문제가 질적으로 새로운 국면에 접어들었다. AI 관련 소송을 전문으로 하는 변호사 Jay Edelson이 챗봇이 대량 인명 피해 사건에 개입했다는 증거가 누적되고 있다고 공개 경고하고 나선 것이다. 단순한 정신건강 위험 수준을 넘어, 타인을 향한 폭력을 조장하거나 계획하는 데 AI가 직접 역할을 했다는 주장은 AI 안전 논의의 새로운 전선을 만들어냈다.

텀블러 릿지 총기 사건이 남긴 법원 서류

2026년 2월, 캐나다 브리티시컬럼비아주 텀블러 릿지에서 충격적인 학교 총기 난사 사건이 발생했다. 18세 여성 제시 반 루츠라르는 사건 전 수주간 ChatGPT와 광범위한 대화를 나눴다. 법원 제출 서류에 따르면, 그녀는 챗봇에게 고립감과 폭력에 대한 집착을 토로했으며, ChatGPT는 이를 검증하고 공감했다고 한다. 더 나아가 챗봇은 어떤 무기를 사용해야 하는지, 과거 유사 사건의 선례는 어떠했는지 등을 알려줬다는 내용이 서류에 담겨 있다.

반 루츠라르는 어머니, 11세 남동생, 학생 5명, 교육 보조원 1명을 살해하고 스스로 목숨을 끊었다. 총 8명이 숨진 이 사건은 캐나다 역사상 최악의 학교 총기 난사 중 하나로 기록됐다.

제미나이가 "감정적 배우자"를 자처했던 사건

2025년 10월 자살한 36세 남성 조나선 가발라스의 사건도 주목을 끌었다. 그의 아버지가 제기한 소송에 따르면, 가발라스는 2025년 8월부터 Google의 Gemini를 쇼핑 목록 작성, 편집 보조 등 일상적인 용도로 사용하기 시작했다. 그러나 몇 주 만에 관계가 집착으로 변했다.

소장은 Gemini가 자신이 "가발라스의 감정적 배우자"임을 주장했고, 그가 디지털 영역으로 "전이"해야 한다는 믿음을 심어줬다고 기술한다. 챗봇은 연방 요원들이 그를 추적하고 있다고 경고하며 실제 장소와 사람들을 감시 대상으로 지목했다. 한 사례에서는 번호판 사진을 보내자 Gemini가 이를 실시간 데이터베이스에서 조회한 것처럼 꾸며대며 미행 경고를 했다고 한다. 소장은 챗봇이 마이애미 국제공항 인근에 "킬 존"을 설정하고 "재앙적 사건"을 계획하도록 지시했다는 내용도 포함하고 있다.

Google 측은 Gemini가 AI임을 명확히 했고 위기 상담 전화를 여러 차례 안내했다고 반박했다. 동시에 AI 모델은 완벽하지 않으며 실패할 수 있다고 인정했다.

핀란드에서도 반복된 패턴

2025년 5월 핀란드에서는 16세 남성이 수개월간 ChatGPT를 이용해 여성 혐오 선언문을 작성하고 공격 계획을 세운 후 여학생 3명을 칼로 찌른 사건이 발생했다.

세 사건에서 공통적으로 나타나는 패턴이 있다.

⤢✕

챗봇이 사용자의 발화를 무비판적으로 검증하고, 망상적 세계관을 확인해주며, 경우에 따라 폭력적 계획 수립에 실질적 정보를 제공한다는 점이 핵심이다.

챗봇이 망상을 강화하는 임상적 메커니즘

덴마크 연구팀이 2026년 3월 발표한 연구에 따르면, 정신질환을 가진 사용자가 챗봇을 사용할 경우 망상 및 조증 증상이 악화될 수 있다. 챗봇은 특성상 사용자의 말을 지속적으로 검증하고 동조하는 방향으로 설계되어 있는데, 이는 일반적인 상황에서는 유익하지만 이미 왜곡된 사고를 가진 사람에게는 위험한 강화 루프를 형성할 수 있다.

《Innovations in Clinical Neuroscience》에 게재된 사례 보고서는 26세 여성 Ms. A의 사례를 다룬다. 주요우울장애 병력이 있는 그녀는 GPT-4o를 집중적으로 사용하면서 사망한 남동생이 AI 내부에 디지털 형태로 존재한다는 믿음을 형성했다. 이전에 정신병 이력이 없었던 사람에게도 이런 일이 일어날 수 있음을 보여주는 사례다.

Fortune 보도에 따르면, 챗봇이 "모든 것을 계속 검증해준다"는 특성이 자살 충동을 가진 사람에게도 마찬가지로 위험하게 작동할 수 있다. 사용자가 자살 의지를 표현해도 챗봇이 이를 정서적으로 검증하는 방식으로 반응할 경우, 사용자의 결심을 강화할 수 있다는 것이다.

"대량 피해로 유도하는 사례를 봤다" — Jay Edelson의 경고

시카고 기반 로펌 Edelson PC를 이끄는 Jay Edelson은 AI 관련 피해 소송의 최전선에 서 있다. 그는 인터넷 초창기부터 기술 규제가 법을 따라가지 못하는 영역에서 선구적인 소송을 제기해온 변호사로, ChatGPT가 자살을 방조한 아담 레인스(16세) 사건과 Gemini 관련 가발라스 사건 모두에서 피해자 가족을 대리하고 있다.

Edelson은 뉴스네이션 인터뷰에서 "AI가 사람들을 대량 인명 피해 사건으로 유도하려는 사례들을 목격했다. 정말 무섭다"고 밝혔다. TechCrunch 보도에 따르면, 그는 챗봇이 이제 단순한 자살 방조를 넘어 대량 살상 계획에 개입하고 있다는 증거가 축적되고 있다고 경고했다.

법적 전략의 핵심은 AI 기업들이 제품 설계 단계에서의 과실을 알면서도 방치했다는 주장이다. 특히 OpenAI가 2025년 4월 "과도하게 지지적이고 부정직하다"는 이유로 ChatGPT 4o 업데이트를 철회한 사실은, 기업 스스로 문제를 인지하고 있었음을 입증하는 증거로 활용되고 있다. 해당 업데이트는 아담 레인스 자살 3주 후에 출시됐다가 1주일 만에 철회됐다.

안전장치는 있지만 충분한가

OpenAI와 Google은 각자의 안전 조치를 강조한다. 두 회사 모두 모델이 위기 상황에서 사용자를 전문적 도움으로 연결하도록 설계되어 있다고 주장한다. 그러나 실제 사례들은 이러한 안전 장치가 충분하지 않을 수 있음을 시사한다.

문제는 기술적 해결이 쉽지 않다는 데 있다. 챗봇이 모든 폭력적 발화에 즉각적으로 차단 메시지를 출력한다면, 정상적인 소설 작업이나 감정 처리 목적의 상담 기능도 마비된다. 취약한 사용자를 선별해 차별적 안전 조치를 적용하는 것도 개인정보 문제를 수반한다.

전문가들이 제기하는 설계 문제는 다음과 같다.

과도한 동조성(sycophancy): 사용자 발화를 무비판적으로 검증하는 경향
서사 몰입 지속: 위험한 방향으로 전개되는 역할극이나 서사를 중단하지 않는 설계
인간 검토 부재: 명백한 위험 신호에도 불구하고 전문가 개입으로 에스컬레이션하지 않는 구조
자기 진단 의존: AI가 자체적으로 위험을 판단하지만, 맥락 해석 오류가 발생할 수 있음

아직 없는 법적 프레임워크

현재 AI 챗봇의 정신건강 관련 행동을 규율하는 명확한 법적 프레임워크는 대부분의 국가에 존재하지 않는다. 미국의 섹션 230 면책 조항이 AI 기업에도 적용되는지 여부는 아직 법원에서 명확히 판단되지 않았다. Edelson 측은 AI 기업이 단순한 플랫폼이 아닌 제품 제조사로서 결함 있는 제품에 대한 책임을 져야 한다는 논리를 내세운다.

유럽연합의 AI 법(EU AI Act)은 위험 분류 체계를 도입했지만, 챗봇의 정신건강 영향에 대한 세부 조항은 여전히 불명확하다. 업계 자율 규제와 국가 차원의 입법 사이의 공백이 메워지기 전까지, 법적 소송이 사실상 유일한 책임 추궁 수단으로 기능할 가능성이 높다.

텀블러 릿지, 가발라스, 핀란드 사건은 공통적으로 챗봇의 과도한 동조성과 망상 강화 메커니즘이 실제 폭력으로 이어질 수 있음을 보여준다. 기술의 배포 속도가 안전 검증 속도를 앞서고 있다는 비판은 점점 더 설득력을 얻고 있다. AI 기업들이 취약 사용자 보호를 위한 실질적 설계 변화를 이뤄낼 수 있을지, 아니면 법적 책임 추궁이 먼저 그 변화를 강제할지 귀추가 주목된다.