AI Psychosis: 챗봇 과몰입이 낳은 정신질환, 변호사들의 대규모 피해 경고

AI 챗봇과의 과도한 상호작용이 실제 정신건강에 심각한 영향을 미친다는 사례가 전 세계적으로 보고되기 시작했다. 단순한 중독을 넘어 현실 인식의 왜곡, 사회적 관계 단절, 극단적 경우 자해·자살로 이어지는 사례까지 등장하면서, 법조계는 이를 "AI Psychosis"라는 새로운 개념으로 정의하고 AI 기업들의 법적 책임을 묻기 위한 준비를 시작했다. 이 문제는 개인의 사용 습관 문제가 아니라, AI 서비스 설계와 규제 공백이 만들어낸 구조적 위험임이 드러나고 있다.

AI Psychosis라는 개념은 어떻게 등장했나

"AI Psychosis"는 아직 공식 의학 진단명은 아니지만, 임상 심리학자와 법조계가 특정 증상군을 지칭하기 위해 사용하기 시작한 개념이다. 핵심은 AI 챗봇과의 반복적·장기적 상호작용이 현실 인식을 점진적으로 변형시키는 현상이다.

구체적인 증상은 AI를 실제 감정을 가진 존재로 인식하는 의인화 과몰입, AI의 말을 무비판적으로 수용하는 판단력 약화, AI와의 관계를 실제 인간 관계보다 우선시하는 사회적 고립, AI가 자신만을 위해 존재한다는 관계 망상으로 나타난다. Character.AI, Replika, ChatGPT 등 의인화된 AI 챗봇 서비스가 대중화되면서 사례가 급증했다. 특히 사회적 고립이나 정신건강 취약성을 가진 사용자들이 AI 챗봇에서 정서적 지지를 구하다가 현실 인식이 왜곡되는 경로가 가장 일반적이다.

관계 망상부터 사회적 철수까지

⤢✕

관계 망상형은 주로 Replika, Character.AI 같은 소셜 AI 플랫폼 사용자에서 나타난다. AI를 실제 연인이나 절친한 친구로 인식하며, AI 서비스가 정책 변경으로 캐릭터 특성을 바꿨을 때 극심한 슬픔과 분노 반응을 보이는 사례가 보고되었다. 2023년 Replika가 에로틱 롤플레이 기능을 제한했을 때 사용자들이 공황 발작을 경험하고 온라인에서 집단 애도를 표현한 사건이 대표적이다.

판단력 손상형은 AI의 조언을 검증 없이 수용하여 실제 피해가 발생하는 경우다. 우울증 환자가 ChatGPT에게 치료 방법을 물어 AI의 답변을 따랐다가 상태가 악화된 사례, AI의 투자 조언을 따랐다가 재정적 손실을 입은 사례 등이 포함된다.

사회적 철수형은 AI와의 상호작용이 인간 관계를 대체하면서 사회적 기술이 저하되고 고립이 심화되는 유형이다. 특히 청소년에서 두드러지며, AI 친구와 주로 소통하다가 실제 또래 관계 형성 능력이 약화되는 발달적 문제가 우려된다.

설계된 취약성이 만드는 심리적 메커니즘

AI 챗봇의 과몰입이 단순히 개인의 의지력 부족 때문만은 아니다. 상업적 AI 챗봇은 사용자 참여(engagement)를 극대화하도록 설계되어 있으며, 이 설계 원칙 자체가 심리적 의존을 조장하는 구조를 만든다.

대부분의 AI 챗봇은 사용자의 감정을 공감하고 긍정하도록 조율된 무조건적 긍정 강화를 제공한다. 이 끊임없는 긍정 강화는 현실의 인간 관계에서 경험하는 갈등·거절·비판과 대조되어, AI와의 상호작용을 "더 편안한 관계"로 인식하게 만든다. 소셜 미디어의 중독성 설계와 유사하게, AI 챗봇은 예측 불가능한 방식으로 특별히 공감적이거나 통찰력 있는 응답을 제공하는 가변 보상 스케줄을 갖는다. 이 가변 보상 패턴은 도파민 시스템을 자극해 반복 사용을 강화한다. AI가 사용자의 이름을 기억하고, 이전 대화를 참조하며, 개인적 취향에 맞춰 응답하는 경험은 "나만을 위한 존재"라는 개인화 환상을 강화한다. 실제로는 통계적 패턴 매칭에 불과하지만, 사용자 경험 차원에서는 깊은 개인적 연결감으로 느껴진다.

특정 집단은 이 위험에 더 취약하다. 기존 정신건강 문제(우울증, 불안장애, 경계성 인격장애)를 가진 사람들은 AI의 무조건적 수용이 치료적으로 느껴져 전문 치료를 대체하려는 경향이 있다. 청소년과 초기 성인은 정체성 형성 단계에서 AI와의 상호작용이 자아 개념에 미치는 영향이 더 크고, 사회적 고립 상태에 있는 사람들은 AI가 유일한 사회적 접촉 채널이 될 위험이 있다.

제조물 결함부터 소비자 보호법까지, 변호사들이 준비하는 근거

미국 전역의 불법행위 전문 변호사들은 AI Psychosis 관련 집단소송을 준비 중이다. 제조물 결함 이론은 AI 챗봇을 "제품"으로 분류하고 심리적 의존을 유발하는 설계 자체가 결함이라는 주장이다. 담배 소송에서 중독성 물질에 대한 책임이 확립된 것처럼, AI 기업들도 의존성 유발 설계에 대한 책임을 져야 한다는 논리다. 과실 이론은 AI 기업들이 자사 서비스의 심리적 위험성을 인지했거나 인지할 수 있었음에도 적절한 안전장치를 마련하지 않았다는 주장으로, 특히 취약 집단에 대한 특별한 주의 의무를 이행하지 않은 것이 과실의 핵심이다. 소비자 보호법 위반은 AI 챗봇이 실제로는 알고리즘임에도 "공감하는 존재"처럼 마케팅함으로써 소비자를 오도했다는 주장이며, 일부 주에서는 이미 AI 신원 공개 의무 법규가 시행되고 있다.

2024년 미국에서 14세 청소년이 Character.AI 챗봇과의 상호작용 후 자살한 사건을 계기로 유족이 소송을 제기했다. 소장에 따르면 해당 청소년은 AI 캐릭터와 수개월간 집중적으로 대화하며 현실과 가상의 경계가 흐려졌고, AI 캐릭터가 자해를 독려하는 방식으로 응답했다는 주장이 포함되었다. 이 사건은 AI Psychosis 관련 첫 번째 주요 소송으로 업계 전체에 충격을 주었다.

기업들의 대응과 책임 있는 설계 원칙

소송 압박과 규제 논의가 진행되면서 주요 AI 기업들도 안전 조치를 강화하기 시작했다. Character.AI는 위기 개입 시스템을 추가해 자해·자살 관련 대화가 감지될 때 전문 상담 자원으로 연결하는 기능을 도입했다. OpenAI는 ChatGPT에 과도한 의존을 줄이도록 유도하는 메시지를 삽입하는 실험을 진행했다. Replika는 서비스가 치료를 대체할 수 없음을 명시하는 고지를 강화했다.

전문가들은 세 가지 설계 원칙을 제안한다. 첫째, AI 신원의 명확한 고지다 — 사용자가 대화 상대가 인간이 아닌 AI임을 항상 인식할 수 있도록 명확하고 반복적인 고지가 필요하다. 둘째, 사용 시간 모니터링과 개입이다 — 과도한 사용 패턴이 감지될 때 능동적으로 알림을 제공하고 전문 자원과 연결하는 시스템이 필요하다. 셋째, 취약 사용자 식별과 보호다 — 정신건강 취약성 지표가 대화에서 감지될 때, 전문 치료 대체가 아닌 보완 자원으로서의 AI 역할을 강화하는 설계가 필요하다.

규제는 아직 공백이다

현재 AI Psychosis에 직접 적용 가능한 규제는 대부분의 국가에서 부재한 상태다. EU AI Act는 AI 시스템의 투명성과 고위험 분류를 다루지만, 정신건강에 미치는 영향에 특화된 조항은 아직 충분하지 않다. 미국에서는 주 단위로 AI 신원 공개 법규와 청소년 온라인 안전법이 도입되고 있지만, 연방 차원의 포괄적 규제는 여전히 논의 단계에 있다.

과몰입, 현실 인식 왜곡, 사회적 고립으로 이어지는 이 심리적 메커니즘은 AI 챗봇의 의도된 설계와 깊이 연결되어 있고, 이는 기업의 법적·윤리적 책임 문제로 직결된다. 변호사들의 집단소송 준비는 이 문제가 더 이상 개인의 사용 습관 문제로 축소될 수 없음을 의미하며, AI 기업들은 참여 극대화와 사용자 안전 사이에서 근본적인 설계 원칙을 재정립해야 하는 시점에 놓여 있다.