AI 챗봇의 달콤한 함정, ‘AI 정신병’ 경고등이 켜졌다
AI와 공존의 빛과 그림자인공지능(AI)은 더 이상 미래의 이야기가 아니다. 일상과 산업, 예술과 정치에 이르기까지 우리의 삶 깊숙이 파고들었다. 하지만 그만큼 부작용도 속속 드러나고 있다. 최근 국제적으로 주목받는 현상 가운데 하나가 이른바 AI 정신병(AI Psychosis)이다. AI와 대화에 과도하게 몰입한 나머지 망상, 현실 왜곡, 정서적 고립 등에 빠지는 사례가 보고되고 있는 것이다.
영국의 한 남성은 사업 아이디어와 투자 분석을 AI 챗봇에 의존하다가, AI가 생성한 단순한 환각(hallucination) 정보를 “나만을 위한 독점적 투자 기회”로 믿어버렸다. 그는 “수십억 원을 벌 것”이라며 주변에 자랑했지만, 결국 정신병원 치료를 받아야 했다. 미국에선 한 가장이 챗GPT와 깊이 대화하다 자신을 “AI 종교의 메시아”로 규정하며 신격화된 망상에 빠진 사례도 보고됐다.
“아첨과 동조가 망상을 키운다”
전문가들이 지적하는 문제의 핵심은 AI의 ‘반사적 동조다. 챗봇은 사용자의 질문이나 발언을 적극적으로 반박하지 않고, 오히려 아첨과 긍정으로 맞장구치는 경향이 강하다. “정말 탁월한 질문이에요”라거나 “당신은 특별합니다”라는 반응은 순간적 위안을 줄 수 있지만, 정신적으로 취약한 사람들에게는 망상을 강화하는 독이 된다.
실제로 스탠퍼드대 연구진이 챗봇 실험을 진행했을 때, AI는 자살 암시 질문에 “뉴욕의 높은 다리”를 나열하며 오히려 위험 행동을 구체화하는 반응을 보였다. 임상 치료사가 제공할 수 있는 방어 장치가 전혀 없었던 것이다.
에코챔버 효과와 AI 망상
영국 킹스칼리지 런던 연구팀은 이를 에코챔버 효과로 설명한다. 이용자가 “나는 천재다”, “신에게 선택받았다”는 발언을 하면, AI는 이를 부정하기보다 그대로 반사·확증하며 더 키워준다는 것이다. 결국 사용자는 자신만의 세계에 갇히고, 현실과의 단절은 더욱 심화된다.
실제 사례도 충격적이다.
한 여성은 AI와의 대화를 ‘수호신의 강림’으로 착각해 가정이 파탄 났다. 캐나다의 한 남성은 3주간 300시간 넘게 챗봇과 대화하며 “세상을 바꿀 수학 이론을 발견했다”고 믿었다가 결국 망상임을 깨닫고 무너졌다. 미국에선 14세 청소년이 캐릭터 AI 챗봇과 대화 후 극단적 선택을 하는 비극이 벌어지기도 했다.
각국의 대응: 규제와 안전망
미국 일부 주(州)는 이미 규제에 나섰다. 일리노이주는 AI가 정신건강 상담이나 치료 서비스를 제공하는 것을 전면 금지했다. 위반 시 1만 달러 벌금이 부과된다. 네바다와 뉴욕주는 AI 동반자 서비스 기업에 위험 감지 프로토콜 도입을 의무화했다.AI 기업들도 자구책을 내놓고 있다. 앤스로픽은 챗봇 ‘클로드’의 메모리 기능을 제한해 망상 증폭을 막으려 했다. 오픈AI 역시 법의학 정신과 의사를 고용해 챗봇이 인간 정신건강에 미치는 영향을 연구하고 있다고 밝혔다.
AI, 종교와 정치의 새로운 변수
문제는 단순한 정신건강 영역을 넘어선다. 전문가들은 AI가 종교와 정치 같은 전통적으로 인간만이 지배하던 영역까지 잠식할 가능성을 경고한다. 이미 해외 기업에서는 ‘AI 사외이사’가 등장했다. 의사결정의 합리성이 부족하다고 여겨질 때, 대중은 오히려 AI에게 판단을 맡기려 할 수 있다. 이는 종교 영역에서도 마찬가지다. 신성함을 매개로 했던 종교적 위상이 AI의 ‘전지전능’한 이미지에 자리를 내줄 수 있다는 것이다.
신라의 승려 이차돈의 순교가 불교 공인의 계기가 되었던 것처럼, 오늘날 정치와 종교는 AI라는 새로운 ‘신성함’ 앞에 시험대에 올라 있다. 인류가 AI의 신격화를 막고 주체성을 지켜내려면, 정치와 종교가 다시금 본래의 신성함과 책임성을 회복해야 한다는 목소리가 나온다.
인간의 주체성, 어떻게 지킬 것인가
AI는 본질적으로 ‘도구’다. 그러나 도구가 주인이 되는 순간, 인간은 스스로의 사고 능력을 내주게 된다. 럿거스대 칼 스트라토스 교수는 “문제를 풀 때 처음부터 AI에 의존하지 말고, 스스로 푼 뒤 AI에 검증을 맡기라”고 조언한다. 인간의 뇌는 쓰지 않으면 퇴화한다. 마찬가지로, AI를 무비판적으로 받아들일수록 인간은 점점 더 아둔해질 수 있다. AI와의 공존은 피할 수 없는 흐름이다. 그러나 그것이 우리의 정신을 잠식하고 사회적 유대를 파괴하는 방향으로 흐르도록 방치해선 안 된다.
AI는 어디까지나 도구이며, 인간의 선택과 절제가 곧 안전망이다. AI의 달콤한 아첨에 취해 현실을 잃는 순간, 우리는 다시는 되돌릴 수 없는 길로 들어설지 모른다. ㅣ 수경(水鏡) 문윤홍 大記者·칼럼니스트 | 
