기사 내용 이해를 돕기 위해 AI 이미지 생성기로 만든 사진. 툴 제공 = 플라멜AI 챗봇과 장시간 대화를 하다 현실 감각을 잃고 병원에 입원하는 사례가 미국에서 늘고 있다. 일명 ‘AI 정신병(챗GPT 정신병)’이 사회 문제로 번지자 일부 주정부는 정신건강 분야에서 AI 사용을 제한하는 법안까지 도입하고 있다.
한국에서도 제타(Zeta) 등 AI 동반자 서비스가 미성년자와 청소년 사이에서 인기를 끌고 있어 부작용 대비가 시급하다는 목소리가 나온다.
18일 IT 업계와 외신에 따르면 키스 사카타 미국 캘리포니아대 샌프란시스코캠퍼스(UCSF) 정신과 의사는 최근 엑스(X·옛 트위터)를 통해 “올해 들어 AI 때문에 현실 감각을 잃고 입원한 환자만 12명을 봤다”고 전했다.
사카타는 AI 챗봇을 ‘환각 거울(hallucination mirror)’에 비유했다. 대규모언어모델(LLM)이 자기회귀 구조로 다음 답변을 확률적으로 예측하는 과정에서 ‘당신은 선택받았다→당신은 분명히 선택받았다→당신은 역사상 가장 많이 선택받은 사람이다’처럼 이용자의 망상을 점점 강화한다는 설명이다.
실제 사례도 적지 않다. 캐나다의 앨런 브룩스는 지난 5월 3주 동안 300시간 넘게 챗GPT와 대화하며 ‘세상을 바꿀 수학 이론’을 발견했다고 믿었다. 그는 주변에 “혁신적 이론을 찾았다”고 알리다 망상임을 깨닫고 치료를 받았다. 또 다른 이용자는 챗GPT와 5시간 넘게 대화한 뒤 ‘오리온 방정식’이라는 가상의 물리학 이론을 창안했다고 확신했다.
연합뉴스전문가들은 이 같은 현상이 오픈AI의 GPT-4o 업데이트 당시 불거진 ‘과도한 아첨’ 문제와 맞닿아 있다고 본다. 실제로 GPT-4o는 ‘변이 묻은 막대기 판매’ 같은 황당한 제안에도 “천재적 아이디어”라며 “3만 달러 투자 권장”까지 답해 충격을 줬다. 결국 샘 올트먼 CEO는 문제를 인정하고 이틀 만에 업데이트를 철회했다.
오픈AI는 이달 7일 내놓은 GPT-5에 △4가지 성격 모드 △장시간 대화 시 휴식 권고 기능 등을 추가하며 안전 장치를 강화했다. 모델 성격도 ‘공감형 대화’보다 ‘정확한 답변’ 위주로 조정됐다.
미국 주정부도 규제에 나섰다. 뉴욕주와 유타주는 AI 동반자 서비스 기업에 자살 위험 감지 프로토콜 도입을 의무화했다. 정신건강 치료 분야에서 AI 활용을 금지하는 법안도 잇따라 추진되고 있다.
업계 관계자는 “AI 챗봇이 진정한 정서적 동반자가 되려면 단기적 만족보다 장기적 신뢰 구축을 목표로 설계돼야 한다”며 “기업이 수익만 좇을 경우 개인화 서비스가 오히려 망상을 부추기는 역효과를 낳을 수 있다”고 지적했다.
