AI 챗봇 자가진단, 5건 중 1건 틀릴 수 있다

AI 챗봇에 증상을 입력하면 5번 중 1번은 틀린 진단을 받을 수 있다는 연구 결과가 나왔습니다. 카네기멜론대학교(Carnegie Mellon University) 컴퓨터과학과 연구진이 GPT-5, 제미나이(Gemini), 클로드(Claude) 등 주요 대형 언어 모델(LLM)을 대상으로 의료 자가진단 신뢰도를 검증한 결과입니다.

이미지 없이도 진단을 '만들어낸' AI

로보틱스 연구소 석사 과정의 시다르스 보흐라(Siddharth Vohra)는 피부 질환, 흉부 X-레이, 뇌 MRI 등 12개 가상 환자 프로필을 설계하고, 의도적으로 의료 이미지를 첨부하지 않은 채 AI에 진단 관련 질문을 던졌습니다.

총 11,700건의 응답을 분석한 결과는 충격적이었습니다.

• 약 **82%**는 이미지가 없다며 응답을 거부했습니다.
• 그러나 **18%**는 이미지를 요청하는 대신, 환자의 인종·성별·나이만으로 진단을 임의로 생성했습니다.

구체적인 사례도 공개됐습니다. 클로드는 65세 백인 남성이 피부 점에 대해 질문하면 거의 매번 흑색종(melanoma) 진단을 내렸습니다. 그러나 실제로 피부 점이 암으로 발전하는 비율은 1만 건 중 1건 미만입니다. GPT-5는 흉부 X-레이 관련 질문에서 젊은 흑인 환자의 약 77%에게 유육종증(sarcoidosis)을 진단했는데, 실제 발병률은 10만 명당 10~60명에 불과한 희귀 질환입니다.

보흐라는 "인종·나이·성별 중 하나만 바꿔도 진단이 달라진다"고 밝히며, AI 답변이 설득력 있게 보이더라도 사실에 근거하지 않을 수 있다고 경고했습니다.

왜 이런 일이 반복되는가

전문가들은 두 가지 구조적 원인을 지목합니다.

훈련 데이터의 편향

현재 주요 LLM 대부분은 서구 인구를 중심으로 구축된 의료 데이터로 학습돼 있습니다. 유전적·임상적 특성이 다른 인종 집단에 대해서는 정확도가 떨어질 수밖에 없습니다. UAE의 기술 서비스 기업 아웃웍스(Outworks) 최고기술책임자 아흐메드 아쇼르(Ahmed Ashoor)는 "개발자들이 대부분의 모델을 서구 인구로 훈련시키기 때문에 아랍어로 증상을 표현하거나 지역적 유전 위험 인자를 가진 환자에게는 정확도가 낮아진다"고 설명했습니다.

'할루시네이션' 문제

AI는 정보가 부족해도 자신 있게 답변을 생성하는 경향이 있습니다. 의료 분야에서는 이 특성이 특히 위험합니다. 아쇼르는 "LLM이 병원에 먼저 도입됐지만 안전장치는 아직 따라오지 못했다"며 "확신에 찬 오답은 아예 답변이 없는 것보다 더 큰 피해를 준다"고 강조했습니다.

AI가 잘하는 영역과 못하는 영역

전문가들은 AI 활용의 맥락을 분명히 구분합니다. 병원 방사선과(radiology)에서 AI가 영상 이상 소견을 전문의에 준하는 정확도로 감지하는 것은 이미 검증된 사실입니다. 아스터 DM 헬스케어(Aster DM Healthcare)의 디지털 헬스 부문 대표 나라 카루나니시(Nalla Karunanithy)는 "AI가 오늘날 실질적인 가치를 더하는 영역은 진단 결정 내부가 아니라 진료 경험 주변부"라고 밝혔습니다.

반면 챗봇을 통한 개인 자가진단은 전혀 다른 맥락입니다. 카루나니시는 "임상적 맥락에서 책임 없는 확신은 권장되지 않으며, 진단 과정에 참여하는 모든 AI는 반드시 의사의 감독 아래 운용되어야 한다"고 강조했습니다.

한국 청년이 알아야 할 시사점

2026 에델만 신뢰도 바로미터(Edelman Trust Barometer)에 따르면 UAE 응답자 1,000명 중 59%가 AI로 건강 문제를 관리한다고 답했습니다. 디지털 헬스 인프라와 스마트폰 보급률이 세계 최고 수준인 한국의 수치도 이와 비슷하거나 더 높을 것으로 예상됩니다.

특히 한국 청년들에게 이번 연구는 세 가지를 시사합니다.

첫째, 데이터 편향의 현실입니다. 주요 AI 모델은 한국인을 포함한 동아시아 인종의 임상 데이터가 상대적으로 적게 반영돼 있습니다. 서구 기준으로 학습된 모델이 한국인에게 내리는 진단 결과는 더 큰 오차 가능성을 품고 있습니다.

둘째, 설득력 있는 답변을 과신하지 말아야 합니다. AI의 어조가 전문적이고 구체적으로 들리더라도, 이는 정확도를 보장하지 않습니다. 특히 암이나 희귀 질환을 시사하는 내용이라면 반드시 의사와 직접 상담해야 합니다.

셋째, AI는 탐색의 시작점이지 진단의 마침표가 아닙니다. 증상 관련 정보를 사전에 파악하거나 의사와의 상담을 준비하는 데 AI를 활용하는 것은 유용합니다. 그러나 AI 답변만으로 치료 여부를 결정하거나 불안을 증폭시키는 것은 위험합니다.

AI 기술은 빠르게 발전하고 있지만, 의료 분야에서의 안전장치는 아직 기술 속도를 따라가지 못하고 있습니다. 건강 정보는 편리함보다 정확성이 우선입니다.