서울대병원 연구 'AI 진단 보조, 전문의 전문성이 오류 막는다'

국내 연구진이 LLM 방사선 진단 보조 시 AI 확신도와 판독자 전문성이 오답 여부를 가른다고 밝혔다.

Wed Aug 12 2026

서울대병원 영상의학과 연구팀이 대형언어모델(LLM)을 활용한 흉부 영상 진단 보조에서, 방사선과 전문의가 AI의 그럴듯하지만 틀린 설명에 속지 않으려면 AI 모델의 확신도와 판독자의 전문성이 핵심 변수라는 연구 결과를 내놨다. 해당 연구는 국제학술지 '래디올로지(Radiology)'에 8월 11일 게재됐다.

100건 흉부영상으로 검증한 인간-AI 협업

연구팀은 판독자 10명이 환자 100명의 흉부 X선, CT, MRI, PET 영상을 판독하도록 하고, AI 없이 진행한 세션과 LLM을 활용한 세션을 비교했다. LLM은 정확도가 높은 모델(76%, GPT-5 기반)과 정확도가 낮은 모델(27%, GPT-4o 기반) 두 종류로 나눠 무작위 배정했으며, 판독자에게는 참고 표준과 대조된 근거(rationale)와 함께 객관식 진단 선택지가 제시됐다.

확신도와 전문성이 핵심 변수

분석 결과 AI 모델의 확신도(승산비 3.82)와 판독자의 전문성(승산비 2.06)이 적절한 인간-AI 상호작용과 독립적으로 연관됐다. 다만 확신도의 영향은 전문성이 높은 판독자일수록 약해졌다(승산비 0.79). 또한 AI가 제시하는 근거의 질이 높을수록 판독자가 올바른 제안을 거부할 확률은 낮아졌지만(승산비 0.79), 동시에 틀린 제안을 수용할 확률은 오히려 높아졌다(승산비 1.71). 반대로 판독자의 전문성(승산비 0.54)과 확신도(승산비 0.80)는 틀린 제안 수용을 막는 방어 요인으로 작용했다.

설명 잘하는 AI일수록 위험할 수도

연구를 이끈 이태희 서울대병원 영상의학과 교수는 설명력이 뛰어난 AI일수록 이를 비판적으로 평가할 수 있는 사람에게만 도움이 된다고 지적했다. 그럴듯한 설명이 오히려 전문성이 낮은 판독자를 잘못된 결론으로 이끌 수 있다는 의미로, 의료 현장에서 LLM을 보조 도구로 도입할 때 모델 성능뿐 아니라 사용자의 숙련도를 함께 고려해야 한다는 시사점을 남겼다.

*출처: Radiology Business (2026-08-12)*

Tags: #AI #의료AI #방사선진단 #서울대병원 #LLM