원본 기사
AI 영상 요약이 목격자 기억 왜곡…정확도 84%→45% 급락
AI가 생성한 영상 요약문이 사람의 기억을 왜곡시켜 목격자 진술의 신뢰도를 크게 떨어뜨린다는 연구 결과가 나왔다. 조지타운대와 워싱턴대 공동 연구팀은 부정확한 AI 요약에 노출된 실험 참가자들의 기억 정확도가 84%에서 45%로 급락했다고 밝혔다.
왜곡된 요약, 그대로 믿은 기억
연구팀은 목격자 신뢰성 실험에 쓰이는 고전적 심리학 패러다임을 바탕으로 만든 교통사고 애니메이션 영상을 활용했다. 참가자들에게 부정확한 AI 요약을 보여준 뒤 기억을 검사한 결과, 응답자들은 텍스트가 AI가 작성한 것임을 사전에 알고도 여전히 거짓 기억을 갖게 됐다. 이 결과는 국제 학회 AIES(AAAI/ACM Conference on AI, Ethics, and Society)에서 발표됐다.
챗GPT·제미나이, 핵심 장면 절반 누락
연구팀은 오픈AI의 챗GPT와 구글의 제미나이가 만든 영상 요약의 정확성도 검증했다. 두 모델은 평균적으로 핵심 장면의 51.6%를 언급하지 않았고, 실험의 95%에서 영상 속 가장 중요한 장면인 '차량과 보행자의 충돌'을 빠뜨렸다. 제1저자인 조지타운대 매시브데이터연구소의 매티아 심 연구교수는 "AI는 사람들에게 거짓 기억을 심어줄 수 있는 새로운 형태의 잘못된 정보 전달 수단"이라며 고위험 분야에서 AI 요약 활용에 신중해야 한다고 말했다.
법 집행·의료 현장 확산에 우려
기업 회의록, 임상 기록, 경찰 바디카메라 영상 등 방대한 음성·영상 데이터를 요약하는 데 거대언어모델(LLM) 도입이 빠르게 늘고 있다. 연구팀은 인간의 일화기억이 고정된 녹화본이 아니라 사후 정보에 취약한 재구성 과정이라는 점을 지적하며, 사법·의료처럼 정확성이 중요한 영역에서 AI 요약 사용에 대한 신중한 접근이 필요하다고 강조했다.
*출처: Neuroscience News (2026-09-27)*
관련 기사
📧 뉴스레터 구독
매일 아침 글로벌 뉴스 브리핑을 이메일로 받아보세요.
아직 무료입니다.