KAIST, AI 에이전트 전력 소비 일반 생성AI보다 136배 높아

KAIST 연구팀이 AI 에이전트의 쿼리당 에너지 소비가 일반 생성형 AI보다 최대 136.5배 높다는 세계 첫 실증 분석 결과를 발표했다.

Sun Jul 05 2026

국내 연구진이 AI 에이전트의 에너지 소비가 기존 생성형 AI와 비교해 압도적으로 높다는 사실을 세계 최초로 체계적으로 분석해냈다. KAIST 전기및전자공학부 유민수 석좌교수 연구팀은 실제 서비스 환경에서 AI 에이전트가 사용하는 컴퓨팅 자원과 전력을 측정한 결과를 7월 3일 발표했다.

AI 에이전트, 일반 LLM보다 9.2배 더 많은 모델 호출

AI 에이전트는 ChatGPT 같은 단순 질의응답형 대형언어모델(LLM)과 달리 스스로 계획을 세우고 인터넷 검색, 계산기, 코드 실행 등 외부 도구를 활용해 복잡한 문제를 해결한다. 소프트웨어 개발, 연구 지원, 업무 자동화 등 다양한 분야로 활용이 확산되고 있다. 연구팀 분석에 따르면 AI 에이전트는 기존 단계별 추론 방식인 CoT(Chain-of-Thought) 대비 평균 9.2배 더 많은 LLM 호출을 발생시켰다.

GPU 유휴 시간이 핵심 비효율 요인

응답 시간도 최대 153.7배까지 증가했다. 특히 외부 도구가 작업을 수행하는 동안 GPU가 연산하지 못하고 대기하는 시간이 전체 실행 시간의 최대 54.5%를 차지했다. 복잡한 문제 해결을 위해 여러 도구를 전환하는 과정에서 고가의 GPU가 충분히 활용되지 못하는 비효율이 발생하는 것이다. 에너지 소비량은 더욱 두드러졌다. 700억 파라미터 규모 LLM을 사용하는 AI 에이전트는 쿼리 1건을 처리하는 데 평균 348.41Wh의 전력을 소비하며, 이는 일반 생성형 AI의 136.5배에 달한다.

데이터센터 설계 패러다임 전환 필요성 부각

AI 에이전트 서비스가 빠르게 확산되는 상황에서 이번 연구 결과는 데이터센터 운영 비용과 전력 인프라 계획에 직접적인 시사점을 던진다. 한국도 삼성전자, SK하이닉스, 네이버 등 주요 기업이 AI 에이전트 서비스 경쟁에 뛰어든 만큼, GPU 유휴 시간 최소화와 에너지 효율 개선이 업계 핵심 과제로 떠오를 전망이다.

*출처: Seoul Economic Daily (2026-07-05)*

Tags: #AI #기술 #KAIST #에너지효율 #데이터센터