AI가 AI를 공격한다, LLM 활용 신종 사이버 위협 부상

대형언어모델(LLM)과 자율 AI 시스템이 방산·인프라에 통합되면서, AI 자체를 표적으로 삼는 새로운 형태의 사이버 공격 위협이 현실화되고 있다.

Thu Jul 02 2026

대형언어모델(LLM)과 자율 AI 시스템이 군사 물류, 에너지 인프라, 기업 환경에 빠르게 통합되는 가운데, AI 인프라 자체를 겨냥한 신종 사이버 공격 위협이 안보 전문가들의 경고 대상으로 떠오르고 있다.

러시아 샌드웜의 선례: AI 이전의 교본

2022년 10월, 러시아 군사정보국(GRU) 산하 샌드웜(Sandworm, 74455부대)은 우크라이나 대규모 미사일 공격에 맞춰 전력 인프라를 동시 타격했다. 이 공격은 무차별적 침투가 아니었다. 샌드웜은 수개월에 걸쳐 변전소 제어 시스템의 의사결정 로직을 분석한 뒤, 관리 소프트웨어를 통해 차단기를 원격 작동시켰다. 운영자 화면에는 이상 징후가 표시되지 않은 채 정전이 발생했다. 미국 군사전문지 '스몰워스저널'에 실린 스콧 플레전츠 대위의 분석에 따르면, 이 공격 방식—대상 시스템의 논리를 역이용하는 전술—이 이제 AI 인프라에도 그대로 적용되고 있다.

AI를 겨냥한 4가지 공격 유형

논문은 현재 문서화된 AI 인프라 공격 유형을 네 가지로 분류한다. 첫째, 스폰지 예제(sponge examples)를 이용한 자원 고갈 공격이다. 악의적으로 설계된 입력값을 통해 AI 모델의 연산 자원을 과부하시키는 방식이다. 둘째, 뉴럴 트로이(neural trojan) 백도어 공격으로, 훈련 데이터 오염을 통해 특정 조건에서 오작동하도록 모델을 조작한다. 셋째, 적대적 워크로드 스케줄링으로 AI 운영 시스템의 작업 흐름을 교란하는 방식이며, 넷째는 블랙박스 쿼리를 통한 모델 추출(model extraction)로 기업 및 군사 AI 모델의 내부 구조를 역설계하는 공격이다. 논문은 러시아 샌드웜 외에 중국 인민해방군(PLA) 사이버 부대도 유사한 방식의 역량을 개발 중인 국가 행위자로 지목하고 있다.

방어 대책 존재하지만 현장 적용은 미흡

논문은 각 공격 유형에 대한 방어 수단이 학술적으로는 존재하지만, 실제 운용 환경에서는 대부분 적용되지 않은 상태라고 지적한다. AI 인프라가 국방 물류·공급망의 핵심으로 자리 잡은 만큼, 이를 기존 전력망·통신망과 동등한 수준의 전략적 인프라로 간주하고 그에 걸맞은 보안 체계를 갖춰야 한다는 것이 핵심 주장이다. 한국 역시 AI 기반 스마트 국방 및 사회 인프라 확대가 가속화되는 시점에서, 이 같은 위협 유형에 대한 대비 체계 점검이 요구된다.

*출처: Small Wars Journal (2026-07-02)*

Tags: #AI #사이버보안 #기술 #군사 #국제안보