원본 기사
시스코, LLM 보안 리더보드에 이미지·음성 공격 평가 추가
네트워크 장비 기업 시스코가 자사의 'LLM 보안 리더보드'를 텍스트 공격 평가에서 이미지·음성까지 포함한 멀티모달 평가로 확장했다고 밝혔다. AI 모델이 이메일을 읽고 웹을 탐색하며 사용자를 대신해 행동하는 에이전트에 점점 더 많이 탑재되면서, 조작에 취약한 모델이 오히려 사용자에게 위협이 될 수 있다는 문제의식에서 출발했다.
프롬프트 인젝션·탈옥 시험
리더보드는 웹페이지나 이미지 등 모델이 처리하는 콘텐츠에 악성 지시를 숨기는 '프롬프트 인젝션', 모델을 구슬려 안전 규칙을 무시하게 만드는 '탈옥' 등 다양한 기법으로 모델의 방어력을 측정한다. 공격은 단발성 메시지부터 장시간에 걸친 대화, 직접적 또는 우회적 방식, 텍스트·이미지·음성 등 형태가 다양하며, 핵심 질문은 결국 '이 모델이 조작될 수 있는가'로 귀결된다.
6월 이후 102개 모델 추가
시스코는 지난 6월 이후 세 가지 모달리티에 걸쳐 102개 항목을 새로 추가해 총 136개 모델을 평가 대상에 올렸다고 밝혔다. 여기에는 앤스로픽, 오픈AI, 구글, xAI, 메타, 미스트랄 등 주요 기업의 최신 모델과 오픈웨이트 모델이 포함됐다. 모든 모델은 추가 보안장치 없이 기본 설정 상태로 테스트해, 이후 보안 조치를 얼마나 추가해야 하는지 판단할 수 있는 기준선을 제공한다는 설명이다.
배포 형태별 위험 차이
시스코는 같은 모델이라도 챗봇처럼 질의응답만 하는 경우와 웹 브라우징 에이전트에 연결된 경우 노출되는 입력 경로가 달라 위험 수준도 달라진다고 강조했다. 어떤 모달리티에서 모델이 취약한지를 파악하는 것이 실제 서비스 적용 시 방어 전략 수립에 중요하다는 취지다.
*출처: blogs.cisco.com (2026-09-24)*
관련 기사
📧 뉴스레터 구독
매일 아침 글로벌 뉴스 브리핑을 이메일로 받아보세요.
아직 무료입니다.