원본 기사
기사
KAIST·S2W, AI 안전 검증 기술 잇따라 공개…한국형 보안 생태계 구축
KAIST가 LLM 사전 공격 검증 프레임워크 S-GFN을 개발하고, 보안기업 S2W가 AI 보안 평가를 확대하며 한국의 안전한 AI 도입 기반을 마련하고 있다.
생성형 AI의 안전성을 사전에 검증하는 기술과 서비스가 한국에서 잇따라 등장하며, AI 보안 생태계 구축에 속도가 붙고 있다.
KAIST, 'AI 화이트해커' 프레임워크 개발
KAIST 전기 및 전자공학부 김준모 교수팀이 대규모 언어모델(LLM)의 안전성을 검증하는 새 프레임워크 'S-GFN(Stable-GFlowNet)'을 개발했다고 30일 밝혔다. 이 기술은 AI가 위험한 답변을 생성하기 전에 공격 경로를 먼저 탐색해 취약점을 찾아내는 방식으로, 보안 업계의 '레드팀' 개념을 AI에 적용한 것이다. 사실상 'AI 화이트해커' 역할을 수행하며 모델 출시 전 안전성을 체계적으로 점검할 수 있다.
S2W, AI 보안 평가 서비스 확장
국내 AI 보안 기업 S2W도 한국의 안전한 AI 도입을 지원하기 위해 AI 보안 평가 서비스를 확대한다고 밝혔다. 기업·기관이 AI 시스템을 도입할 때 발생할 수 있는 보안 취약점을 사전에 진단하는 서비스를 강화해, 민간·공공 부문의 AI 안전 도입을 돕겠다는 방침이다.
한국 AI 안전 인프라 구축 과제
생성형 AI의 급속한 확산과 함께 악의적 활용이나 오작동으로 인한 피해 우려도 커지고 있다. KAIST의 연구 성과와 S2W의 서비스 확장은 한국이 AI 경쟁력을 갖추는 동시에 안전 기반을 확보해야 한다는 과제에 대한 산학 차원의 대응으로 평가된다.
*출처: 매일경제, Chosunbiz, Forbes JAPAN (2026-07-30)*
관련 기사
📧 뉴스레터 구독
매일 아침 글로벌 뉴스 브리핑을 이메일로 받아보세요.
아직 무료입니다.