AMD, 완전 오픈소스 MoE LLM '인스텔라-MoE-16B-A3B' 공개

AMD가 자사 인스틴트 GPU로 학습한 전문가 혼합 구조의 완전 개방형 대규모언어모델을 발표했다.

Sat Aug 01 2026

AMD가 완전한 오픈소스 형태로 전문가 혼합(Mixture-of-Experts, MoE) 구조의 대규모언어모델 Instella-MoE-16B-A3B를 공개했다. 전체 매개변수는 160억 개 규모이며, 추론 시 실제로 활성화되는 매개변수는 약 28억 개 수준이다. 이 모델은 엔비디아가 아닌 AMD 자체 GPU 라인업인 Instinct 시리즈에서 학습됐다.

MoE 구조로 연산 효율성 확보

MoE 방식은 입력마다 전체 매개변수 가운데 일부 '전문가' 네트워크만 선택적으로 활성화해 연산량을 줄이는 기법이다. Instella-MoE-16B-A3B는 160억 개의 전체 매개변수 중 약 28억 개만 활성화되는 구조로, 대형 모델 수준의 성능을 상대적으로 적은 연산 비용으로 구현하는 것을 목표로 설계됐다.

엔비디아 대신 AMD 자체 GPU로 학습

이번 모델이 엔비디아 GPU가 아닌 AMD 자체 가속기인 Instinct 시리즈에서 학습됐다는 점이 특징이다. AMD는 이 모델을 완전 개방형으로 공개한다고 밝혔으며, 이는 데이터센터용 AI 가속기 시장에서 엔비디아에 도전하는 AMD가 하드웨어뿐 아니라 자체 AI 모델 생태계 구축에도 나서고 있음을 보여준다.

*출처: MarkTechPost (2026-08-01)*

Tags: #AI #AMD #오픈소스 #LLM