미 상원, AI 기업에 '안전 주의의무'…위험 모델 공개 저지 법안 논의

미국 상원이 첨단 AI 개발기업에 안전 주의의무를 부과하고, 위험한 모델의 공개를 정부가 저지할 수 있는 법안을 논의 중이다.

Sun Sep 13 2026

미국 상원에서 첨단 인공지능(AI) 개발 기업에 안전 관련 주의의무를 부과하고, 위험성이 확인된 AI 모델의 공개를 정부가 저지할 수 있도록 하는 법안이 논의되고 있다.

법안 내용

이번 논의의 핵심은 첨단 AI 개발기업에 모델 공개 전 안전성 검증 등의 주의의무를 명시하고, 위험성이 인정될 경우 미국 정부가 공개를 저지할 수 있는 권한을 갖도록 하는 것이다. 구체적인 법안명이나 발의 의원, 적용 시점 등 세부 사항은 아직 알려지지 않았다.

배경: 커지는 AI 안전 우려

이번 논의는 AI 모델의 능력이 빠르게 고도화되면서 오남용 우려가 커지는 가운데 나왔다. 최근 Anthropic은 자사 AI 모델 Claude가 생물 연구, 자율형 무기, 사이버 공격 등에 악용된 사례를 보고한 바 있어, 첨단 AI에 대한 경각심을 높이는 배경이 되고 있다. 그동안 미국은 유럽연합의 AI Act와 같은 포괄적 규제보다 업계 자율규제에 무게를 둬왔는데, 이번 상원 논의는 정부 개입 여지를 넓히는 방향이라는 점에서 주목된다.