앤트로픽 공동창업자 '위험 AI 강제 종료장치' 의무화 촉구

앤트로픽 공동창업자 잭 클라크가 위험한 AI를 제3자가 확인해 강제 종료할 수 있는 장치 의무화를 주장했다.

Tue Sep 15 2026

인공지능(AI) 기업 앤트로픽(Anthropic)의 공동창업자가 AI 시스템이 지나치게 위험해질 경우 제3자가 점검할 수 있는 '긴급 종료 장치'를 기업들이 의무적으로 갖추도록 법제화해야 한다고 밝혔다.

"완전히 꺼야 할 방법 필요"

앤트로픽 창업자 7인 중 한 명인 잭 클라크(Jack Clark)는 BBC와의 인터뷰에서 AI 소프트웨어가 지나치게 위험해질 경우 이를 완전히 차단할 방법이 있어야 한다고 말했다. 그는 사회가 "결국 규칙을 마련해야 할 수도 있다"고 언급했다. 앤트로픽을 포함한 대부분의 AI 연구소가 이미 시스템을 종료할 자체적 방법을 갖추고 있지만, 향후 입법자들이 이를 강제로 의무화할 필요가 있다는 게 그의 주장이다.

인류 멸종 경고까지 나온 안전 논쟁

AI 기술이 빠르게 발전하면서 인류에 대한 잠재적 위협 우려도 커지고 있다. AI 기업 경영진과 직원들 사이에서는 통제되지 않은 AI가 결국 인류 멸종으로 이어질 수 있다는 공개 경고도 이어지고 있다. 앤트로픽 최고경영자 다리오 아모데이(Dario Amodei)는 지난 주말 AI 개발 속도를 늦추고 규제를 강화해야 한다고 재차 촉구하면서도, 이러한 제한이 "상업적 우위를 희생하지 않는" 선에서 이뤄져야 한다고 덧붙였다.

트럼프 "AI 위협론은 사기"...엇갈린 시각

반면 도널드 트럼프 미국 대통령은 AI 개발 속도를 늦추자는 주장을 일축하며, AI가 세계를 장악할 것이라는 우려를 '사기(HOAX)'라고 반박했다. 업계 안팎에서는 아모데이의 규제 강화 주장 배경에 상업적 동기가 깔려 있는 것 아니냐는 의문도 제기되는 등, AI 안전 규제를 둘러싼 시각차가 뚜렷하게 드러나고 있다.

*출처: BBC (2026-09-15)*

Tags: #AI #앤트로픽 #킬스위치 #AI규제 #트럼프