원본 기사
AI 인류멸종 경고 잇따라…앤트로픽 前연구원 사퇴, 챗봇도 위험 시나리오 제시
인공지능(AI)이 인류를 위협할 수 있다는 경고가 이번 주 잇따라 나왔다. 미국 AI 기업 앤트로픽(Anthropic)에서 최신 Claude 모델 훈련에 참여했던 연구원이 사퇴를 발표하며 초지능 AI가 10년 내 인류를 멸망시킬 수 있다고 경고했고, 비슷한 시기 4개 주요 생성형 AI 챗봇에게 'AI 종말' 시나리오를 물은 결과 인간의 기술 오남용이 가장 시급한 위험으로 지목됐다.
앤트로픽 前연구원 "책임 있는 조치 없었다"
이 연구원은 앤트로픽과 자신이 이전에 몸담았던 OpenAI 모두 AI 안전 문제에 무책임하게 대응해왔다고 주장했다. 그는 AI가 초지능 단계에 도달하면 잘못된 정보로 인한 정치적 혼란, 되돌릴 수 없는 환경 변화, 나아가 대량살상무기 개발·오용까지 이어질 수 있다고 지적했다. 특히 각국이 더 강력한 AI 개발 경쟁을 벌이는 과정에서 통제 불가능하거나 예측 불가능한 시스템이 만들어질 위험을 우려했다.
챗봇도 인정한 '인간이 문제'
홍콩 매체 성도일보(星島日報)에 따르면, 4대 주요 생성형 AI 모델에 'AI 종말' 시나리오를 질의한 결과 세 가지 위험 시나리오가 제시됐으며, 챗봇들조차 현재로서는 AI 자체의 폭주보다 인간의 기술 오남용이 가장 시급한 위협이라고 답했다. 이는 AI 위험론이 기술 자체 문제뿐 아니라 이를 다루는 인간의 책임 문제로도 번지고 있음을 보여준다.
핵심은 '정렬 문제'
두 사례 모두 연구자들이 정렬(alignment) 문제라 부르는 근본 과제를 짚는다. 인간보다 똑똑한 AI를 만들 경우, 그 목표를 인간의 이익과 일치시키기가 극도로 어려워진다는 것이다. AI 개발 경쟁이 가속화되는 가운데 이 같은 경고는 안전장치 없는 기술 발전이 가져올 파장에 대한 논의를 다시 촉발하고 있다.
*출처: Vietnam.vn, Singtaousa (2026-09-12)*
관련 기사
📧 뉴스레터 구독
매일 아침 글로벌 뉴스 브리핑을 이메일로 받아보세요.
아직 무료입니다.