AI, 인간보다 가혹한 사회적 판단…묵인할 상황서도 처벌 예상

챗GPT 등 대형언어모델이 인간이라면 그냥 넘어갈 사회적 상황에서도 처벌이 필요하다고 판단하는 경향이 있다는 연구 결과가 나왔다.

Tue Sep 15 2026

챗GPT 등 대형언어모델(LLM) 기반 AI가 특정 사회적 상황을 두고 인간보다 훨씬 가혹한 반응을 예측하는 경향이 있다는 연구 결과가 나왔다. 인간이라면 별다른 조치 없이 넘어갈 상황에서도, AI는 처벌이 뒤따라야 한다고 판단하는 사례가 확인됐다.

AI의 '사회적 상상력' 한계

LLM은 방대한 지식을 바탕으로 다양한 질문에 답하는 데는 뛰어나지만, 사람들 사이의 사회적 상황을 해석하고 인간이 실제로 어떻게 반응할지 예측하는 능력은 상대적으로 검증이 부족한 영역으로 꼽힌다. 이번 연구는 AI가 이러한 사회적 맥락 판단에서 인간과 다른, 더 징벌적인 결론에 도달하는 경향을 보여준다.

왜 중요한가

이런 경향은 AI가 콘텐츠 심사, 분쟁 중재, 행동 평가 등 사람 간 상호작용에 개입하는 서비스에 활용될 경우 실제 인간의 판단 기준과 괴리된 결과를 내놓을 위험을 시사한다. AI가 실제 사회 통념보다 더 엄격한 잣대를 적용하면, 이를 신뢰하고 도입하는 기업이나 기관은 이용자와의 마찰이나 과잉 제재 논란에 직면할 수 있어, AI 정렬(alignment) 연구에서 짚어야 할 지점으로 지적된다.

*출처: Tech Xplore (2026-09-15)*

Tags: #AI #LLM #챗GPT #AI윤리 #AI정렬