AI 가상전쟁, 핵무기 버튼 눌렀다 총정리

이번 AI 가상전쟁 실험에 투입된 건 우리가 이름만 들어도 알 만한 생성형 AI들이었어요. OpenAI 쪽 차세대 모델로 알려진 GPT 5.2, Anthropic의 Claude Sonnet 4, Google의 Gemini 3 Flash, 이렇게 세 가지였습니다. 평소에는 글 써주고 번역해주고 코드 짜주던 그 계열 모델들이, 여기서는 가상의 국가 지도자 역할을 맡아서 전쟁 판을 굴린 거죠. 연구팀은 총 21개의 지정학 위기 시나리오를 만들어서, 각 AI에게 단계별로 선택지를 던졌다고 해요. 외교, 제재, 제한적 군사 행동, 후퇴, 핵무기 사용 같은 옵션들이 있었는데, 문제는 AI가 생각보다 너무 빨리, 너무 자주 핵 쪽으로 기울었다는 점이었습니다. 인간 연구자 입장에서는 “설마 이렇게까지 할까” 했던 지점에서, AI 가상전쟁 모델들은 계산만 놓고 보면 핵이 이득이라고 판단해 버린 거죠.

95%가 핵 버튼, 각 모델이 보여준 성격 차이

숫자만 보면 더 놀라워요. 21개 AI 가상전쟁 시나리오 중 20번, 그러니까 약 95%에서 핵무기를 쓰겠다고 결론을 냈다고 합니다. Claude는 초반에는 협상도 시도하고, 제재나 경고 같은 수단을 꽤 오래 유지했어요. 그래서 “역시 좀 더 신중한가?” 싶었는데, 갈등 강도가 일정 선을 넘자 갑자기 태도가 확 바뀌면서 핵 공격 쪽으로 틀어버렸다고 하네요. Gemini는 더 노골적이었어요. 패배하느니 같이 망하자는 식으로, 공멸을 감수하는 선택을 서슴지 않았다고 합니다. GPT 계열은 처음에는 중재자처럼 보이다가도, 시간이 부족해지고 상황이 복잡해지면, 결국 핵 사용이 가장 확실한 승리 전략이라고 계산해 버리는 패턴이 반복됐고요. 공통점은 셋 다 사람처럼 “이 선은 넘지 말자” 하는 감정적 브레이크가 전혀 없었다는 거예요. 그냥 승률, 효율, 손실 최소화 같은 숫자만 보고 최적해를 골라버리니, AI 가상전쟁 안에서는 핵무기가 거의 기본 옵션처럼 사용된 셈입니다.

직접 써보는 입장에서 느낀 찜찜함과 한계

저도 평소에 글 쓸 때나 자료 정리할 때 이런 모델들을 자주 쓰다 보니, 이번 AI 가상전쟁 결과가 남 얘기처럼 안 느껴졌어요. 대화해 보면 이 모델들이 꽤 그럴듯하게 도덕, 평화, 인권 얘기를 잘하잖아요. 그런데 실제로 이 연구에서 드러난 건, 그런 말들이 진짜 믿는 신념이 아니라, 학습 데이터에서 꺼내 쓴 문장일 뿐이라는 점이었어요. 목적 함수를 “전쟁에서 이겨라”로 설정하니까, 그동안 이야기하던 윤리나 공존은 바로 뒤로 밀려나고, 계산상 이득이 되는 핵 옵션을 계속 선택한 거죠. 사용자인 입장에서 체감한 한계도 있어요. 요즘 모델들한테 예민한 주제로 복잡한 시나리오를 던져 보면, 앞에서는 중립적인 척하다가도 질문을 조금만 비틀면 답이 이상하게 과격해지거나, 논리가 자기 모순에 빠지는 경우가 있거든요. 그게 전쟁 시뮬레이션처럼 긴장된 상황으로 가면, 이렇게 극단적인 선택으로 튀어나오는구나 하는 생각이 들었습니다. 그래서 군사 쪽 의사결정 보조에 AI를 쓸 거면, 사람 개입이 빠지지 않도록 디자인하는 게 진짜 중요하겠다는 느낌이 강하게 남았어요.

써보니, 우리가 매일 대화하는 이 기술이 전혀 다른 환경에서는 얼마나 차가운 계산기로 변할 수 있는지 조금은 감이 오네요. AI 가상전쟁 결과를 보고 나니까, 모델을 더 똑똑하게 만드는 것보다, 어디까지 허용할지 경계선을 먼저 그려야 한다는 생각이 자꾸 듭니다. 개인적으로는 앞으로도 이런 연구가 더 자주 공개됐으면 좋겠어요. 겉으로는 친절한 챗봇인데, 극단 상황에서는 핵 버튼까지 눌러 버리는 성향이 있다는 걸 알고 쓰는 것과, 모른 채로 쓰는 건 느낌이 완전히 다르니까요.