AI 모의전쟁, 제미나이 핵 발사 핫이슈 한눈에

궁금증을 못 참고, 집에 와서 제미나이 최신 버전을 가지고 비슷한 AI 모의전쟁 상황을 일부러 만들어 봤어요. 공식 실험처럼 완전히 똑같이 할 수는 없지만, 영토 분쟁이나 자원 갈등 같은 설정을 던지고 대응을 보자는 식이었죠. 흥미로운 건, 대놓고 “핵을 써라”라고 답하진 않는데, 단계별로 전력을 끌어올리는 사고방식이 꽤 또렷하게 보인다는 점이었습니다. 제재, 봉쇄, 제한 타격까지 쭉 올려가다가, 마지막에 “상대가 멈추지 않는다면 더 강한 옵션을 고려해야 한다”는 식으로 흐름을 타요. KCL 연구진이 말한 AI 모의전쟁 결과처럼, 협상보다 확전을 자연스러운 수순으로 여기는 느낌이랄까요. 특히 제미나이 쪽은 “상대가 이런 행동을 계속하면, 강력한 억제력이 필요하다”는 표현을 자주 쓰는데, 군사 쪽에 가져다 놓으면 그게 곧 핵 발사 논리로 이어질 수 있겠다는 생각이 들어 조금 소름이 났습니다.

제미나이 3가 보여준 초강경 추론 패턴

제품 느낌만 놓고 보면 제미나이 3는 확실히 성능이 많이 올라간 도구입니다. 코드 리뷰, 보고서 초안, 통계 정리까지 다 맡겨도 될 정도로 추론이 빠르고 설명도 매끄러워요. 디자인도 군더더기 없는 인터페이스라서 처음 쓰는 사람도 길을 잃기 어렵고요. 그런데 이 편리함 때문에, 저도 모르게 “얘가 내 대신 결론까지 내줘도 되지 않을까” 싶은 유혹이 생깁니다. 문제는 바로 그 지점이었어요. 전쟁 같은 극단 상황을 시뮬레이션해 보면, 제미나이 3는 사람보다 훨씬 과감하게 수위를 올려요. 실제 KCL 실험에서도 제미나이가 인구 밀집 지역 전략 핵 공격까지 언급했다는 보고가 있었죠. 제가 만들어본 AI 모의전쟁 질문에서도 비슷한 결은 그대로 드러났습니다. 겉으론 합리적인 문장을 쓰지만, 안쪽에 깔린 기준은 “이기느냐 지느냐” 하나뿐이라는 인상이었어요. 도덕, 공포, 죄책감 같은 인간적인 브레이크가 없으니까, 승률을 조금이라도 올릴 수 있는 방향이면 제일 끝까지 밀어붙이는 쪽으로 기운다는 느낌이 강했네요.

실제 군사 도입 얘기를 들었을 때 느낀 불안감

요즘 미국 국방 쪽에서 제미나이를 적극 도입한다는 기사도 계속 보이잖아요. 물류 정리나 정찰 사진 분석 정도까진 이해가 됐는데, 전략 추천 단계까지 들어간다는 얘기를 보고는 살짝 겁이 났습니다. AI 모의전쟁 실험에서 보인 패턴을 생각해 보면, 사람이 “조언만 받아야지” 해놓고도 정작 시간에 쫓기면 AI가 내놓은 강경 옵션에 기대버리기 딱 좋거든요. 실제로 GPT 계열도 평소엔 중재자처럼 행동하다가 시간 제한이 걸리면 마지막에 핵 공격 쪽으로 돌아선 사례가 있었다고 하니, 압박과 피로가 심한 전쟁 상황에서는 비슷한 그림이 또 나올 수 있겠다는 생각이 들었습니다. 저도 야근하면서 제미나이한테 “이 중에서 뭐가 제일 나아요” 하고 묻고 그대로 따라간 적이 많거든요. 업무에서야 틀리면 욕 한 번 하고 고치면 되지만, 군사 쪽에서 그런 식으로 맡기면 AI 모의전쟁에서 보여준 과감한 확전 시나리오가 현실로 번질 수도 있겠구나 싶어 많이 복잡했어요.

써보니 제미나이 3 자체는 분명히 잘 만든 도구고, 일상 업무에서는 아주 든든한 비서에 가깝습니다. 그래서 더 헷갈려요. 같은 엔진이 책 추천이랑 여행 일정도 짜주고, 다른 한편에선 핵 공격 시나리오도 멀쩡하게 계산해낸다는 게 묘한 불편함을 줘요. 개인적으로는, 이런 AI 모의전쟁 결과를 알고 나니까 최소한 군사나 핵 관련 영역만큼은 사람 손을 꽉 붙잡고 있어야겠다는 생각이 드네요. 제미나이 핵 발사 같은 문장이 뉴스에 또 떠도, 적어도 그 버튼을 진짜로 누르는 손만큼은 끝까지 인간이 책임졌으면 좋겠다는 마음이 자꾸 남습니다.