가위바위보와 사다리타기로 배우는 게임 이론과 수학적 대칭군

점심 식사 내기를 하거나 순서를 정할 때 우리는 매일 가위바위보를 하고 사다리를 탑니다. 지극히 단순해 보이는 이 게임들 이면에는 노벨 경제학상을 낳은 '게임 이론(Game Theory)'과 현대 대수학의 핵심 이론인 '대칭군(Symmetric Group)'이라는 놀라운 수학적 질서가 숨어 있습니다. 일상 게임으로 배우는 재미있는 수학 이야기를 소개합니다.

1. 가위바위보와 내시 균형(Nash Equilibrium)

가위바위보는 한 사람의 이득이 상대방의 손실이 되는 대표적인 2인 제로섬 게임(Two-player Zero-Sum Game)입니다. 바위는 가위를 이기고, 가위는 보를 이기며, 보는 바위를 이기는 순환 대칭 구조(Cyclic Symmetry)를 이룹니다.

영화 《뷰티풀 마인드》의 주인공 존 내시(John Nash)가 정립한 내시 균형(Nash Equilibrium)에 따르면, 상대방이 전략을 바꾸지 않는 한 내가 전략을 바꿔도 더 나은 보상을 얻을 수 없는 안정 상태가 존재합니다.

가위바위보에서의 유일한 내시 균형은 바로 '가위, 바위, 보를 각각 정확히 $\frac{1}{3}$의 확률로 완전히 무작위로 내는 혼합 전략(Mixed Strategy)'입니다. 내가 $\frac{1}{3}$ 무작위 전략을 구사하면, 상대방이 어떤 천재적인 수싸움을 걸어오더라도 나의 장기 승률은 정확히 50%(비김 제외 시 승/패 1:1)로 방어됩니다.

2. 인간의 뇌를 공략하는 심리 전략: Win-Stay, Lose-Shift

하지만 사람은 컴퓨터처럼 진정한 $\frac{1}{3}$ 난수를 생성하지 못합니다. 중국 저장대학교(Zhejiang University) 연구진이 수백 명의 참가자를 대상으로 대규모 가위바위보 토너먼트를 분석한 결과, 인간에게는 명확한 무의식적 행동 패턴이 있음을 발견했습니다.

실전 가위바위보 필승 공식:

• 내가 졌을 때: 상대는 '승자 유지' 심리에 따라 방금 낸 것을 다시 낼 확률이 높습니다. 따라서 상대의 방금 패를 이기는 패를 내면 이길 확률이 높아집니다.
• 내가 이겼을 때: 상대는 '패자 변경'에 따라 패를 바꿀 것입니다. 상대가 방금 진 패를 이기는 패를 예측하여 카운터를 칠 수 있습니다.

3. 사다리타기 게임의 수학: 대칭군과 일대일 대응(Bijection)

사다리타기는 왜 언제나 중복 없이 각 사람이 서로 다른 결과 하나씩에 정확히 1:1로 도착할까요?

수학의 추상대수학(Abstract Algebra)에서 $n$개의 요소를 재배열하는 모든 방법의 집합을 대칭군(Symmetric Group, $S_n$)이라고 부릅니다.

사다리타기에서 임의의 위치에 그어지는 가로선 하나는 수학적으로 '인접한 두 원소의 자리를 맞바꾸는 인접 호환(Adjacent Transposition, $\sigma_i = (i \quad i+1)$)'을 의미합니다.

인접 호환은 항상 역함수가 존재하는 전단사 함수(Bijective Function)이므로, 아무리 많은 가로선이 복잡하게 얽혀 있더라도 가로선들의 합성 함수 역시 항상 일대일 대응(Bijection)을 이룹니다. 따라서 두 사람이 같은 결과에 도착하는 수학적 모순은 절대로 일어날 수 없습니다.

4. 사다리타기에서 가로선 수와 공정성의 관계

만약 사다리에 가로선이 0개라면 시작점 1번은 100% 결과 1번에 도착합니다. 가로선이 너무 적으면 시작점 바로 아래 근처로 떨어질 확률이 높은 편향(Biased Distribution)이 발생합니다.

모든 시작점이 모든 도착점에 완전하게 균등한 $\frac{1}{n}$의 확률로 도달하기 위해서는, 수학적으로 참가자 수 $n$에 대해 충분한 개수의 무작위 가로선(통상 $n \times (n-1)$ 이상)이 골고루 배치되어야 합니다. ToolBox의 사다리 게임은 균등 분포를 보장하는 무작위 생성 알고리즘으로 설계되었습니다.