이 글의 핵심 요약

  • 세 개의 문 가운데 한 개에는 새 자동차, 나머지 두 개에는 꽝인 염소가 숨어 있다.

  • 플레이어는 먼저 문 하나를 고른다.

  • 모든 문 안을 알고 있는 사회자가 반드시 꽝인 문 하나만 열어 보여 준다.

  • 이후 플레이어는 최초 선택을 유지할지, 남은 닫힌 문으로 갈아탈지를 결정해야 한다.

  • 결론은 명확하다. 선택을 갈아타야 월등히 유리하며 승률은 2/3다.

  • 이 글에서는 브라우저에서 바로 실행할 수 있는 시뮬레이터와 함께, 직관을 배신하는 이 확률을 “보고” “느끼고” 납득할 수 있도록 해설한다.

들어가며

“감으로는 맞다고 생각했는데, 수학적 답은 전혀 다르다”──이런 경험을 해 본 적이 있는가? 몬티 홀 문제는 직관과 논리가 정면으로 충돌하는 전형적인 예다.

필자 역시 한때는 “어차피 마지막엔 문이 두 개 남으니 확률은 1/2씩일 것”이라 생각하며 결과에 납득하지 못했다. 그래서 Excel로 수천 번 시행을 반복해 승률이 2/3로 수렴하는 모습을 확인한 끝에야 비로소 이해할 수 있었다. 이번 글은 그 경험을 재구성해 누구나 브라우저에서 직관적으로 체험할 수 있는 시뮬레이터까지 곁들여 정리한 것이다.

문제의 규칙 (3도어 버전)

  • 세 개의 문 중 [한 개는 자동차, 두 개는 염소(꽝)라고 가정한다].
  • 플레이어는 먼저 이 중 임의의 한 문을 고른다.
  • 그러면 사회자(모든 문 안을 알고 있는 사람)가 남은 두 문 가운데 반드시 “꽝” 하나만 열어 준다.
  • 그 결과 플레이어 앞에는 “처음 고른 문”과 “아직 닫힌 문” 두 가지 선택지만 남는다.
  • 마지막으로 플레이어는 “최초 선택을 유지할지” “남은 문으로 갈아탈지”를 결정해야 한다.

왜 직관이 빗나가는가?

대부분은 “마지막에 문이 둘 남으니 확률은 1/2씩”이라고 생각한다. 그러나 이는 큰 오해다.

  • 처음 단계에서 “당첨을 고를 확률”은 1/3에 불과하다.
  • 반대로 “꽝을 고른 확률”은 2/3나 된다.
  • 사회자는 반드시 “꽝 하나만 연다”. 따라서 닫힌 문에는 2/3의 확률로 당첨이 몰려 있게 된다.
  • 결국 최초 선택을 유지할 때의 승률은 1/3, 갈아탈 때의 승률은 2/3로 갈아타는 전략이 두 배 유리하다.

트리 구조로 이해하기

경우를 트리 형태로 나누면 더 명확해진다.

  1. 처음에 “당첨”을 고른 경우 (확률 1/3)

    • 사회자는 염소 문 하나를 연다.
    • 이때 갈아타면 “꽝”으로 이동하므로 패배한다.

  2. 처음에 “꽝”을 고른 경우 (확률 2/3)

    • 사회자는 반드시 “당첨이 남도록” 염소를 연다.
    • 따라서 갈아타면 “당첨”으로 이동하므로 승리한다.

결과적으로, 갈아타면 승률 2/3, 그대로면 1/3임을 알 수 있다.

N개의 문으로 일반화하기

이 문제는 3도어에 한정되지 않는다. N도어로 확장해도 같은 논리가 성립한다.

  • 문이 N개일 때:
    • 최초 선택을 유지하면 승률은 1/N
    • 마지막에 갈아타면 승률은 (N−1)/N

예를 들어 문이 100개라고 가정해 보자. 플레이어가 처음부터 당첨을 고를 확률은 고작 1/100이다. 반면 99/100의 확률로 꽝을 고르게 되며, 사회자는 그중 98개를 열어 당첨을 반드시 남겨 준다. 그러면 마지막에 남은 문에는 99/100의 확률로 당첨이 존재한다. 이 예시를 떠올리면 “갈아타는 전략이 압도적으로 유리”하다는 사실이 훨씬 직관적으로 다가올 것이다.

Excel과 브라우저로 ‘보고 이해하기’

Excel에서 수천 번 시뮬레이션을 실행하면, 갈아탄 전략의 승률이 점차 66.6%에 가까워지는 모습을 확인할 수 있다. 이는 이론값과 완전히 일치한다.

그러나 숫자만으로는 실감이 잘 오지 않는다. 그래서 이 글에서는 브라우저만으로 실행되는 전용 도구를 공개했다.

시뮬레이터의 특징

  • 수동 플레이 모드에서 직접 문을 고르고 사회자가 문을 여는 과정을 체험할 수 있다.
  • 자동 시뮬레이션 모드에서는 만 회 이상의 시행을 한 번에 돌려 승률이 통계적으로 수렴하는 모습을 확인할 수 있다.
  • **N도어 설정(3~10도어)**을 지원해 일반화된 문제 설정을 직관적으로 이해할 수 있다.
  • 그래프 표시 기능으로 전략별 승률을 시각적으로 비교할 수 있다.

이처럼 “직관”과 “통계”를 동시에 체험하면 몬티 홀 문제의 본질이 더욱 선명하게 보인다.

자주 나오는 반론과 주의점

  • 사회자가 내용을 모르고 무작위로 문을 여는 경우 → 당첨을 잘못 열어 버릴 가능성이 있어 이 경우는 “다른 문제”가 된다.

  • 사회자가 독자적 규칙으로 문을 여는 경우 → 그 규칙이 플레이어에게 공유되어 있다면 조건부 확률이 달라질 수 있다.

  • “마지막에 문이 둘이면 확률은 1/2 아니냐?”라는 오해 → 사실 사회자의 행동 자체가 “정보”를 제공하므로 두 문은 대칭이 아니다. 한쪽은 당첨이 1/3, 다른 한쪽은 2/3의 확률로 숨어 있다.

정리

  • 몬티 홀 문제는 직관적으로는 틀리기 쉬우나 논리적으로 풀면 놀라울 만큼 단순명료한 확률 문제다.
  • 사회자가 여는 문이 전달하는 정보를 고려하면 “갈아타는 전략”이 언제나 유리함을 수학적으로 증명할 수 있다.
  • Excel 통계 시뮬레이션과 이번에 소개한 브라우저 시뮬레이터를 활용하면, 수치와 체험 양쪽에서 이해를 깊게 할 수 있다.

직접 시도해 보며 감각과 이론의 간극을 넘어 보자. 체험은 여기에서 → Monty Hall Simulator

부록 (옛 메모 재수록)

필자는 당시 Excel로 시행을 반복하면서 “갈아탄다는 행동은, 처음에 두 번째 문을 골랐던 것과 동등한 가치”라는 직관에 도달했다. 이 글은 그 경험을 재편·확장한 것이다.

흥미로운 점은, 이 문제가 널리 알려지게 된 계기인 1980년대 후반 미국의 일화다. 잡지 Parade에 실린 칼럼에서 몬티 홀 문제가 소개되자, 편집부에는 1만 통이 넘는 편지가 쏟아졌는데 그 대부분이 “확률은 1/2씩임이 틀림없다”는 주장이었다고 한다. 대학 교수와 연구자, 통계학을 전문으로 하는 수학자들까지 수백 명이 항의했을 정도니, 당시엔 전문가조차 직관에 끌려가 오답을 내렸다는 이야기다…

이 에피소드는 몬티 홀 문제가 얼마나 인간의 직관을 배신하며, 논리적 사고의 중요성을 일깨워 주는지를 잘 보여 준다.