"두 명의 참가자가 순수하게 운에 의한 게임을 하고 있고 각각 32개의 동전을 베팅한다. 세 번 연속으로 먼저 이기는 사람은 베팅된 동전 전부를 가질 수 있다. 게임을 세 번 한 후에 게임이 중단되었는데, 참가자 A는 두 번 이겼고 참가자 B는 한 번을 이겼다. 이 상황에서 어떻게 하면 두 사람이 동전을 공정하게 나눠 가질 수 있을까?"

페르마와 파스칼 둘 다 참가자 A와 B에게 각각 3 : 1의 비율로 동전을 나눠주어야 한다고 결론을 내렸지만 해결책을 찾아낸 방식은 서로 달랐다. 페르마는 확률과 관련된 답을 내놓았다. 두 참가자가 게임을 마무리 짓기 위해서는 두 번의 게임을 더 하는 것이 최선이다. 이 경우 네 가지의 결과 ⅰ) A승, A승, ⅱ) A승, B승, ⅲ) B승, A승, ⅳ) B승, B승가 나올 수 있다. 이 중 제일 마지막의 경우에만 참가자 B가 게임 전체의 승자가 된다. 그러므로 B는 1/4의 확률을 가지며 베팅된 금액의 1/4을 받는 것이 옳다.

파스칼은 기댓값에 근거해서 해결책을 내놓았다. 게임을 한 번 더 해서 A가 이긴다면 A는 세 번 이긴 것이 되므로 베팅된 동전 64개를 모두 갖게 된다. 하지만 B가 이긴다면 A와 B가 두 번씩 이긴 것이 되므로 두 사람이 각각 32개의 동전을 받을 수 있는 자격을 갖게 된다. 따라서 참가자 A는 이기건 지건 32개의 동전을 받게 되어 있다. 남아 있는 32개의 동전은 이기는 사람이 차지하겠지만 누가 이길지는 알 수 없다. B가 다음 게임에서 이길 확률은 1/2이므로 남아 있는 동전의 반인 16개의 동전을 가져야 한다. A 또한 다음 게임에서 이길 확률이 1/2이므로 나머지 반인 16개의 동전을 받아야 한다. 다시 말해, 참가자 A는 48개의 동전을 받고 참가자 B는 16개의 동전을 받아야 하는 것이다. 이러한 방식으로 드 메레가 제시한 물음에 답하였다. 저명한 수학자의 답이니 수학적으로는 무리가 없겠으나 필자 개인적으로는 위의 해법에 대해서는 이상하다는 느낌이 들기는 한다. 예를 들어 1000점으로 승부를 가리는 게임에서 A와 B의 점수가 각각 999점과 998점이라고 하자. 이 경우 역시 승부를 가리기 위해서는 최대 두 번의 게임이 더 이루어져야 하므로 점수가 2점과 1점인 경우와 동일하게 판돈을 3 : 1의 비로 나누게 된다. A와 B가 999점과 998점으로 팽팽한 승부를 펼쳤는데도 여전히 A와 B의 판돈 분배의 비를 3 : 1로 하는 것은 1승만을 더 많이 하고 있는 A에게 지나치게 유리한 결정으로 보이는 면이 있다. A와 B의 점수가 2 : 1이나 999 : 998이라는 사실에 주목하여 비례적 사고를 하면 판돈을 3 : 1로 분배하는 것이 불합리하게 보일 수 있으나, 3 : 1의 분배가 수학적으로는 정확한 결론이라고 한다.

위의 점수 문제의 풀이는 일반화할 수 있다. 두 사람의 점수가 승패가 결정되는 점수에서 n점, m점이 부족하다면, 승부를 내기까지는 최대 (n+m-1)번의 게임을 더 해야 하는 것으로 생각할 때 A와 B가 이기는 경우를 따져서 판돈을 분배하면 된다. A와 B의 점수가 2점과 1점, 혹은 999점과 998점인 경우 승패가 결정되는 점수 3점이나 1000점으로부터 각각 1점과 2점이 부족하므로, 승부를 가리기까지는 최대 (1+2-1)번의 게임을 더 해야 한다. 이처럼 두 번의 게임을 했을 때 가능한 경우는 ⅰ) A승, A승, ⅱ) A승, B승, ⅲ) B승, A승, ⅳ) B승, B승이다. 이 중에서 A가 이기는 경우가 세 번, B가 이기는 경우가 한 번이므로 3 : 1로 분배하는 것이다.

비교적 늦게 수학의 분야로 들어온 확률은 불확실성과 모호함을 그 본질로 하므로 수학의 여타 분야와 달리 인간의 직관과 큰 괴리를 보이거나 모순적으로 보이는 결과가 나오기도 한다. 그래서인지 몰라도 확률을 이해하기 어려운 분야로 만들기도 하지만 그만큼 확률에 대한 매력을 높이는 요인으로 작용하기도 한다.

금동인 수학전문학원 엠투오 원장

<저작권자ⓒ대전일보사. 무단전재-재배포 금지>