17세기에 수학의 한 분야로 등장하기 시작한 확률은 운으로 하는 게임(a game of chance)이라는 관점에서 다루어졌다. 도박을 즐겼던 16세기의 수학자 카르다노는 `게임의 가능성에 대한 책`을 내놓으면서 확률을 체계적으로 다루기 시작했으나 그는 연구 결과를 오랫동안 출판하지 않았기 때문에 확률연구의 최초의 자리를 파스칼과 페르마에게 내주게 되었다. 파스칼과 페르마는 여러 통의 편지를 주고받으며 도박사였던 슈발리에 드 메레가 제안한 도박 내지 공정한 분배 문제에 대해 논의하면서 확률문제를 본격적으로 다루기 시작했다. 이렇듯 확률은 도박과 밀접한 관련을 맺으면서 발전하였다.

드 메레는 자신의 수학적 지식을 이용하여 도박에서 큰 성공을 거두었지만, 다음의 두 가지 문제에 대해서는 해결이 곤란하게 되었다. 결국 1654년 드 메레는 친구이자 수학자인 파스칼에게 이 문제의 해결을 부탁하기에 이르렀다. 드 메레의 첫 번째 문제는 1개의 주사위를 4번 던졌을 때 6이 적어도 한 번 나오는 것에 내기를 걸면 유리한데, 2개의 주사위를 24번 던졌을 때 (6, 6)이 적어도 한 번 나오는 것에 내기를 거는 것은 왜 불리한가 하는 문제였다. 드 메레는 6가지 경우가 있는 주사위 1개를 4번 던지는 것과 36가지 경우가 있는 주사위 2개를 던지는 것은 6 : 4 = 36 : 24로 비가 같기 때문에, 이를 경우의 수로 하는 확률은 같아진다고 생각하였다. 그러나 실제로는 2개의 주사위를 24번 던져서 (6, 6)이 적어도 한 번 나오는 경우에 돈을 걸어 손해 보는 일이 많았기 때문에, 드 메레는 그 이유를 궁금해했고 파스칼에게 문의한 것이었다.

파스칼은 다음과 같이 두 가지 상황에 대한 확률을 계산하였다.

1개의 주사위를 4번 던져서 6이 적어도 한 번 나올 확률은 전체 사건의 확률 1에서 1개의 주사위를 4번 던져서 6이 한 번도 나오지 않을 확률 을 제외한 1- =0.518이 된다. 마찬가지 방법으로 계산하면, 2개의 주사위를 24번 던져서 (6, 6)이 적어도 한 번 나올 확률은 1- ≒0.491이므로, 근소한 차이지만 전자의 확률이 높다. 2개의 주사위를 n번 던져서 (6, 6)이 적어도 한 번 나올 확률은

p=1- 이고, 1- ≒0.506이므로 확률이 보다 높아지기 위해서는 적어도 25번 던져야 한다.

드 메레의 두 번째 문제는 `점수 문제`(problem of points)로 불린다. 게임에서 동일한 실력을 가지고 있는 두 사람이 같은 액수의 판돈을 걸고 게임을 하여 특정한 점수를 얻는 사람이 판돈을 모두 갖기로 했다. 그런데 불가피한 상황이 발생하여 게임을 중단했을 때 판돈을 어떻게 나누어 가져야 하는가 하는 문제이다. 예를 들어 5점으로 승패를 가리는데 두 사람의 점수가 4점, 3점인 상태에서 게임을 중단했다고 할 때, 파치올리는 두 사람의 점수인 4 : 3으로 판돈을 나누어야 한다고 생각했다. 그러나 이 문제에 대한 파스칼의 답은 판돈을 3 : 1로 분배하는 것이었다. 파스칼과 여러 통의 편지를 주고받았던 페르마도 역시 같은 결론을 내렸다. 그들이 어떤 이유로 이러한 결론을 내렸는지 다음 회에 소개하기로 한다.

금동인 수학전문학원 엠투오 원장

<저작권자ⓒ대전일보사. 무단전재-재배포 금지>