도박사와 수학자

도박사와 수학자 [한국일보공동] 수학으로 세상읽기

▲ 박경미 교수  ⓒ 개인 차이가 있기는 하지만 대부분의 인간은 어느 정도 도박에 탐닉하는 경향성을 지니고 있다. 도박은 불건전한 일종의 사회악으로까지 간주되지만, 확률 이론의 정립에는 중요한 역할을 했다. 18세기 프랑스의 도박사 드 메레는 당시 최고의 수학자인 파스칼에게 도박과 관련된 문제를 의뢰했다. 흔히 ‘점수 문제(problem of points)’라고 불리는 이 문제는 확률론이 발전하는 중요한 계기를 마련했다. A, B 두 도박꾼이 득점할 확률은 똑같다고 하자. 이 두 사람이 먼저 3점을 얻으면 이기는 내기를 했다. A, B는 각각 32피스톨씩의 돈을 걸어, 이기면 64피스톨을 갖게 된다. A는 2점, B는 1점 득점한 상태에서 게임을 중단하였을 경우, A와 B가 차지해야 할 몫은? 드 메레의 의뢰를 받은 파스칼은 이 문제를 다음과 같이 해결했다. A가 이기면 점수는 A : B = 3 : 1 이므로 A는 64피스톨을 갖게 된다. 또 B가 이기면 점수는 A : B = 2 : 2 이므로 A와 B는 각각 32피스톨씩을 갖게 된다. 이 두 상황을 종합할 때, A는 32피스톨을 이미 확보해 놓았고, 나머지 32피스톨을 더 얻을 확률은 1/2이므로 A는 32+32*1/2=48피스톨, B는 16피스톨을 가지면 된다. 파스칼은 자신과 쌍벽을 이루던 수학자 페르마에게 자신의 풀이를 보냈으며, 페르마는 다른 방법으로 문제를 해결하였다. A가 2점, B가 1점을 득점한 경우, 앞으로 최대 2번으로 승패가 결정된다. 이 때 나타날 수 있는 경우는 모두 4가지로, 두 번 모두 A가 이기는 경우, A가 이기고 그 다음에 B가 이기는 경우, B가 이기고 나서 A가 이기는 경우, 2번 모두 B가 이기는 경우이다. 이 4가지 경우 중 최종적으로 A가 이기는 경우는 앞의 3가지이고 B가 이기는 경우는 마지막 1가지이다. 따라서 A는 64의 3/4인 48피스톨을 갖고, B는 나머지 16피스톨을 가지면 된다. 페르마는 이 풀이법을 파스칼에게 보냈고, 파스칼은 이에 착안하여 ‘이항정리’로 이 문제를 다시 풀었다. A가 2점, B가 1점 득점한 경우 승패를 가리기 위해 치뤄야 하는 게임이 최대 2번이므로, 제곱식을 이용할 수 있다. (A+B)2=A2+2AB+B2에서 첫째 항 A2과 둘째 항 2AB는 A의 승리가 되며, 마지막 항B2은 B의 승리가 된다. 따라서 A와 B가 승리할 때의 계수는 각각 3과 1이므로, 3/4이 A가 승리할 확률이며, 나머지 1/4이 B가 승리할 확률이다. 확률 이론은 수학의 다른 분야에 비해 뒤늦게 체계화되었다. 확률의 가장 대표적인 도구라고 할 수 있는 주사위는 아주 오래 전 고대 문명의 발상지에서부터 출토되는데, 종교적 의식을 행할 때 신성한 판단을 내리기 위해 주사위를 던졌을 것으로 추측된다. 이런 주술적인 상황에서의 선택은 신의 의지에 따르기 때문에 유한한 인간이 가능성, 즉 확률을 분석하는 것은 불경스러운 것으로 간주되었다. 그러다보니 우연 현상과 불확실성을 다루는 확률 분야는 다른 수학 분야에 비해 이론화 작업이 늦게 이루어졌다. 주술적인 의식에서는 초월자의 선택이라고 여겨 시도조차 하지 못했던 확률의 이론적 분석이 도박의 판돈을 계산하는 지극히 인간적인 상황과 맞물리면서 활발하게 연구된 것이다. /박경미 홍익대 교수