간단한 게임 하나가 수백 년 동안 수학자와 경제학자들로 하여금 골머리를 싸매게 했다. 상트페테르부르크의 역설에 나온 게임이다. 

이 역설에서 제시된 게임의 기댓값은 무한대다.

기댓값은 그 게임을 많이 하면 평균적으로 그 금액을 받을 수 있다는 확률 개념이다. 1000원 짜리 로또의 기댓값은 500원이다. 이 로또는 많이 살수록 예상되는 손해가 커진다.

다른 로또를 생각해보자. 기댓값이 500원인데 가격은 400원이다. 이런 로또는 다다익선이다. 많이 살수록 평균 차익이 100원에 가까워진다. 

그렇다면 기댓값이 무한대인 상트페테르부르크의 게임은 많이 참여할 수 있다는 조건을 전제로 할 경우 100만 원을 내고서라도 해야 이익이다.

동원할 자금이 풍부하다면 100만 원이 아니라 1000만 원, 1억 원을 걸더라도 하는 게 유리하다. 

◆ 기댓값은 무한대, 사람들은 심드렁

그러나 사람들은 이 가상게임에 흥분하기는커녕 심드렁해했다. 300년 가까이 지난 뒤 캐나다의 과학철학자 이언 해킹은 "게임 참가비를 25달러로 낮춰도 하겠다는 사람이 드물 것"이라고 말했다. 

도대체 어떤 게임이길래?

때는 1700년대 초로 거슬러 올라간다. 수학 명문가 베르누이 가문의 일원으로 한때 그 도시에 거주한 다니엘 베르누이가 1738년에 내놓은 가상 게임은 다음과 같다. (사실 이 문제는 그의 사촌 니콜라스 베르누이가 앞서 1713년에 편지에서 처음 언급했다.)

동전 1개를 뒷면이 나올 때까지 던진다. 첫 번째에 뒷면이 나오면 2달러/원, 두 번째에 처음 뒷면이 나오면 4달러/원, 세 번째에 처음으로 뒷면이 나오면 8달러/원, n 번째에 처음으로 뒷면이 나오면 2의 n제곱 달러/원을 받게 된다. 이런 게임을 하는 도박장이 있다면 처음에 얼마를 내고 입장하는 것이 공정한가?  

이 게임의 기댓값 E는 다음과 같이 계산한다. 







기댓값은 무한대인데, 사람들이 낼 의향이 있는 참가비는 예컨대 25달러/원도 되지 않는다는 어마어마한 괴리가 있어서 이 게임은 '상트페테르부르크의 역설'이라고 불리게 됐다.

◆ 기대효용이론 등 다양한 해결 시도

이 역설을 해결하려다 보니 나온 게 기대효용이론이다. 앞의 기댓값 계산식에서 뒤로 갈수록 천문학적으로 높아지는 금액은 효용 측면에서 별 차이가 없게 된다고 이 이론은 가정한다.

후세 경제학자들이 이 이론을 가다듬었지만 그 원형도 베르누이가 제시했다.

그는 "어떤 아이템의 가치는 가격이 아니라 그것이 주는 효용에 따라 산정돼야 한다"고 주장했다. 즉 "1000두캇의 가치는 부자에게보다 극빈자에게 더 크다는 데에는 의심할 여지가 없다"고 설명했다. 

경제학자들은 1950년대 들어 이 가설을 정교하게 다듬었다. 기대효용이론은 이후 게임이론과 결부되어 발전했고 자산선택이론, 불확실성 아래에서 선택, 경제제도의 일반균형적 분석에도 활용됐다. 

경제학자 폴 새뮤얼슨은 이 문제를 반대편에서 바라봤다.

당신이 주최자라면 그런 게임을 내놓겠는가 하고 물어본 것이다. 새뮤얼슨은 참가자의 기댓값이 무한대라는 말은 주최자의 기대손실이 무한대라는 뜻이라면서 따라서 그런 게임은 아무도 주최하려고 하지 않을 것이라고 말했다.

그는 1960년 논문 '발산하는 한계라는 측면에서 본 페테르부르크의 역설(The St. Petersburg Paradox as a Divergent Double Limit)에서 이같이 주장했다. 이를테면 현실에서 가능하지 않은 상상이므로 왜 그런 괴리가 빚어졌는지 규명할 필요도 없다고 한 것이다. 

새뮤얼슨보다 한 발 더 들어간 접근이 있다. 이 접근은 게임 주최자가 자신이 상금으로 동원할 수 있는 금액을 고려해 동전을 던지는 횟수를 제한하리라고 본다.

예컨대 그 금액이 10억 달러/원일 경우 주최자는 동전을 던지는 횟수를 30회 정도로 제한한다. 30회가 지나도록 뒷면이 나오지 않으면 게임이 끝나는 것이다. 그렇게 할 경우 기댓값은 30달러/원 정도가 된다. 이를 횟수제한 접근이라고 부르자.

이들 세 접근은 모두 이 게임을 현실로 끌어내려와 역설을 설명하려고 한다. 기대효용이론은 현실에서 사람들의 돈에 대한 판단은 금액 자체가 아니라 금액이 주는 효용을 기초로 이뤄진다고 가정한다. 새뮤얼슨과 횟수 제한 접근은 '실제로 게임을 한다면'이라는 가정을 적용했다. 

◆ 보렐의 법칙으로 공략해야

이 역설을 정면으로 깨는 시도는 아직 이뤄지지 않았다. 내 생각에 이 역설은 '보렐의 법칙'으로 공략해야 한다.

프랑스 수학자 에밀 보렐(1871~1956)은 발생할 확률이 워낙 낮다면 그 사건이 언젠가 일어나리라고 예상하는 것은 비합리적이라고 주장했다. 그는 그런 사건은 불가능하다고 간주해야 마땅하다고 강조했다. 이 주장은 '보렐의 법칙'이라고 불린다. 

확률이 얼마나 낮으면 무시해도 무방한가. 그는 몇 가지 수치로 예를 들었다. 

- 현실에서 아주 낮은 확률: 약 100만 분의 1보다 낮은 확률

- 지구적 규모에서 무시할 수 있는 확률: 약 10^15분의 1보다 작은 확률 (^은 거듭제곱 표시. 10^15는 1에 0이 15개 붙은 수. 1억에 1000만을 곱한 값과 같음)

- 우주적 규모에서 무시할 수 있는 확률: 10^50분의 1보다 작은 확률 (10^50은 1에 0이 50개 달린 수)

- 초우주적 규모에서 무시할 수 있는 확률: 10^(10억)분의 1보다 낮은 확률 (10^10억은 1에 0이 10억 개 있는 수)

앞의 기댓값 E를 계산하는 수식을 다시 보자. 30째 자리에 가면 확률이 10억 분의 1아래로 떨어진다. 60째 자리의 확률은 1에 0이 18개 붙은 수의 역수보다 작아 지구적 규모에서 무시할 수 있는 가능성이 된다.

더 오른쪽으로 가면 우주적 규모에서 무시할 수 있는 확률이 나오고, 그 다음엔 초우주적 규모에서 무시할 수 있는 확률이 나온다. 

E는 이 모든 확률에 값을 부여했다. 그 확률을 1로 만드는 상금을 매기는 트릭을 쓴 것이다.

그러나 일어나지 않을 일에 부여한 천문학적인 상금은 의미가 없다. 보렐의 법칙을 적용해 예컨대 지구적 규모에서 무시할 수 있는 확률은 버린 뒤 이 게임의 기댓값을 계산해야 한다. 그렇게 할 경우 기댓값은 50원 정도가 될 것이다. (이는 내 어림짐작이다. 계산은 생략한다.)

◆ 아주 낮은 위험은 걱정 대상 벗어나

상트페테르부르크의 역설은 보렐의 법칙을 적용해야 함을 뒷받침하는 다른 접근이 있다. 이 게임의 길이에 대한 기댓값을 먼저 구하는 접근이다. 동전을 한 번 던져 게임이 끝날 확률은 1/2이다. 두 번 던져 끝날 확률은 1/4, 세 번은 1/8이다. 예상되는 게임의 길이를 S라고 하자. 







위 식에서 아래 식을 빼면 다음과 같이 된다. 









예상되는 게임의 길이가 2라는 말은 확률적으로 동전을 두 번 던지면 게임이 끝난다는 뜻이다. 이 게임에서 동전을 두 번 던질 경우 기댓값은 2원이 된다. 

횟수 접근은 보렐의 법칙과 통한다. 지수적으로 작아지는 확률은 수렴하기 때문에 무시해도 좋음을 보여준다. 

결코 일어나지 않을 일은 발생하지 않는다. 그런 확률에 부여한 천문학적인 금액은 아무런 의미가 없다. 

금액 대신 재앙을 넣어도 마찬가지다. 대재앙은 막아야 하지만, 그 확률이 현실에서 아주 낮은 수준이고 제어가 가능한 대상이라면 두려워할 필요가 없다.