존 내쉬 - 영화 뷰티풀 마인드

존 내쉬, 존 내시, 뷰티풀 마인드

영화 <뷰티풀 마인드(beautiful mind)>는 경제학자이자 수학자인 존 내쉬를 주인공으로 하는 영화이다. 영화에서 존 내쉬는 금발의 미녀를 둘러싼 남학생들의 심리적인 역학 관계에서 단서를 얻어 ‘내쉬균형(Nash Equilibrium)’이라는 개념을 내놓고 일약 천재적인 학자로 주목을 받았다.

그렇지만 그 이후 내쉬는 정신분열증으로 인해 파란만장한 인생의 우여곡절을 겪으면서 4반세기가 지난 1994년에야 노벨 경제학상을 공동 수상했다.

내쉬의 이론은 게임이론이라는 분야의 발전에 기여했다. 게임이론은 각자 자신의 이익을 최대화하기 위해 경쟁할 때 최적의 선택을 하는 방법을 수학적으로 분석하는 이론이다.

게임이론에는 상대방의 전략에 상관없이 자신의 최선의 전략이 결정되는 ‘결정게임’과, 이와 달리 상대방의 전략에 따라 자신의 전략이 달라지는 ‘비결정게임’이 있다. 이 중 보다 간단한 결정게임의 예는 다음과 같다.

제2차 세계대전의 막바지, 일본군과 연합군은 뉴기니아 섬에서 대치하고 있었다. 일본군은 뉴브리턴섬의 북쪽 항로(비스마르크해)나 남쪽 항로(솔로몬해) 중 한 곳을 선택하여 병력과 물자를 수송하려 하고, 연합군 역시 이동 중인 일본군을 폭격하기 위하여 북쪽 항로나 남쪽 항로를 선택하려고 한다. 이 때 각각의 경우, 연합군이 일본군을 폭격할 수 있는 기간은 다음과 같다고 한다. 

일본군  연합군	북쪽항로	남쪽항로
북쪽항로	2일	2일
남쪽항로	1일	3일

연합군은 되도록 폭격 가능한 날을 늘리려고 하겠지만, 일본군은 줄이려고 할 것이다. 이 상황에서 연합군과 일본군이 선택할 수 있는 최선의 전략은 무엇일까? 각 진영은 자신이 취하는 전략에 따라 일어날 수 있는 최악의 경우를 생각하고 그 중 나은 전략을 선택해야 한다.

연합군이 북쪽 항로를 택할 때에는 일본군의 선택과 상관없이 2일간 폭격할 수 있다. 또 연합군이 남쪽 항로를 택할 때에는 일본군이 북쪽 항로를 택하느냐 남쪽 항로를 선택하느냐에 따라 각각 1일과 3일을 폭격할 수 있으므로 최악의 경우는 1일이 된다.

연합군은 자신이 북쪽 항로와 남쪽 항로를 택할 때 각각 최소 폭격일 수인 2일과 1일 중에서 더 유리한 2일, 즉 북쪽 항로를 택하게 된다.

한편, 일본군이 북쪽 항로를 택하면 연합군의 선택에 따라 각각 2일 또는 1일간 폭격을 받게 되므로, 그 중 최악은 2일간 폭격을 받는 것이다. 일본군이 남쪽 항로를 선택할 때의 최악의 경우는 3일간 폭격을 받는 것이다.

이 중에서 피해가 적은 것은 2일, 즉 일본군이 북쪽 항로를 택할 때이다. 정리하면, 연합군과 일본군은 모두 최악의 경우 중 최선인 북쪽 항로를 선택하게 된다.

연합군이 북쪽 항로를 택할 때의 최악은 2일 연합군이 남쪽 항로를 택할 때의 최악은 1일	→ 둘 중의 최선은 2일
일본군이 북쪽 항로를 택할 때의 최악은 2일 일본군이 남쪽 항로를 택할 때의 최악은 3일	→ 둘 중의 최선은 2일

게임이론을 설명할 때 자주 등장하는 예로 ‘죄수의 딜레마(prisoner's dilemma)’가 있다. A와 B가 경찰에 붙잡혀 서로 격리되어 심문을 받는데, 고백하거나 함구하는 두 가지 선택 밖에는 없다. 두 사람 모두 고백하면 각각 5년형을 받게 된다.

A가 고백하고 B가 함구하는 경우 A는 무죄로 바로 풀려나지만 B는 20년형을 받게 된다. 반대로 B가 고백하고 A가 함구하면 B는 무죄, A는 20년형을 받게 된다. 또 A와 B가 모두 함구하면 3일씩만 구류를 살고 풀려난다.

A	B	A의 형량	B의 형량
고백	고백	5년	5년
고백	함구	0년	20년
함구	고백	20년	0년
함구	함구	3일	3일

이 상황에서 A는 B가 어떤 선택을 할지 모르기 때문에 두 가지를 모두 고려해야 한다. B가 고백을 할 때 A도 고백하면 5년이고, 고백하지 않으면 20년형을 받게 되니 최악을 피하려면 A는 고백하는 것이 낫다.

또 B가 함구할 때 A가 고백하면 당장 무죄로 풀려나지만 함구하면 3일은 고생해야 한다. 즉, B가 함구할 때에도 A는 고백하는 것이 유리하다. B도 동일한 이유로 A가 고백하든 함구하든 자신은 고백하는 것이 낫다는 결론에 이르게 된다.

A와 B 모두 자기 이득만을 위하여 의사 결정을 할 때 다같이 고백하게 되고 각기 5년형을 받게 된다. 둘이 함께 함구하여 3일씩 구류를 살고 나오는 더 좋은 전략이 있지만, 불확실한 상황에서는 최악을 피하는 것이 합리적 선택의 기준이 된다.

최근 우리 사회의 화두는 ‘상생(相生)’이다. 서로가 서로를 살리고 위하는 마음으로 선택하면 더 나은 것을 얻을 수 있지만, 골 깊은 불신으로 인해 죄수의 딜레마와 같은 악수(惡手)를 두게 되는 것이다.

죄수의 딜레마를 보면서 서로 신뢰하고 협조하라는 메시지를 이끌어내는 것은 너무 교과서적인 진부한 결론인지 모른다. 하지만 요즘 우리는 죄수의 딜레마 같은 상황에 자주 처하기에 상생의 지혜를 다시 한 번 되새길 필요가 있을 것이다.

박경미(홍익대학교 수학교육과 교수)

[수학사랑발췌]