Focus

[따져 봅시다 | 행태경제학도 놓친 인간이 비합리적인 이유] 까다로운 확률·통계 그 앞에선 미약한 존재 

감정, 편향, 인지 방식과 더불어 비합리성 부추겨... 심슨의 패러독스, 몬티 홀 문제, 도박사의 오류 

백우진 한화증권 편집위원 woojinb@hanwhawm.com

▎일러스트:중앙포토
행태경제학(행동경제학)은 인간이 합리적이라는 기존 경제학의 전제와 어긋나는 사례를 연구한다. 행태경제학은 인간이 제한적으로 합리적이라고 주장하고 그 이유를 여러 갈래로 제시한다. 행태경제학의 창시자 격인 허버트 사이먼은 인간의 합리성을 제한하는 요인으로 감정을 들었다. 그는 예컨대 사람은 ‘최적화’보다는 ‘만족화’ 원리에 따라 의사결정을 내린다고 설명했다. 행태경제학은 이성적인 선택이 이뤄지지 않는 다른 요인으로 단순한 판단을 위한 주먹구구(휴리스틱), 심리적인 편향, 일반적인 인지 방식 등을 제시한다.

합리적으로 사고하지 못하기에 비합리적


행태경제학에서 덜 강조되거나 간과되는 요인이 있다. 사람은 원래 확률과 통계에 약하다는 점이다. 이는 많은 사례로 뒷받침된다. 인간은 감정이나 편향, 인지 방식 때문에 덜 합리적으로 행동할 뿐더러 확률·통계에 어둡기 때문에 합리적이지 않은 것이다. 다시 말해 우리는 합리적으로 사고하지 못하기 때문에 종종 합리적인 판단과 선택을 하지 못한다. 인간의 사고가 확률·통계 계산에 취약함을 보여주는 사례 가운데 몇 가지를 살펴보자. 이를 통해 우리는 확률통계적인 사고체계를 한 번 더 가다듬을 수 있다. 학습을 통해 확률적이고 통계적으로 생각하는 힘을 길러야만 우리는 이성적으로 판단하고 선택할 수 있다.

사례1. A고등학교와 B고등학교의 3학년 학생 수는 각각 200명이다. 두 학교의 3학년 학생 400명에게 같은 모의고사를 치르게 했다. 3학년 남학생끼리 비교했더니 A고등학교의 평균점수가 B고등학교의 평균점수보다 5점 높았다. 3학년 여학생끼리 비교해도 A고등학교의 평균점수가 B고등학교의 평균점수보다 5점 높았다. 그렇다면 A고등학교 3학년 학생 전체의 평균점수는 B고등학교 3학년 학생 전체의 평균점수보다 높을까? 이 문제에 “그렇다”고 대답하는 사람이 많고, “꼭 그렇다고 할 수만은 없다”고 대답하는 사람은 소수에 그친다. 정답은 ‘A고등학교 3학년 학생 전체의 평균점수가 B고등학교 3학년 학생 전체의 평균점수보다 높겠지만 낮을 수도 있다’이다. 두 고등학교 모두 여학생의 평균점수가 남학생의 평균점수보다 높고 A고등학교의 여학생 수보다 B고등학교의 여학생 수가 훨씬 많으면 그렇게 될 수 있다. 예시한 표는 그런 경우를 보여준다. 이 사례는 ‘부분을 비교한 결과와 전체를 비교한 결과가 반대되는 경우도 있다’고 일반화할 수 있다. 영국 통계학자 에드워드 H. 심슨은 이런 역설을 연구해 1951년에 발표했고 ‘통계에서 부분과 전체의 상충’은 그의 이름을 따서 ‘심슨의 패러독스’라고 불린다.

사례2. 일반인 대다수는 물론 수학자들도 한동안 정답을 받아들이지 못한 문제가 있다. TV 퀴즈쇼의 실제 상황에서 나온 ‘몬티 홀’ 문제다. 몬티 홀 문제는 다음과 같다. ‘닫힌 문 세 개 중 하나를 선택해 그 뒤에 있는 것을 타는 게임이다. 문 하나의 뒤에는 자동차가 있고 나머지 둘의 뒤에는 염소가 있다. 당신이 문 하나를 고른다. 그러면 진행자가 다른 두 문 중 염소가 있는 하나를 열어 보인다. 그리고 나서 선택을 바꿀지 물어본다. 어떻게 할 것인가?’ 처음에 선택한 문이나 남은 문이나 자동차가 있을 확률은 3분의 1로 똑같은 듯하다. 그러나 선택을 바꾸면 자동차를 탈 확률이 3분의 2로 두 배가 된다. 몬티 홀 문제는 게임의 본질을 유지하면서 다음과 같이 바꾸면 간단해진다. ‘당신이 문 하나를 고른다. 그러면 진행자가 그 문 하나 대신 다른 두 문을 택할지 물어본다. 자동차 당첨 확률이 3분의 2로 높아지므로 당신은 당연히 선택을 바꾼다. 두 문 가운데 진행자는 염소가 있는 하나를 열어 보인다.’ 이들 사례를 통한 필자의 주장에 대해 ‘많은 사람이 확률·통계에만 어두운 게 아니라 수학도 포기하지 않느냐’는 반박이 나올 수 있다. 이에 대해서는 다음과 같이 답변할 수 있다. ‘쉬운 수학 문제는 정답을 맞히기 쉽고 어려운 수학 문제는 풀기 어려운 반면 확률·통계 문제 중에서는 쉬운 것 같지만 쉽지 않은 게 많다. 이는 수학에 비해 확률·통계는 인간이 직관으로 파악하기 까다로운 특성이 있기 때문이다.’ 인간이 확률과 통계에 약하다는 사실은 수학의 발달 과정에서도 나타났다. 여러 수학 분야 중 확률과 통계가 뒤늦게 체계화됐다. 확률·통계 공부는 위와 같은 특이한 경우나 상황에 대한 정답을 맞히는 데 목표가 있는 것이 아니다. 투자를 비롯한 실제 현실에서 합리적인 의사결정을 내리는 힘을 기르기 위한 것이다. 그렇게 하는 데 도움이 되는 사례를 살펴보자.

확률·통계 이론으로 설명되지 않는 영역도 많아

사례3. 8월 모나코 북부 몬테카를로의 카지노. 굴린 구슬이 검은 색에 멈출 확률과 붉은 색에 멈출 확률이 같은 룰렛 게임이 벌어지고 있었다. 룰렛을 둘러싼 도박꾼들이 술렁거렸다. 구슬이 20번이나 연속 검은 색에 멈췄기 때문이다. 많은 참가자들이 이번엔 구슬이 붉은 색에 멎으리라고 예상하고 돈을 걸었다. 그러나 구슬은 또 검은 색에 섰다. 구슬은 다음에도 검은 색을 택했고 그 다음에도 검은 색을 택했다. 구슬이 붉은 색에 멈춘 것은 27번째에 가서였다. 그 사이에 도박꾼 대부분은 거덜나고 말았다. 앞에 나온 결과가 이번 시행의 확률에 영향을 주리라고 보는 이런 착각은 ‘도박사의 오류’라고 불린다. 이전 결과가 스무 번 검은 색이었더라도 다음에 붉은 색일 확률은 50%로 동일하다. 구슬은 과거를 기억하지 않는다. ‘도박사의 오류’는 얼핏 ‘큰 수의 법칙’과 상충하는 듯하다. 큰 수의 법칙에 따라 붉은 색이 나온 비율은 50%에 수렴할 텐데, 20번이나 검은 색이 나왔다면 그 다음에는 붉은 색이 더 자주 나와야 하지 않느냐고 생각할 수 있다는 얘기다. 이에 대해서는 ‘큰 수의 법칙은 그야말로 큰 수에서 통한다’고 답할 수 있다. 20번 시행에서 편향된 결과는 예컨대 그 다음 20번에서 보정되는 게 아니고 훨씬 더 많은 시행을 통해 조정된다는 말이다.

도박사의 오류와 반대 편에 ‘뜨거운 손의 오류’가 있다. 뜨거운 손의 오류는 투자의 세계에서는 과거 수익률이 좋은 펀드가 미래 수익률도 좋으리라고 기대하는 편향을 가리킨다. 투자자 나심 니콜라스 탈레브는 [행운에 속지 마라]에서 “과거의 뛰어난 실적을 당사자의 능력으로 돌리는 분석은 그 고성과자가 앞으로도 잘하리라는 예상으로 연결된다”며 “이 예상은 약하디 약해 쓸모가 없을 정도일 수 있다”고 경고한다.

우리는 확률·통계에 약할 뿐더러 현실은 확률·통계 이론으로 설명되지 않는 영역이 더 많다. 그래서 확률·통계를 공부해 익히지 않은 채 의사결정을 내리는 일은 극도로 위험하다. 반대로 현실의 제약을 전제로 확률·통계적인 분석을 통해 가능성을 계산함으로써 현명한 선택을 할 수도 있다.

1353호 (2016.10.03)
목차보기
  • 금주의 베스트 기사
이전 1 / 2 다음