인문교양

세상은 복잡하다. 그 속에서 살아가야 하는 사람들의 인생도 당연히 쉬울 리 없다. 이런저런 일들이 뒤얽혀 도대체 무슨 일이 벌어지고 있는지, 어디서부터 실마리를 풀어가야 할지 종잡을 수 없을 때가 많다. 우리에게 수학적 사고가 필요한 이유가 여기에 있다. 아무리 복잡한 일이 벌어지고 있더라도 수학적 논리에 따라 체계적으로 따져보면 해답이 수면 위로 떠오른다. 그리고 복잡하던 세상이 단순하고 명쾌하게 보이기 시작한다.

베이징 항공우주대학교 컴퓨터학과 부교수이자 박사 과정 지도교수이다. 2008년 영국 브리스톨대학교를 졸업하고 박사 학위를 취득했다.

주 연구 분야는 인공지능, 신호처리, 선형대수 등이다. 국가 자연과학기금 관련 프로젝트를 여러 차례 주관했으며 국가 과학기금 중점 프로젝트에 참여했다. 중국 국내외 학술지와 학회에 70여 편이 넘는 논문을 발표하며 활발한 연구를 하고 있다. 2018년 고등교육기관 과학 연구 우수 성과에서 2등상과 여러 국제회의에서 최고 논문상을 수상했다. ‘작은 파동 신호와 시스템’으로 대학 교과과정 평가에서 만점을 받으며 대학 전체 1위 강의에 올랐다.

성균관대학교 유학대학원에서 석사를 졸업하고, 현재 엔터스코리아에서 출판기획 및 중국어 전문 번역가로 활동하고 있다. 전공을 살려 역사와 문화에 특별한 관심을 두고 번역하고 있으며, 중국만의 특색을 두루 알리기 위해 노력하고 있다. 옮긴 책으로 『나를 살리는 논어 한마디』, 『나는 불안할 때 논어를 읽는다』, 『SNS로 부자가 되는 법』, 『세계의 리더들은 왜 철학을 공부하는가』 외 다수가 있다.

추천사

프롤로그

PART 1 이성적 사고로 세상을 통찰하는 법_사고 편

가혹한 현실을 인정하고 노력으로 99%의 확률에 도전하라

누구나 아는 해석보다 아무도 모를 예측을 하라

아둔한 구두장이 셋과 제갈량의 대결

자주 찾아오는 소확행과 가끔 찾아오는 대확행

장점과 단점의 심층 분석

복잡한 현상 배후에 숨겨진 단순한 규칙

사건 뒤 몸을 숨긴 배후 사건을 찾아라

공기청정기와 칼만 필터

PART 2 난제를 해결하는 전략과 기교_방법 편

다다익선 양성 피드백 VS 설상가상 음성 피드백

세기의 마천루도 완벽한 기초 설계부터

본질을 포착해 제약에서 벗어나라

거듭할수록 확률을 높이는 큰 수의 법칙

오차를 최소화하기 위한 중용의 지혜

오히려 약이 되는 시행착오의 즐거움

문제를 해결할 수 없을 땐 사물의 형태를 변환하라

젊었을 때 다양한 경험을 쌓아라

PART 3 잘 배우고 명확하게 표현하기_학습 편

주동적 예측과 편차를 통한 학습법

나만의 최적화된 학습모델을 찾아라!

핵심부터 명확하고 간단하게 표현하라

대학을 졸업한 뒤 몇 년간 직장생활을 하던 김씨는 매일 아침 9시에 출근해 저녁 5시에 퇴근하는 쳇바퀴 같은 삶이 싫어 마음 맞는 친구들과 함께 물 좋고 경치 좋은 고향에 펜션을 차렸다. 펜션 운영은 처음이라 경험이 부족했지만 열정만큼은 뜨거웠다.

김씨는 항상 경영 관련 책을 읽었고, 성공하는 법이나 자신을 격려하는 법을 다룬 책도 즐겨 읽었다. 그리고 매일 아침 거울 앞에 서서 주먹을 불끈 쥐고 큰 소리로 ‘나는 성공할 수 있어!’라고 소리쳤다. ‘노력한 만큼 결실을 거둘 수 있다’라고 믿는 김씨는 자신이 가장 좋아하는 ‘노력하면 성공한다’라는 격언을 침실 벽에 걸어 두었다.

하지만 아무리 열심히 노력해도 펜션 운영은 난관의 연속이었다. 인테리어 공사 때는 완공 일이 계속 늦춰져서 마음을 졸여야 했고, 가까스로 운영을 시작한 뒤에는 홍보 방식을 고민하느라 골머리를 앓아야 했다.

다행히 입소문이 퍼지면서 몇 년 뒤부터는 투숙객들이 많아졌지만, 집세, 전기세, 수도세 등 각종 세금을 내면 남는 게 없어 오랫동안 간신히 적자만 면했다. 여전히 관광객이 적은 비수기에는 찾아오는 손님이 없어서 빈방이 가득했고 성수기에는 방이 부족해 손님을 더 받고 싶어도 불가능했다.

이에 2년 전 김씨와 친구들은 거금을 투자해 펜션을 증축하기로 했다. 성수기 관광객이 몰릴 것을 대비해 만반의 준비를 마쳤는데 이번에는 갑자기 코로나 팬데믹으로 쏟아부은 노력과 투자금을 회수하기 어려웠다.

이에 반해 이씨는 아직 40세가 되지 않은 젊은 나이였지만 자신은 ‘불운’을 타고나 되는 일이 없다고 생각했다. 그는 중학교 시절 1, 2등을 다룰 만큼 성적이 좋았지만, 고등학교 입학을 앞두고 실력 발휘를 제대로 하지 못해 원하는 학교에 들어가지 못했다. 그리고 고등학교 시절에도 부지런히 노력해 우수한 성적을 유지했지만, 대입 시험을 망치는 바람에 원하지 않는 대학에 들어가야 했다.

시간이 흘러 이씨는 몇 년간 모은 돈으로 내 집 마련을 준비했다. 그러던 중 친구가 급히 돈이 필요해 잠깐 쓰고 돌려주겠다는 말에 8000만 원을 빌려주었지만, 돈을 빌린 친구는 투자에 실패해 목숨을 끊었고, 당연히 빌려준 돈도 받을 수 없었다. 이 일로 아내와 대판 싸운 이씨는 하마터면 이혼까지 당할 뻔했다.

이런 일련의 안타까운 사건들로 이씨는 오랜 시간 힘들어했다. 이후로 그는 아내가 더 열심히 일하라고 타이를 때마다 “부자는 운명을 타고난 사람이 되는 거지 노력해서 되는 게 아니야”라고 말했다. 그는 직장, 수입, 직위, 배우자 등 모든 것은 태어날 때부터 이미 정해져 있다고 믿었다. 노력으로 바꿀 수 있는 것은 없으니 그저 운명의 ‘시나리오’에 따라 연기하면 그만이라는 것이다.

‘노력하면 성공한다’라는 격언을 벽에 걸어 둔 김씨의 세계관은 대체로 긍정적이다. 노력하면 성공한다는 것은 ‘인생은 예측할 수 없지만, 열심히 노력한다면 반드시 자신이 원하는 결과를 얻을 수 있다’라는 의미이다.

반면 ‘운명은 타고난다’라는 ‘숙명론’을 믿는 이씨의 세계관은 대체로 부정적이다. 숙명론을 믿는 사람은 모든 것은 정해져 있으니 아무것도 노력할 필요가 없다고 생각한다. 하늘이 정해둔 대로 따르기만 하면 된다는 것이다.

이 두 가지 세계관을 가진 사람은 적지 않다. 하지만 두 세계관에는 문제가 있다. ‘노력하면 성공한다’라는 세계관을 믿는 사람은 평소에는 긍정적이지만 좌절이나 난관에 부딪히면 쉽게 무력감에 빠진다. 게다가 코로나 팬데믹으로 김씨의 펜션 운영이 차질을 빚은 것처럼 노력한다고 해서 반드시 모든 일이 잘 풀리는 것은 아니다.

‘숙명론’에도 문제가 있다. 성공한 사람은 단순히 좋은 운명을 타고난 사람인 걸까? 우리는 때로 노력한 만큼 결실을 거두기도 한다. 그러니 과연 노력하는 것을 포기한 사람이 자신이 원하는 결과를 얻을 수 있을까?

아무래도 이 두 가지 사이에서 균형을 맞춘 세계관이 가장 이상적이지 않을까? 나는 이것을 ‘확률적 세계관’이라 부른다.

확률적 세계관은 두 가지 핵심 관점을 가지고 있다.

첫째, 우리는 일의 최종 결과를 장담할 수 없다.

둘째, 노력으로 해당 결과가 발생할 확률을 바꿀 수 있다.

첫 번째 관점은 일이 발생할지, 원하는 결과를 얻을 수 있을지 미리 알 수 없는 만큼 결과를 단정할 수 없다는 의미이다. 그리고 두 번째 관점은 미리 결과를 단정할 수 없지만 노력으로 결과가 발생할 확률을 바꿀 수 있다는 의미이다.

예를 들어 설명해 보자. 농부는 올해 수확이 좋을 것이라고 단정할 수 없다. 예기치 못한 악천후나 병충해로 한 해 동안 쏟아부은 노력이 물거품이 될 수 있기 때문이다. 이것이 바로 일의 결과를 미리 단정할 수 없다는 것이다.

하지만 농부가 부지런히 노력해 만반의 조치를 한다면 높은 수확을 기대할 수 있다. 게으른 농부가 풍작을 거둘 확률이 10%라면 부지런히 노력하는 농부는 90%까지 확률을 높일 수 있는 것이다. 그러니 결과를 미리 단정할 수는 없지만 결과의 확률을 바꿀 수는 있다.

확률적 세계관은 ‘일을 꾸미는 것은 사람이지만 성사 여부는 하늘에 달려 있다(謀事在人, 成事在天)’라는 고사성어와 상통하는 부분이 있다. 우리는 확률로 이 고사성어를 더욱 명확하게 이해할 수 있다. ‘일을 꾸미는 것은 사람이다’라는 것은 ‘노력으로 성공 확률을 높일 수 있다’는 의미이다.

그리고 ‘성사 여부는 하늘에 달려 있다는 것’은 ‘열심히 노력해 만반의 준비를 마쳤다고 해도 확률상 반드시 성공하는 것은 아니다’라는 의미이다.

또 앞에서 언급한 ‘노력하면 성공한다’와 ‘숙명론’을 확률적 세계관의 관점에서 바라본다면 두 가지 세계관이 가진 문제점을 더욱 명확하게 파악할 수 있다.

‘노력하면 성공한다’라는 것은 어떤 일이든 노력하기만 하면 반드시 성공한다는 것인데, 이건 현실과 맞지 않는다. 행운이 따라서 시기와 장소가 알맞고 사람들끼리 화합이 잘되어도 반드시 성공으로 귀결한다는 보장이 없다.

반면 ‘숙명론’은 하늘의 뜻이 있으니 어떤 일이든 노력할 필요가 없다고 보는 것인데 여기에도 아주 큰 문제가 있다. 노력이 성공을 보장해 주지는 못하지만, 성공 확률을 높여줄 수는 있기 때문이다. 물론 엄청난 행운을 타고나 아무것도 안 하면서 부자가 될 수도 있지만, 그런 일이 발생할 확률은 극히 낮다.

그렇다면 노력으로 성공할 확률을 최대한 높였음에도 실패한다면 어떻게 해야 할까? 이런 경우에는 두 가지 선택이 있다.

첫째, 실패의 원인을 찾아 개선해 성공 확률을 높인다. (여기서 ‘성공 확률을 높인다’라는 것은 다음에 반드시 성공함을 의미하는 것은 아니다.)

둘째, 실패의 원인을 개선할 수 없다면 실패를 침착하게 받아들인다.

몇 년 전에 개봉한 SF영화 중 전쟁에 참여한 신참 군인이 우연히 과거로 돌아가는 능력을 얻게 되는 내용을 담은 영화가 있다. 적군에게 죽을 때마다 반복해서 이전 상황으로 돌아가던 주인공은 희망의 상징으로 불리는 전쟁 영웅인 장군을 구해 주고 장군의 도움을 받아 반복해서 과거로 돌아가는 장점을 최대한 이용하게 된다. 그렇게 매번 과거의 실패에서 교훈을 얻어 다음의 성공 확률을 높이던 주인공은 마침내 승리를 쟁취한다.

확률에서 반복은 상당히 큰 힘을 가진다. 예를 들어 주인공이 매번 과거로 돌아가 장군을 구해줄 확률이 10%밖에 되지 않아도(아홉 번 죽어야 한 번 구할 수 있는 것이다) 수십 번 과거를 반복하면 성공 확률은 더 높일 수 있다.

반대로 노력해도 확률을 바꿀 수 없다면 아무것도 하지 말아야 한다. 예를 들어 대입 시험을 볼 때는 한 과목 시험이 끝날 때마다 해당 과목은 잊고 다음 과목 시험에 집중하는 게 중요하다. 이미 시험이 끝난 과목의 성적을 바꿀 수는 없으니 말이다. 박사 논문 심사도 마찬가지다.

심사가 끝난 뒤 심사위원들이 결과를 기다리라고 할 때 우리가 할 수 있는 것은 차분히 커피를 마시며 기다리는 것뿐이다. 이때 우리가 무슨 행동을 하든 결과에 영향을 미칠 수는 없다. 그러니 확률을 바꿀 수 없는 경우에는 담담히 결과를 기다리면서 자신에게 ‘최선을 다했으니 괜찮아’라고 말해주도록 하자.

자동차 폰티악(Pontiac)의 어느 부서에 고객의 불만 편지가 도착했다. 고객의 편지에는 다음과 같이 적혀 있었다.

**

**

자동차 회사 사장은 진위가 의심스러웠지만 엔지니어를 보내 문제를 살펴보게 했다. 차주와 함께 바닐라 아이스크림을 구입한 엔지니어는 정말로 자동차에 시동이 바로 걸리지 않는다는 것을 확인했다. 엔지니어는 3일 연속 저녁에 자동차를 운전해 아이스크림을 구입해 보았다.

첫째 날 저녁, 초콜릿 아이스크림을 구입하니 시동이 걸렸다.

둘째 날 저녁, 딸기 아이스크림을 구입하니 시동이 걸렸다. 

셋째 날 저녁, 바닐라 아이스크림을 구입하니 시동이 걸리지 않았다.

왜 이런 어처구니없는 일이 생긴 걸까? 엔지니어는 여러 차례 차주와 함께 아이스크림을 사러 가면서 모든 세세한 부분을 기록했다. 그리고 이런 사소한 부분들을 분석해 바닐라 아이스크림을 구입하는 과정이 다른 아이스크림을 구입하는 과정과 차별화된 부분이 있는지 찾으려 했다. 알고 보니 문제는 사소한 부분에 숨어 있었다. 엔지니어는 바닐라 아이스크림이 다른 아이스크림보다 구입 시간이 훨씬 짧다는 사실을 발견했다.

그렇다면 아이스크림을 구입하는 시간이 자동차 시동과 무슨 관련이 있는 걸까? 엔지니어는 차주의 자동차를 검사해 보던 중 ‘베이퍼 로크(Vapor Lock)’에 문제가 있는 것을 발견했다. 베이퍼 로크는 일반적으로 엔진이 뜨거울 때 생기는데, 만약 자동차의 연료 시스템에 베이퍼 로크가 발생한다면 엔진에 연료가 주입될 때 연료의 공급이 끊겼다 이어졌다 하면서 시동이 걸리지 않거나 주행 도중 꺼지게 된다.

차주가 구입한 폰티악 자동차는 베이퍼 로크 문제가 있었다. 다른 아이스크림을 구입할 때는 엔진이 식을 만큼 시간이 오래 걸려 순조롭게 시동이 걸렸지만, 바닐라 아이스크림은 구입 시간이 짧아 엔진이 뜨거워 베이퍼 로크가 사라지지 않은 상태였기에 시동이 걸리지 않은 것이었다. 엔지니어가 해당 자동차의 베이퍼 로크 문제를 해결하자 차주가 어떤 맛의 아이스크림을 사든 시동이 걸리지 않는 문제는 나타나지 않았다.

앞에 등장한 이야기는 이해하기 힘든 문제도 차분하게 원인을 파악하면 해결할 수 있다는 내용을 담고 있다. 더구나 이 이야기를 더욱 깊이 분석해 보면 숨겨진 수학 개념을 발견할 수 있는데, 바로 ‘조건부 독립(Conditional Independence)’이다.

조건부 독립은 ‘조건부 확률(Conditional Probability)’과 관련이 있다. 그러니 먼저 조건부 확률이 뭔지 설명하겠다. 조건부 확률은 일반적으로 P(A/C)의 형식으로 표시하는데, 사건 C가 발생한 상황에서 사건 A가 발생할 확률을 말한다.

예를 들어서 비가 내리는 날에는 대중교통보다는 자동차를 운전해서 출근하는 방식을 선택한다. 이 경우에 C는 ‘비가 내리는 날’이고 A는 ‘자동차 운전’이며 P(A/C)는 1에 가까운 확률값(비가 내리는 날에 보통 자동차를 운전한다)이다. 만약 이 조건을 뺀다면 P(A)는 일반적인 상황에서 자동차를 운전할 확률(1년 동안 자동차를 운전해 출근하는 횟수를 통해서 얻은)이다. 그러니 P(A/C)와 P(A)는 다르다는 것을 알 수 있다.

조건부 확률을 알았다면 조건부 독립에 대해 정의를 내릴 수 있다. 수학적으로 사건 A와 사건 B가 사건 C에 대한 조건부 독립이라면 아래와 같다.

P(B/A,C) = P(B/C)

P(A/B,C) = P(A/C)

P(B/A.C)는 사건 A와 사건 C가 동시에 발생하는 상황에서 사건 B가 발생할 확률이고, P(B/C)는 사건 C가 발생한다는 전제하에 사진 B가 발생할 확률이다. 이 공식은 우리에게 조건부 독립의 상황에서 두 확률이 같다는 것을 알려준다.

P(A/B,C) = P(A/C)

마찬가지로 이 공식은 우리에게 만약 사건 A와 사건 B가 사건 C와 관련해서 조건부 독립이라면 사건 C의 발생을 안다는 전제하에서 사건 B의 발생을 아는 것은 사건 A의 발생 확률을 더 정확하게 추정하는 데 도움이 되지 않는다.

종합하면 사건 A와 사건 B가 사건 C와 관련해서 조건부 독립이라면 사건 C의 발생을 안다는 전제하에서 사건 A나 사건 B 중에 하나의 발생 여부를 아는 것은 우리가 다른 사건의 발생 확률을 더 정확하게 추정하는 데 도움이 되지 않는다. 이것이 조건부 독립의 핵심 사고이다.

위에서 등장한 이야기를 예로 들어보면 사건 A는 ‘바닐라 아이스크림 구입하는 것’이고 사건 B는 ‘자동차 시동이 걸리지 않는 것’이고 사건 C는 ‘구입 시간이 짧은 것’이다.

‘시동이 걸리지 않는’ 내재적인 원인은 ‘구입 시간이 짧은 것’이지 ‘바닐라 아이스크림을 구입하는 것’이 아니다. 그러니 해당 차주가 어느 때 ‘구입 시간이 짧은지’ 안다면 바닐라 아이스크림을 구입하는 것과 상관없이 ‘자동차 시동이 걸리지 않을’ 확률을 추정할 수 있다.

바꿔 말하자면 ‘구입 시간이 짧은’ 사건이 발생한다는 전제하에서 ‘바닐라 아이스크림을 구입하는 것’을 아는 것은 ‘시동이 걸리지 않을’ 확률을 추정하는 데 도움이 되지 않는다. ‘시동이 걸리지는 않는 것’과 ‘바닐라 아이스크림을 구입하는 것’은 ‘구입 시간이 짧은 것’에 관해 조건부 독립이기 때문이다.

통계적으로 보면 사건 A(바닐라 아이스크림 구입)와 사건 B(자동차 시동이 걸리지 않음)는 관련이 있어 보이지만(매번 바닐라 아이스크림을 구입할 때 자동차 시동이 걸리지 않았으므로) 두 사건 사이에는 사건 C(‘구입 시간이 짧음’)가 있다. 이 구조에서 사건 A와 사건 B는 사건 C가 발생하는 상황에서 조건부 독립이다. 

고대 그리스 스토아학파의 철학자 에픽테토스(Epictetus)는 “인간은 사물 자체에 영향을 받는 게 아니라 사물을 바라보는 자신의 관점에 의해 좌우된다”라고 말했다.

사실 주변에는 두 가지의 관련되어 보이는 사건이 실제로는 또 다른 사건에 관한 조건부 독립인 경우가 많다. 그러니 우리가 배후에 있는 ‘또 다른 사건’을 파헤치지 않는다면 ‘관련성’을 ‘인과성’으로 쉽게 오해하게 된다.

오랜 시간 함께 일해 온 동료 중 A는 늘 문제에 대해 명철한 생각을 하는 편이다. 그는 늘 빈틈없이 일을 처리하고, 대화를 나누다가 생각지도 못했던 관점을 제시하며 교훈을 주기도 한다. 그래서 어느 날 내가 그에게 물었다.

“깊은 생각을 가지게 된 비결이 뭐야?”

그러자 그는 웃으며 대답했다.

“아내와 함께 드라마를 자주 보거든. 그러다 보니 자연스레 세상 보는 법을 알게 되더라고.”

평소 편하게 즐기며 드라마를 보는 나는 동료의 말을 이해할 수 없었다. 사실 대부분 파란만장한 줄거리 흐름에 따라 흥분하고 긴장하며 ‘편안한 즐거움’을 누리기 위해 드라마를 본다. 그래서 지금껏 드라마를 통해 세상 보는 법을 발전시킬 수 있을 것이라고는 생각해 본 적이 없었다. 내가 무슨 말인지 이해가 안 된다고 말하자 동료는 웃으면서 말했다.

“나는 드라마 보는 방식이 다른 사람들과는 달라. 예를 들어 드라마를 볼 때 아내와 나는 주인공이 위기를 만날 때마다 잠깐 드라마를 멈춘 뒤 주인공의 입장에서 위기를 어떻게 극복할지를 두고 토론해. 그리고 토론이 끝나면 다시 드라마를 돕고 주인공이 어떻게 위기를 극복하는지 확인한 뒤 우리가 생각해낸 방법과 드라마 속 주인공의 방법이 어떻게 다른지 비교해 보는 거야. 이렇게 토론과 비교를 여러 차례 하다 보니 자연스럽게 문제를 처리하는 수준이 향상되더라고.”

그의 말을 곰곰이 분석해 보면 그가 아내와 함께 드라마를 보는 방식에는 두 가지 특징이 있다는 것을 발견할 수 있다.

첫째는 주동적인 예측이다. 그는 아무 생각 없이 시나리오의 전개에 끌려가지 않고 주동적으로 드라마에서 등장한 문제를 고민하고 자신만의 해결 방법을 생각해낸다.

둘째는 편차를 통한 학습이다. 그가 생각해낸 해결 방법은 드라마 주인공의 실제 방법과 다를 수는 있지만 이런 편차에 근거해 자신이 생각해낸 해결 방법의 부족한 점을 살펴보고 사고 능력을 발전시킨다.

여기서 두 번째 특징이 첫 번째 특징을 바탕으로 이뤄진다는 점에 주목해야 한다. 주동적으로 자신만의 해결 방법을 생각해낼 수 있어야 드라마 주인공의 방법과 비교해 자신을 발전시킬 수 있다.

만약 연구자나 과학자라면 이 문제를 더욱 진지하게 고민해 볼 필요가 있다. 과학 연구를 하려면 먼저 많은 양의 학술 논문을 읽어야 한다. 학술 논문을 읽는 목적은 절대 편안하게 스트레스를 풀기 위해서가 아니다. 게다가 학술 논문 중 대부분은 읽는 과정이 결코 편치 못하다.

그러니 만약 드라마를 보는 것처럼 아무 생각 없이 편안하게 논문을 읽는다면 저자의 명석함에 감탄하며 자신은 저자만큼 영리하지 못하다고 좌절만 하다가 끝날 가능성이 크다. 그렇다면 책이나 논문을 읽는 과정에서 더 큰 수확을 얻는 방법은 무엇일까? 동료가 드라마를 보는 방식을 대입해 보면 어떨까?  

**