우리에겐 과학이 필요하다

1 더하기 1은 2

다르게 생각할 수 없는 것

자연 과학을 할 때 우리는 감각적인 인상에 의존한다. 그것이 항상 좋지는 않지만, 세심한 관찰 없이는 세계에 대해 배울 수 없다. 다른 모든 학문은 우리의 머릿속에서 단순화된 세계상을 만들어 내고자 한다. 하지만 수학은 세계에 의존하지 않는다. 수학에서는 측정을 하지 않으므로 측정의 오류가 빚어질 수도 없다. 수학은 관찰과 실험으로 상황을 묘사하지 않으며, 당위와 가능성을 다룬다. 그러므로 진정 무엇을 믿을 수 있는지 알고 싶다면, 과학적 논증의 어머니인 수학에서 탐구를 시작해야 한다.

물론 다른 학문에서도 절대적으로 신뢰할 만한 인식이 있다. 그러나 흠잡을 데 없이 명쾌한 논리는 수학에서만 기대할 수 있다. 그 자체로 모순이 빚어져 논리적으로 허용될 수 없는 것은 우주에서도 불가능할 뿐만 아니라 우리의 생각에도 발을 붙이지 못한다. 수학은 생각할 수 있는 것, 생각으로 가능한 것을 탐구하는 학문이다. 이런 특성으로 인해 수학은 인류를 하나로 묶어주는 아름다운 학문이 되었다. 신뢰할 수 있는 원리에 다른 원리들을 잇댈 수 있고, 그렇게 한 걸음 한 걸음 가다 보면 아무도 의심할 수 없는 커다란 원리 망이 생겨난다.

우리는 인식을 기본 가정으로 되돌리다가 어느 순간에는 더 이상 이유를 대지 못한다. 종종 공리라고 부르는 것들이다. 좋은 공리는 누구나 진리로 받아들일 만큼 아주 명확하고 간단하다. 그런 공리, 신뢰할 수 있는 기본 진리는 수학에서 특히 중요한 역할을 한다. 과학사를 통틀어 가장 비중 있는 저서 중 하나는 그리스 수학자 유클리드가 쓴 ‘원론’이다. 이 책이 나온 이래로 인간 삶의 거의 모든 측면이 변했다. 그러나 유클리드가 ‘원론’에서 정리한 점, 선, 원, 삼각형에 관한 원리는 오늘날에도 여전히 유효하다. 그것들은 변치 않는 진리이다.

0에서 무한대까지

의심할 수 없는 공리를 토대로 논리적으로 추론해 나가는 방법이 기하학에서 아주 잘 통한다면, 다른 분야에서도 이와 같은 것을 시험해 보고자 하는 유혹이 자연스럽게 생긴다. 우리는 아주 어릴 적에 이미 자연수가 어떻게 기능하는지를 이해했다. 수를 가리키는 단어들이 있으며 무엇을 세는 수인지는중요하지 않다는 것 말이다. 우리는 자연수를 아주 친숙하게 다루기에, 자연수란 과연 무엇인지 거의 생각하지 않는다.

우리는 어째서 자연수를 신뢰할 수 있는가? 어떤 개념을 자연수라고 부르려면 그 개념은 어떤 특성을 지녀야 하는가? 주세페 피아노는 1889년 다섯 개의 간단한 공리로 자연수 이론을 구성할 수 있음을 보여주었다. 유명해진 이들 피아노 공리는 수학에서 가장 명확하고 기본적인 진리에 속한다. 첫 번째 공리는 단순히 이름을 규정한다. “0은 자연수다.” 이어 두 번째 공리는 곧바로 수의 구조에 대해 중요한 발언을 한다. “모든 자연수는 뒤따르는 자연수(따름수)를 갖는다.” 라는 것이다. 이런 따름수에도 마찬가지로 똑같은 규칙이 적용된다. 즉 이 수도 다시금 뒤따라오는 자연수가 있어야 한다. 이는 자연수의 열이 끝없음을 의미한다.

세 번째 공리는 이야기한다. “0은 자연수의 따름수가 아니다.” 따라서 0은 수열의 시작점이라는 특별한 역할을 맡는다. 네 번째 공리도 수열의 구조에 대해 중요한 것을 가르쳐 준다. 바로 “같은 따름수를 갖는 자연수는 같은 수다.” 따라서 수열에는 내부에 원이나 매듭이 없다. 다섯 번째이자 마지막 공리는 이런 자연수가 이와 같은 진술이 적용되는 가장 작은 집합이라는 것이다. 그로써 우리가 아는 자연수의 무한한 수열이 결코 도달하지 못하는 또 다른 자연수가 더 있을 가능성이 배제된다. 수학의 전체 사고 체계는 자연수를 토대로 한다. 모든 수학은 ‘왜’라는 질문을 충분히 자주 한 끝에 결국 자연수에 이른다.

하지만 항상 그렇게 논리적으로 사고하기는 쉽지 않다. 일상에서 우리는 보통 앞에서 뒤로 이어지도록 생각을 논리적인 순서로 배열하는 것에 그리 가치를 두지 않는다. 그보다는 유사점을 기초로 추리하는 유추를 활용할 때가 많다. 유추는 학문을 할 때에도 종종 유용하다. 유추는 우리의 머릿속에서 이미지를 만들어 내는 데에 도움이 된다. 또한 어떤 학문적 생각을 전혀 다른 분야에 적용하는 유추는 특히나 까다롭다. 유사성에 기초한 유추는 증명력이 없는데도 우리 머릿속에서 굉장히 의미 있게 다가온다.

미신적인 사고에서는 곧잘 논리적 논증을 무시하고, 애초부터 그냥 유추로 만족한다. 이 모든 것은 궤변이다. 이런 말들을 통해서는 새로운 사실을 아무것도 배울 수 없다. 이는 우리가 수학을 열심히 공부할 좋은 이유이다. 수학은 우리에게 정확한 논리로 나아가면 얼마나 멀리 갈 수 있는지를 보여 준다. 명백한 연관들이 이어지며, 기본 가정과 논리적 규칙, 전제와 결론의 연결망을 바탕으로 세계를 파악할 수 있게 도와준다. 우리는 모두가 동의할 수 있는 아주 간단한 생각에서 시작하여, 그로부터 어떤 다른 아이디어가 이어질지를 사고할 수 있다. 제대로 한다면 우리는 순수한 직관으로는 결코 추측하지 못할 근사한 결과를 만날 수 있다.

모든 까마귀는 검다

일반화는 일반적으로 불가능하다

규칙을 찾는 가장 간단한 방법은 일반화일 것이다. 우선 까마귀를 다수 관찰하고 그들 모두가 검은색임을 확인한다. 이어서 자연스럽게 규칙을 읊조린다. “모든 까마귀는 검다!” 이는 귀납적 추론이다. 여러 개별 사례에서 일반적인 원리를 이끌어내는 것이다. 이를 거꾸로 할 수도 있다. 일반적인 원리에서 개별적인 경우를 유추하는 것으로, 이를 연역적 추론이라고 한다. 이외에 귀추법이라는 추론도 존재한다. 이는 가장 있을 법한 쪽으로 결론을 내리는 것이다.

귀납법, 귀추법, 연역법은 굉장히 다르다. 무엇보다 신뢰성에서 차이가 난다. 셋 중에서 연역적 추론이 가장 명확하다. 이에 대해 왈가왈부하는 것은 무의미하다. 물론 주어진 전제를 의심할 수는 있다. 어디엔가 혹시 하얀 까마귀는 있지 않을까 생각할 수 있다. 반면 귀추법은 굉장히 불안정한 추론이다. 이것은 믿을 만한 진실을 제공하기보다 그냥 있을 법한 가능성을 제시할 따름이다. 그러므로 과학적 증명으로서의 가치는 없지만, 의학 같은 분야에서는 굉장히 중요해진다.

가장 흥미로운 것은 귀납법이다. 귀납적 추론 역시 논리적 정확성을 따지자면 신뢰할 수 없다. 귀납법은 경험적 지식에 근거한다. 그리고 모든 종류의 경험적 지식은 신뢰하기 어렵다. 그럼에도 우리는 그것을 신뢰해야 한다. 다른 수가 없기 때문이다. 개별 사례를 바탕으로 귀납적으로 일반 규칙을 추론하는 것은 우리 모두에게 지극히 평범한 일이다. 우리는 왜 그토록 귀납적 추론을 신뢰할까? 아주 간단하다. 그것이 입증된 방법이기 때문이다. 우리는 과거에 늘 개별적인 경험에 근거하여 일반적인 규칙을 도출했으며, 이것은 대부분 잘 통했다. 그러므로 지금 다시 우리의 경험으로부터 미래에도 잘 통할 새로운 규칙을 이끌어낼 수 있다고 상정한다. 그러나 이 역시 귀납적인 결론이다. 우리는 정확히 이런 방법을 활용하면서 논리적 추론의 유효성을 변호하는데, 이것이 불굴의 논거는 아니다.

햄펠의 까마귀 역설

일반화에는 또 다른 논리적 문제가 있다. 예를 들어 검은 까마귀를 관찰할 때마다 정말로 모든 까마귀가 검을 확률이 높아진다. 그리고 우리는 이것을 ‘검지 않은 것은 까마귀가 아니다.’라고 표현할 수도 있다. ‘모든 까마귀는 검다’ 와 ‘검지 않은 것은 까마귀가 아니다’ 는 논리적으로 동치이다. 이는 같은 진술을 서로 다르게 애기한 것뿐이다.

한쪽을 믿으면 다른 쪽도 믿어야 한다. 이제 ‘검지 않은 것은 까마귀가 아니다.’ 라는 진술은 까마귀가 아닌 임의의 대상을 관찰함으로써 검증할 수 있다. 검지 않고 까마귀가 아닌 것들을 더 많이 찾아낼수록, 검지 않은 것은 까마귀가 아니라는 명제가 더욱 믿음직해지고, 그로써 모든 까마귀는 검다는 명제의 신뢰도 또한 더 높아져야 한다. 두 진술이 동치이기 때문이다. 이것은 상당히 모순적인 결과로 이어진다. 원래 명제와 전혀 관련이 없는 것들을 관찰하면서 명제가 참일 확률을 높일 수 있는 것이다. 나무에 올라가 빨간 체리를 수확하면서도 까마귀 문제에 확신을 얻게 되는 것이다. 이 까마귀 패러독스는 독일의 철학자 칼 구스타프 헴펠이 개진한 것이다. 이 역설의 답을 알기 위해서는 어떤 실험에서 무엇을 연구해야 할지 정확히 정의해야 한다.

‘모든 까마귀는 검은색이다.’ 라는 명제에서 우리는 많은 까마귀를 관찰하면서 그 명제를 테스트해야 한다. 우리는 주제가 까마귀임을 이미 알고, 그에 따라 까마귀를 연구 대상으로 선정했으며, 우리의 실험은 까마귀의 색깔을 검증하는 일이다. 반면 두 번째 진술은 주의해서 보아야 한다. 여기서 우리는 ‘검지 않은 모든 것은 까마귀일 수 없다.’는 가설을 테스트하고자 한다. 그리고 이를 위해 검지 않은 대상들을 살펴본다. 하지만 여기서는 이제 색깔에 관심을 둘 필요가 없다. 실험의 주안점은 대상들의 까마귀스러움을 검증하는 것이기 때문이다. ‘검지 않은 대상 중 하나가 혹시나 까마귀로 밝혀질까?’라고 질문해야 하다. 만약 밝혀진다면 가설은 반박되기 때문이다.

어떤 실험에서 우리가 뭔가를 배울 수 있으려면, 실험 결과가 미리 명백히 알려져 있지 않아야 한다. 우리는 모든 정사각형의 각이 네 개임을 안다. 정사각형 수백 개를 검사하고 그 각이 몇 갠지 센다고 하여 무언가 새로운 것을 알아내지는 못한다. 마찬가지로 빨간 체리를 따서 각각의 체리가 까마귀가 아닌지 세심하게 점검하는 것도 무익한 일이다.

‘검지 않은 모든 것은 까마귀가 아니다’라는 진술이 참일 확률은 이런 실험의 영향을 받지 않는다. 체리를 따면서 까마귀의 색깔에 대해 배울 수 없다는 직감은 올바르다. 하지만 실험 결과를 미리 알지 못할 때에는 사정이 달라진다. 깃털이 검지 않은 새들을 살펴보며, 검지 않은 새들 중 까마귀가 있는지 점검하는 것은 관찰할 때마다 배우는 것이 있다. 체리를 살펴볼 때보다 중요한 인식을 얻게 되는 것이다.

검지 않은 새 한 마리가 까마귀가 아니라고 밝혀질수록 ‘검지 않은 것은 까마귀가 아니다’라는 우리의 확신도 커 간다. 그로써 모든 까마귀는 검다는 확신도 더불어 커진다. 이 역설을 통해 귀납법은 믿을 만한 추론이 아니라는 것을 알 수 있다. 그러나 귀납적 추론 없이 과학을 할 수는 없다. 순수하게 연역적인 자연 과학은 존재할 수 없을 것이다. 모든 자연 과학의 토대는 관찰이어야 하며, 그렇지 않으면 과학이 아니라 몽상에 불과하다. 그러나 구체적인 개별 관찰에서 일반적인 규칙으로 넘어가는 과정은 아무래도 오류에서 자유롭지 못하다. 아무리 관찰을 많이 하고 그로부터 규칙을 도출하고자 할지라도, 실수를 범하지 않는다는 보장은 결코 없다. 자연 과학 이론은 결코 완벽히 증명할 수 없다. 최소한 수학적, 논리학적으로는 말이다. 자연 과학은 엄밀히 말해 검증될 수 없다. 의심에서 자유로운 학문은 수학뿐이다.

진실을 도구로 거짓말을 하는 법

통계적 유의미, 우연이라 하기엔 석연치 않은

실험 참가자들을 두 집단으로 나뉘어 모두가 3주간 탄수화물 제한식을 했다. 단, 한 집단은 매일매일 쓴맛 나는 다크 초콜릿을 먹었고 다른 집단은 먹지 않았다. 그런데 놀랍게도 3주 뒤에 몸무게를 측정하자, 초콜릿을 매일 먹은 집단이 초콜릿을 먹지 않은 집단보다 몸무게가 더 많이 빠졌다. 이로 인해 초콜릿이 다이어트 식품으로 새롭게 떠올랐다.

이런 통계적 연구는 과학 분야에 따라 중요도가 다르다. 물리학에서는 분명하고 논리적인 연관들을 찾는다. 하지만 초콜릿을 먹는 사람들처럼 더 복잡한 대상을 다루는 분야에서는 그런 명백한 연구가 힘들다. 이런 곳에서는 통계가 기본적으로 유용한 도구이다. 다만 조심해야 할 것은 연구에서 관찰되는 효과가 우연에서 비롯되어 있을 수도 있기 때문이다. 사람들을 두 집단으로 나누어 비교하면 늘 어떤 차이가 확실히 발견된다.

무언가를 연구하기 위해 우선은 어떤 조건이 미치는 효과가 없다고 가정한다. 이것을 영가설이라고 부른다. 초콜릿 실험의 경우 영가설은 초콜릿이 체중 감량에 아무런 영향을 미치지 않는다는 의미이다. 따라서 두 집단 모두 기대되는 체중 감량은 동일하다. 그럼에도 마지막에 순전히 우연히 두 집단 중 한쪽의 평균 체중이 더 많이 빠졌다고 나타날 것이다. 어떤 현상이 우연히 나타날 확률이 작은 경우는 흥미로운 사실을 발견할 것일 수 있어서, 영가설을 기각하고 실험 결과를 ‘통계적으로 유의미’하다고 볼 수 있다.

우리가 매일매일 제기하는 추측 중 많은 부분은 이런 통계적 유의미성의 장벽을 넘지 못한다. 무척 흥미롭지만, 순전한 우연으로도 설명할 수 있다. 계산해 보면 통계적 유의미성과는 거리가 멀다고 나올 것이다. 초콜릿 연구는 완전히 터무니없는 것이었다. 그리고 이 터무니없음은 연구자들이 완전히 의도한 것이다. 미국의 저널리스트 존 보해넌을 위시한 연구팀은 이런 연구에서 사실을 속이기가 얼마나 쉬운지, 그리고 과학 저널리즘이 이런 얼토당토않은 결과에 얼마나 열광적으로 달려드는지를 보여 주고자 이 실험을 시행했다.

존 보해넌은 데이터를 조작하지도, 위조하지도 않았다. 존 보해넌이 사용한 ‘p해킹’ 이라는 트릭은 이러하다. 처음에는 무엇을 찾는지 정해 놓지 않고 될 수 있는 대로 많은 데이터를 수집한다. 이것은 보물을 찾는 사람이 자신이 무엇을 찾고 싶은지 발설하지 않은 채 정원을 두루두루 파헤치는 것과 같다. 초콜릿 실험에서 연구자들은 참가자들이 체중 감량치뿐 아니라 콜레스테롤 수치, 주관적인 컨디션, 혈압, 수면의 질 등등 다른 변수도 조사했다. 약간의 초콜릿은 이 모든 수치에 사실 별 역할을 하지 못한다. 그리하여 마지막에 어떤 수치는 초콜릿을 먹은 그룹이 더 좋고, 다른 수치는 초콜릿을 먹지 않은 그룹이 더 좋다. 우연히 통계적으로 유의미하다고 여길 차이를 발견할 확률은 매번 5%에 불과하다.

하지만 충분히 많은 수치를 시험하다 보면, 어느 순간에 이런 유의미한 기준에 드는 차이를 발견하기에 이른다. 순전히 우연하게 말이다. 이런 트릭이 특히나 문제인 것은 모든 연구 결과가 다 공개되지 않기 때문이다. 이를 출판 편향이라고 부른다. 억지로 데이터들을 주무르고 쥐어짜서 결국 고통에 일그러진 통계가 그 어떤 결과를 내놓고야 마는 조작된 연구들이, 통계적으로 유의미한 연관을 찾지 못하는 정직한 연구들보다 전문 저널에 실릴 가능성이 더 높아지기도 한다.

그러나 이런 속임수를 쓰지 않는다 해도 출판 편향은 문제가 된다. 초콜릿 실험은 일상에서 우리가 이런 일을 많이 겪고 있음을 분명히 보여준다. 과학적인 연구 결과로 보이지만 사실은 믿을 수 없는 것이 많다는 이야기다. 과학은 단순히 연관을 감지하는 것이 아니라 연관을 설명하는 학문이다. 우리는 그저 관찰로 만족해서는 안 되며 논리적 이음매를 찾아야 한다. 원인과 결과를 서로 연결하는 이론을 개발해야 한다. 검증된 관찰을 토대로 새로운 생각을 논리적으로 기존의 커다란 망 안에 통합할 때에야 비로소 과학은 진보한다.

감으로 하는 과학

과학은 무엇을 위해 존재하는가?

‘과학은 믿을 수 있다.’ 우리는 이 사실을 알며, 왜 믿을 수 있는지 이유도 안다. 과학은 원칙적으로 반박이 불가능한 수학과 논리학 방법들을 사용한다. 과학 이론은 영원하고 완전한 진리를 제공하라는 요구에 부딪혀 좌절하지 않는다. 스스로에게 아예 그렇게 요구하지 않기 때문이다. 과학은 살아있고 끊임없이 발전한다. 그것은 문제를 해결할 수 있는 도구들의 모음이지 권위적으로 제정된 교리의 모음집이 아니다. 한번 유용하다고 입증된 도구는 영원히 유용한 것으로 남는다.

이런 의미에서 과학은 반박되지 않는 것이다. 그러나 때로는 최고의 과학 이론조차도 소용이 없다. 직감에 의존하는 것밖에 방법이 없다. 이성적 사고나 과학적 방법이 좋지 않다는 말이 아니다. 오히려 그 반대이다. 우리 인간이 단순한 수학 공식으로 기술할 수 없는 복잡한 감정과 욕구를 지녔음은 학문적으로 증명 가능한 사실이다. 그러므로 그런 사실을 무시하는 세계관은 굉장히 비과학적이며 삶의 이성적인 면만 고려하는 것은 굉장히 비이성적인 짓이다. 과학적 사실로 명확하게 대답할 수 있는 질문의 경우 맞는 답 외의 다른 모든 답은 틀리다. 그러나 주관적인 인상, 개인적 선호, 감정과 관련된 질문들은 다양한 의견을 문제없이 수용할 수 있다.

우리는 두 영역을 구분해야 한다. 감정은 과학으로 계산이 되지 않는다. 하지만 그렇다고 계산할 수 있는 과학이 감정과 전혀 무관하다는 의미는 아니다. 과학의 가장 큰 유익은 지식 그 자체이다. 아는 것이 언제나 모르는 것보다 낫다. 세계를 더 많이 이해할수록 더욱 영리한 결정을 내릴 수 있고, 그를 통해 비로소 진정 자유로운 인간이 될 수 있다.

과학은 두려움을 없애준다. 세계를 이해하면 우리는 자연의 무력한 장난감으로 살아가는 삶에서 벗어날 수 있다. 우리는 지진을 막을 수는 없지만, 지진이 어떻게 일어나는지를 안다. 또한 우리는 질병을 더 이상 운명의 채찍으로 여기지 않고 어떻게 치료할지를 숙고한다. 과학은 음악, 문학, 회화처럼 아름다움을 만들어 낸다. 어떤 교향곡도 세상의 굶주림을 끝내지 못하고, 어떤 그림도 병자를 치유하지 못하며, 어떤 시도 추운 데 가면 몸이 꽁꽁 어는 것을 막아주지 못한다. 그럼에도 바보가 아닌 이상 예술을 쓸모없다고 생각하는 사람은 없을 것이다.

과학도 예술과 비슷하게 멋지다. 세상에 대한 새로운 시각을 열어 주는 새 이론은 음악 작품처럼 우리에게 감동을 선사한다. 하지만 우리가 과학을 하는 가장 중요한 이유는 아마도 다른 데 있을 것이다. 그것은 바로 우리가 과학을 하지 않을 수 없다는 점이다. 우리는 과학을 할까 말까를 선택할 수 없다. 진화는 인간에게 과학적 사고 능력을 주었고, 그로써 우리는 어려운 문제들을 풀어 낼 수 있다.

물론 모두가 이를 똑같이 잘 해내는 것은 아니다. 때로는 논리적인 답을 찾는 과정에서 마구 헤맬 수도 있다. 하지만 질문하고, 문제를 해결하고, 연구하는 것은 인간에게는 가히 타고나다시피 한 속성이다. 우리의 연구 활동에 항상 보람이 있지는 않지만, 연구를 하는 건 불가피한 일이다. 도시의 형성에서 예술과 문화, 현대 과학에 이르기까지 인간 생활을 구성하는 모든 것은 우리가 함께 살아가는 거대한 사회 연결망에 기초한다. 이런 연결망 안에서 우리는 세계를 아우르는 공동 작업을 통해 과학을 만들어낸다.

인류 전체를 포괄하는 연결망은 정말 구조가 복잡하며, 우리는 상상을 초월하는 특별한 존재이다. 그리고 인간의 이성은 온 인류를 포괄하여 함께 생각을 키워 가는 데까지 다다랐다. 원자들은 인류의 형태를 빌려 원자에 대해 생각할 수 있게 되었고, 자연 법칙은 인류의 형태를 빌려 자연 법칙을 해독할 수 있게 되었다. 우주는 인류의 형태를 빌려 우주에 관한 비밀을 탐구하는 데에 이르렀다. 두고두고 영향력을 발휘한 착상, 역사에 길이 남은 정신적 영감, 대단한 진리는 어느 날 ‘별로 나쁘지 않은데?’ 싶은 작은 생각에서 시작되었다.

* * *

본 도서 정보는 우수 도서 홍보를 위해 저작권자로부터 정식인가를 얻어 도서의 내용 일부를 발췌 요약한 것으로, 저작권법에 의하여 저작권자의 정식인가 없이 무단전재, 무단복제 및 전송을 할 수 없으며, 원본 도서의 모든 출판권과 전송권은 저작권자에게 있음을 알려드립니다.