수학님은 어디에나 계셔

탐색 이론: 보물은 어디에 있을까?

래리 스톤, 수학으로 물건을 찾다

1968년 대학을 갓 졸업한 래리 스톤(Larry Stone)은 미 해군 잠수함 USS 스콜피언(USS Scorpion)의 수색에 참여하며 자신의 수학적 지식을 시험대에 올렸다. 탐사 컨설팅 및 소프트웨어 개발회사 와그너 어소시에이츠(Wagner Associates)에 위치 분석가로 합류한 스톤은 포르투갈로 날아가 대서양에서 실종된 스콜피언을 찾으라는 지시를 받았다.

USS 스콜피언의 위치를 찾는 것은 상당히 까다로웠고, 찾기까지 오랜 시간이 걸렸지만, 스톤은 그 모든 순간을 즐기며 사랑했다.

그 후 스톤은 ‘베이지언 탐색 이론(Bayesian Search Theory)’이라는 분야를 개척하며 수학으로 잃어버린 물건을 찾는 전문가가 됐다. 이 이론은 ‘베이즈의 정리(Bayes’ theorem)’로 알려진 수학적 계산 결과에 바탕을 두고 있는데, 수학자들은 베이즈의 정리에 따라 여러 가지 유력한 증거를 신중하게 평가하며 사실일 확률을 엄격하게 계산한다.

내가 열쇠를 어디에 뒀더라?

간단히 말하자면, 베이즈의 정리는 ‘당신만의 신념이 있더라도 항상 새로운 증거를 통해 그 신념을 기꺼이 갱신해야 한다’고 설명한다. 이를 테면 ‘모든 수학책은 지루하다’고 생각하며 이 책을 읽고 있다면, 당신의 관점을 반드시 바꿔야 한다. 영국의 경제학자 존 메이너드 케인스(John Maynard Keynes)는 이렇게 말했다.

“상황이 달라지면, 내 마음도 바뀐다. 당신은 어떨까?”

베이즈의 정리로 보면, 당신의 초기 신념은 사전 정보(prior)에 해당하며, 초기 신념이 새로운 증거와 결합되면 새로운 신념, 즉 사후 정보(posterior)를 만든다. 이 말은 베이지언 탐색 이론가들처럼 사후 정보만 알면 언제든지 무엇이든 쉽게 찾아낼 수 있다는 것을 의미한다. 짠!

당신은 집 어딘가에서 열쇠를 잃어버렸고, 열쇠가 있을 만한 장소는 거실과 침실, 욕실이다(물론 이 집은 내 아파트를 예로 들었다). 사전 정보에 따라 당신이 거실에서 열쇠를 찾을 확률은 70%, 침실에서는 20%, 욕실에서는 10%다(물론이 확률도 내 경험을 예로 들었다).

이전 내 경험으로 비춰볼 때, 당신의 탐색 성공률은 65%다. 즉 열쇠가 있는 곳에서 열쇠를 찾을 수 있는 확률이 0.65라는 뜻이다(나는 늘 이러한 정보를 수집한다. 누구라도 그러지 않을까?). 이런 점을 염두에 둔 당신은 거실에서부터 열쇠를 찾기 시작한다.

그러나 당신은 거실에서 동전 몇 개와 빵 부스러기밖에 발견하지 못했다. 베이지언 탐색 이론의 초고를 발견했지만, 열쇠는 찾지 못했다. 다음에는 무엇을 해야 할까? 침실을 살펴봐야 할까? 침실은 열쇠가 있을 가능성이 거실 다음으로 높은 곳이지만, 성급하게 침실로 들어가기 전에 당신은 새로운 확률을 계산한다.

베이즈의 정리에 따라 새로운 증거, 즉 실패한 탐색을 통해 확률을 갱신해야 한다. 물론 실제 열쇠가 거실에 있을지도 모르지만, 가능성이 줄어들었다. 열쇠를 찾을 확률이 0.65였으므로 실패할 확률은 1-0.65=0.35다. 당신의 열쇠가 거실에 있고(and), 당신의 탐색이 실패할 확률은 다음과 같다.

 

0.7(열쇠가 거실에 있을 확률) X 0.35(탐색에 실패할 확률)=0.245

직관적으로 보면 이 공식은 이치에 맞다. 당신은 이미 거실을 살펴봤으므로 거실에서 열쇠를 찾을 확률이 줄어든 것이다. 이제 당신의 사전 정보가 변했기 때문에 또 다른 표를 만들 수 있다.

지금까지는 거실에서 열쇠를 찾을 확률만 갱신했을 뿐, 침실이나 욕실에서 열쇠를 찾을 확률은 그대로다. 거실에 열쇠가 있을 확률이 줄었기 때문에 다른 두 곳에서 열쇠를 찾을 확률이 늘어야 한다.

열쇠가 집 어딘가에 있다고 전제했으므로, 표에 있는 모든 확률을 더하면 1이 되어야 한다. 이 값을 맞추기 위해 각 확률을 0.545(0.245+0.2+0.1)로 나누면 다음 표와 같다.

예상했던 대로 모든 확률을 더하면 1이 된다. 이미 거실을 훑어봤지만, 놀랍게도 열쇠가 여전히 거실에 있을 확률이 다른 곳보다 높다. 열쇠가 거실에 있을 확률과 당신의 형편없는 탐색 성공률을 결합한 결과, 베이즈의 정리는 다시 거실로 돌아가 살펴보라고 한다.

데이터: 수학으로 행복해질 수 있을까?

우리는 당신의 페이스북을 조작했다

2014년 페이스북이 사용자들을 대상으로 실시한 연구 결과를 본 인터넷 활동가와 변호사들의 외침이 빗발쳤다. 세계에서 가장 큰 소셜 네트워크가 사용자들의 감정을 조작해왔다는 사실이 드러나자, 수많은 사람들이 불쾌감을 감추지 못했다. 물론 뒤늦게 그들의 감정이 진짜인지, 조작의 결과인지를 구별하는 것도 어려웠지만.

페이스북은 실험 참가자들의 뉴스 피드에 있는 게시물이 그들의 행복 수준에 영향을 미치는지를 알아보기 위해 게시물을 조작했다. 어떤 이들에게는 행복한 느낌의 단어가 포함된 게시물을 줄였고, 또 어떤 이들에게는 슬픈 단어가 있는 게시물을 줄였으며, 다른 그룹은 통제 역할을 하기 위해 임의로 게시물을 삭제했다. 이 실험은 알려지지 않고 진행됐기 때문에 발표가 난 뒤 사람들은 강하게 불만을 표시했다.

방정식처럼 격렬한 관계

사람들의 심리는 복잡하면서도 꽤 비이성적지만, 놀랍게도 몇몇 수학적 법칙에 따라 예측할 수 있는 행동을 하는 경우가 왕왕 있다. 여기에는 사소한 불합리가 균형을 잡고 있는지도 모른다. 사람들을 체계적으로 분석하면 방정식과 패턴이 툭 튀어나와 어떤 상황인지, 어떤 영향을 받을 수 있는지에 대한 통찰력을 얻을 수 있다.

유명한 사례로 사람들의 관계가 이뤄지는 방식을 연구한 심리학자 존 가트맨(John Gottman)의 실험을 들 수 있다. 1942년 도미니카공화국에서 태어난 가트맨은 평생 남성과 여성의 이성 관계를 연구하는 데 매진했다.

가트맨의 실험 가운데 하나는 수백 쌍의 부부가 대화하는 모습을 관찰하며 그들의 심장 박동 수, 혈압, 피부 전도도를 측정하고, 대화 종류에 따라 점수를 매기는 것이었다. 예를 들어 부부가 대화를 나누는 동안 ‘즐거움’이나 ‘애정’, ‘유머’를 공유한다면 4점을 부여하고, ‘혐오감’, ‘방어’, ‘분노’를 공유하면 각각 3점, 2점, 1점을 뺐다.

가트맨의 전체 점수 체계는 매우 길어 부부간의 대화 내용과 어조뿐 아니라 얼굴 표정까지 점수에 반영했다. 그는 연구의 일환으로 수학자 제임스 머레이(James Murray)와 협력해 자신의 연구 결과를 두 가지의 간단한 방정식으로 요약했다.

H_t₊1 = M_H + r_wH_t + I_HW(W_t)

W_t₊1 = M_W + r_HW_t + I_WH(H_t)

물론 이성 부부에 관한 연구였지만, 머레이가 만든 방정식은 사실상 사람의 성별을 따지지 않는다. 가트맨과 머레이는 단순하게 두 사람 사이의 상호 작용만 관찰했다. 하지만 가트맨과 머레이가 방정식에 관한 논문을 쓸 때 남편은 H, 아내는 W로 표기했으므로 우리도 똑같이 적용할 것이다.

이 방정식이 까다로워 보일 수도 있겠지만, 실제로는 그렇지 않다. 첫 번째 방정식은 아내와 대화를 나눈 후 나타난 남편의 기분이고, 두 번째 방정식은 남편과 대화를 나눈 후 나타난 아내의 기분을 뜻한다. 여기에 사용된 기호들은 아주 간단한 개념들을 줄인 것이다.

부부가 대화를 나눈 후 남편과 아내의 기분은 세 가지로 나뉜다. 즉 부부의 현재 기분은 남편은 M_H, 아내는 H_W로, 대화를 나눌 때의 기분은 남편은 r_wH_t, 아내는 r_HW_t다. 상대방의 행동이 부부에게 미치는 영향은 남편은 I_HW(W_t), 아내는 I_WH(H_t)다. 간단히 말하자면 위의 방정식을 다음과 같이 쓸 수 있다.

다음 기분 = 현재 기분 + 함께 있을 때의 기분 + 파트너가 미치는 영향

이렇게 하면 간단하게 이해된다. 특정 시점의 기분(또는 감정)은 당신의 현재 기분, 함께 있을 때의 기분, 파트너가 당신에게 미치는 영향에 따라 달라진다. 이 방정식의 마지막 부분인 파트너가 미치는 영향은 당신의 이성 관계가 얼마나 성공적일지를 결정하는 데 중요하다.

실험에 참여한 부부들은 한 사람이 상대방에게 매우 긍정적인 영향을 주면, 상대방 역시 긍정적인 영향을 미칠 가능성이 있으며 두 사람의 전반적인 관계 분위기가 더욱 나아진다고 보여줬다. 상대방에게 우스갯소리를 한다고 생각해보자. 당신이 "사슴고기, 정말 사랑스럽지 않아?"라고 말했더니 파트너가 웃고 있다. 당신의 우스갯소리가 파트너의 기분을 즐겁게 하고, 파트너의 웃음소리가 당신의 기분도 들뜨게 한다.

분할: 픽사는 원을 어떻게 그릴까?

1974년 박사 과정을 마친 미국의 컴퓨터 공학자 에드윈 캣멀(Edwin Catmull)은 자신의 손을 소재로 단편 디지털 애니메이션을 제작했다. 단순하면서도 세련된 영상이 무척 인상적인 작품이었다. 캣멀은 손에서 가장 돋보이는 특징을 그린 뒤 디지털 방식으로 빈틈을 채우며 살갗을 표현했다. 시대를 앞서간 이 영상은 앞으로 수십 년 동안 활용될 ‘텍스처 매핑(texture mapping, 평면에 그린 무늬와 질감을 입체로 변환해 물체 표면에 색과 패턴을 넣는 것_옮긴이)’이라는 기술을 개척했다. 젊고 패기가 넘치는 데다 재능도 뛰어났던 캣멀은 거칠고 어설픈 3D 애니메이션을 부드럽고 현실감 있게 변형할 수 있는 복잡한 수학을 개발해 명성을 얻었다. 그래서 스티브 잡스가 픽사를 인수했을 때 캣멀은 이미 3D 애니메이션의 한계를 뛰어넘는 최고 기술자였다.

아카데미 최우수 수학상 수상자는

3D 애니메이션으로 성공을 거둔 후 픽사는 품질을 더욱 높이고 싶었다. 장난감이나 로봇 같은 영화만 제작할 수 없다는 것을 잘 알고 있었기 때문에 인간의 미묘하게 생긴 코나 복잡한 매듭 같은 곡면을 그리는 완벽한 방식이 필요했다.

에드윈 캣멀은 박사 과정 시절에 동기 제임스 클락(James Clark)과 함께 B-스플라인의 대안으로 분할 표면(subdivision surfaces)을 연구한 적이 있었지만, 거의 성과가 없었다. 분할 표면은 비교적 생소한 데다 잘 쓰이지 않았다. 1990년대 초반, 픽사가 <토이 스토리>를 완성하려고 악착같이 노력하는 동안, 워싱턴대학교의 토니 드로즈(Tony DeRose) 교수는 분할 표면이 미래라고 여기며 관련 알고리듬을 재검토했다.

드로즈가 픽사에서 처음 맡은 작업은 <게리의 게임(Geris Game)>이라는 3D 단편 애니메이션이었다. 분할 표면으로 제작한 이 애니메이션은 꽤 훌륭했다. 픽사는 분할 표면이 다음 영화의 중심이 될 것이라고 생각했다. 매끄러운 곡선과 세련된 정밀 묘사 등 모든 것이 분할 표면의 수학으로 가능했기 때문이다. 분할 표면은 이제 3D 애니메이션 산업의 기준이 됐고, 2006년에는 아카데미 기술상까지 거머쥐며 기술력을 인정받았다.

분할 표면의 핵심 개념은 평평한 조각으로 이뤄진 물체도 먼 거리에서는 구부러져 보일 수 있다는 것이다. 제10장에서 소개할 거킨(Gherkin) 타워처럼 말이다.

오그라든 축구공을 잠시 상상해보자. 멀리서는 축구공이 둥글둥글한 원처럼 보여도, 손으로 잡아 보면 평면 조각이 각각 이어져 있다는 것을 알 수 있다. 보통 정오각형 12개와 정육각형 20개가 서로 맞물리며 원 모양을 이룬 입체를 ‘축구공’이라 하고, 수학자들은 여기에서 각 모서리를 3등분하여 꼭짓점을 자른 형태를 ‘정이십면체’라고 설명한다.

분할 표면(3D)의 실제 작동 방식을 확인하려면, 분할 곡선(2D)을 먼저 살펴봐야 한다.

일단 원을 하나 그린다고 가정해보자. B-스플라인 곡선을 사용하려면 서로 다른 점들을 배열하여 각 점의 평균값을 계산해 적당한 곡선을 그린 다음, 각 곡선을 짜 맞추며 원을 만들어야 한다. 하지만 분할 표면을 이용하면 훨씬 쉽다. 그냥 정사각형만 그리면 된다.

분할은 두 단계로 이뤄진다. 우선 정사각형 네 변에 중점을 찍어 두 부분으로 나눈다.

그 다음에는 두 점사이의 평균을 구한다. 정사각형 위에 있는 점 가운데 한 점을 A라 하고, 시계 방향에 있는 점을 B라 하면, A와 B사이에 있는 중점을 A+B÷2로 계산한다.

이렇게 하면 정사각형의 한 변을 그냥 둘로 나눈 것처럼 보이지만, 실제로 계산된 값은 매우 중요하다. 아티스트가 그리고 싶은 곡선 종류에 따라 우리가 사용하는 평균의 종류를 바꿀 수 있다. 때로는 더 많은 점을 고려하거나 몇몇 점들이 다른 점들보다 더 많은 영향을 주도록 허용할 수 있고, 순식간에 완전히 다른 곡선을 그릴 수도 있다. 지금은 정사각형의 한 변을 이등분하는 것만으로도 더할 나위 없이 매끄러운 원을 그릴 수 있다.

일단 모든 점의 평균을 구한 다음, 점을 서로 연결한다. 모서리가 잘린 사각형은 그대로 남겨둔다.

처음에는 네 변을 가진 정사각형이었지만, 현재는 8개의 변과 8개의 꼭짓점이 있는 정팔각형이 됐다. 실눈으로 보면 살짝 원처럼 보이지만 아직 확실하지는 않다. 그래서 우리는 앞에서 했던 과정을 반복해 모든 변을 둘로 이등분하고 평균을 계산한다.

자, 정사각형에서 시작해 결국 원이 되었다. 아티스트들은 원하는 부드러운 곡선이 나올 때까지 이 과정을 반복한다. 수학적 속임수를 쓰면 완성품으로 바로 건너뛸 수도 있다. 마지막 두 사진의 차이점을 보면 바깥쪽 가장자리에 있는 점들이 서로 가까워지는 것을 볼 수 있다.

이처럼 픽사는 수학의 혁명을 일으키며 앞서 말한 대로 ‘애니메이션의 얼굴’을 바꿔놓았다.

최적화: 도로가 늘어나면 주행 시간이 줄어들까? 

1990년 4월 22일 지구의 날. 전세계 환경운동가들이 지구 환경을 보호하기 위한 대규모 시위 행사를 열고 있었고, 뉴욕도 마찬가지였다. 루시우스 리치오(Lucius Riccio) 뉴욕 교통위원회 회장은 뉴욕 시내에서 가장 번잡하고 혼잡한 42번가를 폐쇄하며 지구의 날을 기념하기로 했다. 뉴욕을 오가는 수많은 운전자들은 도로 폐쇄 조치가 도시의 재앙이 되리라 확신했고, 뉴욕시는 운명의 날이 예상될 정도로 교통 지옥이 될 것이 뻔한 도로 상황에 촉각을 곤두세우고 있었다.

하지만 이상하게도 그런 일은 벌어지지 않았다. 42번가를 폐쇄한 이후, 교통 체중이 오히려 줄어든 것이다. 전세계 사람들이 지구의 날을 즐기고 있을 무렵, 뉴욕 시민들은 예상치 못한 광경에 머리만 긁적였다.

앨리스톤과 밥머스라는 두 도시를 가정해보자. 두 도시 사이에는 2개의 구간으로 이뤄진 2개의 노선이 있다.

1번 노선의 경우, 앨리스톤에서 밥머스로 가는 첫 번째 구간은 다차선 도로라서 차가 아무리 많아도 주행 시간이 항상 45분이다. 하지만 두 번째 구간의 상황은 조금 다르다. 이 도로는 한 차선으로만 이뤄져 있어 도로를 이용하는 차량이 많을수록 주행 시간이 길어진다. 매시간 통과하는 차량의 수를 V라고 하면, 평균 주행 시간은 10분의 V다. 예를 들어 매시간 1번 노선의 두 번째 구간을 통과하는 차량이 150대라면 평균 주행 시간은 15분이다.

2번 노선으로 앨리스톤에서 밥머스로 가는 주행 시간은 1번 노선과 거의 같지만, 방향이 반대이기 때문에 10분의 V가 걸리는 구간에서 45분이 걸리는 구간으로 이어진다. 따라서 각 노선의 주행 시간은 기본적으로 똑같다.

차량 400대가 반반씩 나뉘어 1번 노선과 2번 노선을 통해 앨리스톤에서 밥머스까지 이동한다면, 각 노선의 최단 주행 시간은 65분이 된다. 즉 1번 노선을 주행하는 모든 차량(매시간 차량 200대 이동)은 첫 번째 구간에서 45분, 두 번째 구간에서 200÷10=20분, 총 65분이 소요되며, 2번 노선에서의 주행 시간도 마찬가지다. 65분가량의 주행 시간이 나쁜 편은 아니지만, 앨리스톤과 밥머스 의회는 도로 상황을 개선하겠다는 생각으로 도로 설계자와 상의한다.

이에 도로 설계사는 쉬운 해결책을 제안한다. 각 노선의 첫 번째 구간 끝에 1번 노선과 2번 노선을 연결하는 새로운 도로를 추가하는 것이다. 두 노선 간의 거리가 이 지점에서 가장 가깝기 때문에 필요한 도로의 길이도 매우 짧아서 주행 시간도 살짝만 추가될 것이다. 따라서 이 도로에서의 주행 시간은 0분으로 계산한다.

의회는 도로 설계사의 제안이 맘에 들었다. 많은 돈을 들이지 않아도 ‘효율성’이라는 또 다른 목표를 이룰 수 있었기 때문이다. 그래서 연결 도로가 건설됐다. 그리고 거의 하룻밤 사이에 교통량이 늘어났다. 이는 과연 효율적인 선택이었을까?

새 도로가 건설되기 전처럼 시간당 400대가 앨리스톤에서 밥머스까지 이동하는데, 이제는 운전자들이 고를 수 있는 가장 좋은 노선이 바뀌었다. 주행 시간에 뚜렷한 차이가 없으므로 운전자들은 첫 번째 구간 끝에서 1번 노선 또는 2번 노선으로 바꿀 수 있다. 각자에게 가장 빠른 첫 번째 구간을 기준으로 1번 노선 또는 2번 노선에서 출발하면 된다.

1번 노선의 첫 번째 구간을 선택하면 45분이 걸리지만, 2번 노선을 선택하면 어떻게 될까? 최악의 시나리오는 차량 400대가 모두 2번 노선의 첫 번째 구간을 선택하는 것이다. 그럼에도 평균 주행 시간이 400÷10=40분이기 때문에 1번 노선보다 5분 빠르다. 즉 운전자는 2번 노선에서 출발하면, 1번 노선보다 최소 5분 더 빠르다는 것을 알고 있다.

그런 다음 연결 도로를 사용하거나, 어느 노선을 선택해야 남은 거리를 빨리 주행할 수 있는지를 계산한다. 1번 노선의 두 번째 구간을 이용하는 운전자들은 2번 노선보다 최소 5분 더 빠르다고 확신할 것이다.

모든 운전자(또는 모든 운전자의 내비게이션)는 앨리스톤에서 밥머스로 이동할 때마다 똑같은 계산을 하므로 시간당 400대의 차량이 2번 노선을 출발해 1번 노선으로 도착한다. 그러나 이 경우 총 주행 시간은 운전자당 40분+40분=80분으로, 연결 도로가 건설되기 전보다 더 늘어났다! 앨리스톤과 밥머스의 시민에게는 도로가 많을수록 주행 시간이 더 길어지는 것이다. 차량이 증가하지 않았는데도 말이다.

2008년 윤혜진, 마이클 개스트너(Michael Gastner), 정하웅, 이 세 명의 브라에스파 수학자들이 보스턴과 뉴욕, 런던에 있는 도로를 폐쇄하면 교통량이 줄어든다는 사실을 확인했다. 브라에스의 역설이 설명하는 것처럼 도로를 폐쇄했을 때 운전자들은 교통 상황이 더 나은 도로를 선택했다. 윤혜진은 “모든 사람이 같은 도로를 이용하면 교통 체증이 심해질 수밖에 없다. 도로를 없애면 운전자들이 상황이 더 나은 도로 곳곳으로 퍼지게 된다”고 강조했다.

브라에스의 역설과 정확히 똑같은 수학이 다른 상황에서도 적용된다. 도시의 케이블 시스템을 통과하는 전기, 최고의 농구 선수가 뒤쳐지면 팀의 사기가 향상되는 이유 등이 대표적인 사례에 해당된다.

“자유 시장에서도 같은 문제가 생긴다는 것을 알 수 있다!”

브라에스가 덧붙여 말했다.

“어떤 판매자가 같은 물건을 다른 판매자보다 훨씬 저렴하게 판다면 처음에는 다른 판매자보다 더 많이 팔 수 있기 때문에 돈을 더 많이 번다. 하지만 나중에는 다른 판매자들도 가격을 낮추기 때문에 모든 판매자의 전체적인 이윤은 더 적어진다.”

도로망을 건설할 때 브라에스의 역설을 염두에 둔다면 교통 혼잡을 줄이는 데 도움이 될 것이다. 하지만 혼잡을 줄여야 하는 대상이 도로에만 해당되는 것은 아니다. 사람들이 길게 늘어서 있는 줄을 볼 때마다 그 줄을 줄이려고 노력하는 수학자들이 있기 때문이다.

* * *

본 도서 정보는 우수 도서 홍보를 위해 저작권자로부터 정식인가를 얻어 도서의 내용 일부를 발췌 요약한 것으로, 저작권법에 의하여 저작권자의 정식인가 없이 무단전재, 무단복제 및 전송을 할 수 없으며, 원본 도서의 모든 출판권과 전송권은 저작권자에게 있음을 알려드립니다.