미래를 어떻게 결정할 것인가

마음의 지도를 그리다

결정의 시작: 심적 지도와 영향도

어려운 결정을 내릴 때 누구나 어떤 형태로든 심적 지도를 그린다. 때로는 그 지도가 문자 그대로 지도가 되는 경우도 있다. 아보타바드에서 수상쩍은 복합 주택이 발견되고 수개월이 지난 후 미 국립지리정보국은 그 복합 주택을 위성으로 정찰한 정보를 3차원 입체 영상 모형으로 해독하기 시작했다. 이 분석에 근거해 NGA는 실제 모형을 카드 테이블의 크기로 지었다. 담과 창문은 물론 나무까지 빠짐없이 표현한 정교한 모형이었다. 심지어 알쿠웨이티의 하얀색 지프를 나타내는 장난감 자동차도 있었다. 나중에 밝혀졌지만, 이 모형은 그곳에 누가 살고 있는지 알아내고 그곳에 침투하는 방법을 결정하는 데 중요한 역할을 했다. 그러나 뒤에서 다시 언급하겠지만 이 모형에는 한 가지 핵심적인 변수가 빠져 있었고 그 때문에 침투 작전은 거의 실패할 뻔했다.

모든 여행이 그렇듯이 어려운 선택을 위한 여정을 시작하는 최선의 방법은 좋은 지도를 확보하는 것이다. 그러나 지도 작성이 결정 자체는 아니다. 여러 변수가 전체 시스템에 관여한다고 가정하면 지도에서 궁극적으로 드러나야 하는 것은 일련의 잠재적인 방향이다. 어떤 방향, 즉 어떤 길을 선택해야 하느냐를 알아내려면 다른 도구들이 필요하다.

따라서 지도 작성 단계에서는 포괄적이고 다양한 시각이 중요한 역할을 한다. 이 단계에서는 일치된 의견을 구하는 게 아니다. 가능한 요인의 범위를 확대하고 궁극적으로는 결정 방향을 다변화하는 게 목적이다. 지도 작성에서 어려운 점은 눈앞의 상황에 대한 직관적 판단을 배제하는 것이다. 우리의 마음은 협대역 해석으로 수렴되며, 풀 스펙트럼을 하나의 지배적인 조각으로 압축하는 성향이 있기 때문이다.

인지 과학자들은 이런 성향을 ‘앵커링(닻 내림)’이라고 부른다. 다양한 독립적 변수가 관련된 결정을 내리려고 할 때 우리는 하나의 ‘앵커’ 변수를 선택하고, 이 핵심적 변수를 기초로 결정을 내리는 경향이 있다. 우리가 그 결정에 어떤 가치를 두느냐에 따라 앵커, 즉 핵심적 변수는 달라진다. 슈퍼마켓에서 쇼핑할 때 어떤 소비자는 가격에 중점을 두지만 유명한 상표를 중요시하는 소비자도 있다. 영양가나 환경에 미치는 영향에 핵심적 가치를 두는 소비자도 있다. 따라서 스펙트럼의 축약은 미시적 선택들로 넘치는 세계에서는 완벽한 적응 전략일 수 있다. 사실 슈퍼마켓에서 구입하는 물건 하나하나에 대해서는 복잡하고 전방위적인 지도를 구축할 필요가 없다. 그러나 오랫동안 반향을 일으킬 수 있는 결정의 경우는 시야를 넓히고 확대해야 한다.

불확실성과 결정의 상관관계

복잡한 상황에는 다양한 유형의 불확실성이 수반되기 마련이다. 수년 전 헬렌 리건과 마크 콜리번, 마크 버그먼은 불확실성을 다룬 한 편의 논문을 발표했다. 그 논문에서 그들은 밴쿠버 수도 당국의 식수원 확보나 콜렉트 폰드의 매립 결정 같은 환경 계획 프로젝트에 수반되는 온갖 형태의 불확실성을 원인별로 분류했다. 그들의 분류에 따르면 불확실성을 유발하는 원인은 측정 오류, 시스템적 오류, 자연 변이, 본래적 임의성, 모형의 불확실성, 주관적 판단, 언어적 불확실성, 수리적 막연함, 비수리적 막연함, 맥락 의존성, 애매모호함, 이론적 용어의 불확정성, 불충분함의 13가지로 분류된다.

하지만 비전문가에게 불확실성은 크게 세 가지 형태를 띠며 각 형태가 제기하는 문제와 상황은 다르다. 도널드 럼즈펠드의 표현을 빌리면 ‘알 수 있는 무지’, ‘접근할 수 없는 무지’, ‘알 수 없는 무지’란 형태로 나타난다.

우선 당면한 상황을 지도로 작성하려는 시도가 실패할 때 제기되는 불확실성이 있다. 이런 경우는 더 나은 지도를 작성하면 불확실성이 해소될 수 있다. 롱아일랜드의 지리적 조건을 제대로 파악하지 못한 조지 워싱턴의 사례가 이 경우에 속한다. 영국군의 공격이 있기 전에 워싱턴이 그린 장군의 조언을 받을 수 있었다면 적의 공격 방향을 더 정확히 예상했을 것이다.

한편 분명히 존재하지만 어떤 이유로든 우리가 접근하기 힘든 정보에서 비롯되는 불확실성이 있다. 예컨대 조지 워싱턴과 그의 부관들이 보기에 영국의 하우 장군이 뉴욕을 어떤 식으로든 공격할 계획을 세우고 있는 것은 분명했지만 미국 혁명군이 영국군 내에 간첩을 심어두지 않았다면 혁명군은 하우의 구체적인 계획에 접근할 수 없었을 것이다.

끝으로 분석 대상인 시스템에 내재한 예측 불가능성에서 비롯되는 불확실성도 있다. 워싱턴이 당시 지상에서 가장 뛰어난 인재들로 자문단을 꾸렸더라도, 1776년의 유치한 일기예보 수준을 생각하면 브루클린을 빠져나오던 날 아침에 짙게 낀 안개를 하루 먼저 예측할 수는 없었을 것이다.

이처럼 다양한 형태로 나타나는 불확실성을 알아내고 구분하는 것은 어려운 결정 과정에서 정확한 지도를 작성하기 위해 반드시 필요한 단계다. 우리는 어느 정도 알고 있는 시스템의 변수들은 과대평가하는 반면 잘 알 수 없는 것들은 과소평가하는 경향이 있다. 술에 취한 사람이 열쇠를 실제로는 딴 곳에 흘리고는 “가로등 아래의 불빛이 더 밝다!”며 가로등 아래에서 열쇠를 찾는다는 오래된 우스갯소리처럼 말이다.

따라서 ‘알 수 있는 무지’의 상황일 때 최선의 전략은 자문단이나 이해관계자들을 확대하고 다각화하는 것이다. 비유하자면 당신에게 필요한 ‘그린 장군’을 찾아내서 더 정확한 지도를 작성하거나 정밀한 위성사진에 근거해 복합 주택의 축적 모형을 만드는 것이다. 그러나 극복하기 힘든 맹점, 즉 더 나은 지도와 척후병의 활동에도 불확실성이 줄어들지 않는 지역에 대한 정보를 끊임없이 수집하는 것도 무척 중요하다.

여러 연구에서 밝혀졌듯이 상반되는 증거, 즉 집단이 조금씩 수렴해가는 해석의 신뢰도를 떨어뜨리는 증거를 찾아내려고 할 때 오히려 정반대로 그 해석을 더욱 강화하는 증거가 도출된다. 어느 쪽이든 해석을 거듭할수록 상황을 더 명확하게 파악하고 상황의 고유한 지문을 형성하는 무늬를 더 정확하게 찾아낼 수 있다.

물론 불확실성을 탐색하며 너무 많은 시간을 허비하면 햄릿처럼 우유부단하고 어중간한 상태에서 벗어나지 못할 수 있다. 아마존 CEO 제프 베조스는 불확실성과 씨름하며 결정을 내려야 할 때 ‘70퍼센트 법칙’을 적용하는 것으로 유명하다. 그는 완전히 확신할 수 있을 때까지 기다리지 않고 불확실성의 수준이 30퍼센트까지 내려가는 즉시 ‘결정의 방아쇠’를 당겼다. 본질적으로 ‘제한된 합리성’을 고려할 때 100퍼센트 확신은 결코 도달할 수 없는 수준이기 때문이다. 70퍼센트 법칙은 완전한 확신에 근거한 합리적 선택이란 신화에 얽매이지 않고 우리의 비전이 약간은 모호하다는 사실을 인정하는 것이다. 다만 알려진 무지와 맹점을 평가하고 측정하는 단계를 거침으로써 최초의 직감을 무작정 신뢰하는 위험에서는 피해야 한다.

예측하는 인간, 호모 프로스펙투스의 도구들

시뮬레이션이라는 진보

어려운 선택을 내려야 할 때 우리는 미래에 닥칠 사건들을 암묵적으로 예측해본다. 예컨대 하루가 다르게 성장하는 도시의 외곽에 공원을 조성하기로 결정한다면 많은 방문객들이 그 공원을 주기적으로 방문할 것이고, 나중에는 도시가 확장되어 공원도 도심의 일부가 될 것이다. 한편으로 빈터를 상업 용지로 개발하면 장기적으로 녹지가 부족해지므로 결국에는 도시에 부정적인 효과를 초래한다는 예측도 가능하다. 이런 결과들은 어떤 것도 확실하진 않다. 모든 것이 예측에 불과하고 유의미한 오차 범위 내에 있다. 따라서 다른 분야의 예측, 가령 의학적 예측과 기상 예측이 정확도에서 상당한 성과를 거두었다면 그 분야의 성공에 주목해야 마땅하다.

테틀록의 여우형 예측가와 고슴도치형 예측가를 다시 떠올려보자. 다양한 분야에 관심이 많고 경험에 개방적인 사람이 사회적 문제에 대한 예측력이 뛰어나다면 개인적인 선택 분야에서도 그럴 것이라 생각할 수 있다. 테틀록의 연구에서 확인되었듯이 협대역으로 접근하면 다트를 던지는 원숭이보다 나은 적중률을 기대하기 힘들며 오히려 적중률이 더 낮다. 여기서 우리는 소중한 교훈 하나를 얻는다. 어려운 결정에서 외골수적인 집중은 피하라!

시뮬레이션을 통해 우리는 미래를 더 정확히 예측할 수 있고 그 덕분에 더 나은 의사결정자가 된다. 우리가 모형화하려는 시스템에 수천 혹은 수백만의 변수가 있는 경우에도 우리는 시뮬레이션을 통해 미래에 대한 적중률을 높일 수 있다. 그러나 당연한 말이겠지만, 소규모라 하더라도 집단 의사결정을 무작위 대조 시험이나 앙상블 예보 방식으로 분석하기는 훨씬 더 어렵다. 만약 우리가 어떤 사건의 여러 형태를 동시에 경험하며 어떤 선택이 어떤 결과를 낳는지 실험할 수 있다면, 직업 선택에 따른 결과를 예측하기가 한결 쉬워질 것이다.

게임 이론

2005년 노벨 경제학상을 수상한 토머스 셸링은 “엄격히 분석하고 상상의 나래를 활짝 펼치더라도 우리는 우리 자신에게 결코 일어나지 않을 사건의 목록을 완벽하게 작성할 수 없다”라고 말했다. 하지만 어려운 선택을 내리려면 대체로 상상의 도약이 필요하다. 결정을 내리기 위해 처음 씨름할 때는 보이지 않았던 새로운 가능성을 찾아내려면, 또 우리 시야 밖에 도사린 ‘알 수 없는 무지’에 어떻게든 접근하려면 상상의 도약이 필요하다.

사실 ‘엄격한 분석’으로 말할 것 같으면 뛰어난 경제학자이자 외교정책 분석가였던 셸링의 능력을 앞설 사람은 거의 없었다. 그러나 1950년대 말과 1960년대에 셸링은 랜드연구소와 함께 작업하면서 인간의 맹점을 중심으로 덜 엄격하게 생각하는 방식, 즉 게임 이론을 옹호하게 되었다.

셸링과 랜드연구소의 동료 허먼 칸이 설계한 워 게임들은 그 시대의 역사학자들에 의해 문서로 빠짐없이 기록되었다. 냉전 시대의 군사 전략에서 핵심을 이루던 상호확증파괴 이론에서 워싱턴과 모스크바 간 ‘레드 폰’이란 핫라인이 설치될 때까지, 심지어 스탠리 큐브릭 감독이 제작한 고전적인 영화의 등장인물 ‘닥터 스트레인지러브’에 이르기까지 그 모든 것이 그들의 워 게임에서 예상되었다.

그러나 워 게임의 역사는 훨씬 오래전부터 시작되었다. 19세기 전반기에 프로이센군 장교였던 한 아버지와 아들이 전투를 시뮬레이션하는 크릭스슈필(문자 그대로 ‘워 게임’을 뜻하는 독일어)이란 주사위 게임을 만들어냈다. 크릭스슈필은 요즘의 ‘리스크’보다 훨씬 복잡한 전략 게임이었다. 게이머는 지도 위에 크고 작은 군부대를 뜻하는 패를 놓는다. 크릭스슈필에는 10명의 게이머가 동시에 참여할 수 있고, 각 게이머가 다루는 팀에는 계급적인 명령 계통이 있다. 크릭스슈필에는 실전에서 ‘전운’을 뜻하는 사령부와 야전 부대 간의 통신 두절에 해당하는 수법까지 있었다. 또 요즘의 배틀십 게임처럼 두 개의 보드판에서 하기 때문에 양쪽 모두 상대의 행동을 완전히 파악할 수 없었다. 그러나 1970년대에 판타지 게임과 함께 등장한 던전 마스터처럼 두 보드판 사이를 오가며 게임을 감독하는 게임마스터가 있었다.

워 게임은 처음에 지도로 시작되었다. 특히 크릭스슈필은 전투 지역의 지형을 정확히 재현한 지도를 사용했다는 점에서 체스 같은 군사 게임과는 달랐다. 그러나 무엇보다도 워 게임을 통해 병사들이 지도를 탐구하며, 적군이 그 공간에서 사용할 법한 온갖 방법을 시뮬레이션한다는 점에서 워 게임의 진정한 가치가 있었다.

풀러는 “게임의 목적은 인간 가족에 속한 사람이면 누구도 다른 사람을 방해하지 않고 다른 사람에게 피해를 주거나 이득을 취하지 않는 완전한 지구를 향유할 수 있는 방법을 탐구하는 데” 있다며 “세계 평화 게임에서 승리하려면 모두가 성공해야 한다. 모두가 승리해야 한다”라고 덧붙였다. 풀러는 세계 평화 게임을 민주적 과정이란 간접적인 의사결정 메커니즘의 대안으로 봤다. 요컨대 사람들이 리더를 선출해서 결정을 맡기지 않고 중대한 문제에 직면하더라도 게임을 통해 시뮬레이션하면 모두에게 긍정적인 결과를 안겨주는 전략을 구할 수 있을 것이고, 그 전략을 현실적인 프로그램으로 전환하면 되지 않겠느냐는 게 그의 생각이었다.

특별히 까다로운 결정을 앞두고 새로운 아이디어를 짜내거나 새로운 가능성을 탐색할 때 게임을 활용하면 확실히 효과적이다. 반대로 게임 방식을 개인적인 결정에 적용한다는 상상, 예컨대 교외로의 이주 가능성을 반복해서 시뮬레이션하는 게임을 제작한다는 상상이 오히려 더 와 닿지 않는다. 그러나 오래전부터 전해지는 ‘스토리텔링’ 이란 현실 도피 기법과 함께 사용하면 거의 모든 결정을 효과적으로 훈련할 수 있다.

시나리오 플래닝

슈워츠는 ‘시나리오 플래닝’으로 알려진 분석 기법의 전문가였다. 시나리오 플래닝은 1960년대 말 피에르 바크와 테드 뉴랜드가 석유회사 로열 더치 셸에서 개발한 의사결정 도구였다. 바크가 1980년대 중반에 퇴직한 후 슈워츠는 로열 더치 셸에서 바크의 자리를 대신했다.

시나리오 플래닝은 무엇보다 스토리를 꾸미는 기술이다. 이것은 복잡한 결정에서 필연적으로 수반되는 불확실성에 초점을 맞춘다. 관계 당사자들은 불확실한 미래가 전개될 방향에 대해 다양한 관점에서 해석해볼 게 분명하기 때문이다. 바크는 로열 더치 셸에서 시나리오 플래닝을 사용해 1970년대의 석유 위기를 예측한 것으로 유명하다. 슈워츠도 원예용 연장을 판매하던 스미스앤호켄의 장래성을 평가할 때 시나리오 플래닝을 사용했다.

스미스앤호켄의 장래성을 평가하기 위한 시나리오를 구축하는 데는 전방위적 시각에 기초한 지도 작성이 필요했다. 슈워츠는 원예라는 시장 규모에 영향을 미친다고 여겨지는 도심과 교외로의 이주 패턴을 분석했다. 그는 미국 소비자의 행태에서 새롭게 나타난 추세에 주목했다. BMW와 뱅앤올룹슨 같은 유럽의 값비싼 고급 제품을 선호하고 탐내는 경향이 눈에 띄었다. 슈워츠는 거시경제적 가능성을 심사숙고했고, 당시 극단적 소수 운동에 불과하던 유기농업과 환경운동까지 면밀히 조사했다.

그렇게 모든 조사 결과를 바탕으로 세 가지 스토리, 즉 세 가지 다른 미래를 예견하는 이야기를 꾸며냈다. 첫째는 고성장 모형, 둘째는 위축 모형이었고, 셋째는 변형 모형이었다. 그는 이렇게 덧붙였다. “서구 문화의 근본적인 변화로 이어질 가치관의 변화가 있을 것이다. 더 단순하고 친환경적으로 살겠다는 생각, 총체적인 의학과 자연 식품을 선호하는 추세, 물질적 소유보다 내면의 성장을 추구하겠다는 신념, 인간은 결국 지구의 일부라는 일종의 행성적 의식을 추구하려는 노력이 이미 시작되었다.” 많은 실험에서 확인된 결과에 따르면 시나리오 플래닝은 대체로 이렇게 세 부분(점점 나아질 것이란 모형, 더욱더 악화될 것이란 모형, 지금은 극단적인 것이 앞으로 주목받는다는 모형)으로 구성된다.

시나리오 플래닝 기법은 하나의 예측에 집착하는 것을 거부한다는 점에서 대부분의 미래 예측과 달랐다. 또한 어떻게든 대안을 생각해냄으로써 하나의 큰 생각에 매몰되는 테틀록의 고슴도치형 예측의 덫을 피했다. 그리고 시나리오 플래닝은 셸링의 워 게임처럼 다른 방법으로는 결코 생각해낼 수 없는 것을 생각해낼 수 있도록 도움을 주는 도구였다.

기업 문화에서도 시나리오 플래닝은 전설적인 예측들로 명성을 쌓았다. 석유수출국기구가 급작스레 유가를 인상하기 3년 전 피에르 바크가 석유 위기를 경고한 것이 대표적인 사례다. 그러나 성공한 예언을 지나치게 강조하면 논점을 놓칠 수 있다. 대부분의 시나리오는 미래의 결과를 예측하는 데 실패하지만, 일반적인 견해에 대한 대안을 생각해내려고 노력하는 과정에서 우리는 여러 선택 가능성을 더 명확히 인식하게 된다. 엄격히 말하면 시나리오 플래닝은 미래 사건에 대한 정확한 예측에 도움을 주려고 고안된 것이 아니다. 하지만 우리가 외삽의 오류에 빠지지 않도록 경계를 늦추지 않게 해주는 것은 분명하다.

사회적 결정: 모두를 위한 현명한 선택을 내리는 법

컴퓨터가 결정을 대신하는 시대

컴퓨터가 복잡한 결정을 내리는 데 도움이 된다는 의견은 1960년대까지만 해도 낯선 것이었지만, 지금은 공상과학으로도 여겨지지 않을 정도다. 기상용 슈퍼컴퓨터의 앙상블 예보는 허리케인의 위협을 받는 해안 지역의 주민들을 대피시킬 것이냐를 결정하는 데 도움을 준다. 신축하는 다리나 지하철 혹은 고속도로가 도시의 교통이나 경제에 미치는 영향을 평가하는 데도 컴퓨터 시뮬레이션이 활용된다. 콜렉트 폰드의 매립, 다윈의 수치료 같은 사례에서 볼 수 있듯이 19세기에는 적잖은 지식인들이 잘못된 결정을 내렸지만 이제는 알고리즘과 가상 세계를 통해 결정과 후속 효과를 시뮬레이션하는 사례가 점점 증가하고 있다.

그러나 우리가 이렇게 어려운 결정을 내릴 수 있다고 해서 승리에 안주해도 괜찮다는 뜻은 아니다. 이미 미국이 파리 기후변화협약에서 탈퇴할 것이라고 트럼프 정부가 선언하고 시간이 때 지났다. 앞으로 2~30년 후 이 시기를 돌이켜보면 이때부터 기후 변화를 ‘가짜 뉴스’로 일축하는 사람이 증가하고 정부 차원의 노력이 마비되면서 지구 온난화의 영향을 축소하려는 노력이 훼손되기 시작했다고 평가할 것이다.

대부분의 미국인들을 대상으로 조사하면 우리의 장기적인 결정 능력이 악화되고 있다고 대답할 사람이 과반수일 것이다. 우리가 주의력을 오랫동안 집중하지 못하는 시대에 살고 있어 장기적인 전망이 점점 어려워진다는 뜻이다. 또 우리가 환경에 가하는 피해가 인간의 근시안적 가치관을 보여주는 가장 분명한 증거라고 지적할 사람도 적지 않을 것이다.

지금까지 파리 기후변화협약에서 분명한 것은 두 가지 결정이다. 하나는 198개국이 협정에 서명했다는 것이고, 다른 하나는 괴팍한 지도자가 충동적으로 탈퇴를 선택했다는 것이다. 장기적 관점에서 접근하면 어느 쪽이 더 멋지게 보일까? 농업이 시작된 이후 어느 시대에나 충동적인 지도자가 있었다. 하지만 일상생활에 실질적으로 영향을 미치는 범세계적인 협약들이 맺어지고 있다는 사실은 현대의 새로운 현상이다. 

우리가 간혹 이런 유형의 선택에 능숙하지 못하다는 사실은 우리가 과거로 역행하고 있다는 증거다. 즉, 기준은 높아졌지만 때로는 과거보다 더 깊이 생각하지 않는다는 뜻이다. 그러나 결정을 위한 스펙트럼과 시야가 지난 수 세기 동안 극적으로 넓어진 것은 분명하다. 아즈텍족과 그리스인은 그들의 역법과 천문학이 허용하는 범위까지 먼 미래를 들여다보았다. 그들은 수 세기 동안 흔들리지 않을 제도와 건축물을 세우려고 애썼지만 50년 동안 어떤 문제도 야기되지 않는 방향으로 결정하려고 심사숙고하지는 않았다. 그들은 장기적인 관점에서 순환과 지속성을 봤을지 모르지만 뜬금없이 야기되는 문제를 예상하지는 못했다.

옛사람들과 비교할 때 우리는 미래를 더 정확히 예측하고 있으며, 그 새로운 능력이 우리의 결정에도 반영되기 시작했다. 문제는 미래가 과거 어느 때보다 빠른 속도로 우리에게 다가오고 있다는 것이다.

두려움과 나아감 사이: 초지능과 인간의 의사결정력

무어의 법칙(마이크로칩의 저장 용량이 2년마다 배로 증가한다는 법칙-옮긴이)과 기계 학습이 예상을 넘어 발전한 까닭에, 많은 과학자들과 과학 기술 전문가들은 인류가 새로운 범지구적인 문제에 맞닥뜨렸다고 주장한다. 이제 우리는 ‘초지능적 기계에서 예상되는 위협을 어떻게 처리해야 하는가?’라는 문제에 정면으로 부딪쳐야 한다. 복잡한 범죄 사건의 판결을 내리는 경우처럼 미묘한 결정에서 컴퓨터가 인간을 능가하는 지능 수준에 이르면 그런 컴퓨터는 진화 알고리즘으로 프로그램된 게 확실하다.

이 모든 것으로 미뤄 볼 때 우리는 머잖아 범지구적인 문제에 맞닥뜨릴 것이다. 우리는 초지능적 기계를 허용할까? 뉴욕 시민들이 콜렉트 폰드를 매립기로 결정했듯이, 산업 시대의 발명가들이 대기를 탄소로 뒤덮기로 결정했듯이 우리도 이 질문에 잘못된 결정을 내릴 가능성이 크다. 조직적이지 못하고 상향식으로 결정이 내려지며 장기적인 관점에서 전혀 심사숙고하지 않은 결정이 내려진다는 뜻이다. 또 단기간 내에 컴퓨터는 일정을 계획하고, 재생할 곡들을 선정하고, 우리 대신 자동차를 운행하는 능력이 강화되어 우리는 점점 더 똑똑해지는 컴퓨터를 선택할 가능성이 크다. 그러나 초지능적 기계가 장기적으로 제기할 잠재적 위협을 고려한다면 이런 선택이 이뤄지지는 않을 것이다.

초지능적 인공지능에 대한 토론의 대부분은 ‘밀폐 문제’라 불리는 것에 집중된다. 밀폐 문제는 알렉스 갈랜드의 영화 <엑스 마키나>에서 흥미진진하게 다뤄졌다. 이 영화는 인공지능의 정령을 병에 가두고 그 힘을 필요할 때마다 활용하는 방법을 다룬다. 초지능적이지만 범세계적 재앙을 초래하지 않을 정도의 안전한 인공지능을 개발할 수 있을까? 보스트롬의 설득력 있는 설명에 따르면 인간은 자신보다 앞선 지적 존재를 만나면 그 존재를 제압하려고 애쓸 게 뻔하기 때문에 그런 인공지능의 개발은 생각보다 훨씬 더 어렵다. 인공지능을 병 속에 가두겠다는 발상은 생쥐가 인간이 쥐덫을 발명하지 못하도록 인간의 과학기술 발전에 간섭하겠다고 획책하는 것과 다를 바가 없다.

기후 변화의 경우처럼, 초지능적 인공지능과 관련해서도 우리는 인간 종으로 생존하기 위해 지금까지 없었던 새로운 것을 시도하고 있다. 우리는 50년 후에 더 나은 성과를 거두려면 지금 어떤 결정을 내려야 하는지 능동적으로 심사숙고하고 있다. 그러나 초지능적 인공지능의 개발은 훨씬 더 야심적인 프로젝트다. 이때 예상되는 문제는 오늘날의 현실과 질적으로 다르기 때문이다.

우리가 이런 중대한 선택을 내리는 연습에 주로 사용하는 핵심적 도구 중 하나는 ‘스토리텔링’이었다. 정확히 말하면 집단 의사결정에서 시나리오 플래닝이 맡은 역할과 유사한 역할을 떠맡는 것으로 입증된 ‘공상과학 소설’이다. 미래학자이자 작가인 케빈 켈리는 “손자 세대의 세계가 우리 세계와 확연히 다를 것이라고 이제 우리 모두가 인정하기 때문에 이런 형태의 연습은 대체로 새로운 것이다”라며 이렇게 덧붙였다. “공상과학 소설의 역할이 바로 여기에 있다. 분석하며 토론하고, 반복적으로 연습하며 의문을 제기하고, 새로운 미래를 대비하게 한다. 적어도 한 세기 전부터 공상과학 소설은 미래를 예측하는 역할을 해왔다. … 과거에는 새로운 발명품이 나타나면 서둘러 금지하는 법들이 많았다. 그러나 내가 아는 한 새로운 발명품이 나타나기 전에 발명 자체를 금지한 경우는 없었다. 따라서 공상과학 소설이 재밌는 읽을거리에서 예측에 필요한 사회적 기반시설로 옮겨갔다는 문화적 변화를 읽을 수 있다.”

인공지능의 경우 미래의 위협에 대한 모든 예상이 결국에는 잘못된 경고였던 것으로 밝혀질 가능성이 있다. 진정한 인공지능의 개발이 예상보다 훨씬 더 어렵다는 사실이 입증될 것이기 때문이다. 또한 인공지능이 아인슈타인의 수준을 넘어가기 전에 우리는 위험을 최소화하는 새로운 기술을 찾아낼 것이다. 그러나 초지능적 인공지능이 존재론적 위협을 제기한다고 판명된다면 우리가 선택할 수 있는 최선의 방어책은 ‘인간의 초지능’이라고 할 수 있는 새로운 힘(심적 지도를 그리고 예측하며 시뮬레이션하고, 장기적 관점에서 접근하는 일)에서 찾아낼 가능성이 크다.

* * *

본 도서 정보는 우수 도서 홍보를 위해 저작권자로부터 정식인가를 얻어 도서의 내용 일부를 발췌 요약한 것으로, 저작권법에 의하여 저작권자의 정식인가 없이 무단전재, 무단복제 및 전송을 할 수 없으며, 원본 도서의 모든 출판권과 전송권은 저작권자에게 있음을 알려드립니다.