도서요약

■ 책 소개

천재 500명보다 뛰어난 지능을 가진 초인류가 될 것인가

슈퍼인공지능에 이용당하는 신세로 추락할 것인가

2050년, 전문가들은 로봇이 인간만큼의 지능을 갖게 될 것이라 예견했다. 향후 100년 안에는 인공지능이 인간의 지능을 뛰어넘는 슈퍼인공지능의 시대가 도래할 것이라는 예측도 나온다. 그 시기를 우리는 인류 역사의 네 번째 변화를 불러올 ‘제4의 시대’라 부른다. 로봇공학과 AI가 중심이 된 제4의 시대가 도래하면 우리가 우려하던 대로 인간은 슈퍼인공지능에 이용당하는 신세로 추락할 것인가? 아니면 AI를 이용해 천재 500명보다 뛰어난 지능을 가진 초인류가 될 것인가? 이 책은 빠르게 발전하고 있는 AI와 로봇공학에 대해 우리가 갖는 두려움의 실체가 무엇인지 지난 10만 년의 인류 역사를 근거로 설명한다. 또한, 우리의 미래와 운명을 결정 지을 3가지 핵심 질문을 제시하며, 우리가 기계와 근본적으로 다른 점이 무엇인지 스스로 깊이 생각하게끔 한다. 그뿐만 아니라 앞으로 맞이할 제4의 시대의 장밋빛 전망과 고려해야 할 문제들, 예상치 못한 속도로 발전하는 기술에 관해 어떻게 판단하고 대처해야 할지 알려준다.

■ 저자 바이런 리스

저자 바이런 리스는 어렸을 적 어머니의 심부름을 하고 용돈을 받다가 이에 착안해 이웃집을 돌며 심부름을 해주고 돈을 벌었을 정도로 타고난 사업가다. 라이스 대학(Rice University) 학부 시절부터 회사를 설립하고 매각하며 착실히 비즈니스 안목을 길러왔고, 사회와 일, 인간의 삶을 혁신적으로 바꾸는 기술, 그 기술이 바꿀 더 나은 미래에도 관심이 많아, 크라우드소싱, 콘텐츠 제작, 사이코 그래픽과 같은 다양한 분야의 수많은 특허를 획득했다. 이후 비즈니스 리더들을 대상으로 최신 기술 동향을 알려주는 기가옴(Gigaom)의 CEO, AI 기반 벤처기술 회사 JJ켄트(JJKent)의 CEO, 여러 기업의 마케팅 부사장 등 고위 경영자로서의 굵직한 발자취를 남겨 왔다. 이런 그를 두고 세계 주요 언론에서는 도전적이며 탁월한 사업가이자 낙관적인 미래학자라 칭한다. <블룸버그 비즈니스위크>는 “새로운 미디어 회사를 만든 개척자.”라고 평가했으며, <파이낸셜 타임스>는 “미디어 산업을 뒤흔든 새로운 얼굴의 기업가.”라고 보도했다.

그는 그간의 사업적 통찰력과 최신 기술지식을 바탕으로 오늘날의 기술이 우리가 직면한 문제들을 어떻게 해결할 수 있는지 조명하는 데 앞장서고 있다. 사우스 바이 사우스웨스트(SXSW) 컨퍼런스, 테드(TED), 포춘 1000대 기업과 유수 대학 등 전 세계 수백 개 기업과 전문 기관에서 강연을 펼쳐 뜨거운 호응을 얻었으며, 그의 웹사이트에는 수억 명의 사람들이 다녀간다. 그의 지식과 통찰력이 집약된『제4의 시대』는 AI, 로봇과 상생할 인류의 미래를 매력적으로 그려냈다는 호평을 받으며 <뉴욕 타임스>, <워싱턴 포스트>, <퍼블리셔 위클리> 등에 보도되었다. 또 다른 저서로는『무한한 진전(Infinite Progress)』이 있다.

■ 역자 이영래

역자 이영래는 이화여자대학교 법학과를 졸업하고 리츠칼튼 서울에서 리셉셔니스트로, 이수그룹 비서 팀에서 비서로 근무했으며, 현재 번역에이전시 엔터스코리아에서 전문 번역가로 활동하고 있다. 주요 역서로는『파타고니아, 파도가 칠 때는 서핑을』『사업을 한다는 것』『모두 거짓말을 한다』『똑똑한 사람들의 멍청한 선택』『블리츠스케일링』 등이 있다.

■ 차례

작가의 말_인류는 미래에 어떤 모습으로 존재할 것인가?

시작하며_우리의 궤적을 바꿀 네 번째 변화

I. 인류 역사의 대변혁을 일으킨 3가지 변화 - 인간에게 불을 준 프로메테우스

1장 제1시대: 커다란 두뇌와 언어를 선물해준 ‘불’

2장 제2시대: 노동의 분배와 부의 축적을 일으킨 ‘농업과 도시’

3장 제3시대: 인류 역사의 중요한 분기점이 된 ‘글과 바퀴’

4장 제4시대: 인간의 정신과 행동을 위탁하게 해줄 ‘로봇과 AI’

5장 인간에게 주어진 3가지 근원적 질문

II. 인공지능이 인간의 미래를 위협한다는 착각 - 증기 드릴과 겨룬 최초의 사나이, 존 헨리

6장 로봇공학의 현주소, 내로우 AI

7장 인간을 도울 것인가, 위협할 것인가?

8장 맥락과 창의성을 학습할 수 있는가?

9장 20년 안에 일자리의 절반이 사라진다?

10장 로봇이 접근할 수 없는 일

11장 소득 불평등의 문제

12장 AI의 격차가 곧 국가 안보의 격차

III. 인간의 지능을 뛰어넘는 똑똑한 존재 - 살아 움직이는 빗자루를 멈추지 못한 마법사의 제자

13장 인간이 밝혀내지 못한 두뇌와 정신의 영역

14장 인공 일반 지능의 실현 가능성

15장 우리가 똑똑한 인공지능을 만들어야 하는 이유

IV. 의식을 가진 기계 인간 - 바누아투 원주민의 존 프럼 화물숭배

16장 컴퓨터는 고통을 느낄 수 있는가?

17장 자유의지는 어디에서 비롯되는가?

18장 로봇은 의식을 가질 수 있는가?

19장 의식에 대한 8가지 이론

20장 컴퓨터를 인간의 두뇌에 이식할 수 있는가?

21장 인간은 컴퓨터와 어떻게 다른가?

V. 진보와 번영의 황금기, 제4의 시대 - 24세기 도전 과제를 맞닥뜨린 장 뤽 피카드

22장 지금까지 본 적 없는 제4시대의 도시

23장 빈곤, 질병, 전쟁이 사라진 세상

24장 노화의 종말을 꿈꾼다

25장 새로운 종으로의 진화

26장 실제하는 유토피아, ‘베루토피아’를 위하여

감사의 말

��

제4의 시대

인공지능이 인간의 미래를 위협한다는 착각 - 증기 드릴과 겨룬 최초의 사나이, 존 헨리
로봇공학의 현주소, 내로우 AI

인공지능에 대한 가장 폭넓은 정의는 자료나 환경에 반응하는 기술이다. 예를 들어 비 내리는 양을 알려주는 우적 감지기가 장착된 스프링클러도 일종의 AI로 볼 수 있다. 가장 좁은 의미의 정의는 어떤 환경에서 학습하는 기술이다. 좁은 의미에서 보면, 당신이 좋아하는 방의 온도를 학습하는 온도조절장치는 AI이지만 스프링클러는 AI가 아니다.

그런데(이것은 정말로 중요한 문제이다) 오늘날 사람들이 인공지능을 이야기할 때 여기에는 완전히 다른 2가지 의미가 포함되어 있다. 하나는 ‘내로우 Al(narrow AI)’이고 다른 하나는 ‘제너럴 Al(general AI)’이다. 현재 우리가 가지고 있는 AI는 약한 인공지능(weak AI)이라고도 하는 내로우 AI이다. 이것은 우리가 현재 만드는 방법을 알고 있는 유일한 종류의 AI이며 엄청나게 유용하다. 내로우 AI는 특정한 종류의 문제를 풀고 특정한 과제를 수행하는 컴퓨터 능력을 말한다. 제너럴 AI는 강한 AI(strong AI), 인공 일반 지능(artificial general intelligence, AGI)으로도 불린다. 이 용어는 서로 바꿔서 사용할 수도 있지만, 이 책에서는 지금부터 똑똑하고 재주가 많은 인공지능을 AGI라고 부를 것이다.

그렇다면 AI는 어떻게 작동하는가? 간추려 말하면, AI를 만드는 방법에는 3가지 다른 접근법이 있다. 농부들에게 언제 파종해야 하는지 알려주는 AI를 만들고 싶다고 가정해보자. 첫 번째 접근법은 ‘전형적인 Al’이다. 전형적인 AI라고 부르는 이유는 AI 연구 초창기에 과학자들이 가장 효과가 좋다고 생각한 접근법이었기 때문이다. 전형적인 AI는 모든 요소(토양의 유형, 작물, 강우 등)를 면밀하게 생각하고, 이들 요소가 포함된 모델을 구축하고, 그 장단점들을 따져본 후 제안한다.

두 번째 접근법은 ‘전문가 시스템’이라고 불린다. 전문가 시스템은 최고의 농부 100명을 선정해서 그들이 파종에 대해 알고 있는 모든 규칙을 적게 하는 것이다. 그 규칙들은 누구든지 관련 변수를 입력할 수 있는 방식으로 정리하며, 시스템은 그 규칙들을 기반으로 제안한다.

세 번째 접근법은 ‘머신 러닝(machine learning)’이다. 머신 러닝은 사람들이 언제 파종하며 산출량은 얼마인지에 관련된 모든 자료를 취합한 뒤 컴퓨터가 산출을 극대화했던 규칙들을 만들게 하는 과정을 말한다. 머신 러닝에서 까다로운 문제점은 제안이 효과를 가져올 수 있지만, 사람들에게는 이해할 수 없는 제안으로 받아들여질 수 있다는 점이다. 머신 러닝 AI가 “3월 12일에 옥수수를 심으세요.” 하고 말했을 때 우리가 “왜?”라고 되묻는다고 가정해보자. 여기에 많은 요인이 작용하고 있다면 답을 알아내기 힘들 것이다.

최근 AI의 발전을 불러온 것은 이 마지막 영역, 즉 머신 러닝의 발전 덕분이다. 보통 ‘빅 데이터’라고 불리는 거대한 양의 데이터가 강력한 컴퓨터와 정교한 알고리즘과 결합하여 다시 AI에 대한 열기에 불을 붙이고 최근의 성과를 이끌었다.

AI는 본래 물질계와 상호작용하는 능력을 주는 기계로 로봇 안에 자리한다. 사실 일부에서는 기술이 실제로 구현되고 세상과 상호작용함으로써 학습할 수 있지 않는 한, AI가 어느 선 이상은 발전할 수 없기 때문에 AI에게 로봇이라는 집은 필수적이라고 말한다. 더 나은 로봇을 만드는 우리의 능력은 새로운 합금, 더 효율적인 배터리와 운동 방법, 더 나은 감지기의 개발과 함께 느리지만 꾸준히 발전하고 있다. 우리가 로봇공학 분야에 다시 관심을 높인 것은 그런 발전들이 우리가 만들고 있는 더 강력한 인공지능과 결합될 것이라는 전망 때문이다. 그 조합이 우리의 물질계에 실제로 존재하고, 실제 세상과 상호작용할 수 있는 AI 로봇을 가져다줄 것이다. 이런 로봇이 우리가 다음으로 살펴볼 대상이다.

맥락과 창의성을 학습할 수 있는가?

내로우 AI와 실제 로봇의 조합은 단순히 둘을 합친 것보다 큰 효과를 낸다. 이 둘이 결합되면 독자적으로 행동할 수 있는 똑똑한 대리인이 생긴다. 기대도 두려움도 여기서부터 시작된다. 로봇 기술자들은 내로우 AI를 탑재한 점점 더 많은 로봇을 만들고 배치하기 시작했다. 이런 로봇을 처음 본 사람들은 대부분 그들을 어떻게 받아들여야 할지 확신을 갖지 못한다. 새로운 기술이기 때문에 그 한계를 알 수 없고, 따라서 그것이 초래할 결과도 파악할 수 없다. 우리는 이런 장치들이 궁극적으로 어떤 일을 할 수 있게 될지 알지 못한다.

이 기술과 관련된 기대나 두려움, 궁금증은 장래에 그들로 인해 일어날 일에 뿌리를 두고 있다. 우리가 이룬 AI와 로봇공학에서의 엄청난 진전에도 불구하고, 이런 기술과 일상적으로 상호작용을 하는 사람들 눈에 이들의 두드러진 결점들이 확연하게 들어오는 것도 앞날을 알 수 없기 때문이다. 그럼 이들이 가진 단점은 무엇일까.

AI 로봇의 첫 번째 문제는 시각이다. 로봇에 좋은 카메라를 장착할 수는 있다. 하지만 그것은 단순히 데이터만 제공할 뿐이다. 로봇이 그 모든 자료를 정리해야 한다. 예를 들어 찬장 문을 열면 우리는 여러 가지 물건이 쌓여 있다고 인식하지만 로봇은 픽셀로만 인식한다. 수백만 가지 빛과 색으로 이루어진 만화경을 보는 것과 마찬가지다. 로봇은 무엇이 상자인지, 선반인지, 모서리인지 알지 못한다. 미분화된 점들만 잔뜩 볼 뿐이다. 그럼 로봇이 이것을 어떻게 이해할 수 있을까? 많은 자료 가운데서 어떻게 하면 “저게 돼지고기와 콩으로 된 통조림이구나.” 하고 알 수 있을까? 대단히 어려운 일이다. 찬장을 들여다볼 때 우리의 머릿속에는 복잡한 많은 것들이 떠오른다. 두뇌가 그런 자료들을 정리하는 기적 같은 방법을 설명하려면, 다각형과 원뿔과 층에 대한 여러 장의 과학기술 용어가 필요하다. 집의 건축양식을 알아보고, 날고 있는 비둘기를 알아보고, 쌍둥이를 구분하는 것 같은 일을 별다른 노력 없이 해내는 당신의 능력은 AI 프로그래머들이 꿈꾸는 경지에 있다.

만일 당신이 이 문제를 해결했다고 가정해보자. 이제 로봇은 찬장 안에 있는 모든 물건을 인식할 수 있다(물론 현재로는 그 근처에도 이르지 못했지만, 그런 능력을 갖추게 되었다고 상상하기로 하자). 그래도 그들은 자신들이 ‘보는’ 것을 전혀 이해하지 못한다. 로봇에게는 맥락을 이해하는 능력이 없기 때문이다. 운전하고 가는 길에 강아지가 있고, 아기가 강아지를 향해 걸어오고 있고, 성인 여자가 아기를 향해 미친 듯이 달리고 있는 것을 보면 우리는 어렵지 않게 그들을 조합해서 상황을 파악한다. 하지만 컴퓨터가 볼 때 그것은 색상이 변화하는 픽셀 무더기일 뿐이다. 다시 말해 그것은 0과 1로 이루어진 숫자 무더기에 불과하다는 것이다. 주어진 사진에서 어떤 일이 일어나고 있는지 알아내는 것이 우리에게 얼마나 쉬운지 생각해보라. “춤을 추는 사진이구나.”, “깜짝 파티를 위해 사람들이 숨어 있네요.”, “부모님이 졸업 파티에서 찍은 사진이군.” “피아노 연주회, 학예회, 세례식 사진이네.” 사진을 보고 이렇게 쉽게 알 수 있는 것은 우리가 그것을 해독할 수 있는 문화적 배경을 갖추고 있기 때문이다.

AI가 모든 일을 할 수 있음에도 동시에 앞에서 언급한 한계들을 가지는 이유는 무엇일까? AI는 한 번에 한 가지 일만 할 수 있기 때문이다. AI가 체스를 하거나 스팸 메일을 찾아내기 원한다면 AI에게 그런 간단한 일들을 가르치면 된다. 일반화, 맥락화, 창의력 등은 요구되지 않는 그런 일 말이다. 지금 우리가 잘할 수 있는 일은 그것이다. 그래서 지금의 AI가 내로우 AI라고 불리는 것이다.

20년 안에 일자리의 절반이 사라진다?

로봇으로 인한 직접적인 일자리 손실의 순량을 계산할 수 없다면, 앞으로 우리는 어떤 길을 가게 될까? 문제를 다르게 보면 단 3가지 결과가 가능하다는 것을 깨닫게 된다. 각각 전제조건은 다르겠지만 3가지 결과 모두 가능하다. 다만, 무슨 일이 일어날지에 대한 확정적 결론을 내리기에는 알려지지 않은 것이 너무 많다. 우리는 지난 몇십 년간 트랜지스터의 가격이 기하급수적으로 떨어지는 것을 목격했다. 만일 인건비가 그런 식으로 하락하면 어떻게 될까? 경제학의 기본 전제인 희소성이 기술에 의해 약화된다면 어떤 일이 생길까? 로봇과 AI의 영향이 증기력이나 전력이 미친 영향과 크게 다르지 않다면, 즉 경제에 분명한 변화를 가져오지만 실업률의 상승을 유발하지 않는다면 어떨까?

나는 이처럼 예상치 못한 방식으로 변화하는 세상에 마음을 열고 다가가야 한다고 생각한다. 하지만 세상이 어떻게 변하든지, 가능한 결과는 이 3가지뿐이다.

로봇과 AI가 ‘모든’ 일자리를 빼앗는다. 이렇게 믿는 사람들은 기계들이 모든 일에서 인간보다 낫다고 생각한다. 사람들이 기계 대신 인간을 고용하는 유일한 이유는 순전히 감정적인 이유나 향수에 잠겨서일 것이다. 이런 견해는 기계들이 더 좋은 그림을 그리고, 더 나은 시트콤을 집필하고, 심지어 더 나은 대통령이 되는 등 모든 면에서 인간보다 낫다고 말한다. 이 ‘모든’의 의미를 대략 일자리의 90%라고 가정하자.

로봇과 AI가 일자리의 일부를 빼앗는다. 인간이 기계에 의해 잃는 일자리의 양이 상당할 것이고, 기계가 일자리를 만들기보다 꽤 많은 일자리를 없앨 것이라고 생각하는 입장이다. 다시 말해 기계가 소매, 서비스, 배송 등 대부분 영역에서 인간을 대체하고, 더 나아가 부기 담당자, 의사, 준법률가 같은 전문직에도 상당 부분 차지하게 될 것으로 추정한다. 하지만 예술 같은 영역의 일자리는 대체하기 어려울 것으로 본다. 로봇은 감정과 사교술을 요하거나, 요구조건의 폭이 지나치게 넓은 복잡한 일(CEO나 애프터마켓의 자동차 스테레오 설치 기사를 생각하면 된다)은 할 수 없기 때문이다. ‘일부’ 직종에는 20%의 실업률이 영원히 지속된다고 가정하는데, 미국 대공황 때의 실업률이 대략 이 정도였다. 일자리가 모든 사람에게 돌아갈 만큼 충분치는 않지만, 대다수의 사람들은 여전히 일을 할 것이라고 본다.

로봇과 AI가 일자리를 전혀 빼앗지 않는다. 기계에 의해 일자리가 없어지더라도, 거의 같은 수로 일자리가 창출되며 모두가 고용될 수 있다고 말하는 입장이다. 사회의 어느 부분에도, 심지어는 직업 기술이 거의 없는 사람에게도 일자리가 부족하지 않을 것이라고 예상한다. 이를 뒷받침하는 주된 생각은, 일자리는 무한히 공급되므로 기계가 얼마나 좋아지든 모든 일자리를 대체할 수는 없다는 것이다. 지금 하는 모든 일을 미래에는 기계들이 한다고 해도 우리는 다른 사람들이 대가를 지불할 만한 무언가를 만들거나, 완전히 새로운 방법을 만들어낼 것이다.

인간의 지능을 뛰어넘는 똑똑한 존재 - 살아 움직이는 빗자루를 멈추지 못한 마법사의 제자
인간이 밝혀내지 못한 두뇌와 정신의 영역

내로우 AI는 자율주행차와 당신이 원하는 온도를 학습하는 온도조절장치, 이메일 폴더의 스팸 여과장치를 구동시킨다. 이런 것들은 경이로운 기술이 분명하다. 하지만 그렇다고 내로우 AI에게 아내에게 줄 크리스마스 선물로 뭐가 좋을지는 묻지 말라. 반면, AGI는 최소한 당신과 나만큼 똑똑한 지적 존재이다. 프로그래밍되지 않은 일도 어떻게 수행하는지 알아내서 시도하는 AGI에게는 어떤 과제든지 시킬 수 있다. 6 곱하기 7이 얼마냐고 물어도, 여자 친구와 결혼을 해야 할지 물어도 답을 얻을 수 있다. 그런 장치를 만들려면 어떻게 해야 할까? 첫 단계는 우리가 일반 지능, 즉 두뇌를 쓰는 메커니즘을 파악하는 것이다.

참고로 나는 인간 두뇌의 열렬한 팬이다. 나도 하나 가지고 있고 거의 매일 사용한다. 하지만 두뇌 안에서 벌어지는 정신 작용 중에서 우리가 이해하고 있는 부분은 얼마나 될까? 놀랍게도 아주 적다. 지금쯤이면 꽤 많은 것을 알고 있을 것이라고 생각하는 당신에게 분명히 놀라운 일일 것이다. 지난 20년 동안 의미 있는 진전이 있었던 것은 분명하지만 우리는 두뇌의 작용을 화학적, 수학적 방정식으로 표현하는 방법은커녕 기억이 어떻게 코드화되는지도 전혀 모르고 있다.

두뇌는 종종 컴퓨터에 비견된다. 하지만 대뇌는 구조적인 면에서 컴퓨터와 전혀 다르다. 가장 비슷한 부분이라면 컴퓨터가 지금 두뇌가 하는 일들을 하기 위해 만들어지고 있다는 점이다. 가스레인지에서도 팝콘을 만들 수 있고, 전자레인지에서도 팝콘을 만들 수 있지만 그것이 가스레인지와 전자레인지가 흡사하다는 의미는 아니다. 두뇌와 컴퓨터를 직접적으로 비교한다면, 현재는 두뇌가 더 강력하다. 컴퓨터는 2+2와 같은 계산을 인간보다 훨씬 빠르게 할 수 있지만 두뇌는 많은 과제에서 컴퓨터를 능가한다. 그들은 많은 일을 한 번에 하기 때문이다.

인간 정신

정신이라는 개념은 일상의 언어에 스며들어 있으며 모두가 그 개념을 사용한다. 우리는 사람들에게 정신이 나간 게 아니냐고 물으며, 정신적 안정을 추구하고, 정신을 가다듬는다고 말한다. 또한 정신적 지주들도 같은 생각을 했다는 이야기를 듣는다. 우리는 정신이 산만하다고도 하고 정신을 한곳에 모은다고도 한다. 그밖에도 건전한 정신이란 표현이나 어떤 대상이 정신을 방해한다거나 스스로 정신 상태를 결정할 수 있다고도 말한다. 이처럼 정신에 대한 수백 가지 구어적 표현이 있지만 그중에서 ‘두뇌’를 대신 넣어도 될 만한 표현은 없다.

그렇지만 각각의 사람이 정신이라는 개념을 들먹일 때 의미하는 바에는 큰 차이가 있다. 당신이 일원론자, 즉 사람이 기계라고 생각하는 입장이라면 이렇게 말할 것이다. “정신은 두뇌가 하는, 우리가 이해하지 못하는 일을 뜻하는 광범위한 표현일 뿐이다. 정신이 하는 일은 정상적인 심리 작용에 지나지 않는다. 정신이 두뇌의 창발적 측면일 수는 있다. 하지만 그렇다 해도 단순한 생명 활동일 뿐이다.”

반대로 인간이 단순한 기계가 아니라고 믿는 이원론자들은 “정신은 바로 당신이다. 정신은 물리학 법칙 밖에 존재한다. 정신은 두뇌에 의해 만들어졌을지 몰라도 두뇌라는 장기의 단순한 기능과는 완전히 다르다. 그것은 결코 화학 공식으로 정리할 수 없다. 그 본질이 물리적이지 않기 때문이다.”라고 말할 것이다.

정신이라는 모호한 개념을 들먹이지 않고도 AGI를 만들 수 있을까? 불행히도 불가능하다. 그것이 AGI의 개발을 훨씬 더 어렵게 만들기 때문이다. 정의상 AGI는 동물의 왕국에 있는 어떤 생물보다도 극적으로 똑똑해야만 한다. 가장 똑똑한 돌고래 정도의 지능을 가진 컴퓨터 돌고래 AI를 만든다면, 누구도 그것을 AGI라고 부르지 않을 것이다. 영화 ‘아이, 로봇(I, Robot)’에서 윌 스미스가 맡은 델 스프너 형사가 ‘써니’라는 이름의 로봇을 조사하면서 나누는 대화를 생각해보자.

스프너 형사: 로봇이 교향곡을 쓸 수 있어? 로봇이 캔버스에 아름다운 그림을 그릴 수 있냐고?
써니: 당신은 할 수 있나요?

교향곡을 쓰고 아름다운 그림을 그리는 능력은 그것이 무엇이든 분명 정신에서 나온다. 진정한 AGI라는 것은 인간 수준의 인지 능력을 가져야 하기 때문에 우리는 AGI가 그 2가지 일을 할 수 있을 것이라고 기대한다. 따라서 정신은 쉽게 지나칠 수 있는 문제가 아니다.

더 나아가 정신을 설명하는 3가지 견해가 있다.

첫 번째 견해는 당신의 자아가 ‘두뇌의 트릭’이라는 것이다. 트릭은 두뇌가 감각적 경험을 통합된 흐름에 결합시키는 방법이다. 이런 결합은 두뇌의 여러 부분들이 말하고자 하는 것이 있을 때 두뇌가 ‘기회를 잡는’ 방법으로 이루어진다. 이 견해는 정신이 무엇인가라는 문제에 대해 당신이 정신이라는 것 자체를 갖고 있지 않고 단지 두뇌를 가지고 있을 뿐이며, 창의력과 감성같이 우리가 이해하지 못하는 능력은 단지 정상적인 두뇌 기능이라고 간주한다.

두 번째 견해는 당신의 자아가 ‘두뇌의 창발적 특성’이라는 것이다. 정신이 창발적 특성일까? 창발이란 각각의 부분이 가지지 못한 속성과 능력을 전체가 가지는 현상이다. 앞서 나는 개미 군락에 대해 이야기했다. 개미는 똑똑하지 않지만, 개미 군락은 똑똑하게 움직인다. 세포의 어떤 부분도 살아 있지 않지만 세포는 생존한다. 이 견해에서 정신은 발화하는 수천억 뉴런의 활동으로부터 만들어진다. 물리적 시스템 내에서 어떻게 창발적 현상이 일어나는지는 정확히 파악할 수 없다. 따라서 정신이 두뇌의 창발적 특성이라는 것은 길가의 깡통을 살짝 차보는 것과 같다. 그렇다 해도 이 견해는 정신의 근원에 대해 광범위하게 받아들여지는 믿음이다.

자아에 대한 마지막 설명은 그것이 물리학 법칙 밖에 존재하는 당신의 한 측면, 즉 ‘영혼’이라는 것이다. 당신의 정신은 신체가 죽어서도 살아남을 수 있는, 당신이 가진 무형의 부분일지 모른다. 이 견해에서 감정, 창의성 그리고 정신의 모든 속성은 발화하는 수천억 뉴런의 산물이 아니라 영혼의 여러 측면이다. 이는 과학으로는 이런 능력들을 이해하기 힘든 이유를 설명해준다.

이 3가지 견해 중 첫 번째 것이 옳다면, AGI를 만들 수 있을 가능성이 매우 높아진다. 시간이 흐르면 정신의 비밀이 밝혀질 것이고, 컴퓨터가 이런저런 방법으로 정신의 능력을 모사할 수 있을 것이다. 두 번째 견해가 맞다면, AGI로 가는 길은 조금 까다롭다. 기계에서 어떤 식으로든 창발적 현상이 일어나야 하기 때문이다. 창발에 대한 우리의 이해를 고려하면, 그것을 기계적으로 재현할 수 있다고 확실하게 말하기 어렵다. 하지만 그것이 물리적 현상이라는 전제에서는 재현할 수 있는 가능성이 있다. 세 번째 견해가 맞다면, 즉 우리의 정신이 우리의 영혼이라면 AGI의 실현 가능성은 매우 낮아진다.

의식을 가진 기계 인간 - 바누아투 원주민의 존 프럼 화물숭배
로봇은 의식을 가질 수 있는가?

의식이 무엇인지 아무도 모른다고 말하지만 이것은 진실이 아니다. 의식에 대해서는 광범위한 합의가 존재한다. 궁금한 것은 의식이 어떻게 발생하는가이다. 그렇다면 의식이란 무엇인가? 주관적인 경험의 느낌, 즉 모든 1인칭 감각의 느낌이다. 벽난로 앞에 있는 당신은 불의 따뜻함을 느낄 수 있지만, 온도 감지기는 온도를 판단할 뿐이다. 이 두 차이가 의식이다. 간단히 표현하면 의식은 ‘당신’이라는 존재의 경험, 즉 삶을 살아갈 가치가 있도록 만드는 것이다. 의식이 없으면 당신은 살면서 사랑도 느끼지 못하고 즐거움도 경험하지 못하는, 감정이 없는 좀비에 불과할 뿐이다. 이 의식은 우리 존재의 가장 중요한 측면이다.

생각해보라. 우리는 간단한 로봇의 ‘두뇌’를 이해한다. 로봇은 벽에 부딪힐 때까지 걷다가 방향을 바꾸고 다시 걷기를 시도한다. 로봇이 집안에서 복잡한 행동을 할 수 있지만 우리는 ‘집 안에 아무도 없다’는 것을 안다. 집 안에는 혼란을 경험하는 ‘자아’가 없다. 우리는 왜 그렇지 않을까? 우리 두뇌 안의 단순한 물리적 과정이 어떻게 우리로 하여금 경험하게 하는 것일까? 어떻게 혼란을 느끼게 하는 것일까? 바위가 사랑에 빠질 수 있을까? 당연히 아니다. 그렇다면 우리는 어떻게 그럴 수 있을까? 우리는 바위와 똑같은 물질로 만들어져 있다. 주기율표에 있는 원소들로 말이다. 뉴런이 얼마나 많든 그 뉴런 덩어리가 어떻게 자각을 하게 되는 것일까? 단순한 물질이 어떻게 1인칭 관점을 가질 수 있을까?

외계인이 당신을 납치해서 아무도 모르게 당신과 똑같은 모습의 로봇으로 대체했다고 상상해보라. 이 로봇은 당신이 해야 할 모든 일을 하면서 하루를 보내도록 프로그래밍되어 있다. 하지만 이 로봇은 발전된 토스터에 불과할 뿐이다. 로봇은 어떤 것도 생각하지 않으며 무언가를 느끼는 것을 알지 못한다. 배우자를 사랑하고, 교통 체증에 짜증이 나며, 공상에 잠기는 느낌을 알지 못한다. 재미있는 농담을 떠올리고 킥킥거리는 감각도 알지 못한다. 로봇은 죽음에 대해 생각하거나 죽음 뒤에 무엇이 있는지 궁금해하는 경험을 알지 못한다. 그리고 야망이 무엇인지 알지 못한다. 더운 날 시원한 레모네이드 한 잔이 주는 청량감을 즐길 수도 없다. 음악을 듣고 그것을 좋아하는 느낌이 어떤 것인지 알지 못한다. 갓 구운 빵이나 건조기에서 금방 꺼낸 빨래의 냄새가 주는 즐거움을 경험하지 못한다. 두통이 어떤 느낌인지도 알지 못한다. 극도의 황홀경에 이르거나 깊은 후회에 이르렀을 때의 느낌을 알지 못하며, 용감하거나 비겁한 느낌이 무엇인지도 알지 못한다. 이 로봇은 단지 당신과 똑같이 행동하도록, 당신을 모사하도록 고안된 전선과 전동기 뭉치일 뿐이다. 이런 로봇과 당신의 차이는 바로 의식이다. 하지만 로봇이 진짜로 당신처럼 할 수 있다면 어떨까? 당신이 웃을 만할 때 미소를 짓고, 당신이 적었을 만한 메모를 똑같이 적는다면? 그러나 우리는 아니다. 그보다 훨씬 더 나은 어떤 것이다.

누가 의식을 가지는가?

동물을 넘어 복잡한 시스템이 의식을 가질 수 있을까? 1960년대 과학자 제임스 러브록(James Lovelock)은 가이아 가설(Gaia hypothesis)을 내놓았다. 이 이론은 지구 전체, 바다와 바위, 식물과 공기가 자기 조절 능력이 있는 하나의 독립체라고 주장했다. 나무가 너무 많으면 산불이 일어난다. 이산화탄소가 너무 많으면 식물이 많아진다. 사실 그런 특정한 현상은 최근에 관찰되었다. 더욱이 지구는 정해진 범위 안에서 온도를 유지하며, 놀랍게도 억겁의 시간 동안 대양의 염도도 유지해왔다. 모든 것이 지구의 생명에 ‘적합한’ 범위에서 지켜진다. 하지만 인간의 삶은 꼭 그렇지만은 않다.

이 이론을 좀 더 자세히 살펴보자. 앞에서 우리는 당신의 몸은 당신이 존재한다는 것을 알지 못하는 세포들로 이루어져 있다는 것을 이야기했다. 그 모든 세포로부터 ‘당신’이 생긴다. 마찬가지로 어마어마하게 많은 지구상의 동물들이 지구에 살고, 생각하고, 느끼고, 우리가 우리의 세포를 인식하는 방식만으로 우리를 인지하는 새로운 독립체를 만들어낼 수 있을까? 지구는 의식이 있을까?

가이아 가설은 흥미롭다. 여기에서 적용되는 문제들이 우리가 컴퓨터를 이야기하면서 해결하려는 문제들과 같기 때문이다. 지구가 의식이 있다면 우리는 그것을 어떻게 알 수 있을까? 지구는 고통을 느낄 수 있을까? 지구는 감정을 가지고 있을까? 지구는 우리를 어떻게 생각할까?

의식을 가질 수 있는 존재의 마지막 후보는 인터넷이다. 이런 질문을 받은 앨런 뇌과학 연구소의 크리스토프 코흐(Christof koch)는 자신의 생각을 다음과 같이 밝혔다.

“인터넷은 전체적으로

개의 트랜지스터를 가지고 있다. 이는 1만 명의 두뇌에 있는 시냅스의 수와 비슷하다. 오늘날 인터넷이 그 자체로서 어떤 감각을 갖는지 여부는 순전히 추측일 뿐이지만 분명히 가능한 일이다.”

결국 누가 의식이 있느냐에 대한 우리의 탐구는 명확한 답도 없이 끝이 났다. 인간은 대상의 경험에 대한 느낌을 아는 지구상의 유일한 종족일지도 모른다. 아니면 거의 모든 존재가 그렇게 할 수 있는지도 모른다. 이것은 우리 대부분이 무시하고 있지만, 우리에게 대단히 중요한 일이다. 우리는 모든 것이 1인칭 관점으로 살아가는 세상에서 살고 있는지도 모른다. 나무는 나뭇잎에 닿는 햇살의 느낌이 참 좋다는 인식과 함께 하루를 맞고 있는지도 모른다. 혹은 반응을 하되 경험하지 못하는 것들의 세상에서 살고 있는지도 모른다. 잠이 들었을 때 누군가 발가락을 간지럽히면 당신은 발가락을 웅크린다. 누군가 발가락 가까이 촛불을 대면 발을 멀리 움직인다. 당신은 느끼고, 반응한다. 하지만 그것을 경험하지는 않는다. 우리가 호기심을 가지는 것은 느낌, 살아 있다는 그 느낌이다.

��

�ι�����

�ι��