ë”¥ëŸ¬ë‹ ë ˆë³¼ë£¨ì…˜
Àú   ÀÚ : 테런스 J. 세즈노스키(ì—­:안진환)
ÃâÆÇ»ç : 한국경제신문
ÃâÆÇÀÏ : 2019ë…„ 10ì›”

µµ¼­Á¤º¸

■ 책 소개

 

ì¸ê³µì§€ëŠ¥, 초연결, 초지능, ìžìœ¨ì£¼í–‰ê¹Œì§€  모든 í˜ì‹ ì€ 딥러ë‹ì—ì„œ 시작ë˜ì—ˆë‹¤
4ì°¨ ì‚°ì—…í˜ëª…, AI ì‹œëŒ€ì˜ ë¯¸ëž˜ë¥¼ 예측하려면 딥러ë‹ì— 주목하ë¼

 

â€˜ìŠ¤ë§ˆíŠ¸í° í˜ëª…’ ì´í›„ì˜ ìƒˆë¡œìš´ íŒ¨ëŸ¬ë‹¤ìž„ì€ ë¬´ì—‡ì¼ê¹Œ. ëˆ„êµ¬ë„ ê²½í—˜í•˜ì§€ 못한 미래가 다가오고 있다. â€˜ë”¥ëŸ¬ë‹ í˜ëª…â€™ì´ ë°”ë¡œ 그것ì´ë‹¤. ë”¥ëŸ¬ë‹ í˜ëª…ì—ì„œ ì‹œìž‘ëœ ë³€í˜ì€ ì‚°ì—…, êµìœ¡, 경제, 문화, ì „ ì˜ì—­ì— ê±¸ì³ ê°€ì‹œí™”ë˜ê³  있다. 새로운 패러다임 ë“±ìž¥ì€ í•„ì—°ì ìœ¼ë¡œ 승ìžì™€ 패ìžë¥¼ 낳는다. ë°œ 빠르게 ì ì‘하는 ì´ì™€ 그렇지 못한 ì´ê°€ 나뉘는 것ì´ë‹¤. 얼마 ì „ ì†Œí”„íŠ¸ë±…í¬ ì†ì •ì˜ íšŒìž¥ì´ ë¬¸ìž¬ì¸ ëŒ€í†µë ¹ì„ ë§Œë‚˜ ìžë¦¬ì—ì„œ â€œì²«ì§¸ë„ AI, ë‘˜ì§¸ë„ AI, ì…‹ì§¸ë„ AIâ€ë¼ê³  힘주어 ë§í–ˆë‹¤. ì¸ê³µì§€ëŠ¥ì— 기업과 êµ­ê°€ì˜ ê²½ìŸë ¥ì´ 달려 있으며, ì¸ê³µ 지능 ê°œë°œì— ëª¨ë“  ì—­ëŸ‰ì„ ì§‘ì¤‘í•´ì•¼ 한다는 것ì´ì—ˆë‹¤. 실제로 4ì°¨ ì‚°ì—…í˜ëª… ì—´í’ê³¼ 알파고 충격 ì´í›„, ì¸ê³µì§€ëŠ¥ì€ 제조업, 통신, ìžë™ì°¨, 서비스업 등 ì‚°ì—…ë¿ë§Œ ì•„ë‹ˆë¼ êµìœ¡, ì˜ë£Œ, 법조, 행정 등 우리 ìƒí™œ 모든 ì˜ì—­ì— ê¹Šìˆ™ì´ ë“¤ì–´ì™”ë‹¤. ë¹…ë°ì´í„°ì™€ ì¸ê³µì§€ëŠ¥ì´ ê²°í•©ëœ ì„œë¹„ìŠ¤ê°€ ë‚˜ì˜ ìš•êµ¬ë¥¼ 나보다 먼저 정확하게 알고 ìƒí’ˆì„ ì¶”ì²œì„ í•´ì£¼ëŠ” ì¼ì€ ì´ì œ 너무 당연해서 특별하게 ëŠê»´ì§€ì§€ ì•Šì„ ì •ë„다.

 

ì´ì œëŠ” ì•žì„ ë‚´ë‹¤ë³´ëŠ” ì§ˆë¬¸ì´ í•„ìš”í•œ ì‹œì ì´ë‹¤. ì´ì™€ ê°™ì€ ë³€í™”ê°€ 어디서 시작ë˜ì—ˆê³ , 앞으로 어떻게 ë  ê²ƒì´ë©°, 나아가 우리는 ë¬´ì—‡ì„ ì¤€ë¹„í•´ì•¼ 하는지 ë§ì´ë‹¤. ì´ ì±…ì˜ ì €ìž í…ŒëŸ°ìŠ¤ J, 세즈노스키는 ì¸ê³µì§€ëŠ¥ ë°œì „ì— ê²°ì •ì  ì—­í• ì„ í•œ ê²ƒì´ ë”¥ëŸ¬ë‹ì´ë¼ê³  ë§í•œë‹¤. ë”¥ëŸ¬ë‹ ì—†ì´ëŠ” 지금과 ê°™ì€ ë³€í™”ê°€ ì—†ì—ˆì„ ê²ƒì´ë©°, AI ì‹œëŒ€ì˜ ë¯¸ëž˜ë¥¼ 예측하기 위해서는 딥러ë‹ì„ 알아야 한다는 것ì´ë‹¤. 모ë‘ì˜ ê°ê´‘ì„ ë°›ê³  있는 ë¹…ë°ì´í„°, 초연결, ìžìœ¨ì£¼í–‰ ì—­ì‹œ ë”¥ëŸ¬ë‹ ì—†ì´ëŠ” ë¶ˆê°€ëŠ¥í–ˆì„ ì„±ê³¼ë‹¤. “아무리 ë§Žì€ ë°ì´í„°ë¥¼ ë§Œë“¤ì–´ë‚´ë„ ë¨¸ì‹ ëŸ¬ë‹(딥러ë‹)ì´ ë°œì „í•˜ì§€ 않으면 아무 ì†Œìš©ì´ ì—†ë‹¤â€ëŠ” ë§ì´ ì´ë¥¼ 압축ì ìœ¼ë¡œ 보여준다.

 

ì´ ì±…ì—ì„œ 신경과학과 ë¨¸ì‹ ëŸ¬ë‹ ë¶„ì•¼ì˜ ëŒ€ê°€ì¸ ì„¸ì¦ˆë…¸ìŠ¤í‚¤ëŠ” 통찰력 있게 ì¸ê³µì§€ëŠ¥ì˜ 과거와 현재를 ëŒì•„ë³´ê³  미래를 ì¡°ë§í•œë‹¤. 딥러ë‹ì€ 지금까지 ì´ë¤„낸 변화보다 앞으로 훨씬 í° ë³€í™”ë¥¼ 가져올 것ì´ë‹¤. 하지만 여기ì—는 ‘ê¶ê·¹ì ìœ¼ë¡œâ€™ë¼ëŠ” 단서가 붙는다. ê·¸ 시기가 앞당겨질지 ì•„ë‹ì§€, ë°œì „ì˜ ê²°ê³¼ë¬¼ì„ ìœ ë¦¬í•˜ê²Œ ì´ìš©í• ì§€ 못할지는 ì „ì ìœ¼ë¡œ 우리가 어떻게 하ëŠëƒì— 달려 있다.

 

â–  ì €ìž íƒ€ë ŒìŠ¤ J. 세즈노스키
소í¬ìƒë¬¼í•™ì—°êµ¬ì†Œ(Salk Institute for Biological Studies)ì˜ í”„ëžœì‹œìŠ¤ í¬ë¦­(Francis Crick) ì„좌êµìˆ˜ì´ìž 캘리í¬ë‹ˆì•„ëŒ€í•™êµ ìƒŒë””ì—ì´ê³  캠í¼ìŠ¤(UCSD)ì˜ êµìˆ˜ë¡œ ìž¬ì§ ì¤‘ì´ë‹¤. ë²„ë½ ì˜¤ë°”ë§ˆ í–‰ì •ë¶€ì˜ ë¸Œë ˆì¸ ì´ë‹ˆì…”티브(BRAIN Initiative)ì—ì„œ ìžë¬¸ìœ„ì›ìœ¼ë¡œ 활ë™í–ˆìœ¼ë©°, 현재 ì¸ê³µì§€ëŠ¥ 분야 최고 í•™íšŒì¸ NeurIPSì˜ ì˜ìž¥ì§ì„ 수행하고 있다. ë”¥ëŸ¬ë‹ ê¸°ìˆ ì˜ ì´ˆì„ì´ ëœ ë³¼ì¸ ë§Œ 머신 ì•Œê³ ë¦¬ì¦˜ì„ ì œí”„ë¦¬ 힌튼과 함께 개발한 ê²ƒì„ ë¹„ë¡¯í•´ 뉴럴 네트워í¬ì˜ 학습 ì´ë¡ ì— 대한 ë‹¤ìˆ˜ì˜ ë…¼ë¬¸ì„ ë°œí‘œí–ˆë‹¤.

 

ë¨¸ì‹ ëŸ¬ë‹ ë° ì‹ ê²½ê³¼í•™ 최고 ê¶Œìœ„ìž ì¤‘ í•œ ëª…ì¸ ì„¸ì¦ˆë…¸ìŠ¤í‚¤ êµìˆ˜ëŠ” 한국ì—ì„œ 열린 ‘2018 ì¸ê³µì§€ëŠ¥ 국제컨í¼ëŸ°ìŠ¤â€™ì— 기조연설ìžë¡œ 참여해, â€˜ë”¥ëŸ¬ë‹ í˜ëª…’ì´ë¼ëŠ” 주제로 딥러ë‹ì˜ 현황과 미래를 통찰력 있게 ì¡°ë§í•œ ë°” 있다. 그는 ì´ ì±…ì—ì„œ ì¸ê³µì§€ëŠ¥ì˜ ë°œì „ì— ë³€ê³¡ì  ì—­í• ì„ í•œ ë”¥ëŸ¬ë‹ ê¸°ìˆ ì´ í˜„ìž¬ì— ì´ë¥´ê¸°ê¹Œì§€ì˜ 과정, 앞으로 딥러ë‹ì´ 만들어낼 í˜ì‹ ê³¼ ë³€í™”ì— ëŒ€í•´ì„œ 풀어내고 있다.

 

â–  ì—­ìž ì•ˆì§„í™˜
서울ì—ì„œ 태어나 연세대학êµë¥¼ 졸업했다. 현재 전문번역가로 활발히 í™œë™ ì¤‘ì´ë‹¤. ì§€ì€ ì±…ìœ¼ë¡œ 『한 줄만 잘 ì¨ë„ Cool해지는 ì˜ìž‘문〠『ì˜ì–´ 실무 ë²ˆì—­ã€ ë“±ì´ ìžˆìœ¼ë©°, 옮긴 책으로는 『주목하지 ì•Šì„ ê¶Œë¦¬ã€ ã€Žë¶€ìžì•„ë¹  가난한 ì•„ë¹  20주년 특별íŒã€ 『넛지〠『팀 쿡〠『스티브 잡스〠『조너선 ì•„ì´ë¸Œã€ 『괴짜경제학〠『빌게ì´ì¸  @ ìƒê°ì˜ ì†ë„〠『노ë™ì˜ 미래〠『전ìŸì˜ ê¸°ìˆ ã€ ã€Žì²œìž¬ë“¤ì˜ ëŒ€ì°¸ì‚¬ã€ ã€Žì°½ì—…ìž ì •ì‹ ã€ ã€Žì´ì½”노믹 ì”½í‚¹ã€ ë“±ì´ ìžˆë‹¤.

 

â–  ê°ìˆ˜ 권정민
세ìƒì€ ë°ì´í„°ë¡œ ì´ë¤„ì ¸ 있다고 ìƒê°í•˜ë©°, ì´ë¥¼ 잘 활용하고ìží•˜ëŠ” 목표를 가지고 다양한 ë°ì´í„° ë¶„ì„ ë° í™œìš© ë°©ì•ˆì„ ë§Œë“¤ê³  연구하는 ê²ƒì„ ì—…ìœ¼ë¡œ 하고 있다. ì¹´ì´ìŠ¤íŠ¸(KAIST) ë° í¬í•­ê³µê³¼ëŒ€í•™êµ(POSTECH)ì—ì„œ 산업공학과 ì „ì‚°í•™ì„ ì „ê³µí–ˆìœ¼ë©°, 다양한 ì‚°ì—…êµ°ì—ì„œ ë°ì´í„° 분ì„ì„ ìˆ˜í–‰í•˜ê³  있다. 옮긴 책으로는 『빅ë°ì´í„° ë¶„ì„ ë„구 R 프로그래ë°ã€ 『The R Book(Second Edition) 한국어íŒã€ã€ŽíŒŒì´ì¬ì„ 활용한 ë² ì´ì§€ì•ˆ í†µê³„ã€ ë“±ì´ ìžˆìœ¼ë©° 『ì¸í„°ë„·, 알고는 사용하니?ã€ë¥¼ ê°ìˆ˜í–ˆë‹¤.

 

■ 차례
추천사
ê°ìˆ˜ìžì˜ 글
서문

 

1부 ì§€ëŠ¥ì˜ ìž¬í•´ì„
 1장 머신러ë‹ì˜ 부ìƒ
 2장 ì¸ê³µì§€ëŠ¥ì˜ 재탄ìƒ
 3장 뉴럴 네트워í¬ì˜ 여명
 4장 ë‘뇌 ë°©ì‹ì˜ 컴퓨팅
 5장 ì‹œê° ì‹œìŠ¤í…œì—ì„œ ì–»ì€ í†µì°°
 Â· 연대표 133

 

2부 ê¸°ìˆ ì  ì˜í–¥ê³¼ ê³¼í•™ì  ì˜í–¥
 6장 머신러ë‹ì˜ 미래
 7장 ì•Œê³ ë¦¬ì¦˜ì˜ ì‹œëŒ€
 8장 헬로, 미스터 칩스
 9장 내부 ì •ë³´
 10장 ì¸ì‹
 11장 ìžì—°ì€ ì¸ê°„보다 ì˜ë¦¬í•˜ë‹¤
 12장 심층 지능
 Â· 연대표

 

3부 다양한 학습 방법
 13장 칵테ì¼íŒŒí‹° 문제
 14장 홉필드 ë§ê³¼ 볼츠만 머신
 15장 ì˜¤ë¥˜ì˜ ì—­ì „íŒŒ
 16장 컨볼루션 러ë‹
 17장 ë³´ìƒí•™ìŠµ
 18장 NIPS
 Â· 연대표

 

헌사
용어 설명
주 

 

µµ¼­¿ä¾à
ë”¥ëŸ¬ë‹ ë ˆë³¼ë£¨ì…˜


ì§€ëŠ¥ì˜ ìž¬í•´ì„

머신러ë‹ì˜ 부ìƒ

딥러ë‹ì€ 수학과 컴퓨터공학, ì‹ ê²½ê³¼í•™ì— ë¿Œë¦¬ë¥¼ ë‘ê³  있는 머신러ë‹ì˜ í•œ 분야다. ë”¥ëŸ¬ë‹ ë„¤íŠ¸ì›Œí¬ëŠ” ì•„ê¸°ë“¤ì´ ìžì‹ ì„ 둘러싼 세ìƒì„ 배워 나가는 것과 ê°™ì€ ë°©ì‹ìœ¼ë¡œ ë°ì´í„°ë¥¼ 통해 학습한다. ìƒìƒí•œ 눈으로 시작해 ì ì°¨ 새로운 í™˜ê²½ì„ íƒìƒ‰í•˜ëŠ” ë° í•„ìš”í•œ ê¸°ìˆ ì„ ìŠµë“í•´ 나가는 아기들처럼 ë§ì´ë‹¤.


ì»´í“¨í„°ì˜ ì—­ëŸ‰ì´ ì»¤ì§€ê³  ë¹…ë°ì´í„°ê°€ í’부해진 오늘날ì—는 학습 ì•Œê³ ë¦¬ì¦˜ì„ ì‚¬ìš©í•´ 문제를 해결하는 ê²ƒì´ ë” ë°”ë¥´ê³  보다 정확하며 훨씬 효율ì ì´ë‹¤. ë˜í•œ ë™ì¼í•œ 학습 ì•Œê³ ë¦¬ì¦˜ì´ ì„œë¡œ 다른 문제를 해결하는 ë° ì´ìš©ë  수 있다. ê°ê°ì˜ ë¬¸ì œì— ì„œë¡œ 다른 í”„ë¡œê·¸ëž¨ì„ ìž‘ì„±í•˜ëŠ” 것보다 훨씬 ëœ ë…¸ë™ ì§‘ì•½ì ì¸ ì†”ë£¨ì…˜ì´ ë‚˜ì˜¨ë‹¤ëŠ” 뜻ì´ë‹¤.


ë°”ë‘‘ì˜ ë”¥ëŸ¬ë‹

2016ë…„ 3ì›” ì—´ì—¬ëŸ ì°¨ë¡€ë‚˜ 세계 ì •ìƒì— 오른 ë°” 있는 í•œêµ­ì˜ ë°”ë‘‘ì™• ì´ì„¸ëŒì´ 알파고를 ìƒëŒ€ë¡œ 다섯 ì°¨ë¡€ì˜ ëŒ€êµ­ì„ íŽ¼ì¹œ ëì— 4대 1ë¡œ 졌다. 알파고는 ë”¥ëŸ¬ë‹ ë„¤íŠ¸ì›Œí¬ë¥¼ ì´ìš©í•´ ëŒì˜ 위치와 가능한 수를 í‰ê°€í•˜ëŠ” 바둑 프로그램ì´ë‹¤.


íŒì„¸ë¥¼ 진단하고 ìµœì„ ì˜ ìˆ˜ë¥¼ ì„ íƒí•˜ê¸° 위한 몇 ê°œì˜ ë”¥ëŸ¬ë‹ ë„¤íŠ¸ì›Œí¬ ì™¸ì—ë„ ì•ŒíŒŒê³ ëŠ” 완전히 다른 학습 ì‹œìŠ¤í…œì„ ë³´ìœ í–ˆë‹¤. ì‹œê°„ì  ì‹ ë¢°ë„ í• ë‹¹ 문제를 해결하는 ë° ì‚¬ìš©ë˜ëŠ” 시스템ì´ì—ˆë‹¤. 가능한 여러 수 ê°€ìš´ë° ì–´ë–¤ 수가 ìŠ¹ë¦¬ì— ì±…ìž„ì´ ìžˆê³  ì–´ë–¤ 수가 íŒ¨ë°°ì— ì±…ìž„ì´ ìžˆëŠ”ê°€? ì¸ê°„ ë‡Œì˜ ê¸°ì €í•µì€ ëŒ€ë‡Œ 피질 ì „ì²´ì—ì„œ ë‚˜ë¦„ì˜ ì˜ˆì¸¡ì„ ë°›ì•„ ê·¸ê²ƒì„ ë‹¤ì‹œ 대뇌 피질로 ë˜ì˜ë©° 시간차 알고리즘과 ê°•í™” 학습으로 ì´ë¥¼ 해결한다. 알파고는 ê¸°ì €í•µì´ ë¯¸ëž˜ì˜ ë³´ìƒì„ 극대화할 목ì ìœ¼ë¡œ ì¼ë ¨ì˜ í–‰ë™ì„ í‰ê°€í•˜ê¸° 위해 발달시킨 것과 ë™ì¼í•œ 학습 ì•Œê³ ë¦¬ì¦˜ì„ ì‚¬ìš©í–ˆë‹¤. 알파고는 ìžê¸° ìžì‹ ê³¼ì˜ ê²Œìž„ì„ í†µí•´ì„œ 학습했다. ìˆ˜ì—†ì´ ë§Žì€ ê²Œìž„ì„ í†µí•´ì„œ ë§ì´ë‹¤.


ì¸ê³µì§€ëŠ¥ì˜ 재탄ìƒ

전문 시스템

ì¸ê°„ ì§€ëŠ¥ì˜ ê¸°ëŠ¥ì„ ê°€ì§„ 컴퓨터 í”„ë¡œê·¸ëž¨ì„ ìž‘ì„±í•˜ë ¤ê³  ì• ì¼ë˜ ì¸ê³µì§€ëŠ¥ 개척ìžë“¤ì€ ì¸ê°„ì˜ ë‡Œê°€ 실제로 어떻게 지능ì ì¸ í–‰ë™ ë°©ì‹ì„ ì„±ì·¨í–ˆëŠ”ì§€ì— ëŒ€í•´ì„œ ê´€ì‹¬ì„ ê°–ì§€ 않았다. ë‚´ê°€ ê·¸ ì´ìœ ë¥¼ ë¬¼ì—ˆì„ ë•Œ, 그는 ê°œì¸ì ìœ¼ë¡œ 뇌 연구ì—ì„œ 나온 ì‹ê²¬ì„ 얻고 싶어 개방ì ì¸ ìžì„¸ë¥¼ 취했지만 당시는 그저 ë‡Œì— ê´€í•œ ë‚´ìš©ì´ ì¶©ë¶„ížˆ 파악ë˜ì§€ ì•Šì•˜ë˜ ì‹œì ˆì´ë¼ 쓸 만한 ì •ë³´ê°€ 별로 없었다고 답했다.


뉴럴 네트워í¬ì˜ 여명

예를 통한 학습

뉴롤 ë„¤íŠ¸ì›Œí¬ ì¸ê³µì§€ëŠ¥ì˜ 개척ìžë“¤ì€ 뇌 ê¸°ëŠ¥ì— ëŒ€í•œ ì´í•´ì˜ 부족ì—ë„ êµ´í•˜ì§€ ì•Šê³  만화 ë²„ì „ì˜ ë‰´ëŸ°ì„ ê·¸ë ¤ 가며 ê·¸ê²ƒë“¤ì´ ì„œë¡œ 어떻게 ì—°ê²°ë˜ëŠ”지 파악하기 위해 ì• ì¼ë‹¤. ê·¸ 중 코넬대학êµì˜ ë¡œì  ë¸”ëž«ì€ ì•ŒíŒŒë²³ 등과 ê°™ì€ íŒ¨í„´ì„ ë¶„ë¥˜í•´ 범주화하는 ë²•ì„ ë°°ìš¸ 수 있는 학습 ì•Œê³ ë¦¬ì¦˜ì„ ê°–ì¶¤ í¼ì…‰íŠ¸ë¡ ì„ 창안했다.


í¼ì…‰íŠ¸ë¡ ì´ 패턴 ì¸ì‹ ë¬¸ì œì˜ í•´ê²° ë°©ë²•ì„ ë°°ìš°ëŠ” 기본 ì›ë¦¬ë¥¼ ì´í•´í•˜ë©´ 딥러ë‹ì˜ ìž‘ìš© ë°©ì‹ì„ ë°˜ì€ ì´í•´í•œ ì…ˆì´ ëœë‹¤. í¼ì…‰íŠ¸ë¡ ì˜ 목표는 특정한 ì¸í’‹(input)ì˜ íŒ¨í„´ì´ íŠ¹ì •í•œ ë²”ì£¼ì— ì†í•˜ëŠ”지 여부를 결정하는 것ì´ë‹¤. í¼ì…‰íŠ¸ë¡ ìœ¼ë¡œì˜ ì¸í’‹ì´ ì¸í’‹ 유닛ì—ì„œ ì¼ë ¨ì˜ ê°€ì¤‘ì¹˜ì— ì˜í•´ 변환ë˜ì–´ 아웃풋 ìœ ë‹›ì— ì´ë¥´ê²Œ ëœë‹¤. 가중치는 ê°ê°ì˜ ì¸í’‹ì´ 아웃풋 유닛ì—ì„œ 내리는 최종 ê²°ì •ì— ë¯¸ì¹˜ëŠ” ì˜í–¥ë ¥ì˜ ì •ë„를 ë§í•œë‹¤.


어려운 ë¶€ë¶„ì€ ì–´ë–»ê²Œ ì¸í’‹ì„ 정확하게 분류할 수 있는 ì¼ë ¨ì˜ 가중치를 ì°¾ëŠëƒ 하는 것ì´ë‹¤. ì—”ì§€ë‹ˆì–´ë“¤ì´ ê·¸ì™€ ê°™ì€ ë¬¸ì œë¥¼ 해결하는 전통ì ì¸ ë°©ë²•ì€ ë¶„ì„ ë˜ëŠ” ìž„ì‹œë³€í†µì˜ ì ˆì°¨ì— ê¸°ë°˜í•´ 가중치를 ì§ì ‘ 만드는 것ì´ë‹¤. ëŒ€ì•ˆì€ ìš°ë¦¬ê°€ 세ìƒì˜ ì‚¬ë¬¼ì— ëŒ€í•´ 배우는 것과 ë§ˆì°¬ê°€ì§€ì˜ ë°©ì‹ìœ¼ë¡œ 예나 사례, 실례로부터 배우는 ìžë™ 절차를 ì´ìš©í•˜ëŠ” 것ì´ë‹¤. ì´ ê²½ìš° ë²”ì£¼ì— ì†í•˜ì§€ ì•Šì€ ì˜ˆë¥¼ í¬í•¨í•´ ë§Žì€ ì˜ˆê°€ 필요하다. 예를 들어 ê³ ì–‘ì´ë¥¼ ì¸ì§€í•˜ëŠ” ê³ ì–‘ì´ë¥¼ ì¸ì§€í•˜ëŠ” ê²ƒì´ ëª©í‘œì¸ ê²½ìš° 개를 í¬í•¨í•´ 유사한 여러 ì¢…ì˜ ì˜ˆê°€ 필요하다는 얘기다. 예는 í•œ ë²ˆì— í•˜ë‚˜ì”© í¼ì…‰íŠ¸ë¡ ìœ¼ë¡œ 전달ë˜ë©° 분류 오류가 있는 경우 ê°€ì¤‘ì¹˜ì— ë”°ë¼ ìžë™ìœ¼ë¡œ ìˆ˜ì •ì´ ì´ë¤„진다. í¼ì…‰íŠ¸ë¡  학습 ì•Œê³ ë¦¬ì¦˜ì˜ í›Œë¥­í•œ ë¶€ë¶„ì€ ì¼ë ¨ì˜ 가중치가 존재하고 충분한 예가 있는 경우 ìžë™ìœ¼ë¡œ ê°€ì¤‘ì¹˜ì˜ ì„¸íŠ¸ë¥¼ 확보하는 ì¼ì´ 보장ëœë‹¤ëŠ” ì ì´ë‹¤.


ì‹œê° ì‹œìŠ¤í…œì—ì„œ ì–»ì€ í†µì°°

ì‹œê°ì€ ì¸ì²´ì—ì„œ 가장 잘 ë°œë‹¬ëœ ë™ì‹œì— 가장 ë§Žì´ ì—°êµ¬ë˜ëŠ” ê°ê° 기관ì´ë‹¤. 우리는 í•œ ìŒì˜ ì „ë‘안구를 통해 절묘한 양안 ê¹Šì´ ì§€ê°ì„ 하며 ìš°ë¦¬ì˜ ëŒ€ë‡Œí”¼ì§ˆì˜ ì ˆë°˜ì´ ì‹œê°ì— 관여한다. ì‹œê°ì˜ 특별한 지위는 â€˜ë°±ë¬¸ì´ ë¶ˆì—¬ì¼ê²¬â€™ì´ë¼ëŠ” ì†ë‹´ì—ì„œë„ ìž˜ 드러난다. 가장 성공ì ì¸ ë”¥ëŸ¬ë‹ ë„¤íŠ¸ì›Œí¬ì— ì˜ê°ì„ 부여한 ê²ƒì€ ì´ ì‹œê° í”¼ì§ˆì˜ êµ¬ì¡°ì˜€ë‹¤.



ê¸°ìˆ ì  ì˜í–¥ê³¼ ê³¼í•™ì  ì˜í–¥

머신러ë‹ì˜ 미래

ì¸ì§€ ì»´í“¨íŒ…ì˜ ì‹œëŒ€ê°€ ë°ì•„오고 있다. 머지않아 우리는 ì¸ê°„보다 ë” ëŠ¥ìˆ™í•˜ê²Œ 운전하는 ìžìœ¨ì£¼í–‰ ìžë™ì°¨ë¥¼ 보게 ë  ê²ƒì´ë©° 우리가 사는 ì§‘ì´ ì£¼ì¸ì„ 알아보고 집주ì¸ì˜ ìŠµê´€ì„ ì˜ˆì¸¡í•˜ê³  방문ìžê°€ ì™”ìŒì„ 알려주는 시대를 맞ì´í•˜ê²Œ ë  ê²ƒì´ë‹¤. ì˜ì‚¬ë“¤ì€ ì¸ì§€ 컴퓨팅으로 í¬ê·€ ì§ˆë³‘ì„ ì§„ë‹¨í•  수 있게 ë  ê²ƒì´ë©°, ê²°ê³¼ì ìœ¼ë¡œ ì˜ë£Œ ì„œë¹„ìŠ¤ì˜ ì§ˆì  í–¥ìƒì´ 가능해질 것ì´ë‹¤. ì´ì™€ ê°™ì€ ì¸ì§€ ì»´í“¨íŒ…ì˜ ì ìš© 사례는 ì´ë¯¸ 수천 ê°€ì§€ì— ì´ë¥´ë©° 우리가 미처 ìƒìƒí•˜ì§€ 못한 ì ìš© 분야 ë˜í•œ ìˆ˜ì—†ì´ ë§Žë‹¤.


얼굴 í‘œì •ì€ ì˜í˜¼ìœ¼ë¡œ 통하는 ì°½ì´ë‹¤

얼굴 í‘œì •ì€ ë‡Œì˜ ê°ì • ìƒíƒœë¥¼ ë³´ì—¬ 주는 ì°½ì´ë‹¤. ì˜¤ëŠ˜ë‚ ì˜ ë”¥ëŸ¬ë‹ ê¸°ìˆ ì€ ë°”ë¡œ ê·¸ ì°½ì„ ê¿°ëš«ì–´ë³¼ 수 있다.


ì—í¬ë§Œì€ 44ê°œì˜ ì•ˆë©´ 근육 ìƒíƒœë¡œ ë³´ì—¬ 주는 ‘얼굴 움ì§ìž„ 부호화 ì‹œìŠ¤í…œâ€™ì„ ê°œë°œí–ˆë‹¤. ì—í¬ë§Œì´ 주목한 ê²ƒì€ ê³ ìž‘ 몇 ì´ˆ ë™ì•ˆë§Œ 나타나는 표정, 즉 ‘미세 표정’ì´ì—ˆë‹¤. 미세 í‘œì •ì€ ì–µì œëœ ë‡Œì˜ ìƒíƒœê°€ ê°ì •ì´ë¼ëŠ” 형태로 드러나는 것ì´ë©° 무ì˜ì‹ì ì¸ ê°ì •ì  ë°˜ì‘ì„ ëŒ€ë³€í•˜ê±°ë‚˜ 때때로 ê·¸ê²ƒì´ ë…¸ì¶œë˜ë„ë¡ ë§Œë“ ë‹¤.


그리고 2012ë…„ 바틀릿과 ë§ˆë¸”ëŸ°ì€ ì´ëª¨ì…˜íŠ¸ë¼ëŠ” 회사를 창업해 얼굴 표정 ìžë™ 분ì„ì˜ ìƒì—…í™”ì— ë‚˜ì„°ë‹¤. ì—í¬ë§Œê³¼ 나는 과학ìžë¬¸ìœ„ì›íšŒì˜ ì¼ì›ì´ ë˜ì—ˆë‹¤. ì´ëª¨ì…˜íŠ¸ì—ì„œ 개발한 ë”¥ëŸ¬ë‹ ë„¤íŠ¸ì›Œí¬ëŠ” ìžì—°ìŠ¤ëŸ¬ìš´ í–‰ë™, 다양한 조명, ì •ë©´ì´ ì•„ë‹Œ 얼굴 ë“±ì˜ ì¡°ê±´ì—ì„œ ì´ë¤„진 실시간 분ì„으로 96í¼ì„¼íŠ¸ì˜ 정확ë„를 ë³´ì—¬ 줬다.


멀지 ì•Šì€ ë¯¸ëž˜ì— ë‹¹ì‹ ì´ ë“¤ê³  있는 ì•„ì´í°ì´ ë‹¹ì‹ ì´ ì™œ 화가 났는지 물어보는 ìˆ˜ì¤€ì„ ë„˜ì–´ 분노를 ê°€ë¼ì•‰ížˆëŠ” ë° ë„ì›€ì„ ì¤„ 수 있는 시대가 ë„ëž˜í• ì§€ë„ ëª¨ë¥¼ ì¼ì´ë‹¤.


ì•Œê³ ë¦¬ì¦˜ì˜ ì‹œëŒ€

ì˜¤ëŠ˜ë‚ ì˜ ê¸°ìˆ ì€ ì•Œê³ ë¦¬ì¦˜ì— ê·¸ ê¸°ë°˜ì„ ë‘ê³  있다. 21세기는 컴퓨터과학과 ìƒë¬¼í•™ì˜ 복잡성 íŠ¹ì„±ì„ ì´í•´í•˜ëŠ” ë° ì´ì‚°ìˆ˜í•™ê³¼ ì•Œê³ ë¦¬ì¦˜ì„ ì‚¬ìš©í•˜ëŠ” 시대다. 알고리즘ì´ëž€ 계산 ë˜ëŠ” 문제 í•´ê²°ì˜ ê³¼ì œë¥¼ ìˆ˜í–‰í•¨ì— ìžˆì–´ ì¼ë ¨ì˜ ê°œë³„ì  ë‹¨ê³„ ë˜ëŠ” ê·œì¹™ë“¤ì„ ìˆœì°¨ì ìœ¼ë¡œ ê±°ì³ ë‚˜ê°€ëŠ” ê³¼ì •ì„ ë§í•œë‹¤.


뇌는 컴퓨터ì¸ê°€

1943ë…„ 위런 매컬러와 윌터 피츠는 í¼ì…‰íŠ¸ë¡ ê³¼ ê°™ì€ ë‹¨ìˆœí•œ ì´ì§„법 임계값 단위로 디지털 ì»´í“¨í„°ì˜ ì œìž‘ì´ ê°€ëŠ¥í•˜ë‹¤ëŠ” ê²ƒì„ ë³´ì—¬ì¤¬ë‹¤.


그들로부터 ì˜ê°ì„ ë°›ì€ í° ë…¸ì´ë§Œì€ 컴퓨터를 구ìƒí•˜ê¸°ë„ 했다. 그는 ì¸ê°„ì˜ ë‡Œì— ëŒ€í•´ì„œë„ ê´€ì‹¬ì„ ê°€ì§€ê³  있었다. 신뢰할 수 없는 구성 요소로 ì´ë¤„진 뇌가 어떻게 신뢰할 수 있는 ê¸°ëŠ¥ì„ ìˆ˜í–‰í•˜ëŠ”ê°€ë¼ëŠ” ì§ˆë¬¸ì„ ë†“ê³  ê¹Šì€ ê³ ë¯¼ì— ë¹ ì¡Œë‹¤. ê·¸ ë…¼ë¦¬ì  ê¹Šì´ì— ëŒ€í•´ì„œë„ ê´€ì‹¬ì„ ë³´ì˜€ë‹¤. 축ì ëœ 오류로 ì¸í•´ 결과가 변질ë˜ê¸°ê¹Œì§€ 뇌가 수행할 수 있는 ë…¼ë¦¬ì  ë‹¨ê³„ëŠ” 과연 얼마나 ë ê¹Œ? ê°ê°ì˜ ë…¼ë¦¬ì  ë‹¨ê³„ë¥¼ 완벽하게 수행할 수 있는 컴퓨터와 달리 뇌는 무수히 ë§Žì€ ìž¡ìŒìœ¼ë¡œë¶€í„° ì˜í–¥ì„ 받는다. 뇌는 완벽할 수는 ì—†ì„지언정 ë§Žì€ ë‰´ëŸ°ì´ ë™ì‹œì— 함께 ì¼í•˜ê¸° ë•Œë¬¸ì— ê° ë‹¨ê³„ë³„ 성취ë„는 컴퓨터가 ë‹¨ì¼ ë‹¨ê³„ì—ì„œ ì´ë£° 수 있는 것보다 훨씬 높으며 ë…¼ë¦¬ì  ê¹Šì´ ë˜í•œ 컴퓨터보다 ëœ í•„ìš”ë¡œ 한다.


헬로, 미스터 칩스

우리는 지금 컴퓨터 칩 ì‚°ì—…ì˜ ìƒˆë¡œìš´ 구ë„ì˜ íƒœë™ì„ 목ë„하고 있다. ê²½ìŸì˜ í•µì‹¬ì€ í•™ìŠµ ì•Œê³ ë¦¬ì¦˜ì˜ êµ¬ë™ì´ 가능한 신세대 ì¹©ì˜ ì„¤ê³„ì™€ 구축ì´ë‹¤. 주요 컴퓨터 칩 기업과 ìŠ¤íƒ€íŠ¸ì—…ë“¤ì€ ë„ˆ 나 í•  것 ì—†ì´ ë”¥ëŸ¬ë‹ì„ 위한 칩 ê°œë°œì— ìƒë‹¹í•œ 투ìžë¥¼ 하고 있다.


핫칩스

우리가 예측한 ë°”ì— ë”°ë¥´ë©´ í˜„ìž¬ì˜ ë§ˆì´í¬ë¡œí”„로세서 기술ì´ë¼ë©´ 엑사급 ì»´í“¨íŒ…ì„ ìœ„í•´ì„œëŠ” 뉴욕 지하철 ìš´ì˜ì— 필요한 것보다 ë” ë§Žì€ 50ë©”ê°€ì™€íŠ¸ì˜ ì „ë ¥ì´ í•„ìš”í•  것ì´ë‹¤. ë”°ë¼ì„œ 차세대 슈í¼ì»´í“¨í„°ëŠ” 저전력 칩으로 구ë™ë˜ì–´ì•¼ë§Œ 한다.


ì¸ê°„ì˜ ë‡ŒëŠ” 대략 20와트 ë˜ëŠ” 몸 전체를 움ì§ì´ëŠ” ë° í•„ìš”í•œ íž˜ì˜ 20í¼ì„¼íŠ¸ ì •ë„ì˜ ì „ë ¥ì„ í•„ìš”ë¡œ 한다. ì´ì™€ 대조ì ìœ¼ë¡œ ì¸ê°„ì˜ ë‡Œ ì„±ëŠ¥ì— í›¨ì”¬ 못 미치는 페타급 슈í¼ì»´í“¨í„°ëŠ” 5메가와트 ë˜ëŠ” 25만 배나 ë§Žì€ ì „ë ¥ëŸ‰ì„ ì†Œë¹„í•œë‹¤.


딥러ë‹ì€ ë‹¨ë§ ìž¥ì¹˜ì˜ ë…ë¦½ì„±ì´ ê´€ê±´ì´ë©° ê·¸ê²ƒì€ ê³§ 근본ì ìœ¼ë¡œ 다른 하드웨어를 ì˜ë¯¸í•œë‹¤. í´ë¼ìš°ë“œ ì»´í“¨í„°ì— ë¹„í•´ 훨씬 ê°€ë³ê³  ì „ë ¥ ì†Œë¹„ë„ í›¨ì”¬ ì ì€ 하드웨어 ë§ì´ë‹¤. 바로 ì¸ê°„ì˜ ë‡Œì—ì„œ ì˜ê°ì„ 얻어 ê³ ì•ˆëœ ë‡Œì‹ ê²½ 모방 칩, ì¼ëª… ‘뉴로모픽 ì¹©â€™ì´ ê·¸ê²ƒì´ë‹¤.


내부 정보

ì •ë³´ ì´ë¡ 

1948ë…„ í´ë¡œë“œ ìƒˆë„Œì´ ë‚´ë†“ì€ ì •ë³´ì´ë¡ ì€ ìž¡ìŒì´ 심한 ì „í™”ì„ ì„ í†µí•œ 신호 ì „ë‹¬ì„ ì´í•´í•˜ê¸° 위한 방편ì´ì—ˆë‹¤. ìƒˆë„Œì˜ ì •ë¦¬ëŠ” 디지털 커뮤니케ì´ì…˜ í˜ëª…ì„ ì£¼ë„했고 휴대전화기, 디지털 텔레비전 그리고 ì¸í„°ë„·ì˜ ê°œë°œì„ ìœ ë„했다.


기나긴 ê²Œìž„ì— ëŒìž…하다

ê¸°ì´ˆê³¼í•™ì— ì˜í•´ ê°œë°œëœ ê¸°ìˆ ì€ ìƒìš©í™”ë˜ê¸°ê¹Œì§€ 대략 50ë…„ì˜ ì‹œê°„ì´ ì†Œìš”ëœë‹¤. ì „ ì„¸ê³„ì˜ ë‹¤ë¥¸ 뇌 연구 í”„ë¡œê·¸ëž¨ì„ í†µí•´ 지금 ì´ë¤„낸 기초ì ì¸ 성과는 앞으로 50ë…„ 후 등장할 애플리케ì´ì…˜ì˜ 단초가 ë  ê²ƒì´ë‹¤. 2050년까지 ì¸ê°„ì˜ ë‡Œì— ìƒì‘하는 ì¸ê³µì§€ëŠ¥ì„ 위한 ìš´ì˜ì²´ì œê°€ 만들어질 것ì´ë¼ëŠ” ê¸°ëŒ€ë„ í•´ ë³¼ 수 있다.


ìžì—°ì€ ì¸ê°„보다 ì˜ë¦¬í•˜ë‹¤

마빈 ë¯¼ìŠ¤í‚¤ì— ëŒ€í•œ 반대 입장

ì¸ê°„ì˜ ë‡ŒëŠ” ì•„ë¬´ê²ƒë„ í•˜ì§€ 않으면서 추ìƒì ì¸ ìƒê°ë§Œì„ ìƒì„±í•˜ëŠ” ê²ƒì´ ì•„ë‹ˆë‹¤. 뇌는 ìš°ë¦¬ì˜ ì‹ ì²´ 모든 부분과 ì§ì ‘ì ìœ¼ë¡œ ì—°ê²°ë˜ì–´ 있으며 다시 ê°ê° ì¸í’‹ê³¼ ë™ìž‘ 실행기를 통해 세ìƒê³¼ ì—°ê²°ë˜ì–´ 있다. ë”°ë¼ì„œ ìƒë¬¼í•™ì  ì§€ëŠ¥ì€ ê·¸ëŸ¬í•œ 관계 ì†ì—ì„œ 내재ë˜ì–´ 있는 것ì´ë‹¤. 보다 중요한 ê²ƒì€ ìš°ë¦¬ì˜ ë‡Œê°€ 세ìƒê³¼ ìƒí˜¸ìž‘ìš©ì„ í•˜ëŠ” 긴 ì„±ìˆ™ì˜ ê³¼ì •ì„ ê±°ì³ ë°œë‹¬ëœë‹¤ëŠ” ì ì´ë‹¤. í•™ìŠµì€ ë°œë‹¬ê³¼ ë™ì‹œì— 진행ë˜ëŠ” 과정ì´ë©° 성ì¸ê¸°ì— ë„달한 ì´í›„ì—ë„ ì˜¤ëž«ë™ì•ˆ ì´ì–´ì§„다. 그러므로 í•™ìŠµì€ ì¼ë°˜ 지능 ë°œë‹¬ì˜ í•µì‹¬ì´ë‹¤.


ì¸ê³µì§€ëŠ¥ì— 있어 가장 해결하기 어려운 문제 중 하나가 ìƒì‹ì´ë¼ëŠ” ì‚¬ì‹¤ì€ ë§¤ìš° í¥ë¯¸ë¡­ë‹¤. ì¸ê³µì§€ëŠ¥ì—ì„œ í”히 무시ë˜ëŠ” ê°ì •ê³¼ ê³µê° ì—­ì‹œ ì§€ëŠ¥ì˜ í•„ìˆ˜ì ì¸ 측면ì´ë‹¤. ê°ì •ì€ 국부ì ì¸ 뇌 ìƒíƒœì— ì˜í•´ ê²°ì •ë  ìˆ˜ 없는 뇌가 í–‰ë™ì„ 취하기 ì „ 준비 ê³¼ì •ì— í•„ìš”í•œ ë³´íŽ¸ì  ì‹ í˜¸ë‹¤.


경과

민스키가 세ìƒì„ ë– ë‚œ ì§í›„ 딥마ì¸ë“œì˜ ì—°êµ¬ì§„ë“¤ì´ ë™ì  외부 ë©”ëª¨ë¦¬ì˜ ì ìš©ìœ¼ë¡œ 딥러ë‹ì— 기초한 ì¼ë°˜ ì¸ê³µì§€ëŠ¥ì— í•œê±¸ìŒ ë” ë‹¤ê°€ì„œëŠ” 성과를 거뒀다. 심층 순환 뉴럴 네트워í¬ì—ì„œ í–‰ë™ì˜ íŒ¨í„´ì€ ì¼ì‹œì ìœ¼ë¡œ ì €ìž¥ë  ìˆ˜ë°–ì— ì—†ê¸° ë•Œë¬¸ì— ì¶”ë¦¬ì™€ ì¶”ë¡ ì˜ ëª¨ë°©ì´ ì‰½ì§€ 않았다. 디지털 ì»´í“¨í„°ì˜ ë©”ëª¨ë¦¬ì™€ ë™ì¼í•œ ìœ ì—°ì„±ì„ ê°€ì§€ê³  있어 ì½ê¸°ì™€ 쓰기가 가능한 안정ì ì¸ 메모리를 ì²¨ê°€í•¨ìœ¼ë¡œì¨ ì—°êµ¬ì§„ì€ ê°•í™” 학습으로 í›ˆë ¨ëœ ë„¤íŠ¸ì›Œí¬ê°€ ì¶”ë¡ ì„ í•„ìš”ë¡œ 하는 ì§ˆë¬¸ì— ëŒ€ë‹µí•  수 있다는 ê²ƒì„ ìž…ì¦í–ˆë‹¤.


우리 ì¸ê°„ì€ ë°•í…Œë¦¬ì•„ì™€ ê·¸ ì´ì „ì˜ ë¬´ì—‡ê¹Œì§€ 기ì›ì„ 거슬러 올ë¼ê°€ëŠ” ìƒëª…ì˜ ê±°ëŒ€í•œ ì‚¬ìŠ¬ì— ì†í•œ í•˜ë‚˜ì˜ ìƒë¬¼ 종ì´ë‹¤. 지금 우리가 뇌를 ì´í•´í•˜ê¸° ì§ì „까지 ë„달했다는 것 ìžì²´ê°€ 기ì ì´ë‹¤. ë‡Œì— ëŒ€í•œ ì´í•´ëŠ” ì¸ê°„ì— ëŒ€í•œ ì¸ê°„ì˜ ìƒê°ì„ ì˜ì›ížˆ ë°”ê¿”ë†“ì„ ê²ƒì´ë‹¤.


심층 지능

ì§€ëŠ¥ì˜ ì§„í™”

우리 ì¸ê°„ì€ ê°€ìž¥ ë›°ì–´ë‚œ 학습 ëŠ¥ë ¥ì„ ë³´ìœ í•˜ê³  있다. 다른 ì–´ë–¤ ìƒë¬¼ 종보다 광범위한 ì£¼ì œì— ëŒ€í•´ 보다 빨리 학습할 수 있고 보다 ë§Žì€ ê²ƒì„ ê¸°ì–µí•˜ë©° 수세대를 거치며 ë” ë§Žì€ ì§€ì‹ì„ 축ì í•  수 있다. 우리는 ‘êµìœ¡â€™ì´ë¼ 불리는 ê¸°ìˆ ì„ ì°½ì¡°í•´ í‰ìƒ ë™ì•ˆ 학습할 수 있는 ì–‘ì„ ì¦ëŒ€ì‹œì¼°ë‹¤. 비êµì  ìµœê·¼ì— ì¸ê°„ì´ ë°œëª…í•œ ì½ê¸°ì™€ ì“°ê¸°ì˜ ê¸°ìˆ ì€ ì™„ì „ížˆ í„°ë“하기까지 ìˆ˜ë…„ê°„ì˜ ì‹œê°„ì„ í•„ìš”ë¡œ 한다. 그러나 ì´ë“¤ 발명품 ë•ë¶„ì— ìš°ë¦¬ëŠ” êµ¬ì „ì— ì˜í•œ 것보다 ë” ë§Žì€ ì¶•ì ëœ 지ì‹ì„ ë‹¤ìŒ ì„¸ëŒ€ë¡œ 전수할 수 있다. 현대 ë¬¸ëª…ì˜ ë°œë‹¬ì´ ê°€ëŠ¥í–ˆë˜ ê²ƒì€ ìŒì„± 언어가 ì•„ë‹ˆë¼ ì“°ê¸±ì™€ ì½ê¸° 그리고 학습 ë•ë¶„ì´ë‹¤.


ìƒëª…ì˜ ë…¼ë¦¬

ê°•í™”í•™ìŠµì˜ ê¸°ì €ë¥¼ ì´ë£¨ëŠ” 시간차 학습 ì•Œê³ ë¦¬ì¦˜ì´ ê³ ë„ë¡œ 복잡한 í–‰ë™ìœ¼ë¡œ ì´ì–´ì§ˆ 수 있고 대뇌 피질ì—ì„œ ì´ë¤„지는 딥러ë‹ì— ì˜í•´ ì¸ê°„ì˜ í–‰ë™ì€ 그보다 ë” ë³µìž¡í•´ì§ˆ 수 있다는 ê²ƒì„ í™•ì¸í•œ ë°” 있다. ìžì—°ì—는 ì¸ê³µì  ì‹œìŠ¤í…œì´ ë°°ìš¸ 수 있는 ì§€ëŠ¥ì  í–‰ë™ì˜ ì˜ì—­ì´ 존재한다. 컴퓨터공학과 ìƒë¬¼í•™ 사ì´ì— ê±¸ì³ ìžˆëŠ” 새로운 ê³¼í•™ì˜ ë¶„ì•¼ì¸ ì•Œê³ ë¦¬ì¦˜ ìƒë¬¼í•™ì—서는 ìƒë¬¼ì  체계ì—ì„œ 사용ë˜ëŠ” 문제 í•´ê²° ì „ëžµì„ ì„¤ëª…í•˜ëŠ” ë° ìžˆì–´ 알고리즘 ì–¸ì–´ì˜ ì‚¬ìš©ì„ ì¶”êµ¬í•œë‹¤. 그러한 ìƒë¬¼í•™ì  ì•Œê³ ë¦¬ì¦˜ì´ ê³µí•™ ë¶„ì•¼ì˜ ìƒˆë¡œìš´ ì—°ì‚° ì¸ì‹ 체계를 ìƒì„±í•˜ëŠ” ë° ì¼ì¡°í•˜ê³  ìƒë¬¼í•™ì  네트워í¬ì— 대한 시스템 ì°¨ì›ì˜ ì´í•´ë¥¼ 가능케 하기를 í¬ë§í•œë‹¤.



다양한 학습 방법

홉필드 ë§ê³¼ 볼츠만 머신

ë‚´ìš© 주소화 메모리 장치를 탑재한 네트워í¬

홉필드는 강력한 ìƒí˜¸ ìž‘ìš©ì„ í•˜ëŠ” 네트워í¬ì˜ 수렴성 문제를 해결했다. 특정 ìœ í˜•ì˜ ë¹„ì„ í˜• ë„¤íŠ¸ì›Œí¬ ëª¨ì—˜ì„ í†µí•´ â€˜ì–´íŠ¸ëž™í„°â€™ë¼ ë¶ˆë¦¬ëŠ” 안정ì ì¸ ìƒíƒœë¡œ 수렵ë˜ë„ë¡ ë³´ìž¥í•  수 있ìŒì„ ìž…ì¦í•´ë‚¸ 것ì´ë‹¤. ë” ë‚˜ì•„ê°€, 어트랙터가 메모리 장치가 ë˜ë„ë¡ ë„¤íŠ¸ì›Œí¬ì˜ ê°€ì¤‘ì¹˜ë„ ì„ íƒí•  수 있었다. ë”°ë¼ì„œ 홉필드 ë§ì€ ì´ë¥¸ë°” ‘내용 주소화 메모리 ìž¥ì¹˜â€™ì˜ êµ¬í˜„ì— ì´ìš©ë  수 있었다. ë©”ëª¨ë¦¬ì˜ ì¼ë¶€ë¥¼ ìžê·¹ìœ¼ë¡œ 제시하고 네트워í¬ë¡œ 하여금 ê·¸ê²ƒì„ ì™„ì„±í•˜ë„ë¡ í•¨ìœ¼ë¡œì¨ ì €ìž¥ëœ ë©”ëª¨ë¦¬ë¥¼ 불러내는 메모리 장치 ë§ì´ë‹¤. ì´ê²ƒì€ ì¸ê°„ì´ ê¸°ì–µì„ ìƒê¸°í•˜ëŠ” ë°©ë²•ì„ ì—°ìƒì‹œí‚¨ë‹¤. 우리는 아는 ì‚¬ëžŒì˜ ì–¼êµ´ì„ ë³´ë©´ ê·¸ ì‚¬ëžŒì˜ ì´ë¦„ì´ë‚˜ ê·¸ 사람과 나눈 대화를 ìƒê¸°í•  수 있지 ì•Šì€ê°€.


홉필드 ë§ì€ 물리학과 ì‹ ê²½ê³¼í•™ì„ ì—°ê²°í•´ 주는 다리 ì—­í• ì„ í–ˆê³ , 1980년대 ìˆ˜ë§Žì€ ë¬¼ë¦¬í•™ìžë“¤ì´ ê·¸ 다리를 건넜다. ê·¸ë“¤ì€ ì´ë¡ ë¬¼ë¦¬í•™ì˜ 수준 ë†’ì€ ë„êµ¬ë“¤ì„ ì‚¬ìš©í•´ 뉴럴 네트워í¬ì™€ 학습 ì•Œê³ ë¦¬ì¦˜ì„ ë¶„ì„í•¨ìœ¼ë¡œì¨ ë†€ë¼ìš´ ìˆ˜ì¤€ì˜ í†µì°°ë ¥ì„ í™•ë³´í•  수 있었다. 물리학과 컴퓨터 ì—°ì‚° 그리고 학습, ì´ ì„¸ 가지는 ì¸ê°„ì˜ ë‘뇌 ê¸°ëŠ¥ì„ ì„±ê³µì ìœ¼ë¡œ 조명해 온 신경과학 ì´ë¡  ì˜ì—­ì—ì„œ 심오한 ìƒí˜¸ ì—°ê²°ì„±ì„ ê°–ëŠ”ë‹¤.


볼츠만 머신

우리는 형ìƒ-ë°°ê²½ì— ëŒ€í•œ ì˜ì‚¬ ê²°ì • ê³¼ì •ì„ ëª¨ë°©í•´ 볼츠만 ë¨¸ì‹ ì˜ ë„¤íŠ¸ì›Œí¬ë¥¼ 설계했다. ì´ ë„¤íŠ¸ì›Œí¬ì—서는 활성화ë˜ëŠ” ì¼ë¶€ ìœ ë‹›ì´ í˜•ìƒì„, 그렇지 ì•Šì€ ë‚˜ë¨¸ì§€ê°€ 가장ìžë¦¬(즉 ë°°ê²½)를 나타낸다.


갱신 ìžì²´ê°€ 비ë™ê¸°ì ì´ê³  ë…립ì ì´ê¸° ë•Œë¬¸ì— ë„¤íŠ¸ì›Œí¬ëŠ” 수백 ê°œì˜ ìœ ë‹›ì´ ë™ì‹œì— 협력하는 ì»´í“¨í„°ì— ì˜í•´ ì‹¤í–‰ë  ìˆ˜ 있고 í•œ ê°œì˜ ë™ìž‘ì„ í•˜ë‚˜ì”© 순차ì ìœ¼ë¡œ 처리하는 디지털 컴퓨터보다 훨씬 빠른 해결책으로 ìˆ˜ë µë  ìˆ˜ 있다.


‘온ë„’를 항온으로 유지하면 볼츠만 ë¨¸ì‹ ì€ í‰í˜• ìƒíƒœì— ë„달한다. ê·¸ í‰í˜• ìƒíƒœì—ì„œ 모ë‘ê°€ ì˜ì›ížˆ 닫혀 ìžˆì„ ê²ƒì´ë¼ê³  ìƒê°í–ˆë˜ ë¬¸ì´ ì—´ë¦¬ëŠ” ë§ˆë²•ê³¼ë„ ê°™ì€ í˜„ìƒì´ ì¼ì–´ë‚œë‹¤. 다층 뉴럴 ë„¤íŠ¸ì›Œí¬ í•™ìŠµì´ ë°”ë¡œ 그것ì´ë‹¤. ì¸í’‹ê³¼ ì•„ì›ƒí’‹ì„ ìŒìœ¼ë¡œ 만들고 학습 ì•Œê³ ë¦¬ì¦˜ì„ ì ìš©í•¨ìœ¼ë¡œì¨ 볼츠만 네트워í¬ëŠ” 우리가 ë°”ë¼ë˜ ë§¤í•‘ì„ í•™ìŠµí•˜ê²Œ ë˜ì—ˆë‹¤. ë˜í•œ 볼츠만 ë¨¸ì‹ ì€ í•­ìƒ ë³€ë™í•˜ê¸° ë•Œë¬¸ì— ì£¼ì–´ì§„ ì¸í’‹ íŒ¨í„´ì— ëŒ€í•´ ê° ì•„ì›ƒí’‹ ìƒíƒœê°€ 얼마나 마주 방문ë˜ëŠ”지 ê·¸ 확률 분í¬ë¥¼ 학습했다. 그래서 ìƒì„±ë ¥ì„ 갖는 것ì´ë‹¤. 다시 ë§í•´ 볼츠만 ë¨¸ì‹ ì€ í•™ìŠµì„ í•œ ì´í›„ 아웃풋 범주 ê°ê°ì„ ê³ ì •ì‹œí‚´ìœ¼ë¡œì¨ ìƒˆë¡œìš´ ì¸í’‹ ìƒ˜í”Œì„ êµ¬ì„±í•  수 있었다.


컴볼루션 러ë‹

컨볼루션 뉴런 네트워í¬

2003ë…„ ì–€ ë¥´ì¾½ì€ ë‰´ìš•ëŒ€í•™êµë¡œ ìžë¦¬ë¥¼ 옮긴 후 ì§€ê¸ˆì€ â€˜ì»¨ë¸Œë„·â€™ìœ¼ë¡œ 알려져 있는 ìžì‹ ì˜ 비전 네트워í¬ë¥¼ 진화시키기 위한 연구를 ì´ì–´ê°”다. 뉴럴 네트워í¬ë¥¼ ì´ë£¨ëŠ” 근본ì ì€ 구성 요소는 ì»¨ë³¼ë£¨ì…˜ì— ê¸°ì´ˆí•œë‹¤. ì»¨ë³¼ë£¨ì…˜ì€ ì´ë¯¸ì§€ 위를 통과하는 ìž‘ì€ ìŠ¬ë¼ì´ë”© í•„í„°ë¡œ 간주할 수 있으며 ì´ë¯¸ì§€ ì „ë°˜ì— ê±¸ì³ íŠ¹ì§•ì„ í¬ì°©í•˜ëŠ” ì¸µì„ ìƒì„±í•œë‹¤.


ì»¨ë¸Œë„·ì˜ ì„±ëŠ¥ í–¥ìƒì€ ìˆ˜ë…„ì— ê±¸ì³ ì ì§„ì ìœ¼ë¡œ 진행ë˜ì—ˆë‹¤. 그리고 ì»¨ë¸Œë„·ì— ì¼ì–´ë‚œ 모든 변화ì—는 공학ìžê°€ ì´í•´í•  수 있는 ë°©ì‹ìœ¼ë¡œ 네트워í¬ì˜ ìˆ˜í–‰ë ¥ì„ í–¥ìƒì‹œí‚¨ ì—°ì‚°ì  í•©ë¦¬ì„±ì´ ê¹”ë ¤ 있었다. 그리고 ì´ëŸ° 변화들로 ì¸í•´ 1960년대 ì‹œê°í”¼ì§ˆì˜ êµ¬ì¡°ì— ëŒ€í•´ 알려진 ë°”ì— ì ì  ë” ê·¼ì ‘í•˜ê²Œ ë˜ì—ˆë‹¤.


ìž‘ì—… 기억 ë° í™œë™ì„± 지ì†

우리가 전화번호를 누른 것과 ê°™ì€ í•˜ë‚˜ì˜ ìž‘ì—…ì„ ìˆ˜í–‰í•˜ëŠ” 와중ì—ë„ ë¨¸ë¦¿ì†ì— 7 ±2ê°œ ì •ë„ì˜ ë‹¤ë¥¸ ë¬´ì—‡ì„ ë„£ì–´ë‘˜ 수 있는 ê²ƒì€ â€˜ìž‘ì—… 기억’ ë•ë¶„ì´ë‹¤. 전통ì ì¸ 피드í¬ì›Œë“œ 네트워í¬ëŠ” í•œ ë²ˆì— í•œ 층씩 ì¸í’‹ì„ 네트워í¬ë¡œ 전파한다. ì—¬ê¸°ì— ìž‘ì—… ê¸°ì–µì„ ì ìš©í•˜ë©´ ë‚˜ì¤‘ì— ì „íŒŒëœ ì¸í’‹ì´ ì´ì „ ì¸í’‹ì´ 남겨둔 í”ì ê³¼ ìƒí˜¸ 작용하는 ê²ƒì´ ê°€ëŠ¥í•´ì§„ë‹¤.


18장 NIPS

딥러ë‹ì€ ì—°ë¡€ NIPS 콘í¼ëŸ°ìŠ¤ì™€ 워í¬ìˆ 그리고 초기 개척ìžë“¤ê¹Œì§€ 거슬러 올ë¼ê°€ëŠ” 유구한 í˜ˆí†µì„ ë³´ìœ í•œë‹¤. 1980년대 공학ìž, 물리학ìž, 수학ìž, 심리학ìž, 그리고 ì‹ ê²½ê³¼í•™ìž ë“± 다양한 ë°°ê²½ì„ ë³´ìœ í•œ ì‚¬ëžŒë“¤ì´ NIPS 콘í¼ëŸ°ìŠ¤ì— 모여들어 ì¸ê³µì§€ëŠ¥ì— 대한 새로운 ì ‘ê·¼ë²•ì„ ì •ë¦½í–ˆë‹¤. 뉴럴 ë„¤íŠ¸ì›Œí¬ ëª¨ë¸ì„ 분ì„í•œ 물리학ìžì™€ ì¸ê°„ì˜ ì¸ì§€ 모ë¸ì„ 구축한 심리학ìž, ì‹ ê²½ 시스템과 ì‹ ê²½ 기ë¡ì„ 분ì„í•œ ì‹ ê²½ 과학ìž, ê³ ì°¨ì›ì  ê³µê°„ì˜ ëŒ€ê·œëª¨ ë°ì´íŠ¸ì„¸íŠ¸ë¥¼ íƒêµ¬í•œ í†µê³„í•™ìž ê·¸ë¦¬ê³  ì¸ê°„처럼 ë³´ê³  ë“¤ì„ ìˆ˜ 있는 기계 장비를 제작한 ê³µí•™ìž ë“± ê° ë¶„ì•¼ì˜ ì „ë¬¸ê°€ë“¤ì´ ì¼ê¶ˆë‚¸ 성과가 급ì†í•œ ì§„ì „ì˜ ì›ë™ë ¥ì´ ë˜ì—ˆë‹¤.


미래를 위한 준비

1950년대 í¼ì…‰íŠ¸ë¡  ê°œë°œì„ ì‹œìž‘ìœ¼ë¡œ 1980년대 다층 í¼ì…‰íŠ¸ë¡ ì„ 위한 학습 ì•Œê³ ë¦¬ì¦˜ì„ ê±°ì³ 2010년대 딥러ë‹ì— ì´ë¥´ê¸°ê¹Œì§€ 뉴럴 ë„¤íŠ¸ì›Œí¬ í•™ìŠµì—ì„œ 중대한 전환ì ì€ 매 30년마다 ë°œìƒí–ˆë‹¤. 그때마다 ë‹¨ê¸°ê°„ì— ë§Žì€ ì§„ë³´ê°€ ì´ë¤„ì¡Œì„ ë•Œ 나타나는 과열 현ìƒì´ ë”°ëžê³  ë’¤ì´ì–´ ëŠë¦¬ê³  ì ì§„ì ì¸ ë°œì „ì´ ìž¥ê¸°ê°„ ì´ì–´ì¡Œë‹¤. í•œ 가지 ì°¨ì´ì ì€ 과열 현ìƒì˜ 여파는 매번 ì¦ê°€í•˜ê³  있다는 ë° ìžˆë‹¤. ìµœê·¼ì˜ ê¸‰ì„±ìž¥ì€ ê·¸ë™ì•ˆ 활용 ê°€ëŠ¥ì„±ì´ ì ì°¨ 확대ë˜ì–´ 온 ë¹…ë°ì´í„°ì— 기ì¸í•œë‹¤. NIPS 스토리는 지금부터 ì „ê°œë  ì‹œëŒ€ì— ëŒ€í•œ 중요한 준비 과정ì´ì—ˆë‹¤.


* * *


본 ë„ì„œ 정보는 우수 ë„ì„œ í™ë³´ë¥¼ 위해 저작권ìžë¡œë¶€í„° ì •ì‹ì¸ê°€ë¥¼ 얻어 ë„ì„œì˜ ë‚´ìš© ì¼ë¶€ë¥¼ 발췌 요약한 것으로, ì €ìž‘ê¶Œë²•ì— ì˜í•˜ì—¬ 저작권ìžì˜ ì •ì‹ì¸ê°€ ì—†ì´ ë¬´ë‹¨ì „ìž¬, 무단복제 ë° ì „ì†¡ì„ í•  수 없으며, ì›ë³¸ ë„ì„œì˜ ëª¨ë“  출íŒê¶Œê³¼ ì „ì†¡ê¶Œì€ ì €ìž‘ê¶Œìžì—게 있ìŒì„ 알려드립니다.