이제 나보다 나를 더 잘아는 알고리즘에게 물어라 : 유발 하라리 <호모 데우스>

 

 

 

이제 나보다 나를 더 잘아는 알고리즘에게 물어라 : 유발 하라리 <호모 데우스>

 

 

 

많은 사람들이 의사결정 과정의 대부분을 이런 시스템의 손에 기꺼이 넘길 것이다. 그러지 않더라도, 적어도 중요한 선택에 직면할 때마다 이런 시스템에 자문을 구할 것이다. 구글은 어떤 영화를 보고, 어디서 휴가를 보내고, 대학에서 무엇을 전공하고, 어떤 일자지를 수락할 것인지뿐 아니라, 심지어 누구와 만나고 결혼할 것인지도 조언할 것이다. 이를테면 내가 구글에게 이렇게 말한다.

 

 

 

"잘 들어봐, 구글. 칠수와 만수 둘 다 나에게 작업을 걸고 있어. 둘 다 좋은데 좋은 면이 달라. 그래서 마음을 정하기가 너무 힘들어. 네가 아는 사실들을 모두 고려해 나에게 조언 좀 해줄래?"

 

 

 

그러면 구글은 이렇게 대답할 것이다.

 

 

 

"나는 네가 태어난 날부터 너를 알고 있었어. 네 이메일을 모두 읽었고, 네 통화를 모두 기록했고, 네가 좋아하는 영화들, 네 유전자 정보, 네 심장 기록도 모두 갖고 있어. 네가 데이트한 정확한 날짜도 보관하고 있으니, 칠수나 만수를 만날 때마다 네 심장박동, 혈압, 혈당수치를 초 단위로 기록한 그래프를 원한다면 보여줄 수 있어. 필요하다면 네가 그들과 가진 모든 성관계의 정확한 순위도 제공할 수 있어. 그리고 당연히 나는 너를 아는 것만큼 그들도 잘 알아. 이 모든 정보, 내 뛰어난 알고리즘, 수많은 관계에 대한 수십 년에 걸친 통계자료를 토대로, 나는 네에게 칠수를 선택하라고 권해. 장기적으로 그와 함께 할 때 더 만족스러울 확률이 87퍼센트야."

 

 

 

"나는 너를 잘 아는데, 너는 이 답변이 마음에 들지 않을 거야. 칠수보다 만수가 훨씬 더 잘생겼지. 너는 외모를 중시하니까, 내가 '만수'라고 말해주기를 내심 바랐을 거야. 물론 외모는 중요하지. 하지만 네가 생각하는 것만큼은 아니야. 수만 년 전 아프리카 사바나에서 진화한 네 생화학적 알고리즘은 배우자감을 전반적으로 평가할 때 외모에 두는 비중이 35퍼센트야. 하지만 최신 연구와 통계를 바탕으로 하는 내 알고리즘은 외모가 사랑하는 관계에 장기적으로 미치는 영향은 14퍼센트에 불과하다고 말해. 그러니 만수의 외모를 고려한다 해도 네가 칠수와 함께 하는 게 더 낫다고 생각해."

 

 

 

이런 충실한 상담 서비스를 받는 대가로 우리가 포기해야 하는 것은, 인간은 분할할 수 없는 존재이며 각 개인은 무엇이 선이고 무엇이 아름다움이고 무엇이 인생의 의미인지 결정할 자유의지를 갖고 있다는 개념뿐이다. 인간은 더 이상 이야기하는 자아가 꾸며내는 이야기들의 지시를 받는 자율적 실체들이 아니라, 거대한 전지구적 네트워크의 필수불가결한 일부가 될 것이다. (p.461~463)

 

 

 

내가 내리는 인생의 가장 핵심적인 결정에서도 나는 구글의 데이터를 따른다는 위의 문장은 소름이 끼치도록 무섭다. 하지만 반박할 수가 없다. 벌써 내 경험이나 직관보다 네비게이션 언니의 말을 더 믿으며, 왓챠가 추천해주는 영화를 보고, 카카오가 보여주는 맛집에 가지 않는가. 저 이야기가 먼 미래가 아닐 수 있다. 이 책은 일종의 묵시록이다. 

 

 

 

내가 어디가서 뭘 먹고 머 하는지 다 알고 있는 구글.,무서븐 넘. 하~~ 이 넘을 안 쓰고 살아갈 수는 없는걸까?

사진 출처 : http://view.asiae.co.kr/news/view.htm?idxno=2018090510035956507

 

 

 

과거 인류에게 가장 괴로운 건 기아, 질병, 전쟁이었다. 대부분 이 세가지 때문에 죽었다. 이집트의 파라오도 중국 대륙을 통일한 황제들도 수천 년 동안 시도했으나 극복하지 못한 이 난제들을 현대 인류는 아주 짧은 시간에 해결했다. 그 해묵은 숙제를 끝낸 인류의 다음 과제는 무엇일까? 하라리는 불멸, 행복, 신성이라고 제시했다. 노화와 죽음 그 자체를 극복하고 사람들을 더 행복하게 만들어 신성 즉 호모 데우스가 되려고 한다. 인류는 지금까지 살아온 호모 사피엔스를 업그레이드하여 다른 종으로 진화하고 있다고 저자는 말한다.

 

 

 

인간의 자유의지가 없다는 사실을 과학이 밝혀냈다. (영혼도 없다고 과학은 말한다. 아직 발견하지 못한 것 아니냐고 따졌으나 웃기지 말랜다.) 진화론에 따르면 모든 동물의 선택은 유전자가 결정한다. 내가 유전자의 명령에 따르지 않고 나의 자유의지로 선택한다면 나라는 개체는 곧 멸종할 것이다. 이건 도킨스 할배가 <이기적 유전자>에서 누누히 설명했다. 하지만 나는 자유의지를 분명히 느끼고 있고 내 소망과 결정에 따라 행동하는데 이게 말이 되냐? 그건 뇌에서 일어나는 생화학적 반응으로 니가 그렇게 느끼는 것 뿐이라는 설명이다.

 

 

 

인간에게는 '경험하는 자아'와 '이야기하는 자아'가 있다. 예를 들자면, 출산은 인간이 경험하는 가장 큰 아픈 기억이다. 경험하는 자아가 겪는 고통이다. 하지만 출산 후의 아이를 안고 기뻤던 짧은 순간의 기억을 떠올리며, 이야기하는 자아는 아이는 낳을 만 하다라고 우리에게 속삭인다. 경험하는 자아가 아무리 그건 아니라고 고함을 쳐도 소용없다. 자유의지가 있다고 느껴지는 건 내 안의 이야기하는 자아가 그렇게 판단하기 때문이다.

 

 

 

실제는 내가 선택하는 모든 것은 이미 정해져 있다. 어제는 짬뽕을 먹었고 오늘은 짜장면을 먹는 나의 선택도 이미 유전자가 다 그렇게 정해 놓았다. 나는 알 수 없지만 그렇게 결정하도록 정해져 있다는 말이다. 그럼 내가 이렇게 글을 쓰는 것도 나의 의지가 아니라 글을 쓰기로 결정한 유전자의 영향이라는 말인가. 섬뜩하다.

 

 

 

이영신 <전자인간>

사진 출처 : http://www.kyeongin.com/main/view.php?key=20180730010010155

 

 

 

고대 바빌론의 사람들은 어려운 문제에 부닥치면 캄캄한 밤에 신전 꼭대기로 올라가 별을 관측했다. 그들은 별들이 우리의 운명을 결정하고 우리의 미래를 예언한다고 믿었다. 결혼을 할지 말지, 밭을 갈지 말지, 전쟁을 할지 말지, 혹은 사냥을 나갈 때도 별을 보고 결정했다. 중세 사람들은 더 이상 별을 보지 않았다. 별이 하는 이야기 따위는 다 거짓말이고 지어낸 이야기라고 했다. 대신 성경의 말을 따랐다. 그들은 선택의 기로에 있을 때 성경 속 구절에서 해답을 찾으려 했으며 거기에 적힌 조언을 따랐다.

 

 

 

그 다음에 도착한 인본주의자들은 완전히 새로운 이야기를 했다. "여태 믿었던 성경이라는 것도 인간이 만든 것이다. 신은 없다. 만일 당신이 어떤 딜레마에 직면한다면, 자기 자신에게 귀 기울이고 내면의 목소리를 들으면 된다." 수백 년 동안 사람들은 그렇게 했다. 해가 지는 석양을 보며 이 결혼을 할지 말지 마음 깊숙히 있는 자신에게 물었다. 내 판단의 기준은 나이며 선택의 기로에서 믿을 건 나의 감정과 경험이다. 나에 대해 가장 잘 아는 것은 바로 나다. 이건 여전히 유효하며 지금의 학생들에게도 그렇게 가르친다. 스스로 생각하고 판단하라고. 현대 교육의 핵심이다.

 

 

 

머지 않아 나보다 더 나를 잘 아는 알고리즘이 나타날 것이다. 인공지능 같은 알고리즘은 벌써 인간 최고수 이세돌을 물리치고 바둑의 신이 되었다. 근데 이 알고리즘은 나에게 이렇게 속삭일 것이다. "자유의지? 그딴거 없어. 니 마음 속의 자아? 내면의 소리? 그런 게 있기나 해? 니한테 무슨 도움이 됐지? 다 거짓말이야. 이제 나한테 물어봐. 내가 다 알켜줄께. 내가 시키는 대로만 하면 돼!"

 

 

 

그럼 나는 뭘하지?

 

 

  

야리냐? 짜샤?

사진 출처 : http://www.ndimensionz.com/kb/is-it-ethical-to-use-ai-everywhere-will-the-future-contain-robotics/

 

 

 

머지않아 컴퓨터는 자동차를 운전하고 질병을 진단하는 것은 물론, 인간의 감정을 이해하는 일까지도 인간보다 더 잘 해낼 것이다. 컴퓨터가 직업시장에서 인간을 밀어내고 거대한 규모의 '쓸모없는 계급'을 만들어낼 때 복지국가에는 무슨 일이 일어날까? 구글과 페이스북이 우리가 좋아하는 것과 우리의 정치적 선호를 우리 자신보다 더 잘 알게 된다면 민주주의에 어떤 일이 일어날까?

 

 

 

인류는 지금 전례 없는 기술의 힘에 접근하고 있지만 그것으로 무엇을 해야 하는지 잘 모른다. 다가올 몇십 년 동안 우리는 유전공학, 인공지능, 나노기술을 이용해 천국 또는 지옥을 건설할 수 있을 것이다. 현명한 선택이 가져올 혜택은 어마어마한 반면 현명하지 못한 결정의 대가는 인류 전체를 소멸에 이르게 할 것이다. 현명한 선택을 하느냐 마느냐는 우리에게 달려 있다. (서문 '다시, 한국의 독자들에게' 중에서)

 

 

 

카카오에서 출시한 카풀 앱으로 택시 아저씨들이 파업을 하고 난리가 났다. 공유 경제는 시대의 흐름이라는 주장과 택시 업계 생존권 위협이라는 주장이 대립했다. 하도 택시들이 난리를 치니 일단 시기를 늦췄다. 근데 진짜 문제는 카풀 앱 따위가 아니다. 지금 개발 중인 자율주행차가 나오면 택시 아저찌들은 모두 보따리 싸서 집에 가야 한다. 빨리 가고 안전한 인공지능 택시가 있는데 누가 굳이 사람이 모는 택시를 타려고 할까.

 

 

 

나와는 상관 없는, 내 시대에는 오지 않으리라 생각했던 여러가지 일들이 어쩌면 내 생각보다 훨씬 빨리 실현될지도 모르겠다. 테레비에서 보던 키트(전격제트작전에 나온 그넘)가 내 차를 운전하고, 지금은 겨우 전화 정도만 걸어주는 시리가 결혼할 상대를 골라주고, 아내가 상대를 해주지 않아 외로울 때 나를 위로해주는 미녀 로봇이 만들어지고..... 내 생애에는 가능할까? 35년 남았는데. (참고로 미래학자 레이 커즈와일은 2045년에 특이점이 온다고 했다.)

 

 

 

그리고 그 인공지능에 사람들은 일자리를 내주고 너도 나도 백수가 된다. 지능이 매우 높은 알고리즘이 인간이 하는 거의 모든 일을 하고 인간들은 할 일이 없어진다. 그렇게 쓸모없게 된 거대한 무리의 '잉여인간'은 드디어 자각을 하게 되고 그들은 백수의 혁명을 일으킨다. 이 혁명의 끝은 여태 과거의 그 모든 혁명들이 실패했던 '인간다운 삶'을 가져다 줄까? 

 

 

 

두렵지만 궁금하다. 미래는 어떤 모습일까?

 

 

 

 

 

 

내일을 예측하는 건 고사하고 겨우 오늘을 살아가기도 벅찬데, 하라리는 인류의 미래를 이야기한다. 영화에서나 보는 AI는 저 멀리 있어 나와는 전혀 상관없는 일인줄 알았는데.... <호모 데우스>는 많은 공부거리와 생각거리를 던져준다. 인간의 자유의지는 과연 없는 건지, 경험하는 자아와 이야기하는 자아는 어떻게 다른지, 대량생산 대량소비의 시장경제는 언제까지 유지될지, '백수의 혁명'은 어디로 흘러갈지.... 비록 오늘만 살고 있지만 그래도 내가 죽을 때 쯤의 세상은 이럴 거라고 상상하는 것은 의미있는 일이며 재미있다.

 

 

 

갑자기 읽고 싶은 책들이 많아졌다.

 

 

 

 

곱씹을 만한 구절

 

 

 

# 1.

 

개인주의에 대한 자유주의의 믿음은 이 책의 앞부분에서 살펴본 세 가지 중요한 가정에서 바탕을 두고 있다.

 

1. 나는 분리할 수 없는 존재이다. 즉 나는 부분이나 하부 시스템들로 분리할 수 없는 단일한 본질을 지니고 있다. 이러한 내적 중심은 여러 겹의 껍데기로 둘러싸여 있다. 하지만 내가 그런 껍데기들을 벗겨내고자 한다면, 내 안의 깊숙한 곳에서 단 하나의 분명한 내적 목소리를 발견할 것이다. 바로 그것이 진정한 나이다.

 

2. 진정한 나는 완전히 자유롭다.

 

3. 앞의 두 전제로부터, 다른 누구보다 내가 나 자신에 대해 잘 안다는 결론을 이끌어낼 수 있다. 왜냐하면 내 내면에 있는 자유의지에 접근할 수 있는 사람은 나뿐이고, 진정한 자아의 목소리를 들을 수 있는 사람도 나뿐이기 때문이다. 자유주의가 개인에게 그토록 많은 권한을 부여한 이유가 여기에 있다. 내가 누구이고 어떻게 느끼고 무엇을 원하는지 나 외에는 그 누구도 알 수 없으므로, 나는 나에 대한 선택을 다른 누구에게도 맡길 수 없다. 유권자가 가장 잘 아는 이유, 고객이 항상 옳은 이유 그리고 아름다움이 보는 사람에게 달려 있는 이유가 여기에 있다.

 

하지만 생명과학은 이 가정 세 가지 모두에 도전한다. 생명과학은 이렇게 주장한다.

 

1.유기체는 알고리즘이고, 인간은 분리할 수 없는 존재가 아니다. 즉 인간은 여러 알고리즘들의 집합으로, 단일한 내적 목소리 또는 단일한 나는 없다.

 

2. 인간을 구성하는 알고리즘들은 자유롭지 않다. 이 알고리즘들은 유전자와 환경의 영향을 받고, 자유의지가 아니라 결정론적으로 또는 무작위적으로 결정을 내린다.

 

3. 앞의 두 전제로부터, 이론상으로 외부의 어떤 알고리즘이 나보다 나 자신에 대해 훨씬 더 잘 안다는 결론을 이끌어낼 수 있다. 내 몸과 뇌를 구성하는 시스템 각각을 관리 감독하는 알고리즘은 내가 누구이고 어떻게 느끼고 무엇을 원하는지 정확하게 알 수 있다 그런 알고리즘이 개발되면 유전자, 고객, 보는 사람의 눈을 대체할 수 있을 것이다. 그때는 알고리즘이 가장 잘 알고, 알고리즘이 항상 옳고, 알고리즘의 계산에 아름다움이 달려 있게 될 것이다. (p.449~450)

 

 

 

# 2.

 

21세기 경제의 가장 중요한 질문은 아마도 '그 모든 잉여 인간은 무엇을 해야 하는가'일 것이다. 거의 모든 것을 더 잘할 수 있는 높은 지능의 비의식적 알고리즘이 생긴다면, 의식을 가진 인간은 무엇을 할 것인가? (p.435)

 

 

 

# 3.

 

우리는 진보와 성장의 속도를 늦추어 그 위험을 줄일 수 있다. 올해 투자자들이 투자 포트폴리오에 대해 6퍼센트의 수익을 기대한다면, 10년 뒤에는 3퍼센트 수익에 만족하고, 20년 뒤에는 1퍼센트 수익에 만족하는 것이다. 그러면 30년 뒤 경제는 성장을 멈추고, 우리는 가진 것으로 행복하게 살 수 있다.

 

하지만 성장 신조는 이러한 이단적 사고에 단호히 반대한다. 오히려 더 빨리 뛰어야 한다고 우리에게 말한다. 과학의 발전이 생태계 안정을 깨뜨리고 인류를 위협한다면 자구책을 찾아야 한다. 오존층이 줄어 피부암의 위험이 높아진다면 더 나은 자외선 차단제와 더 나은 암치료제를 발명해야 하고, 그럼으로써 새로운 자외선 차단제 공장과 암센터의 성장을 도모해야 한다. (P.296)

 

 

 

# 4.

 

오늘날 과학적 정설에 따르면, 내가 경험하는 모든 것은 내 뇌에서 일어나는 전기활동의 결과이고, 따라서 '실제'세계와 구별이 불가능한 완전한 가상세계를 위조하는 일은 이론상으로 가능하다. 어떤 뇌 과학자들은 가까운 미래에 우리가 실제로 그렇게 할 거라고 믿는다.

 

그런데 만에 하나 당신에게 이미 그런 일이 일어났다면? 당신이 아는 것과 달리 지금은 2216년이고, 당신은 21세기 초의 신나는 원시세계를 흉내 내는 '가상세계' 게임에 푹 빠진 심심한 10대일지도 모른다. 이 시나리오가 실현 가능하다고까지만 인정해도 수학적으로 매우 섬뜩한 결론에 다다르게 된다. 즉 실제세계는 하나뿐인 반면 가상세계의 수는 무한하므로, 당신이 하나밖에 없는 실제세계에 있을 확률은 0에 가깝다. (p.171)

 

 

 

# 5.

 

과학자들은 호모 사피엔스들을 수만 가지 기상천외한 실험에 참여시켜 그들의 심장과 뇌를 구석구석 빠짐없이 살폈지만 그 어떤 마법의 광휘도 발견하지 못했다. 사피엔스가 돼지와 달리 영혼을 지니고 있다는 과학적 증거는 전혀 없다.

 

단지 증거가 없을 뿐이라면, 과학자들에게 계속 조사하라고 말하면 된다. 아직 인간의 영혼을 발견하지 못한 것은 그들이 충분히 꼼꼼하게 조사하지 않았기 때문이므로. 하지만 생명과학이 영혼의 존재를 의심하는 것은 단지 증거가 없어서가 아니라, 영혼이라는 개념 자체가 진화의 기본원리에 모순되기 때문이다. (p.147)

 

 

 

# 6.

 

행복에 대한 불교적 시작은 생화학적 시각과 공통점이 많다. 쾌락은 생겨나자마자 사라지고, 쾌감을 갈구할 뿐 실제로 경험하지 못하는 한 불만 상태가 계속된다는 데 양측은 동의한다. 하지만 문제에 대한 해법은 양측이 꽤 다르다. 생화학적 해법은 한순간도 쾌감이 멈추지 않도록 끊임없이 쾌감을 제공하는 제품과 치료법을 개발하는 것이다. 부처의 가르침은 쾌감에 대한 갈구 자체를 줄여 쾌감이 우리를 통제하지 못하게 하라는 것이다. 부처의 말씀에 따르면, 우리는 마음수련을 통해 감각들이 끊임없이 일어났다 사라지는 것을 주의 깊게 관찰할 수 있다. 마음속에서 일어나는 감각이 덧없고 무의미한 동요에 불과하다는 것을 알아차릴 때 우리는 그런 감각에 더 이상 끌려다니지 않게 된다. 생기자마자 사라지는 것을 뭐하러 뒤쫓는가?

 

현재 인류는 생화학적 해법에 훨씬 더 관심이 많다. 히말라야 동굴의 수도자들이나 상아탑의 철학자들이 뭐라고 하든, 자본주의라는 거대조직에게 행복은 곧 쾌락이다. 다른 말은 군더더기일 뿐이다. 해가 갈수록 불쾌감에 대한 우리의 인내심은 줄고 쾌락에 대한 갈구는 커진다. 과학 연구와 경제활동도 그 목표에 맞워져, 매년 더 나은 진통제, 새로운 맛의 아이스크림, 더 편안한 매트리스 그리고 우리가 버스를 기다리는 동안 한순간도 지루하지 않도록 더 중독성있는 스마트폰 게임을 생산한다. (p.67)