시골 공방의 컨텐츠를 먼저 보여주는 AI가 필요해 : 유발 하라리 <넥서스>

 

지난 주말 좀 멀리 있는 식당에 핸드폰을 두고 오는 바람에 꼬박 하루를 핸드폰 없이 생활하는 경험을 했다.

 

평소 잠자리에 들면 누워서 쇼츠를 본다. 뒤척거리며 보다 보면 한 시간은 훌쩍 지난다. 핸드폰이 없으니 불 끄고 바로 잠들었다. 다음 날 아침에 알람도 없이, 평소 핸드폰 알람을 맞춘 시간보다 30분 정도 일찍 잠에서 깼다. 평소보다 개운한 느낌이 분명히 들었다. 책을 읽었다. 읽은 분량이 핸드폰이 옆에 있을 때와 비교해서 두 배 이상이었다. 독서의 집중력도 훨씬 좋았다. 산책을 했다. 평소에도 산책을 하지만, 보통은 귀에 이어폰을 꼽고 뭔가를 들으면서 산책을 한다. 핸드폰 없이 산책을 하니 하늘이며, 나무며, 꽃이며, 전봇대의 전선이며, 사람들의 모습 등이 훨씬 선명하게 보였다. 

 

겨우 하루 동안 핸드폰 없이 생활했는데, 평소와는 많이 달랐다. 아니 세상이 달라보였다. 이 정도라구? 나도 놀랐다.

 

 

 

 

2010년대 초 미얀마는 희망에 가득 찼다. 수십 년간의 군부 독재와 국제 제재가 끝나고 선거가 치러졌으며 국제 원조와 투자가 쏟아져 들어왔다. 페이스북은 수백만 명의 미얀마인들에게 과거에는 상상할 수도 없는 많은 정보를 제공했다. 군부 정권과 불교도들에게 차별을 받아왔던 무슬림 로힝야족도 상황이 개선될 거라 믿었다. 하지만 실제 상황은 더 악화되었다. 종교 간의 폭력은 더 심해졌으며 그 결과로 로힝야족은 거의 학살 수준의 인종 청소를 당했다. 결정적인 단초를 제공한 것은 페이스북이었다. 폭력과 증오, 차별을 부추기는 콘텐츠는 사람이 만들지만, 페이스북 알고리즘은 이 콘텐츠를 선제적으로 증폭하고 추진했다. 

 

철학자 닉 보스트롬은 AI를 가지고 한가지 사고 실험을 했다. 클립 공장에서 초지능 컴퓨터 한 대를 구입하고, 공장 관리자가 컴퓨터에게 클립을 최대한 많이 생산하라는 언뜻 간단해 보이는 업무를 지시했다. 그러자 컴퓨터는 이 목표를 달성하기 위해 지구를 정복하고, 모든 인간을 죽이고, 다른 행성들까지 모조리 점령하여 그 어마어마한 자원을 하용해 은하계 전체를 클립 공장을 가득 채웠다. 컴퓨터는 더 많은 공장을 지어 더 많은 클립을 생산하려면 전기, 철, 땅 등 자원이 많이 필요하지만 인간이 그 자원을 순순히 내어줄 리 없다는 걸 깨닫고, 그래서 주어진 목표를 달성하기 위해 인간을 제거했다. 

 

실리콘 밸리의 경영자들이 알고리즘에게 "사용자의 참여를 극대화하라." 라는 목표를 주면 알고리즘은 철저하게 그 목표만을 수행한다. 알고리즘은 영상의 조회수를 분석하니 폭력적이며 차별적이고 잔인한 영상이 조회수가 높다는 걸 발견했다. 그런 영상을 맨 위에 올렸다. 실제로 유튜브 이용자들은 2012년 매일 1억 시간 분량의 동영상을 시청했다. 유튜브 경영진은 2016년까지 10배인 매일 10억 시간을 달성하라고 알고리즘에게 명령했고, 분노를 유발하는 콘텐츠를 우선적으로 추천했다. 2016년 유튜브 이용자들은 정말로 10억 시간 분량의 동영상을 시청했다. 

 

 

유튜브 알고리즘은 수백만 명을 대상으로 시행착오를 거듭한 끝에 페이북 알고리즘이 학습한 것과 동일한 패턴을 발견했다. 즉 분노를 유발하는 내용은 참여도를 높이지만 온건한 내용은 그렇지 않은 경향이 있었다. 이에 따라 유튜브 알고리즘은 수백만 명의 이용자들에게 터무니없는 음모론을 추천하는 동시에 온건한 콘텐츠는 무시하기 시작했다. (372쪽)

 

 

나는 블로그를 2개 운영하고 있다. 하나가 여기 책블로그고 다른 하나는 네이버의 개락당 블로그다. 둘 다 하루 조회수가 30~50회 정도다. 이 블로그는 거의 10년째 조회수가 변하지 않고 있다. 그래도 괜찮다. 남에게 보여주려고 만든 블로그가 아니니. 하지만 개락당 블로그는 다르다. 목적이 회사의 홍보다. 조회수가 많이 나왔으면 좋겠다. 그래서 전문가들에게 조언도 듣고, 유튜브의 조회수 올리는 방법, 혹은 알고리즘의 작동 방법 등을 보기도 했다. 나는 글에 진정성이 있고 좋은 정보가 담기면 조회수가 올라가리라 기대하지만, 네이버 알고리즘은 그렇게 생각하지 않는가 보다.

 

그래도 네이버의 알고리즘은 이해 가능하다. 고수들은 글이 상위에 올라오는 비법을 가르쳐주기도 한다. 하지만 다른 AI들은 어떤가. 그들은 이제 점점 우리 생활 깊숙히 다가오고 있다. 가까이는 내가 만든 글이나 동영상을 평가해서 상위에 노출시킬 것인가를 판단하고, 더 나아가서는 내 신용등급을 판정하여 돈을 빌려줘도 될지를 결정한다. 바둑 AI는 신진서에게 이길 수 있는 수를 가르쳐준다. 문제는 그런 결정이 우리의 이해 범위를 넘어선다는 것이다. 우리가 알려고 해도 가르쳐 주지 않는다. 그래서 이 책에서도 인간이 AI에게서 설명을 들을 권리를 주장한다. 그들이 판단을 했으면 우리에게 당연히 알려줘야 한다. 

 

문제는 또 있다. AI가 다루는 수많은 양의 정보들 가운데는 진실이 아닌 것도 있다. 단순히 도파민 분비를 위해 인간이 만든 자극적인 정보나 폭력을 유발하는 거짓 정보 등도 충분히 많다. 또한 유명인, 인플루언스, 선진국, 백인 등이 만든 콘텐츠를 알고리즘은 중요하게 다룬다. 그것이 진실이든 아니든 그게 중요하지 않다. 정보가 편향될 가능성이 매우 높고, 이런 자극성 정보를 알고리즘은 추천한다. 

 

게다가 요즘은 이게 돈이 된다. 네이버 맛집은 대부분 잘 안맞다. 그것을 거짓이라고까지 말하기는 어려우나 대부분 보상을 받고 댓글을 달기에 진실을 가려내기 어렵다. 이 정도는 그래도 봐줄만한데, 유튜브의 자극적이고 편을 가르는 가짜 뉴스는 정말 나쁘다. 알고리즘은 이런 걸 우선 추천하고, 사용자에게 많이 노출되니 만든 사람은 돈을 번다. 그리고 더 많이 만들게 되고 더 많이 유통하고. 이런 악순환이 점차 반복되어, 허약한 지성을 가진 이들은 쉽게 무너지고 거짓을 진실로 알게 된다. 그리하여 우리는 완전히 편을 나누는 사회가 되어버렸다. 

 

 

며칠 전에 울나라에 와서 강연한 유발 하라리. 사진 출처 : https://www.nocutnews.co.kr/news/6311354

 

 

우리는 지구상에서 가장 영리한 동물인 동시에 가장 어리석은 동물이다. 우리는 핵미사일과 초지능 알고리즘을 만들어낼 수 있을 정도로 영리하다. 하지만 통제할 수 있는지 확실하지 않고 통제하지 못하면 우리를 파괴할 수 있는 것들은 덮어놓고 생산할 정도로 어리석다. 우리는 왜 이렇게 할까? 인간 본성의 어떤 부분이 우리를 자기 파과의 길로 내모는 걸까? 

 

이 책에서 나는 그것은 인간 본성 탓이 아니라 정보 네트워크 탓이라고 주장했다. 진실보다 질서를 우선시한 탓에 인간의 정보 네트워크들은 엄청난 힘을 만들어냈지만 지혜는 거의 만들어내지 못했다.

 

안타깝게도, 인류가 오랫동안 잘 살아가려면 자정 장치가 중요함에도 불구하고 정치인들은 자정 장치를 약화하려는 유혹에 쉽게 빠진다. 자정 장치가 무너지면 21세기 스탈린의 손에 막강한 힘을 쥐여줄 수 있다. 이 지능을 잘못 다룰 경우 그것은 지구에서의 인간 지배만 끝내는 게 아니라 위식의 빛 자체를 꺼뜨려 우주를 완전한 암흑으로 만들지도 모른다. 

 

하지만 다행히도 우리가 현실에 안주하거나 낙담하지 않는다면, 스스로의 힘을 견제하는 균형 잡힌 정보 네트워크를 만들어낼 수 있다. 이는 또 다른 기적의 기술을 발명하거나 이전 세대는 생각하지 못한 기발한 아이디어를 떠올려야 한다는 말이 아니다. 오히려 우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다. 이것이 이 책의 가장 중요한 메시지가 아닐까 싶다. (558쪽~560쪽)

 

 

유발 하라리는 이렇게 힘주어 말했지만, 가능할까? 유튜브나 페이스북, 오픈에이아이나 구글이 "그래 이제부터는 오직 진실이 담긴 정보를 우선 노출하는 거야. 거짓 뉴스는 맨 밑으로 보내. 자극적이거나 폭력적인 정보도 노출 시키지마. 그리고 시골의 작은 공방 주인이 만든 콘텐츠나 간디 학교의 학생들이 만든 콘텐츠, 혹은 사회적 기업이 만들었거나, 지역 사회를 조금 더 아름답게 바꿀 수 있는 콘텐츠를 우선해서 보여주는 알고리즘을 구축해. 지구의 환경에 대한 콘텐츠는 특히 중요하니 자주 노출시켜. 사람들이 어울리고 잘 사는 모습이 담긴 콘텐츠가 중요해. 그렇게 알고리즘을 개편하자." 라고 말할까.

 

저자가 위해서 말한 것처럼 인류는 수천 년에 걸쳐 진실보다 질서를 선택했다. 여태 쭉 그랬는데, 지금에 와서 갑자기 호모사피엔스가 진실을 선택할 리는 만무하다. 오히려 권력의 수단으로 정보를 활용할 가능성이 이전보다 훨씬 높다. 

 

옮긴이의 말에 하라리는 이런 강력한 책을 썼지만 정작 그는 스마트폰을 사용하지 않고 하루 두 시간씩 명상을 하며 매년 한 달 이상 수행하며 침묵을 지키는 수도승과 같은 삶을 산다고 했다. 음. 그렇단 말이지. 

 

그래, 맞다. 유발 하라리의 저 묵시록적 경고에도 여전히 알고리즘과 AI는 지금처럼 멋대로 발전할 가능성이 매우 높다. 인류는 결코 지혜롭지 못하다. 만약 호모 사피엔스가 현명했더라면 지금의 세상이 이런 모습은 결코 아니었을 것이다. 그렇다면 나는 스마트폰과 떨어질랜다. 겨우 하루였지만 휴대폰 없는 세상이 달라보이는 경험을 했으니.

 

그런데 이미 알고리즘의 계략에 빠져버린 나는 내 의지로는 휴대폰을 멀리할 수 없으니 이 참에 휴스마트폰 감옥이나 하나 구입해야 되겠다.