도서요약

도서정보

■ 책 소개

혼란과 불확실성이 가득한 AI 시대에
인류의 성공적인 진화를 모색하는 지식의 예언서

현생 인류인 호모사피엔스는 언어라는 강력한 도구를 매개로 개인뿐만 아니라 사회 전체의 학습 능력을 무한히 키워가며 다른 종(種)들을 제압하고 지구의 지배자로 군림해왔다. 이제 그 역할을 AI에게 넘겨주느냐 마느냐하는 기로에 놓이게 되었다. AI의 무기는 언어와는 차원이 다른 학습 방식인 코-러닝(co-learning)이다. 어떤 기계가 지식을 하나 습득하면 이 지식은 세상의 모든 기계들이 공유한다. 시간과 공간, 그리고 매개체가 필요한 인간의 학습 능력과는 비교가 안 될 정도로 막강하다.

2062년은 저자가 전 세계에서 활동 중인 AI 전문가 300여 명을 비롯해 각계 사람들의 의견을 모아 기계가 인간 수준의 지능을 구현하는 시점으로 잡은 해이다. 그는 이런 예측을 바탕으로 앞으로 40여 년 동안 인간적 가치는 물론 노동, 전쟁, 정치 등 인간 사회의 변화상을 전망하며 ‘똘똘한 기계’의 등장으로 인류가 새로운 진화의 국면을 맞아 어떻게 변신해나갈지를 이 책에서 고찰하고 있다.

■ 저자 토비 월시
저자 토비 월시는 세계 최고의 AI 전문가이다. 호주 언론에서는 디지털 혁명을 이끄는 ‘록스타’로 선정하기도 했다. 호주 과학아카데미와 호주 AI학회 회원이며, AI연구 업적을 인정받아 세계적인 권위의 훔볼트상을 수상했다.

현재 호주 뉴사우스웨일스 대학 교수이며, 호주의 AI 연구 기업인 <데이터61>과 협업해 연구 활동을 하면서 호주, 영국, 프랑스, 독일, 아일랜드, 이탈리아, 스코틀랜드, 스웨덴 등 세계 곳곳에서 AI 연구 프로젝트도 수행하고 있다. 또한 유엔을 비롯한 여러 국제기구에서 자율 살상 무기 금지의 필요성을 알리는 운동을 펼치고 있다.

국내 소개된 책으로는 『생각하는 기계 - AI의 미래』『기계는 어떻게 생각하고 학습하는가』(공저) 등이 있다.

■ 역자 정병선
역자 정병선은 연세대학교 신문방송학과를 나와 번역가로 활동하고 있다. 번역한 책으로는 『타고난 반항아』『수소 폭탄 만들기』『마거릿 미드와 루스 베네딕트』 등이 있다.

■ 차례
001. 호모 디지털리스
002. 인류의 종말
003. 의식의 종말
004. 일의 종말
005. 전쟁의 종말
006. 인간적 가치의 종말
007. 평등의 종말
008. 프라이버시의 종말
009. 정치의 종말
010. 서구의 종말
011. 이 모든 것의 끝에서

감사의 말
후주

도서요약

2062

호모 디지털리스
우리의 후계자

하나의 종은 현재의 정체성이 무엇이며 활동하는 곳이 어디냐에 따라 정의된다. 호모 디지털리스는 정체성과 활동 무대가 점차 디지털로 변해가고 있다. 호모 디지털리스의 시대는 우리 인류가 디지털 버전으로 바뀌면서 시작된다. 컴퓨터는 점점 똑똑해지고, 우리는 사고영역의 많은 부분을 똑똑해진 컴퓨터에게 넘겨 아웃소싱하면서 살아가게 될 것이다. 디지털 속성들은 복잡하고 혼란스러우며 한계를 드러내는 우리 인간의 뇌에 전혀 영향을 받지 않는다. 우리가 디지털 버전으로 달라지면 휴식과 수면을 취해야 하고 결국 늙어 사멸하고 마는 육신의 한계를 벗어나게 된다. 일정한 시간에 일정한 장소에서 일정한 행동밖에 할 수 없는 시·공간의 제약에서도 벗어나게 될 것이다. 우리는 세상 어디에서든 동시에 움직이는 신출귀몰한 존재로 변모하기 때문이다.

호모 디지털리스는 우리의 뇌를 디지털로 증강시켜 호모 사피엔스보다 훨씬 더 똑똑해진다. 우리의 사고와 AI 클라우드의 사고를 구분하기란 점점 어려워진다. 호모 디지털리스는 신체의 한계를 초월할 수 있다. 생물적 존재이면서 동시에 디지털적 실체를 지니는 까닭이다. 우리는 우리의 사고 체계뿐만 아니라 더 커다란 디지털 공간에서 동시에 살게 될 것이다.

호모 디지털리스는 느리고 뒤죽박죽이며 위태롭기까지 한 아날로그 세상에 더 이상 몸을 걸칠 필요가 없다. 디지털 세계가 점점 우리의 활동 공간으로 들어오기 때문이다. 아날로그 세상에는 도처에 위험이 깔려 있다. 우리가 한 100년쯤 기후변화나 금융위기, 테러에 시달리다 보면 질서정연하게 잘 짜인 디지털 세계를 마다할 사람은 아무도 없을 것이다. 디지털 세계에는 지구인들의 삶을 고통스럽게 하는 불확실성이란 전혀 존재하지 않는다. 지진도 없고, 산사태도 없고, 역병도 없다. 모든 것이 정확하고 공정한 룰에 따라 돌아간다. 호모 디지털리스가 이 위대한 디지털 세상의 주인으로 등극한다. 우리는 어떤 의미에서 그 세상의 신으로 군림하게 될 것이다.

그야말로 낙관적인 전망이다. 디지털 미래를 구축하고 있는 것은 바로 우리이기 때문이다. 정말이지 어떻게 보면 우리는 신이라고 할 수 있다. 우리는 확신에 차서 디지털 미래를 공정하고 정의로우며 아름다운 세상으로 꾸며나갈 수 있다. 아니면, 지구촌을 짓누르고 있는 현존하는 힘들을 이대로 묵인하며 불평등과 불의, 고통으로 가득 찰 세상을 방치할 수도 있다. 우리는 선택을 해야 한다. 지금 이 순간, 선택은 시작되었다.

인류의 종말
기술의 특이점

기계가 거침없이 인간의 수준을 넘어 그 이상의 지능을 지니게 되리라는 믿음에는 하나의 근거가 있다. 바로 치명적이라 할 만큼 매혹적인 기술의 특이점(the technological singularity)에 관한 발상이다. 이런 생각의 연원은 약 50년 전에 활약했던 몇몇 인물들로 거슬러 올라간다. 컴퓨터의 아버지 가운데 한 명인 요한 폰 노이만(John von Neumann)과 수학자이자 영국 블랫츨리 파크(Bletchley Park)에서 암호를 해독했던 I. J. 굿(I. J. Good)이 그들이다. 보다 최근에는 과학소설가 버너 빈지(Vemor Vinge)와 미래학자 레이 커즈와일이 기술의 특이점을 설파하며 대중에게 알려졌다.

특이점이란 무엇인가? 우리가 기계에 지능을 쏟아부어 마침내 기계 자체가 스스로 재설계를 되풀이하며 인간 이상의 지능을 지니게 되는 순간이 언젠가는 온다는 전제 아래 인류 역사에서 그 시점을 예견한 것이다. 이 새로운 기계는 상황에 따라 설계를 바꿔가며 자신의 역량을 꾸준히 개선시켜 날로 똑똑해진다. 그러다 보면 티핑 포인트(tipping point)에 이르러 기계의 지능이 별안간 엄청난 수준으로 치솟기 시작해 인간의 지능을 능가하는 순간을 맞게 된다.

기술의 특이점을 주창하는 사람들은 그 순간이 언젠가 반드시 온다고 말한다. 이들 대부분이 AI연구자가 아니라 미래학자나 철학자라는 점은 꽤나 의미심장하다. 이들의 주장대로라면 특이점이 오는 것은 논리적으로 100% 확실하다. 다만 언제 오느냐는 문제만 남아 있을 따름이다. 그러나 여타의 많은 AI연구자들처럼 나 자신도 특이점의 불가피성에는 적잖은 의구심을 품고 있다.

개들의 생각이 빨라졌다?

나는 우선 ‘생각하는 개의 역설’로 우리가 특이점을 피하지 못할 것이란 주장을 반박해보겠다. 이는 개가 생각을 한다 치고 생각의 속도가 더 빨라지는 상황을 상정한 것이다. 컴퓨터의 속도가 최고조에 이르러서 정체된다 쳐도 데이터 처리 속도는 계속 빨라질 것이다. 컴퓨터는 인간의 뇌처럼 병렬 연산의 역량을 키워가며 동시다발적으로 여러 일들을 수행해 데이터 처리 속도를 배가시켜나간다.

기계가 어떤 사안이든 붙들고 더 오래 더 열심히 생각하다 보면 결국 인간보다 더 똑똑해지리라는 기대는 누구나 해볼 만하다. 우리는 나날이 강해지는 컴퓨터의 힘 덕분에 숱한 편익을 누리고 있지 않은가. 당신의 주머니에 들어있는 스마트폰이 바로 그 증거다. 그러나 데이터의 처리 속도가 빨라진다고 해서 특이점에 도달한다는 보장은 없다.

자, 당신이 기르고 있는 개의 뇌 처리 속도를 높일 수 있다고 생각해보자. 개가 생각하는 속도가 빨라졌다고 해서 당신과 대화하거나 체스를 두고 소네트를 창작한다는 것은 있을 수 없는 일이다. 무엇보다도 개는 복잡한 언어를 구사할 수 없다. 개의 생각이 빨라졌어도 개는 여전히 개일 가능성이 다분하다. 평소대로 그저 다람쥐나 막대기를 쫓아다니는 게 그 개가 꿀 수 있는 꿈의 전부일 뿐, 개의 생각이 더 빨라졌다 해도 그 생각에 깊이가 있을 리는 만무하다. 컴퓨터도 마찬가지다. 데이터 처리가 빨라진다고 해서 고등 지능의 충분조건을 갖추게 되는 것은 아니다.

티핑 포인트

내가 특이점의 불가피성을 반박하는 두 번째 논거는 인류 중심주의(anthropocentricity)에 있다. 특이점을 주창하는 사람들은 인간의 지능에 각별한 의미를 부여한다. 그들은 컴퓨터의 지능이 인간 지능을 능가하는 순간을 티핑 포인트라고 주장한다. 그 순간을 넘어서면 컴퓨터는 스스로 자신을 반복해 재설계하며 역량을 마음껏 키워나갈 수 있다는 게 그들의 생각이다. 하지만 인간의 지능이란 게 단 하나의 단순한 척도로 측정할 수 있는 것일까?

설사 그렇게 할 수 있을지라도 인간의 지능이 단 하나의 덩어리가 아니라 여러 상이한 지능들로 스펙트럼을 이루고 있음을 알아야 한다. 어떤 방에 사람들이 가득 차 있을 경우 일부 사람들은 다른 사람들보다 더 똑똑할 것이다. 그렇다면 컴퓨터는 이들 가운데 어떤 사람의 지능 측정치를 능가해야 한다는 말인가? 방 안에서 가장 똑똑한 사람의 지능? 아니면 오늘날 지구상에서 가장 똑똑한 사람? 그것도 아니면 지금까지 살아있는 사람들 중에서 가장 똑똑한 사람? 이도저도 아니라면 장래에 태어날 가장 똑똑한 사람? 컴퓨터가 인간의 지능을 넘어선다는 발상은 이렇게 애매모호하고 어색하게 들릴 뿐이다.

연산의 복잡성

기술의 특이점 불가피론을 반박하는 여섯 번째 논거는 연산의 복잡성(computational complexities)이다. 이는 서로 다른 숱한 연산 문제들을 해결하기가 쉽지 않음을 아주 적절하게 설명하는 이론이다. 요지는 인간이 현재의 수준을 뛰어넘는 연산 방식을 개발하지 못한다면, 설령 컴퓨터의 기능이 급격하게 개선된다 해도 근본적인 한계를 지녀 문제 해결에 별 도움이 되지 않는다는 것이다.

무어의 법칙은 매 2년마다 컴퓨터의 연산 능력이 두 배로 신장되고 있음을 확인한 결과 나온 이론이다. 이에 따라 우리는 기술이 진보하면 연산 능력을 얼마든지 끌어올릴 수 있으리라는 맹신에 빠지고 말았다. 우리는 지금 급진적인 변화의 시대에 살고 있으며, 연산 능력 역시 일취월장해 무엇이든 해결해줄 AI들을 기다리기만 하면 된다는 희망에 부풀어 있는 듯하다. 아마 10년 후면 컴퓨터의 능력이 오늘날보다 1천 배 이상 강력해질 것이다. 20년 후면 100만 배가 넘고 30년 후면 10억 배를 넘어설 것이다. 그렇다면 컴퓨터가 언젠가 우리가 원하면 무엇이든 해결할 만능의 연산 능력을 보유하게 되는 것일까? 불행하게도 그런 미래는 현실에서 한참 떨어져 있다.

컴퓨터 과학자들은 모든 상황에 다채롭게 적용할 연산 복잡성 이론을 찾아 왔다. 이는 어떤 문제든 정확하고 꼼꼼하게 처리하려면 엄청난 연산 과정이 필요하다는 사실을 잘 설명하고 있다. 연산 복잡성 이론은 특정 유형의 컴퓨터를 겨냥한 게 아니다. PC든 Mac이든, 아니면 스마트폰이든 스마트워치든 따지지 않다. 어떤 하나의 컴퓨터가 연산 문제 하나를 해결하는 데 걸리는 실행 시간을 바꾸려면 단 하나의 상수(constant factor)가 필요하다. 우리가 즐기는 게임의 경우는 단지 그런 상수들보다 훨씬 더 빠르게 실행 시간을 바꿀 수 있어야 직성이 풀린다. 그래서 우리는(앞으로 보게 되겠지만) 연산 능력을 급격히 키우는 방법을, 아니 그보다 더한 방법을 찾으려 들 가능성이 있다.

당신이 하나의 목록에 있는 숫자들 가운데 가장 큰 것을 찾아내려 한다고 치자. 이는 선형적인 시간의 문제이다. 목록을 몽땅 훑어야만 한다. 따라서 입력치의 크기, 그러니까 목록의 숫자 규모에 비례해 시간이 걸린다. 목록의 규모가 두 배가 되면 가장 큰 수를 찾아내는 데 시간이 두 배 더 들어간다. 목록의 규모가 세 배로 늘어나면 가장 큰 수를 찾아내는 데 세 배의 시간이 소요된다.

이제 목록을 순서대로 분류해 작은 수에서 큰 수의 순으로 정리한다고 해보자. 간단한 방법은 맨 처음 가장 작은 수를 찾아내는 것이다. 앞서 살펴보았듯이, 역시 목록의 규모에 비례해 시간이 걸린다. 그 다음은 두 번째로, 또 세 번째로 작은 수를 찾는다. 종합해보자. 이런 목록이든, 여느 다른 목록이든 분류하고 정리하는 데 들어가는 시간의 양은 목록 규모의 제곱으로 증가한다. 목록의 규모가 세 배가 되면 시간이 아홉 배 더 걸린다. 목록의 규모가 네 배가 되면 시간이 열여섯 배 늘어난다. 달갑지 않은 이야기다. 하지만 실제 연산을 하다보면 이보다 훨씬 더 나빠지는 상황이 나올 수도 있다.

복잡성의 견제

빌 게이츠와 함께 마이크로소프트를 공동 창업한 폴 앨런(Paul Allen)은 기술의 특이점의 필연을 반박하는 여덟 번째 논거를 제기했다. 그는 ‘복잡성의 견제(complexity brake)’라는 개념으로 다음처럼 자신의 논지를 펼친다. 우리가 지능을 더욱 깊게 이해하면 할수록 그 이상의 진보를 이루기가 어려워지리라는 것이다. 우리는 날로 더욱 특별한 지식을 추구하고, 그러다 보면 더욱 복잡한 과학 이론을 개발해내야 한다. 이렇듯 줄곧 복잡한 이론에 매달리게 되면 진보의 속도는 느려지게 마련이며 덩달아 AI의 앞날이 순탄치 않게 됨은 물론이다. 앨런의 다음과 같은 말은 새겨들을 필요가 있다.

“인간의 인지구조는 경이롭다고 할 정도로 복잡하다. 특이점이 다가오고 있다고 주장하는 사람들은 이런 사실을 유의해야 한다. 우리가 그 인지구조를 과학적으로 깊게 이해하지 못한다면 기술의 특이점을 촉발할 소프트웨어는 결코 만들어내지 못할 것이다. 커즈와일은 진보가 항상 가속적으로 이뤄진다고 예언한 바 있다. 나는 달리 생각한다. 복잡성의 견제에 의해 그 속도는 지체되고 있다고.”

절대 부정의 위험

물론 초지능 기계들이 인류에게 위협적인 존재가 되지 않는다고 단언해서는 안 된다. 지난 역사를 돌이켜 보면, 가능성을 원천적으로 부정했다가 낭패를 당한 교훈은 적지 않게 접할 수 있다.

내 동료 스튜어트 러셀(Stuart Russell)이 즐겨 전하는 일화가 하나 있다. 한때 존경받던 물리학자 가운데 한 명인 어니스트 러더포드(Ernest Rutherford)가 원자에서 에너지를 뽑아내는 것은 부질없는 짓이며 불가능하다고 확언한 바 있다. 러더포드의이 주장은 1933년 9월 12일자 <더 타임스(The Times)> 기사를 통해 퍼져나갔다. 그 바로 다음날인 9월 13일, 헝가리인 레오 실라르드 (Leo Szilard)가 원자핵의 연쇄반응 이론을 내놓았고, 이에 따라 우리는 지금 핵폭탄을 만들고 핵발전소를 가동하고 있다. 불과 24시간도 채 안 되어 절대로 불가능했던 일이 깜짝 놀랄 만한 현실로 뒤바뀐 것이다.

자, 나는 기술의 특이점의 도래가 불가능한 게 아니라는 말로 넘어가고자 한다. 이런 예언에 따라 무엇을 해야 할지 결정할 사람은 독자 여러분이다.

일의 종말
사라지는 절반의 일자리

요즘 경제학자들의 관심사 중 하나는 2062년까지 수많은 일자리들이 속절없이 사라지게 된다는 사실이다. 우리 주변의 직업들 중 상당수는 자동화를 견디지 못하고 종적을 감추고 말 것이다. 과연 노동의 종말은 실현될 것인가? 기계들이 정신적으로나 육체적으로나 모두 인간의 역량을 뛰어넘는다면, 우리가 할 수 있는 일이라고는 무엇이 있을까?

결코 사소하게 넘길 걱정거리들이 아니다. 2017년 10월, 구글은 구글과 함께 사는 세상(Grow with Google)이란 프로그램을 발표한다. 앞으로 5년에 걸쳐 10억 달러를 투자해서 미국 근로자들에게 새로운 기술을 재교육하며, 지역 중소업체들의 성장을 돕고, 관련 분야에 종사하는 전 세계의 비영리 단체들을 지원하겠다는 것이었다. 또 구글 직원들을 그 비영리 단체들에서 100만 시간 동안 자원봉사를 하도록 하겠다는 내용도 담고 있다.

수많은 일자리를 기계들에 빼앗기게 되리라는 우려는 옥스퍼드 대학의 칼 B. 프리(Carl B. Frey)와 마이클 A. 오스본(Michael A. Osborne)이 지난 2013년 자동화의 영향을 분석한 연구에서 잘 나타난다. 두 사람은 미국 사회가 향후 20년간 자동화의 위협에 놓이면서 47%의 일자리를 잃게 될 것이라는 전망을 수차례 언급한 바 있다. 보다 진전된 최근의 다른 연구들에서도 마찬가지로 소름이 돋을만한 비슷한 전망을 쏟아내고 있다.

프리와 오스본의 연구보고서에서는 두 가지 사실이 눈길을 끈다. 첫째, 보고서 자체를 거의 대부분 자동화기기를 이용해 작성했다는 점이다. 두 사람은 700여 개의 직업들 가운데 자동화될 수 있는 대상을 정확하게 예측해내기 위해 컴퓨터가 스스로 오류를 수정해 바로잡는 기계 학습(machine learning)법을 활용했다. 물론 노동의 자동화 문제를 다루는 연구보고서를 거의 자동화된 기계로 처리했다는 사실이 아이러니하다. 마치 우리가 진지하게 바라볼 채비도 하기 전에 우리의 노동이 자동화를 피할 수 없는 현실을 기계가 알려주기 시작한 셈이기 때문이다.

프리와 오스본의 연구보고서에서 눈길을 끄는 두 번째 사실은 자동화에 따라 사라질 위기에 놓일 일자리 수가 엄청나다는 점이다. 오늘날 모든 일자리의 거의 절반이 사라지는 게 아니냐는 예측이 나올 정도다. 이렇게 불길한 전망이 걸핏하면 사람들의 입에 오르내려 이제는 문화 의식의 유전자라 할 하나의 밈(meme)으로 자리를 잡았다. 잉글랜드 은행의 수석 연구가인 앤디 홀데인(Andy Haldane)은 2015년 11월, 영국의 전체 일자리 중 약 절반이 자동화로 사라질 위기에 빠져있다고 주장한 바 있다. 세계은행 김용(Jim Yong Kim) 총재는 2016년 10월, 인도 전체 일자리의 69%, 중국 전체 일자리의 77%가 자동화에 따라 사라질 것이란 전망치를 내놓기도 했다. 이렇게 엄청난 일자리가 없어진다고 하니 사람들이 걱정하기 시작한 게 결코 놀랄 일은 아니다.

Garbage in, Garbage out!

프리와 오스본, 세계은행 총재, 그리고 여타의 사람들이 내놓는 전망치가 대부분 어긋나기 쉬운 이유로는 컴퓨터에 처음 투입하는 데이터 자체의 오류를 생각할 수 있다. 즉 학습데이터(Training data)의 문제이다. 컴퓨터의 연산에는 유명한 격언이 있다. "쓰레기를 집어넣으면 쓰레기가 나온다(Garbage in, Garbage out)."

프리와 오스본의 경우는 전적으로 그런 학습데이터에 의존해서 예측치를 보고서로 내놓았다. 두 사람은 연구 대상으로 삼은 702개의 일자리에서 70개를 추려내 향후 20년 동안 자동화의 위기에 놓일지 여부를 수작업으로 분류해나갔다. 그 방식은 2분법이었다. 즉, 연구대상 일자리들을 자동화의 위기에 놓인다와 놓이지 않는다로 단순하게 2개 항으로 분류했던 것이다. 그런데 자동화의 위기를 맞으면서 살아남는 일자리들도 분류 대상에 얼마든지 있지 않았을까. 예컨대 프리와 오스본이 자동화로 사라질 위기에 처할 것이라고 분류한 일자리에는 회계사가 있었다. 향후 몇 십 년에 걸쳐 회계사 직무의 적잖은 부분이 자동화될 것은 분명하다. 하지만 그렇다고 해도 나는 회계사나 회계 감사원이 직업의 세계에서 종적을 감추게 되리라는 견해에 회의적이다.

프리와 오스본은 분류 대상 70개의 일자리에서 37개가 자동화의 파고를 넘지 못하고 사라질 것이라고 내다봤다. 다시 말해, 두 사람이 입력했던 초기 학습데이터의 절반 이상이 자동화의 위기에 놓이게 될 일자리였던 것이다. 그렇다면 이들이 제시한 사라질 가능성이 있는 일자리 예측치가 전체 702개 일자리의 약 절반이 된다 해도 전혀 놀라울 일이 아니다. 학습데이터를 입력하는 데 좀 더 신중을 기했더라면, 즉 4개의 일자리 중 하나만 자동화의 위기에 놓인 것으로 분류했더라면 전체 일자리에서 차지하는 그 규모의 예측치는 그만큼 더 적게 나왔을 것이다.

평등의 종말

평등 역시 기술의 발달에 따라 위협받는 인간의 가치들 가운데 하나다. 물론 평등이란 가치가 실제로 종말을 고하지는 않을 것이다. 유사 이래 인간 사회는 늘 불평등했다. 어떤 사회도 진정을 평등한 적이 없었다. 부자로 태어난 사람들에게는 언제나 더 유리한 기회가 열려 있다. 1, 2차 세계대전 이후 잠깐 불평등이 줄어드는가 했지만 그때뿐이었다. 불평등은 다시 확산되고 있다. 2062년, 우리 사회는 아주 심각한 양상의 불평등에 직면할 가능성이 크다. 시선을 덜 끌겠지만, 이 장의 제목을 ‘불평등 감소의 종말’로 잡아 할지도 모르겠다.

세계화와 좀처럼 종식되지 않는 지구촌의 금융 위기 같은 현상들 역시 불평등을 심화하는 요인으로 작용하고 있다. 유감스럽게도 우리가 앞으로 특단의 조치를 취하지 않는다면 AI가 부와 권력을 기술 엘리트들의 수중에 집중시켜 불평등은 더욱 확대될 것이다.

기업들의 불평등

디지털 시장은 속성상 자연스럽게 독점을 부르게 된다. 승자가 모든 것을 다 가져간다. 우리는 단 하나의 검색 엔진과 메시지용 앱, 그리고 소셜 미디어 서비스를 원할 뿐이다. 중국의 경우를 예외로 칠 때, 정말 우리에게는 지배 사업자로서 하나의 검색엔진, 메시지 앱, 소셜 미디어 서비스만 존재한다.

2007년 4·4 분기, 시가 총액이 가장 큰 상장 기업은 페트로차이나(PetroChina), 엑손모빌(ExxonMobil), 제너럴 일렉트릭(General Electric), 차이나 모바일(China Mobile) 등이었다. 10년 후에는 이들 기업이 모두 기술 기업들로 대체됐다. 애플(Apple), 구글의 알파벳(Alphabet), 마이크로소프트(Microsoft), 아마존 (Amazon) 등이 괄목할 성장을 했고, 2007년 상위 10위에 든 기업 가운데 그 지위를 유지한 곳은 마이크로소프트 뿐이었다.

구글 같은 기술 기업들도 한때는 부단한 경쟁이 필요하다고 주장했다. 보다 빼어난 신생 기업(start-up)이 언제든 생겨나 시장에 참여하고, 이에 따라 사용자들이 쓰고 있던 검색엔진을 바꾸곤 하던 때였다. 하지만 더 이상 그런 일은 일어나지 않는다. 이제 구글과 경쟁할만한 데이터나 재정적인 위력을 지닌 회사는 없다. 구글 같은 회사들은 자사의 시장 지배력을 위협하는 신생 기업이 등장하면 수십억 달러를 던져주고 매입해버린다. 2~3년 전까지 구글은 매주 회사를 하나씩 인수했다. 신생 기업이 팔지 않겠다고 버티면 비슷한 서비스를 만들어 공짜로 뿌려버렸다. 결국 경쟁업체가 설 땅은 없다. 다윗이 이런 골리앗들과 맞서 싸워봤자 승산이 있을 리 만무하다.

희망의 새싹

기술 기업들 역시 책임을 깨닫기 시작했다. 2017년, 구글은 앞으로 5년에 걸쳐 비영리 기관들에 10억 달러를 투자해 사람들이 급변하는 노동의 변화상에 적응할 수 있게 돕겠다고 발표했다. 이 회사가 지금까지 출연을 약속한 자선 규모로는 가장 큰 액수다. 하지만 구글의 이익이 지금처럼 계속 늘어난다고 가정하면 이 액수는 같은 5년 동안에 발생하는 전체 수익의 3%도 채 안 되는 것이다. 그러니까 다른 회사들처럼 법인세를 착실히 내는 게 사회에는 훨씬 더 도움이 되는 셈이다.

그러나 아마도 가장 바람직한 희망이 싹을 틔우고 있는 곳은 기업이 아니라 정부라고 하고 싶다. 지난 60년 동안 코스타리카 정부는 자연환경을 보호하면서 정책의 초점을 성장이 아니라 국민 모두가 고도의 사회보장 서비스를 누리게 하는 데 맞췄다. 특히 군대를 해산시켜 생긴 여유 자원을 병원, 학교, 연금으로 돌려, 코스타리카는 라틴 아메리카의 모범 국가로 떠올랐다.

날로 심화되고 있는 불평등 문제를 해결하기란 결코 쉽지 않다. 담대한 발상 전환과 비전이 절실히 요구되고 있는 상황이다. AI가 거대 기술 기업들에 안기고 있는 수익을 통 크게 재분배한다면 가능하지 않을까 생각된다.

이 모든 것의 끝에서
새로운 시대는 새로운 법으로

데이터도 규제 대상이다. 새롭게 법을 만들어서라도 데이터의 수집과 사용을 제한해야 한다. 유럽이 사생활 및 개인 정보를 보호하는 일반 데이터 보호 규정(GDPR)을 시행하며 앞장서나가고 있다. 국민의 프라이버시를 보호하려면 다른 나라들에서도 마찬가지의 법을 만들어야 한다. 하지만 데이터 보호 법령 자체를 개선하는 것으로 끝나서는 안 된다. 더 강력한 통제 법령을 시행해 누구든 우리의 데이터를 무단으로 수집해서 사용하는 행위를 막아야 한다.

데이터의 소유권을 근본적으로 제한하는 법률도 생각해볼 수 있다. 당신에 관한 데이터가 언제까지나 당신의 것으로 남게 된다고 보는가? 당신의 심장박동수를 당신 말고 다른 어느 누구도 알아서는 안 된다고 한다면 당신이 그 결정을 내릴 수 있어야 한다. 당신의 DNA 코드 역시 회사가 사고팔 수 있는 대상이 아니라 오로지 당신의 것이어야 한다. 이미 대다수 나라들에서 장기와 같은 신체 부위의 매매를 법률로 금지하고 있다. 당연히 당신의 디지털 신체 정보의 판매를 금지하는 법률이 필요하다. 당신의 허락을 받지 않거나 당신에게 수익이 생기지 않는다면 더더욱 그렇다.

새로운 사회

2062년, 우리는 지금보다 훨씬 온유한 사회에서 살게 될지 모른다. 어린이, 병자, 노인, 장애인을 돌보는 사람들이 전통적인 노동을 하는 사람들 못지않게, 아니 어쩌면 더 소중하게 여겨진다면 우리 사회가 서로가 서로를 보살피는 식으로 진화할 것이다. 이렇게 서로를 돌보는 노동은 지금도 그렇고, 앞으로도 영원히 로봇이 대체하지는 못한다. 우리는 이런 일들을 보다 가치 있게 받아들여야 한다.

우리는 또 인간의 창의력이 꽃을 피우는 사회를 기대해볼 수 있다. 앞에서 언급했듯이 제2의 르네상스를 맞는다는 이야기다. 물론 로봇이 예술품과 공예품을 만들어낼 수 있다. 하지만 우리는 인간이 만든 작품과 인간의 체험을 더 귀하게 여길 것이다. AI의 무궁무진한 생산성 덕분에 많은 사람들이 예술가나 장인으로서 밥벌이를 할 수 있게 된다.

마지막으로 사회는 더 평화로워진다. 우리가 법적 조치를 통해 치명적인 자율 상상 무기의 사용을 제한하고 있다고 상상해보라. AI가 사람의 목숨을 앗는 게 아니라 구하고 있을 것이다. 지뢰를 제거하고 인도주의 지원 활동을 벌이며 민간인 사상자를 줄이고 군인들의 만행을 막아가면서 말이다.

우리가 올바르게 선택하면 AI는 몇몇 소수가 아니라 다수 인류를 위해 보다 나은 사회를 만들어낼 것이다. AI는 우리 모두에게 더 건강하고 더 부유하며 어쩌면 훨씬 더 행복할지 모를 인생을 안겨줄 수 있다.

* * *

인문교양