약 한 세기 전, 엔지니어들은 새로운 종류의 공간을 만들어 냈다. 바로 제어실이다. 이전까지 사람들은 제어 대상 바로 앞에서 직접 통제해야 했다. 하지만 지역 난방 시스템, 철도 네트워크, 전력망 등이 점점 복잡해지면서 모든 것을 한 공간에서 제어해야 할 필요가 생겼다. 다이얼과 전구를 통해 세계는 제어실이라는 방 안에서 움직이기 시작했다. 레버, 꼭지, 스위치, 버튼을 조작해서 결정을 내리는 것이다.

1960년대가 되자 제어실은 현대 문명의 강력한 상징이 되었다. 미국 휴스턴에 있는 우주 비행 관제 센터에서는 뿔테 안경을 쓰고 머리를 짧게 자른 사람들이 달을 향해 날아가는 우주선에 명령을 내렸다. 텔레비전 화면 속의 또 다른 우주에서는 새로운 세계의 탐사에 나선 여행자들을 만날 수 있었다. 이들도 독특한 제어실 안에서 똑같이 행동했다. 〈스타트렉〉에 등장하는 USS 엔터프라이즈호의 함교라는 제어실 말이다.

10년 후, 칠레의 산티아고에 지어진 육각형의 방에도 똑같은 철학과 미학이 적용되었다. 숫자와 화살표가 가득한 화면들이 배열된 방은 강력한 컴퓨터와 연결되어 있었다. 미래형 회전의자의 팔걸이에는 화면을 조절할 수 있는 기하학적인 버튼이 달려 있었다. 존슨 스페이스 센터나 엔터프라이즈호와는 다르게 미니바까지 설치되어 있어서, 관제 일을 마치고 나면 가볍게 술을 한 잔 마실 수도 있었다.

“프로젝트 사이버신(Project Cybersyn·사이버신은 사이버네틱스와 시너지를 줄인 말이다)”이라는 이름의 이 제어실은 칠레 대통령이었던 살바도르 아옌데(Salvador Allende)가 1970년대 초에 만든 것으로, 국유화된 사회주의 경제를 통제하기 위한 목적으로 설계된 공간이었다. 아옌데는 이 방을 만들기 위해 영국의 컨설턴트인 스태퍼드 비어(Stafford Beer)를 영입했는데, 그는 중앙 컴퓨터를 설치하고 각 공장에 배치된 텔렉스(인쇄 전신기)를 연결했다. 각 산업 시설의 관리자들이 데이터를 전송하면 중앙에서 분석했다. 필요한 변경 사항이 있으면 네트워크를 통해서 다시 내려보냈다.

아이로니컬하게도 이 사회주의적 시스템이 가장 빛을 발했던 순간은, 1972년에 아옌데 정부를 위협하던 화물차 운전 기사들의 파업을 무력화한 일이었다.^[1] 1973년 9월 11일, 칠레의 군부 장성들이 대통령궁을 급습하면서 아옌데가 스스로 목숨을 끊은 이후, 사이버신은 해체되었다. 당시 한 병사는 사이버신에 있던 모든 화면을 칼로 찔렀다고 한다.

최선의 경제 운용 방식을 둘러싼 반세기 동안의 논쟁에 대한 피비린내 나는 보복이었다. 아옌데는 1970년대 당시 최첨단 통신 기술과 컴퓨터를 이용하면, 정부가 산업 경제를 최적화할 수 있을 거라고 믿었다. 칠레에서 (쿠데타를 일으킨) 피노체트(Pinochet)에게 조언을 해준 시카고학파의 경제학자들은 시장이 가진 훨씬 더 거대한 정보 처리 능력이 더 나은 결과를 가져올 것으로 생각했다. 칠레에서는 시카고학파의 의견이 무력에 의해 강제로 주입되었다.

이후 시장 경제, 반(半)시장 경제가 성공을 거두면서 계획 경제는 낡은 개념이 되었다. 하지만 새로운 아옌데가 등장해 사이버신 2.0을 만든다면, 이제는 몇 대의 텔렉스 기계가 아니라 수십억 개의 센서를 통해서 데이터를 모은 다음, 수만 대의 서버로 가득 찬 데이터 센터에서 정밀 분석을 할 수 있을 것이다. 그럴 수 있는 충분한 능력이 있다는 점을 생각한다면, 이런 방식이 시장을 기반으로 한 자유방임적 선택을 대체할 수도 있지 않을까?

기술 통제라는 개념은 이미 사회 전반에 퍼져 나가고 있다. 제어실은 이제 클라우드에 그 자리를 내줬고, 결정은 클라우드에서 이루어지고 있다. 우버(Uber)에 운전자들에게 메시지를 내보내는 중앙 지휘본부 같은 건 없다. 구글에도 보르헤스(Borges)의 소설〈바벨의 도서관〉에서 묘사되는 것처럼 필요한 정보는 무엇이든지 찾아볼 수 있는 도서관 같은 건 없다. 다만 알고리즘이 있다. 알고리즘은 점점 더 많은 세계의 일을 관리하고, 점점 더 많은 결정을 내리고 있는 것 같다. 때로는 알고리즘이 시장의 소프트웨어를 실행하기도 한다. 예를 들면, 화면에 나타나는 광고는 알고리즘이 당신의 관심을 원하는 많은 광고 가운데 하나를 골라낸 것이다. 그뿐만이 아니다. 알고리즘은 도시나 국가의 소프트웨어를 실행할 수도 있다.

중국의 온라인 대기업인 알리바바의 최고경영자였던 마윈(馬雲)은 2017년의 어느 콘퍼런스에서 이렇게 말했다. “지난 100년 동안 우리는 시장 경제가 최고의 시스템이라고 믿게 되었다.” 하지만 앞으로 30년 안에 “모든 종류의 데이터에 접근할 수 있을 것이고, 우리는 시장의 보이지 않는 손을 찾아낼 수도 있을 것이다.” 찾은 뒤에는 어떻게 할 것인가? 시장을 지원할 것인가? 예측할 것인가? 무력화할 것인가? 마윈은 분명히 답하지 않았다.

 

나를 움직이는 호모데우스^[2]

경제 부문에서 기술이 보이지 않는 손을 능가할 수 있다면, 정치 부문에서는 투표 방식과 관련해 비슷한 일을 할 수 있지 않을까? 만약에 컴퓨터가 유권자들이 원하는 것을 알아내 권력자들이 실행하도록 할 수 있다면, 권력자에게 위임된 권한은 덜 중요해질 수도 있다.

민주주의에 관한 가장 커다란 논쟁 중 하나는 바로 독일의 정치학자인 프리츠 샤르프(Fritz Scharpf)가 “입력 정통성(input legitimacy)”이라고 부르는 것이다. 비록 시스템이 사람들이 원하는 것을 주지 못한다 하더라도, 운영 방식이 민주적 선택에 의한 것이라면 정당화될 수 있다는 의미다. 비민주적인 정부들은 “출력 정통성(output legitimacy)”, 즉 사람들이 원하는 것을 주면서 노골적으로 탄압하는 방식을 만들어내기도 한다. 현재의 정보 기술은 두 가지 방식 모두에 도움을 줄 수 있다. 기술은 사람들이 원하는 것과 용인할 수 있는 것이 무엇인가에 대한 데이터를 제공해 줄 수 있을 뿐만 아니라, 사람들의 욕구를 조작하는 수단이 될 수도 있다. 국가 권력을 얻으려 하거나 유지하려 하는 국가 내외부의 세력에게 이런 수단이 주어진다면, 대중의 진정한 의지를 반영하는 민주주의는 현재보다 더 어려운 일이 될 수 있다.

이러한 생각을 바탕으로 이스라엘의 역사학자인 유발 하라리(Yuval Harari)와 같은 사상가들은 다음과 같이 전망하고 있다. 다가오는 시대에 초월적인 정보 기술이 있다면, 그 기술은 자유 시장 경제뿐 아니라 자유 민주주의도 “낡은 것으로 만들 수 있다”는 것이다. 하라리는 정보 기술이 생명공학 기술과 공조를 이룬다면, 인간의 사고에 접근하고 영향을 미칠 수 있는 알고리즘이 만들어진다면 그러한 실현 가능성은 더 커질 것이라고 말한다. 새로운 시스템이 반드시 폭정으로 이어지는 것은 아니다. 우리에게는 낯선 형태가 될 수도 있다.

〈스타트렉〉에는 우주선들이 보그(Borg) 종족을 만나는 장면이 있다. 이들은 나노 테크놀로지와 컴퓨터를 활용해서 그들과 마주하는 모든 종족을 동화시키는 종족 이상의 존재들이다. 그들은 종족의 일원이 듣는 것을 모두 들을 수 있고, 종족의 일원이 보는 것을 모두 볼 수 있고, 종족의 일원이 원하는 것을 모두 함께 원한다. 개별적인 존재는 없다. 전체로서의 목표만이 있을 뿐이다. 이 드라마에서는 보그 종족 전체의 의지가 지도자 한 사람으로 대변될 수 있다고 말한다. 우주를 유영하는 여왕개미와도 같은 존재 말이다. 이러한 아이디어가 가진 논리는 곧 중앙 통제나 공공연한 억압 없이 오직 최적화된 동화만으로도 평등하고 효율적인 개미집이 유지될 수 있다는 것이다.

보그 종족의 모습은 기술이 예측하는 미래가 아닌 전체주의적 판타지다. 하지만 데이터 처리 기술은 모든 사무 처리와 경험과 관계를 대체하고 재구성하면서 인간의 삶을 침범해 들어오고 있다. 이런 상황에서 기술이 시장 경제와 자유 민주주의하에서 무언가를 선택하는 과정에 중대한 영향을 미치기 시작할 가능성이 정말 상상도 할 수 없는 일일까? 지금 세계에서 활용되고 있는 정보 기술들이 모두 엄격한 경제와 정치의 통제로 이어지지는 않을 것이다. 하지만 통제의 미래를 피하기 위해서는 그 가능성을 검토해야 한다.

 

비용과 계산

제1차 세계 대전에서 유럽의 산업 국가들은 전에 없던 수준으로 경제를 중앙 집권적으로 통제했다. 많은 이들은 이런 방식에 상당한 효과가 있다고 여겼다. 1919년 오스트리아 출신의 젊은 경제학자로 화폐가 통용되기 전의 고대 이집트 경제를 연구한 바 있는 오토 노이라트(Otto Neurath)는 1차 대전 당시의 성공에서 배울 점이 있다고 생각했다. 전쟁 시에 얼마나 많은 군복과 군수품이 필요한지를 국가 차원에서 계산할 수 있다면, 평화로운 시기에도 다른 물품들의 수요를 똑같이 계산할 수 있다는 것이었다. 그는 세계 대전 당시 국방부에서 군수 물자 수요 계산을 담당했기 때문에, 그 가능성을 잘 알고 있었다.

이렇게 해서 “사회주의 계산 논쟁”이 시작되었다. 이 논쟁은 사람들이 경제를 생각하는 방식을 바꾸어 놓았음에도 지금은 잘 알려져 있지 않다. 20세기 후반에 새로운 시장 자유주의의 형태를 만든 사상가들은 정책 입안자들의 통제가 작동하지 않을 것이라고 주장했다. 논쟁 과정에서 그들은 경제를 하나의 정보 처리 체계로 보는 개념을 도입했다. 그리고 이러한 개념은 알리바바의 마윈 전 회장이 말한 바로 그 아이디어다. 시장이 지금껏 정보를 처리하는 방식으로 인해 성공했다면, 정보의 역할은 미래에 더 커질 수 있다. 최근의 수십 년 동안 발전해 온 정보 처리 방식이 이제는 엄청나게 강력해졌다기 때문이다.

계산 논쟁은 단순히 학술적인 차원의 언쟁이 아니었다. 소비에트의 마르크스-레닌주의는 경제가 계획에 의해서 움직일 수 있다는 생각에 매달려 왔다. 서양의 많은 사회주의자들에게 농경 국가였던 러시아의 산업화는 이러한 아이디어를 구현한 결과로 보였다. 소비에트 연방 역시 최소 한 가지 이론적 측면에서 기여한 것이 있다. 1930년대 러시아의 경제학자인 레오니드 칸토로비치(Leonid Kantorovich)는 경제에서 “선형 계획(linear programming)”이라는 수학적인 기법을 활용해 산출물을 최적화할 수 있다는 것을 알아냈다. 이 아이디어로 그는 소비에트 시민권자로는 최초이자 유일한 노벨 경제학상을 받게 된다. 폴란드 출신의 경제학자 오스카 랑게(Oskar Lange)는 시카고대학교 교수, 유엔(UN) 안전 보장 이사회의 공산주의 폴란드 대표단을 역임하고 폴란드 국무 위원으로도 일했던 인물이다. 그는 1937년 계획 경제에 시장의 장점을 일부 받아들이는 수학적인 방식을 제안했는데, 기본적인 투입량으로 얻을 수 있는 최적의 자원 배분 방식을 계산하기 위해 “잠재 가격(shadow prices)”이라는 개념을 사용했다.

오스트리아의 경제학자인 루드비히 폰 미제스(Ludwig von Mises)와 프리드리히 하이에크(Friedrich von Hayek)는 노이라트와 랑게의 제안에 대한 답변을 내놨다. 그들은 기계를 활용한 계산으로는 시장의 힘이 도출해 내는 결과를 결코 이기지 못할 것이라고 주장했다. 그 이유는 시장 역시 하나의 기계이기 때문이었다. 시장이라는 기계는 실물 기계보다도 훨씬 더 뛰어나다는 것이 이들의 주장이다. 미제스와 하이에크는 무엇을 이용할 수 있고 무엇이 필요한지를 계산하기 위해 경제라는 기계가 제공해야 하는 모든 데이터를 끊임없이 연구했다. 계산의 목표는 가격을 산출하는 것이었다. 그들이 구현한 처리 능력은 정책 입안자들이 통제에 활용했던 계산법으로 도출되는 규칙들과는 달랐다.

마이크로소프트에서 일하는 경제학자 글렌 웨일(Glen Weyl)은 “계산 논쟁은 기본적으로 컴퓨터의 복잡성에 관한 논쟁이었는데, 컴퓨터라는 개념은 이후 20년이나 지나서 앨런 튜링에 의해서 체계화됐다”고 말한다. 그의 말에는 일리가 있다. 하이에크가 1945년에 《사회에서의 지식의 활용(The Use of Knowledge in Society)》이라는 논문을 발행할 당시, 그는 시장과 관련해 서술하면서 정보 기술이 곧바로 연상되는 용어들을 활용한다. “그것은 변화를 기록하는 기계이며(…중략…) 엔지니어가 다이얼 몇 개의 바늘을 쳐다보면 되는 것과 같이, 개별 생산자들이 계기판의 지침들을 살펴보기만 해도 되는 통신 시스템이다.”

하이에크는 그러나 이 기계가 단순히 변화를 기록하기만 하는 것은 아니라고 언급한다. 이 기계는 새로운 정보를 만들어 낸다. 그 정보는 세계를 이해할 수 있게 해주며, 그래서 세계 안에서 일어나는 활동에 대해서 알려 주는 것이다. 그러나 이 시장이라는 기계는 작동하기 전까지는 어떤 결과가 나타날지 알 수 없다. 경제를 예측할 수 없으니 통제할 수도 없다.

현실 세계에서 시장이 계산해 낸 것과 입안자들이 계산기로 계산해 낸 것 사이에는 또 하나의 중요한 차이가 있었다. 하이에크가 말하는 화면을 바라보는 엔지니어라는 비유는 제어실 안에 갇혀 있는 기술 엘리트를 말하는 것이 아니다. 그가 말하는 엔지니어란 가격 데이터에 접근할 수 있는 모든 이들을 말하는 것이다. 시장을 하나의 계산기라고 표현한다면, 그것은 본질적으로 누구든 접근할 수 있고 어디에나 존재하는 계산기라고 할 수 있다. 그래서 하이에크와 그의 추종자들의 관점은 자유 민주주의와 잘 맞는다. 누구든 자유롭게 결정을 내릴 수 있기 때문이다.

한동안은 계획이라는 것이 여전히 유효한 것처럼 보였다. 스탈린 사후의 1950년대 해빙기 동안 소련은 핵무기로 미국에 맞섰고, 우주 궤도 진입 경쟁에서 미국에 패배를 안겼다. 그러자 과연 어떤 체제가 더 좋은지에 대한 현실적인 의문들이 생겨나기 시작했다. 비록 소비에트 경제는 기대만큼 강하지는 않았지만, 칸토로비치를 비롯한 그의 제자들은 새로운 사상과 초기의 컴퓨터를 이용해서 소비에트 경제를 “저절로 음식이 차려지는 테이블보”로 만들 수 있다고 믿었다. 역사, 경제, 과학, 상상을 버무려 20세기 중반 당시의 낙관주의를 떠오르게 하는 프랜시스 스퍼포드(Francis Spufford)의 책 《붉은 풍요(Red Plenty, 2010)》는 소비에트식 생활의 복잡하고 범죄적인 특성, 그리고 의도치 않은 결과들을 통해서 낙관주의가 어떻게 무너져 내렸는지도 보여 주고 있다. 시장의 민주적인 프로세스는 인간이 저지른 실수를 균등하게 나눌 수 있기 때문에 어떠한 가능성도 모색할 수 있게 해준다. 계획 경제를 채택한 독재 정부는 선택의 폭을 좁힌다. 실수는 더 커지게 만든다.

소비에트 연방은 1991년에 붕괴했다. 그리고 중국은 경제의 상당 부분에서 계획의 역할을 축소하고 시장의 속성을 받아들이기로 결정했다. 이로써 전 세계는 전례 없는 경제 호황을 맞이하게 된다. 계산 논쟁에서 시장의 편에 섰던 이들의 승리가 확정되는 것 같았다. 어떤 이들은 소비에트의 붕괴가 정치 체제의 승리를 의미한다고 생각했다. 분산된 자유가 더 잘 작동한다는 결론이 났다는 것이다. 이런 주장은 2012년에 조지워싱턴대학교의 헨리 퍼렐(Henry Farrell)과 카네기멜론대학교의 코스마 샬리지(Cosma Shalizi)의 생각이었다. 그들은 예전의 계산 논쟁과 비슷한 방식으로 민주주의가 “복잡한 문제들을 해결하는 데 있어서 비할 데 없는 능력”을 갖고 있다고 주장했다.

그들의 주장을 이해하려면, 중앙 집권화된 체제나 권위적인 정권에서 정보를 다루는 방식을 고려해야 한다. 이런 체제에는 샬리지가 “피드백 채널”이라고 부르는 것이 존재하지 않는다. 시장은 사람들이 무엇을 원하는지에 대한 정보를 생산하며, 또한 공개적인 논의도 만들어 낸다. 권위주의 체제는 시민들이 공개적으로 문제를 논의하거나 어떤 해결책을 실험하는 데에 관심이 없다. 그랬다가는 감옥에 끌려가거나 그보다 더한 일을 당할 수도 있다. 결과적으로 투표로 선출되지 않은 정부는 공동체 내부에서 무슨 일이 일어나고 있는지를 이해할 정보가 부족하다. 따라서 나쁜 결정을 내리는 경향이 있다. 독재자들은 국민을 억압하려는 목적뿐 아니라, 국민을 이해하려는 목적으로도 광범위한 정보 기구를 운영한다. 그러한 기구들이 독재자가 통치하는 데 필요한 정보들을 얻는 피드백 채널로 기능한다.

이러한 방식은 인권의 측면에서만 올바르지 못한 것이 아니다. 정치적으로도 불안정하다. 뛰어난 정보 기구의 수장이라면 아주 쉽게 최고 서열의 라이벌이 되거나, 무소불위의 정보 권력이 될 수 있다. 둘 다 보스에게는 좋은 일이 아니다. 20세기 초중반의 독재 권력들은 정보 활동을 하는데 막대한 비용을 들였다. 동독이 국가의 형태로 존재하는 마지막 해였던 1989년에 비밀 경찰 슈타지(Stasi)에서 일하는 사람들은 정규직과 임시직을 합쳐서 모두 26만 명이 넘었다. 전체 인구의 거의 2퍼센트에 달하는 규모였다.

 

기술 중독

경제 성장과 문제 해결이라는 측면에서 장점이 있기는 하지만, 21세기의 자유 시장과 자유 민주주의는 1990년대 초에 일부가 기대했던 것과 같은 절정기를 누리지 못하고 있다. 민주주의의 규범들이 국가 차원에서 제대로 작동하지 않는다는 것은 이미 충분히 입증되었다. 국가의 계획은 여전히 이루어지고 있지만, 워낙 익숙하기 때문에 눈에 잘 띄지는 않는다. 계획은 오히려 기업의 운영 방식이 되었다.

냉전이 끝나 가던 시기의 노벨 경제학상 수상자이자 인공지능(AI) 분야 선구자였던 허버트 사이먼(Herbert Simon)은 시장의 거래라는 측면에서만 경제를 논한다면, 실제로 진행되는 막대한 규모의 일들을 고려하지 않고 배제하는 것이라고 말했다. 자신의 주장을 더 쉽게 설명하기 위해 그는 한 가지 사고실험을 제안했다. 지성을 가진 외계 생명체가 있다고 가정해 보자는 것이다. USS 엔터프라이즈호를 떠올려도 좋다. 늘 그렇듯 M급 행성(생명체가 살 수 있는 지구와 같은 행성) 주위의 궤도로 진입하는 이들은 “사회 구조를 들여다볼 수 있는 망원경”으로 미지의 세계를 연구하고 있다. 망원경으로 지구를 바라보면 수많은 녹색 영역들이 보일 것이다. 그리고 그 안에는 붉은 선들의 네트워크가 희미하게 보일 것이라고 사이먼은 말한다. 두 가지 색 모두 역동적으로 변한다. 빨간색 연결선들은 사라지고, 생겨날 것이다. 녹색 덩어리들 가운데에는 커지는 것도 있고, 줄어드는 것도 있을 것이다. 때로는 한 덩어리가 다른 것을 집어삼킬 수도 있다.

사이먼이 말하는 녹색의 덩어리들은 사람들이 일하고 있는 기업이나 조직을 말한다. 붉은 선은 시장의 거래다. 관측자들은 망원경으로 본 것에 대해 “녹색 영역을 연결하고 있는 빨간 선들”이 아니라 “커다란 녹색 영역들이 빨간 선들로 서로 연결된 네트워크”라고 묘사할 것이다. 시장의 거래를 의미하는 붉은 선에 집중하는 고전 경제학은 세계에서 일어나는 많은 일들을 놓치고 있다고 사이먼은 말한다. 그리고 그렇게 시야에서 놓쳐 버린 세계에서는 수많은 계획이 수립되고, 그에 기반한 의사 결정이 이뤄지고 있다. 관리 계층은 그러한 계획을 통해 정보를 처리한다. 30년 후에는 컴퓨터가 수많은 데이터를 처리하며 의사 결정을 내리고, 관리 계층은 컴퓨터에 의존할 것이다. 사이먼은 이런 광경에도 전혀 놀라지 않을 것 같다.

“기업 내부에서 경제를 계획하는 방법은 소비에트 연방의 방식과 전혀 다르지 않다. 그것은 바로 위계적이고 비민주적인 계획 경제다.” 좌파 경제학자인 리 필립스(Leigh Phillips)와 미할 로즈워스키(Michal Rozworski)가 펴낸 《월마트 인민 공화국(The People’s Republic of Walmart, 2019)》이라는 책의 일부다. 이 책은 계획의 역사와 미래의 가능성에 대해서 쉽게 풀어내고 있다. 대기업들은 경영, 마케팅, 물류, 제조 등 모든 부문에서 엄청나게 많은 계획을 세운다. (그런 계획들 가운데에는 공장 내부의 배치나 유통체계 설계와 같은 영역도 있는데, 이들은 선형 계획을 비롯한 관련 기법들을 잘 활용하고 있을 것이다.) 아마존이나 월마트의 비즈니스를 보면 소비에트 연방의 국가 계획 위원회인 고스플란(Gosplan) 수준의 계획을 세운다는 것을 알 수 있다. 예전이었다면 결코 생각도 할 수 없었던 방식일 것이다.

오늘날 기업들은 이윤을 극대화하기 위해 계획을 세운다. 그리고 수많은 법률과 기업 지배 구조에 의해 부패를 비롯한 부작용을 양산하는 중앙 집중화의 가능성은 차단된다. 경제 분야에서 민주적 견제 장치를 갖춘 도구가 보다 폭넓게 적용될 수 있다면, 건강, 환경, 여가 시간과 같은 분야에도 적용될 수 있다고 필립스와 로즈워스키는 말한다. 이러한 방식은 “완전 자동화된 화려한 공산주의(Fully Automated Luxury Communism)”라는 탈결핍(post-scarcity) 시대의 새로운 개념을 받아들인 일부 좌파들 사이에서 어느 정도 공감을 일으키는 내용이다. 이 표현은 좌파 성향의 미디어 사업가인 애런 배스타니(Aaron Bastani)가 쓴 책의 제목이다.

 

민주적 중앙 집권주의

실제 존재하는 공산주의는 완전히 자동화되지도 않았고, 그렇다고 화려하지도 않다. 그리고 공산주의는 계획하는 권력을 민주적인 통제하에 두는 것에도 관심이 없다. 중국의 공산당은 사회를 “조화롭게” 유지하기 위한 목표를 추구하고 있다고 하지만, 현실에서 보여 주는 모습은 그것과는 정반대이다. 계획 경제를 민주화하는 것이 아니라, 민주주의를 최소한으로 적용하는 계획 경제인 것이다. 네덜란드 레이던대학교의 로지어 크리머스(Rogier Creemers)가 설명하듯이, 중국 공산당은 사회 현실이란 자연 세계와 마찬가지로 객관적인 법칙들로 뒷받침된다고 생각한다. (공산당 고위층에는 엔지니어들도 많다는 사실을 주목해야 한다.) 만약 정부가 이러한 법칙들을 이해한다면, 사회가 어떻게 작동할지를 예측할 수 있게 될 것이며, 그렇게 된다면 사회는 통제될 것이다. “하이에크와는 완전한 반대되는 생각이죠.” 크리머스의 말이다.

오늘날에는 폐기된 위와 같은 방식이 사용된다면, 계획을 수립하고 통제하는 이들이 시장이나 민주주의처럼 자연스럽게 성장한 정보 처리 시스템과 경쟁해서 이길 가능성은 생각하기 어렵다. 하지만 이런 방식의 영향력과 활용 범위는 커지고 있다. 지구 인구의 절반은 이미 센서가 달린 컴퓨터를 손에 들고 다니고 있다. 수백만 명의 사람들은 허공에 대고 말하는 것만으로 원하는 일을 처리할 수 있다. 컴퓨터가 언제나 대기하고 있기 때문이다. (대기하면서 그 외의 다른 많은 일들을 처리하고 있을 것이다.) 일부 큰 사고가 있기는 하지만, 전 세계에서 수집, 처리, 전송되는 데이터의 종류와 양이 계속해서 늘어날 것이라는 전망에는 의심의 여지가 거의 없다. 1000개의 인공위성이 쏘아 올려질 것이고, 조 단위의 센서가 작동할 것이다. 들판에서 자라는 쌀과 밀보다 1000배나 많은 트랜지스터들이 실리콘에 새겨지고 있다. 이 수치가 백만 배가 되지 말라는 법이 있을까?

소비에트 연방이 계획을 수립하고 슈타지가 염탐을 하던 시절 이후, 데이터의 양만 늘어난 것이 아니다. 질적으로도 거대한 변화가 있었다. 고스플란에서 처리했던 데이터는 대부분 산출과 관련된 것이었는데, 그 데이터에는 오류가 종종 있었다. 공장의 관리자들이 수치를 높이거나 낮춰서 보고할 상당히 많은 이유들이 있었기 때문이다.

오늘날의 디지털 정보는 정적인 통계가 아니라 실시간 흐름으로 유입된다. 그리고 기계뿐 아니라 눈동자의 무의식적인 움직임과 같이 사람을 통한 데이터도 있다. 셀프 프로그래밍을 포함하는 다양한 프로그램 기법들을 포함하는 인공지능이라는 용어 안에는 많은 의미가 있다. 그러한 시스템은 칸토로비치를 비롯한 입안자들은 할 수 없었던 일을 해낼 수 있다. 원인과 결과를 선형이 아닌 복잡한 방식으로 연결시키는 것이다.

 

붉은 난해함

하지만 이들 중에서 가까운 시일 내에 구현될 실효성이 있거나 효율적인 계획은 없다. 어쩌면 영원히 구현되지 못할 수도 있다. 넓은 범위의 데이터가 질적으로 우수한 데이터를 의미하는 것은 아니다. 기계를 통해 세계를 들여다보는 모든 새로운 방법들은 각기 다른 편향된 시각을 강화한다. 데이터의 홍수 속에서 이런 문제를 발견하는 일은 더욱 어려워질 것이다.

기업들이 수많은 계획을 수립한다는 필립스와 로즈워스키의 말은 정확하지만, 그것이 최선책은 아니라는 사실을 명심할 필요가 있다. 실제로 계획이 잘못되어 사업이 중단되는 경우가 많기 때문이다. 경쟁 체제에서는 한 회사가 실패하더라도 다른 기업들이 그 자리를 채워 사업을 지속할 것이다. 하지만 경제에서 많은 부분을 계획에 의존한다면, 이러한 자연스러운 교통정리는 일어나기 힘들다.

경제 계획은 실제로 어려운 일이다. 스퍼포드의 《붉은 풍요》에 영감을 받은 샬리지는 2012년에 소비에트의 계획 방식을 대단히 흥미로운 수학적 방식으로 풀어서 온라인에 공개했다. 고스플란이 현대의 훌륭한 컴퓨터, 멋진 선형 계획 소프트웨어를 갖추고 있었다면 1983년에 소비에트 연방에서 만들어진 1200만 개가 넘는 제품들을 효과적으로 배분하는 계산을 불과 몇 분 만에 끝냈을 것이다. 하지만 각 제품의 가진 품질, 기술 사양, 배송 지역과 같은 다양한 관련 정보들이 변수로 추가된다면 그 계산은 훨씬 더 어려워진다. 하나의 제품과 연관된 변수가 1000개 존재한다면, 그에 필요한 컴퓨팅 능력은 300억 배로 증가한다.

컬럼비아대학교의 수레쉬 나이두(Suresh Naidu)는 계획 입안자들이 계산의 성공 확률을 지나치게 비관적으로 본다고 지적한다. 전체 경제를 하나로 모델링할 필요는 없기 때문이다. 산업 분야나 노동 시장과 같은 부문들은 별도로 최적화할 수 있고, 그런 문제들을 해결하기 위한 별도의 계획이 동시에 진행될 수 있다. 나이두는 이렇게 설명한다. “우리는 소비에트처럼 모든 상품을 집어 넣은 거대한 매트릭스로 경제를 계획하지는 않을 겁니다. 하지만 경제를 대체적으로 바로잡을 수는 있습니다.”

하지만 목표가 정해진 것이 아니라면, 계획을 수립할 수 있을까? 경제에서 인공지능의 역할이 커지게 된다면, 복잡성 역시 증가할 것이다. 조지메이슨대학교의 경제학자 알렉스 태배럭(Alex Tabarrok)은 이렇게 정리한다. “컴퓨팅 능력이 더 발전한다고 해서 복잡한 경제를 손쉽게 완벽히 체계화할 수 있는 것은 아닙니다. 왜냐하면 컴퓨팅 능력이 더 좋아지면, 경제는 그만큼 더 복잡해지기 때문입니다.”

게다가 굿하트의 법칙(Goodhart’s Law)이라는 문제도 있다. 경제학자인 찰스 굿하트(Charles Goodhart)의 이름을 딴 이 법칙은 어떤 데이터가 소기의 목적을 달성하기 위해 활용되는 순간, 본래의 데이터가 가졌던 세상을 설명해 주는 척도로서의 기능이 사라진다는 것이다. 중국의 경제학자 유용딩(餘永定)은 대약진 정책 기간에 실제로 이런 현상을 목격했다. 당시 마오쩌둥(毛澤東) 주석은 철의 생산량을 늘려야 한다고 결정했다. 그러자 중국의 철 재고 상당량이 허름한 용광로에 투입됐고, 품질이 낮은 선철이 생산됐다. 유용딩은 현재 중국 국가발전개혁위원회의 자문 위원인데, 이 위원회에서는 5개년 단위의 국가 발전 계획을 수립하고 있다. 상당히 광범위한 규모의 이 계획을 지지하는 유용딩은 미시적인 계획에 대해서는 완전히 회의적이다. “신이 아닌 이상, 모든 것을 일일이 예측할 수 없습니다.” 그가 웃으며 말했다. 하이에크라고 해도 이보다 더 뛰어나게 표현할 수는 없었을 것이다.

 

사람의 얼굴에 붙어 버린 화면

중국의 지도부도 정교한 경제 예측과 통제가 불가능하다는 것을 유용딩처럼 확신하고 있을 수도 있다. 그러나 경제가 아닌 정치를 통제하는 일에 컴퓨터를 사용하는 문제라면, 우리의 예상대로 중국 정부는 훨씬 더 많은 관심을 갖고 있는 것으로 보인다.

이러한 관심은 직접적인 억압의 형태로 나타나기도 한다. 가장 극단적인 사례는 신장 지구에서 볼 수 있다. 이곳은 주민들의 대부분이 무슬림 소수 민족인 위구르족이다. 신장 지구의 도시 곳곳에 감시 카메라가 설치되어 있고, 주민들은 검문소에서 반드시 신분증을 보여 주어야 하며, 얼굴을 스캔해야 한다. 스마트폰에는 경찰이 위치를 추적하며 데이터에 접근할 수 있는 앱을 설치해야 한다. 이런 방식은 수십만 명의 위구르족 사람들을 수용소에 가두는 대신에 택한 차선책이 아니다. 거대한 규모의 수용소를 만들어 낸 것이다.

이보다는 더 완화된 방식이지만 영향력은 더 큰 정보 기술도 사용되고 있다. 중국 전역에서 검열관들이 임무를 수행하고 있는 것처럼, 경찰은 대중적인 담론에 귀를 기울이고 있다. 사람들이 소셜미디어에서 하는 이야기를 보면 어떤 문제에 관심을 갖고 있는지 파악할 수 있다. 이는 국가가 “출력 적법성”을 갖추기 위해서 필요한 것이 무엇인지를 알려 주는 정보다. 대중적인 담론을 조작할 수 있다면, 또 하나의 통제 수단을 갖게 되는 것이다. “사회 신용 체계”가 바로 그런 일을 하고 있다. 아직 단편적으로 시행되고 있는 이 제도는 다양한 데이터를 활용해 사람들에게 신뢰도 점수를 매긴다.

끔찍한 상상을 좀 더 해보자. 이 지점에서 겨우 몇 걸음만 더 가면 사람들은 보그 종족이 될 수도 있다. 그리고 생물학적인 도구를 몇 가지 이식해서, 인공지능이 모든 것을 들을 수 있고, 불확실한 것들을 결정해 주고, 모든 기본적인 욕구들을 해결해 줄 수 있다면, 사람들은 자신들만의 사이버네틱 개미집 안에 살게 될 것이다. 물론 조금은 비현실적이다. 독재자들이 초연결 시스템을 갖추게 된다면, 경제 정책 입안자들과 비슷한 문제에 봉착하게 될 것이기 때문이다. 상대적으로 작은 국가에서도 어떤 변화가 어떤 결과를 낳을지 예측하는 것은 엄청나게 어려운 일이다. 단지 소셜미디어 때문만은 아니다. 홍콩은 아주 좋은 실례다. 샬리지와 공동으로 저술 활동을 하는 헨리 퍼렐은 최근 블로그 포스트에서 AI를 통한 사회 공학적 접근은 잘못될 위험이 높다고 지적한다. AI 시스템은 실수를 하고 편향을 만들어 낸다. AI로 사람들이 고통을 겪게 되는 일도 나쁘지만, 통제를 위해 AI의 통찰력에 의존하는 정부에는 훨씬 더 심각한 문제가 될 수 있다. 퍼렐은 이렇게 썼다. “머신러닝은 권위주의 정부의 재앙이 될 수도 있다.”

 

권위주의를 넘어서

기술이 독재를 강화하는 상황이 아닌 기술이 민주주의를 약화시키는 상황에서도 비슷한 기술들이 거론된다. 소셜미디어는 “입소문”에 대한 욕구를 이용해서 상업적인 이익을 추구한다. 그래서 소셜미디어에는 대중적인 정보 처리 과정에 컴퓨터 바이러스에 해당하는 정보를 주입할 수 있는 수단이 있다. 거짓 정보, 감정 배설, 인식 파괴를 통해 결과를 깎아내리고 왜곡하는 것이다.

이보다는 거부감이 덜한 방식들도 있다. 사회적 신용에 점수를 매긴다거나 복잡한 감시 도구를 사용하는 방식은 권위주의 국가들만의 전유물이 아니다. 사람들은 기업이 개인의 모든 움직임을 추적하는 일을 기꺼이 허락하고 있다. 어디에 있는지, 무엇을 사는지, 무엇을 좋아하는지, 그리고 무엇을 생각하고 있는지까지도 말이다. 그리고 개인적 특징에 점수를 매겨 프로필을 만들고 있다. 국가의 감시는 이제 자기 관리라는 방식으로 구현되고 있다. 미국에서는 400개가 넘는 경찰서가 아마존과 계약을 맺고 아마존의 영상 초인종 서비스인 링(Ring)에 연결된 카메라에 접근할 수 있게 됐다. 하버드 경영대학원의 쇼샤나 주보프(Shoshana Zuboff)는 이를 “감시를 기반으로 하는 경제 질서”라고 말한다. 중국에서 성장하고 있는 방식과 동일하지는 않지만, 상당히 비슷하다는 것은 분명하다.

망원경에서 보였던 지구의 녹색 덩어리들 중에서 가장 커다란 것 하나를 찾아가 보면 무슨 일이 일어나고 있는지 체감할 수 있다. 애플은 감시라는 문제에 있어서는 천사의 편에 서 있다. 애플보다 프라이버시를 심각하게 받아들이는 거대 테크 기업은 없기 때문이다. 직원들은 스티브 잡스가 살아있을 때는 실수를 두려워했지만, 이제는 그렇지 않다. 느긋하고 편안한 고위 임원들의 모습을 보면, 애플이 원래 반문화적인 곳이었다는 사실을 떠올릴 수 있다.

애플의 본사는 거대한 원형의 유리 건축물로, 밝고 깨끗하며 아름답다. 건물은 아주 효율적이고 친환경적이다. 하지만 그 내부로 들어가 보면, 단순한 독특함 이상의 느낌을 받는다. 건물은 놀라울 정도로 투명하다. 바닥은 멀리까지 휘어져 있고, 이 건물의 반대편이 있는 직원들이 중앙 정원을 가로질러 가는 것을 볼 수도 있다. 하지만 건물이 투명한 것과 개방성은 엄연히 다르다. 건물의 출입구를 통과하려면 카드를 인식시켜야 한다. 잘 숨겨져 있기는 하지만, 카메라가 모든 곳을 비추고 있다. 2017년에는 직원 한 명이 해고를 당했는데, 어린 딸이 애플의 구내식당을 이용하고 있는 그의 모습을 아이폰 동영상으로 찍었다는 이유였다. 동영상이 다른 사람들에게 공개되거나 온라인에 게시된 것도 아니었다.

비행하는 것을 좋아하는 건축가인 노먼 포스터(Norman Foster)가 설계한 이 건물은 종종 우주선과 비교되기도 한다. 이러한 비유가 특히나 인상적인 이유는 이곳 하부에 700개의 강철 원판으로 만들어진 내진 시스템이 있어서 지진이 발생하면 이 건물을 지각으로부터 분리시키기 때문이다. 그렇다면 이 건물은 발사를 준비하고 있는 비행 물체인가? 아니면 완전한 네트워크와 최적화된 알고리즘을 갖고 아주 잘 통제된 미래를 출발해 과거로 날아와서 거의 대부분의 현대인들로부터 환영을 받으며 이제 막 조용한 해안에 착륙한 침략 세력인가?

 

플랫폼 행성에 오신 것을 환영합니다

사회주의 계산 논쟁에서 가장 흥미로운 지점은 양쪽 진영이 서로 얼마나 동의했느냐 하는 것이다. 그들은 기계와 같은 효율성이 필요하다는 점에는 동의했다. 그 효율성을 어떻게 달성할 것인지에 대해서는 의견이 엇갈렸다. 신장 자치구를 탄압하는 것에 대해 격노하는 일과 현대의 바쁜 사람들이 알렉사(Alexa)나 시리(Siri)의 결정과 데이터에 항복하는 것에 대해 느끼는 참담함 사이에서 공통점을 발견하기는 쉽지 않다. 하지만 개인의 삶에서 통제와 예측 가능성을 원하는 것과 다른 사람들을 통제한다는 개념 사이에는 공통적인 특징들이 있다. 별생각 없이 쫓아가다 보면, 비슷한 문제점이 발생할 수도 있다. 그리고 이렇게 별생각 없이 적응하게 만드는 것이 자동화의 핵심이다.

가치라는 것을 소중하게 생각한다면, 생각할 여지를 갖춘 시스템을 설계할 수도 있다. 효율성이 쉽게 훼손되는 원인이 무엇이고, 그로 인한 결과가 무엇인지 토론할 수 있는 영역을 마련하는 것이다. 칠레의 프로젝트 사이버신을 다시 한 번 떠올려 보자. 물론 그 제어실이 통제를 위한 공간이었던 것은 사실이다. 하지만 그곳은 동시에 토론의 공간이기도 했다. MIT의 에덴 메디나(Eden Medina)는 저서 《사이버네틱 혁명가들(Cybernetic Revolutionaries, 2011)》에서 사이버신은 목적과 수단과 가치에 대한 토론을 촉진하기 위한 하나의 방법으로 인간과 기계를 한자리에 모으기 위해 설계된 것이라고 설명한다. 사이버신은 경제의 민주주의를 위한 플랫폼이었다. 사이버신을 만든 사람들은 국가 전역에 비슷한 공간을 만들고자 했다. 노동자, 관리자, 관료 등이 각자가 처한 상황을 이해하고 결정을 내릴 수 있는 기회를 제공하려 한 것이다. 그래서 이들은 일반적인 키보드가 아닌 커다랗고 기하학적인 버튼을 갖춘 키보드를 설치했다. 타이핑에 익숙한 사무직뿐 아니라 손가락이 두꺼운 노동자들도 사용할 수 있도록 설계된 것이다.

선택과 토론을 위한 플랫폼을 제공한다는 개념은 중요하다. 세계를 플랫폼 위에 올려놓고 이야기할 수 있다거나, 플랫폼을 기반으로 운영한다는 아이디어가 테크 산업에서 말하는 유비쿼터스적인 특징이기 때문만은 아니다. 플랫폼은 매우 다양한 형태일 수 있다. 운영 체제일 수도 있고, 온라인 마켓일 수도 있고, 소셜네트워크일 수도 있다. 다만 플랫폼은 언제나 그 위에 다양한 것들을 올려놓을 수 있다. 그리고 그 대상들이 할 수 있는 일의 범위를 규정한다.

계획 입안자나 규제 당국이 개입하고자 한다면, 플랫폼에서 출발하는 것이 가장 좋은 방법이다. 플랫폼은 관례가 법령이 되는 곳이고, 시장의 메커니즘이 명시되는 곳이다. 그 대표적인 사례가 바로 초기의 인터넷이다. 당시에는 누구나 마음만 먹으면 어떤 방식으로든 웹사이트를 만들 수 있었다. 하지만 당시의 그들이 특정한 기술 표준을 따르지 않고 마음대로 만들었다면, 지금과 같은 인터넷의 혜택은 만날 수 없었을지도 모른다.

이런 시각에서 계산 논쟁을 들여다보면 새로운 통찰을 얻을 수 있다. 이 논쟁은 계획과 시장 모두를 현재 우리가 컴퓨터 프로그램이라고 부르는 것으로 취급하면서, 서로 비교할 수 있게 만들었다. 하지만 한 걸음 더 나아가서 프로그램들을 하나의 플랫폼으로 생각해 보자. 이전과는 많이 다르게 보일 것이다. 시장은 수많은 다양한 프로세스들을 운용할 수 있는 플랫폼이 된다. 계획적인 접근 방식은 훨씬 더 엄격하게 규제되어야 할 것이다.

이미 거대하지만 점점 더 커지고 있는 플랫폼은 권력과 사업을 비롯한 다양한 것들의 원천이다. 정치에서는 이미 뜨거운 이슈가 된 상거래 규제뿐 아니라, 플랫폼이 구현하고 장려해야 하는 가치가 무엇인지에 대한 논의를 시작하기 위해서도 플랫폼을 이해할 필요가 있다. 미국의 작가이자 연구자인 예브게니 모로조프(Evgeny Morozov)는 최근에 발표한 논문 〈디지털 사회주의?(Digital Socialism?)〉에서 플랫폼 경제의 “피드백 인프라”에 대한 통제권을 정부가 다시 장악하도록 좌파가 압박해야 한다고 말하고 있다. 뉴욕에 있는 뉴스쿨의 연구원인 트레버 숄츠(Trebor Scholz)는 훨씬 더 많은 플랫폼들이 협동조합에 의해 운영되기를 원하고 있다. 두 가지 방법 모두 문제는 있다. 하지만 예측 능력과 자기 감독 능력이 결여된 시장이 공리에 맞는 플랫폼을 만들어 낼 수 있다고 예상한다면, 너무 낙관적인 전망일 것이다.

대부분의 세계와 마찬가지로, 플랫폼 세계는 다원성을 갖고 있어야 한다. 디지털 신분 체계나 디지털 통화와 같은 일부 기본적인 플랫폼의 경우에는 정부가 소유하거나, 최소한 정부가 치안 유지 활동을 할 수 있도록 해야 할 것이다. 그렇지 않은 다른 플랫폼들은 사용자와 시민 사회가 관리하고 감독해 (AI에게는 늘 따라다니는 원죄와도 같은) 편향과 사생활 침해 문제를 해소해야 한다. 인터넷, 오픈소스 운영 체제인 리눅스, 위키백과 등을 참고하는 것도 좋은 방법이다. 표준 기구나 자발적인 개발자 그룹에 의해서 아주 잘 관리되는 대표적인 사례들이기 때문이다. 그리고 사람들이 자신에 대한 데이터를 직접 소유할 수 있도록 해야 한다. 개인의 행적은 암호 화폐에 사용되는 블록체인 기법으로 코딩되어야 할 것이다.

마이크로소프트의 경제학자인 글렌 웨일은 플랫폼들의 건강한 연합체를 통해 의사 결정을 위한 새로운 방법을 고안할 수 있다고 생각한다. 그런 연대가 있다면 계획에서도 새로운 방식이 생겨날 수 있을 것이다. 하지만 민주적인 합의가 필요한 플랫폼에서만 그렇게 할 수 있다. (웨일은 새롭고도 기발한 투표 방식을 만들었는데, 새로운 플랫폼에서 빨리 사용하기를 바라고 있다.)

모든 것을 플랫폼의 관점에서 본다고 해서 반드시 밝은 측면만이 있는 것은 아니다. 하나의 플랫폼이 모든 것들을 포괄하려면, 수많은 가치를 하나의 체계로 정리할 방법이 필요하다. 그러려면 보르헤스의 도서관이 필요할 것이다. USS 엔터프라이즈호가 속해 있는 행성 연방(United Federation of Planets)과 같은 우호적이고 고결한 동맹과 비슷한 웨일의 건강한 플랫폼 연합체라는 아이디어는 확실한 미래가 아니라 하나의 희망 사항이다. 그러한 새로운 삶과 새로운 문명을 찾기 위한 탐험을 떠나려면, 활발한 정치적 프로세스가 필요할 것이다.

* 관련 콘텐츠를 더 읽고 싶으신가요? 아래 키워드를 클릭해 보세요.
#권력 #민주주의 #경제 #통신 #테크 #플랫폼 #데이터 #세계 #이코노미스트