AI 시대의 예언자

어제와 오늘이 그다지 다르지 않다면, 혁신이 없다는 얘깁니다. 따라서 세계의 부가 증가하는 속도가 점차 느려집니다. 경기의 침체는 예정된 미래였습니다. 이런 상황에서 금융 시장의 챔피언은 보통 채권입니다. 주식 시장의 상승은 생산력의 향상에서 비롯됩니다. 혁신이 멈췄는데 우상향하기 힘들죠. 반면, 채권은 기업이나 국가가 빚을 지고, 그에 따른 이자를 지급하는 방식입니다. 망할 확률은 매우 낮고, 또박또박 들어오는 이자는 안정적인 수익이 됩니다.

그런데 갑자기 상황이 바뀌었습니다. 여러 가지 변화 중에서도 생산성의 폭발적인 증가를 가져올 수 있는 기술이 가시권에 들어온 것이죠. 생성형 AI입니다. 처음에는, 이 기술이 혁신인지 아닌지, 우리의 삶을 바꿀만한 것인지를 두고 회의적인 시각도 있었습니다. 하지만 어느샌가 변화가 시작되었다는 데에 모두가 동의하고 있습니다. 어제와 오늘의 AI 기술 판도가 다릅니다. 그러니 어제와 오늘의 주가도 다릅니다. 이제 우리는 내일도 오늘 같으리라 확신할 수 없는 변화의 시대, 불확실성의 시대를 살게 되었습니다.

내일의 안녕을 확신할 수 없는 때일수록 우리는 확실한 이야기를 듣고 싶어 하는 경향이 있습니다. 대표적으로 토정비결이나 사주, 별자리점같이 고전적인 방법론이 있겠습니다. 다만, 현대 사회에서 이런 방법론은 개인의 심리적 안정에 이바지하는 정도로 그 기능이 축소되어 있죠. 어디까지나 확률과 경험칙에 근거한 내용이기 때문에 개인이 책임질 수 있는 만큼 받아들이고 이용하면 될 이야기입니다. 조언 같은 것이겠죠. 그 이상이 되면, 위법입니다.

요즘에는 데이터에 근거해 이야기하는 애널리스트, 학자의 주장도 넓어진 플랫폼을 타고 쉬이 퍼지곤 합니다. 기술이, 주가가 어떻게 될 것인지에 관한 ‘예측’을 내놓습니다. 그 주장이 그럴듯할수록 더 많은 사람들이 귀를 기울입니다. 신뢰가 쌓입니다. 어느 순간 근거 데이터의 존재보다 말하는 사람이 중요해집니다. 누가 말했느냐에 따라 맹신에 가까운 믿음이 말 한마디에 실리곤 하죠. 이래서는 고대의 예언자들을 향한 믿음과 다를 바 없을 정도입니다. 그런데 그들이 정말 예언자일까요?

제프 딘

과거에는 지식이 특권이었습니다. 소수에 의해 독점되었고, 책이라는 형태를 갖춘 뒤에도 비싼 가격에 거래되었죠. 15세기까지만 해도 유럽에서 책 한 권을 사려면 숙련 노동자의 1년 치 임금을 지불해야 했습니다. 엄청난 사치품이었죠. 지식도 귀한데 지혜도 귀했습니다. 지혜를 쌓을 만큼 평균 수명이 길지 않았기 때문입니다. 19세기 이전까지 인류의 평균 수명은 30대에 머물렀습니다. 통찰을 기를 시간이 없었죠.

그래서 지식과 지혜를 가진 사람이 과거에는 엄청난 자원이었습니다. 예언자도 그런 사람 중의 하나였죠. 핀란드의 성서학자 마르티 니시넨(Martti Nissinen)은 고대 메소포타미아, 이스라엘, 그리스 등의 자료를 분석해 ‘예언’이라는 것이 단순히 미래를 예고하는 행위가 아니라 일종의 사회 제도였다고 결론지었습니다.

예언자는 신적 징조를 해석하는, 일종의 전문가였습니다. 이들은 독자적인 정보와 통찰을 종합해 왕이나 지배 계층을 대상으로 지금의 정세를 어떻게 읽어야 하는지에 관한 조언을 제공했습니다. 다만, 그 근거를 ‘신의 뜻’이라 설명했던 겁니다. 하지만 그들이 읽은 것은 신의 메시지가 아니었습니다. 당대의 상황이나 일종의 징후 등이었죠. 이를 해석해 정책 결정자에게 ‘정책 조언’을 했던 겁니다. 참모 같은 존재로서 말입니다.

21세기의 생성형 AI 혁신의 판에서는 제프 딘(Jeff Dean)이 그런 예언자라 할 수 있을 겁니다. 세계 최고 수준의 과학적 지식은 물론이고 엄청난 통찰까지 가진 인물입니다. 그리고 그 통찰의 결과물이 구글의 TPU입니다.

딘은 구글의 수석 과학자이자 창업 이래 30번째 직원입니다. 구글이라는 작은 스타트업이 거대한 컴퓨팅 기업으로 성장하는 데에 가장 크게 이바지한 인물로 꼽히죠. 창업자들이 회사를 떠난 뒤에도 딘은 회사에 남아 연구를 계속했습니다. 그리고 회사가 어떤 방향으로 향해야 할지 제시했습니다. 아주 구체적으로 말이죠.

2013년 음성 인식 모델이 꽤 유의미한 결과를 내기 시작했습니다. 딘은 이 모델을 구축하기 위해 반도체가 얼마나 필요한지 계산해 봤습니다. 안드로이드 사용자가 하루에 3분씩만 음성 검색을 사용해도 구글의 데이터센터를 2배로 늘려야 한다는 결과가 나왔죠. 일반적인 경영진이었다면 이 모델을 포기했을 겁니다. 아니면 반도체를 엄청나게 더 사들이고도 수익을 낼 수 있을지를 가늠했겠죠. 하지만 딘은 좀 더 멀리 봤습니다. 머신러닝을 위해 사용할 특수 칩을 설계할 팀을 꾸렸고, 엄청난 효율 향상을 이루어냈습니다. 이 팀이 만들어낸 것이 구글의 TPU입니다. 엔비디아의 GPU가 독점하고 있던 인공지능 연산 칩 시장에 등장한 새로운 대안 말입니다.

샘 올트먼

딘은 자신의 과학적 지식과 통찰을 통해 기계 지능이 존재하는 세계를 봤습니다. 그리고 그 세계가 존재하기 위해서는 새로운 반도체가 필요하다는 것도 봤죠. 새로운 시대에 관한 딘의 예언 덕에 구글은 새로운 시대의 주도권을 손에 넣을 발판을 마련할 수 있었습니다.

하지만 우리가 생성형 AI를 이야기할 때 가장 먼저 떠올리는 이름은 제프 딘이 아닙니다. 샘 올트먼이죠. 생성형 AI의 가능성을 우리가 모두 실감하게 된 계기도 구글이 아니라 오픈AI의 챗GPT-3.5였고요.

독일의 사회학자이자 철학자였던 막스 베버는 예언자를 카리스마적인 지도자의 전형으로 봤습니다. 위기 상황에서 새로운 해석과 규범을 제시합니다. 그리고 새로운 규칙에 맞게 사회를 다시 조립하고자 하죠. 종교나 정치와 같은 기존의 사회 질서를 완전히 뒤집는 ‘의미 혁신자(ethical innovator)’입니다. 이들에게는 압도적인 지식도 중요하지만, 사람들을 설득할 수 있는 흡입력도 중요합니다. 마치 샘 올트먼처럼 말입니다.

올트먼은 과학자가 아닙니다. 생성형 AI 모델을 직접 개발하는 사람이 아니란 얘깁니다. 오히려 생성형 AI의 ‘마케터’에 가깝습니다. 그렇다고 올트먼이 딘과 같은 과학자보다 낮은 평가를 받을 이유는 없습니다. 올트먼이 없었다면, 지금과 같이 비약적인 기술 발전이 불가능했을 테니까요. 이 기술이 무엇을 어떻게 바꿀 수 있는지를 매력적으로 설득해 손에 잡히지도 않는 미래에 엄청난 돈이 빨려 들어가는 판을 짠 장본인이기 때문입니다. 마이크로소프트의 사티아 나델라 CEO나 엔비디아의 젠슨 황 CEO 같은 사람만 올트먼에게 매료된 것이 아닙니다. 장난 같았던, 수준 이하의 챗GPT-3.5를 사용해 봤던 사람들도, 홍채 인식으로 사람임을 증명하면 코인을 주겠다는 제안에 응한 사람들도 올트먼의 이야기에 설득되었습니다. 다만, 올트먼의 이야기를 처음부터 끝까지 꼼꼼하게 들은 사람은 많지 않은 것 같지만 말이죠.

올트먼이 그리는 새로운 세상의 전제는 ‘지적 노동’의 가치가 거의 0에 수렴할 것이라는 데에서 출발합니다. 일정 수준의 AI 모델을 사용하는 비용이 12개월마다 10배씩 떨어지게 되고, 이로 인해 ‘지능’이라는 것이 마치 전기나 인터넷처럼 어디에나 끌어다 쓸 수 있는 인프라처럼 작동하게 된다는 겁니다. 이 지능 인프라가 과학 연구, 의학 등은 물론이고 제조나 법률 등 거의 모든 분야의 생산성을 가파르게 견인해 엄청난 부를 창출하게 됩니다.

이렇게 되면 일자리의 패러다임도 뒤집힙니다. 예를 들어 올트먼은 고객센터의 상담원과 같은 직무가 완전히 사라질 수 있다고 이야기하죠. 향후 10년 뒤에는 공장의 단순한 조립 라인 같은 곳도 완전히 자동화될 것이며, 이후에는 거의 모든 일을 컴퓨터가 하게 될 것이라고 봅니다. 그래서 새로운 지능, 즉 생성형 AI와 피지컬 AI가 만들어내는 초과 이익을 세금 및 배당 형태로 걷어 모든 사람에게 현금으로 나누어주자고 주장합니다. 

살던 대로 사는 것이 늘 가장 편안한 선택입니다. 그럼에도 변화라는 불편한 선택을 받아들이게끔 하려면, 인간적인 매력에서 나오는 설득력이 필요하죠. 그리고 불편한 선택은 눈에 보이지도 않을 정도로 거대한 청사진도 필요할 테고요. 올트먼은 크게 보고 큰 그림을 그립니다. 그리고 스스로를 새로운 시대의 중심에 올려 세웠죠.

제프리 힌턴, 얀 르쿤

물론, 올트먼도 생성형 AI가 위험할 수 있다는 데에 동의합니다. 그리고 그 위협 때문에 오픈AI를 설립했다고 이야기하죠. 거대 기업이 AGI(일반인공지능)를 달성해 홀로 독점한다면 새롭게 등장한 기계 지능이 인류의 이익이 아닌 재앙이 될 수 있다는 겁니다. 모두에게 안전하고 이익이 되는 AGI를 달성하겠다는 것이 오픈AI의 창립 이유입니다.

하지만 올트먼은 과학자도 아니며 철학자도 아닌, 마케터입니다. AI가 너무 똑똑해져 인류를 공격할 수도 있다는 디스토피아적 상상력은 생성형 AI 업계에 정부가 지원을 아끼지 말아야 할 근거가 되거나 오픈AI처럼 안전한 비영리 기업이 개발을 주도해야 할 명분이 되죠. 하지만 어떤 예언자는 진심을 담아 경고합니다. 마치 고대 이스라엘의 예언자처럼, 사회 전체를 향해 권력과 경제 구조를 비판합니다.

딥러닝의 창시자로 지난 2023년 구글을 떠난 제프리 힌턴과 같은 인물이 대표적입니다. AI가 허위 정보 및 정교한 독극물로 인류를 위협할 수 있다고 경고하며 회사를 떠났죠. 힌턴은 21세기식 인공지능을 창조한 장본인이라 해도 과언이 아닙니다. 현대 머신러닝 교과서에 나오는 주요 모델과 개념 상당수가 힌턴의 논문에서 출발했죠. 잘 알려진 대로 노벨상 수상자이기도 합니다. 힌턴이야말로 지식과 지혜를 모두 갖춘 현자라고 할 수 있겠죠.

그런데 같은 미래를 보면서 올트먼과 힌턴의 해석이 엇갈립니다. 올트먼은 AI로 인해 엄청난 생산성과 부를 창출할 수 있고, 이를 잘 분배하면 유토피아를 현실화할 수 있다고 믿습니다. 반면, 힌턴은 현재의 자본주의 체제 안에서 AI는 대량 실업과 극단적 불평등을 낳고, 창출된 부는 소수에게 집중될 것이라고 예언합니다. 이뿐만이 아닙니다. 잘못 설계된 초지능이 아예 인류를 멸종시킬 가능성이 있다고도 경고하죠.

하지만 힌턴과 같은 ‘종말론적 비판자’의 목소리는 요즘 잘 들리지 않는 것 같습니다. AI가 불러올 위기보다는 ‘AI 버블’이 불러올 주가 하락을 더 두려워하는 분위기죠. 여러 이유가 있겠지만, 종말론적 담론을 해체하는 ‘반(反) 예언자’ 성격 인물들의 존재 때문이기도 할 겁니다. 메타의 수석 AI 과학자 자리를 내려놓고 자신만의 스타트업을 차려 떠나게 되는 얀 르쿤과 같은 인물 말입니다.

르쿤은 AI가 아직 고양이 수준에도 도달하지 못했는데, 인간을 위협할 수는 없다고 이야기합니다. 기술적 개선으로 안전을 충분히 확보할 수 있다고도요. 언뜻 들으면 좀 이상한 얘깁니다. 요즘 대학에서는 과제도 시험도 생성형 AI로 해결한다던데, 고양이보다는 똑똑한 수준 아닌가 싶죠. 하지만 르쿤은 LLM의 한계를 지적합니다. 현재의 LLM은 새로운 해결책을 ‘발명’하는 시스템이 아니라, 거대한 메모리와 검색 능력을 갖춘 시스템에 가깝다는 겁니다. 우리가 흔히 이야기하는 ‘헛똑똑이’라는 것이지요.

르쿤은 AI가 인간의 지능을 따라잡으려면 물리적 세계에 대한 이해나 영구적인 기억, 계획 수립 능력 등을 갖춰야 한다고 봅니다. 그래야 현실 세계에서 유의미한 방식으로 작동할 수 있다고요. 그런데 이런 시공간적 감각은 텍스트만으로는 습득할 수 없죠. 현실 세계의 물리 법칙을 담은 자료가 필요합니다. 가장 저차원적으로는 동영상을 들 수 있겠습니다. 텍스트와는 차원이 다른 규모의 정보입니다. 온 세계를 빠짐없이 촬영해 학습시킬 수도 없는 노릇이죠. 

이러한 데이터 수집의 제약을 해결하기 디지털 트윈이 활용되고 있습니다. 또, 메타와 결별한 르쿤은 ‘월드 모델’을 개발하기 위해 자신만의 회사를 설립할 예정입니다. 월드 모델은 세계의 물리적 작동 원리를 학습한 AI 모델이라고 할 수 있습니다. LLM의 한계를 뛰어넘은 모델이죠. 월드 모델이 피지컬 AI와 결합하면 엄청난 시너지를 낼 수 있습니다. 사람처럼 작은 돌발 변수에 여유 있게 반응하며 일할 수 있는 야무진 로봇이 공장을 채우는 미래가 오는 겁니다.

예언의 무게

고대의 예언자들에 관해 우리가 종종 오해하는 지점이 있습니다. 지구상에는 수많은 예언자가 존재했고, 그들은 각자의 커뮤니티에서 서로 다른 역할을 담당했습니다. 누군가는 정말로 신의 계시를 받아 이야기한다고 믿었을 수 있습니다. 그것이 환각이었는지, 명상의 결과였는지는 지금 와서 판단하기 어렵겠지만요. 하지만 또 다른 누군가는 지혜를 쌓아 올려 자신의 통찰을 통해 예언을 이야기한 사람도 있었을지 모릅니다.

지금도 마찬가지입니다. 자신의 지식과 지혜를 통해 세계의 변화를 관찰하는 사람들은 미래를 전망합니다. 그들의 예언은 조금씩 방향이 다르고, 서로 상충되기도 하죠. 하지만 신전 앞에서 신탁을 기다렸던 고대의 누군가처럼, 이 불확실한 변화의 시대를 살아가는 우리에게도 예언이 필요합니다. 다만 그 예언의 맥락과 함의에 관해 판단할 안목을 갖추는 건 우리의 몫이겠지요. 부는 바람 소리를 듣고 신의 계시라 믿는 예언자인지, 바람이 몰고 온 구름의 색을 보고 폭우를 염려하는 예언자인지 말입니다.

---