AI 개발 블랙박스

마크 저커버그 메타 CEO가 새로운 부서를 만들었습니다. 부서명이 거창합니다. ‘슈퍼인텔리전스(Superintelligence)’입니다. 차세대 AI 모델 개발에 초점을 맞춥니다. 부서명에 걸맞게 저커버그는 ‘초지능’ 개발에 메타의 미래를 걸었습니다. 초지능 개발이 가시권에 들어왔다면서 “이것은 인류를 위한 새로운 시대의 시작이 될 것이며, 메타는 그 길을 선도하기 위해 헌신하고 있다”라고 사내 공지에서 밝혔죠.

눈길을 끄는 것은 이 새로운 부서의 구성원입니다. 11명을 새로 스카우트해 왔습니다. 그중 7명은 오픈AI에서, 2명은 구글 딥마인드에서, 1명은 앤트로픽에서 자리를 옮겼습니다. 업계 최고의 인재를 추려 목록을 만들고, 이들에게 거액의 보너스와 연봉을 제안했습니다. 수백만 달러에서 1억 달러에 이르는 연봉 패키지를 받고 메타로 자리를 옮긴 사람들이 슈퍼인텔리전스 부서를 이끌게 됩니다.

이들은 대부분 20대에서 30대라고 합니다. 좁은 바닥인 만큼, 서로 잘 아는 사이이기도 하죠. 버클리대나 카네기멜런대 같은 명문대에서 박사 학위를 받고, 오픈AI나 구글 딥마인드 등에서 경력을 쌓았습니다. 사실, 프런티어 AI 기업들은 이들을 영입하기 위해 최선을 다하고 있습니다. 오픈AI의 샘 올트먼 CEO는 자신의 저택에 잠재적 채용 후보자들을 초대해 저녁 식사를 대접하고, 그레그 브로크먼 사장은 〈왕좌의 게임〉 상영회를 열기도 했습니다. xAI의 일론 머스크는 오픈AI의 이전 회사 건물에서 채용 파티를 열었죠. 어떤 사람들을 노렸는지 빤히 보이는 행사입니다. 구글도 순다르 피차이 CEO와 공동 창업자 세르게이 브린이 직접 인재 영입에 나서고 있습니다. 저커버그도 이번에 작심하고 나선 겁니다. 리스트를 만들어 차례대로 접근해 스카우트를 시도했죠.

문제는 그 리스트에 올라와 있을, 소수의 젊고 영리하며 야심 찬 AI 인재들의 손에 인류의 미래가 달려 있다는 점입니다. 대부분의 사람은 이해는커녕 지금 무슨 연구가 진행되고 있는지도 알 수 없습니다. 이들의 ‘부족 지식(tribal knowledge)’에 따라 우리가 만나게 될 초지능의 모습이 달라집니다.

그 식당의 비법

부족 지식은 ‘암묵지 (tacit knowledge)’와 비슷한 개념입니다. 암묵지는 ‘이 찌개를 끓일 때는 파가 좀 익었을 때 불을 살짝 약하게 줄여야 맛이 좋더라’라는 식의 ‘비법’에 해당합니다. 이런 내용은 매뉴얼에 담기 어려울뿐더러, 기록조차 되지 않는 경우가 많습니다. 사실에 근거한 작업 지침이나 절차가 아니라 개인이 경험과 직관을 통해 체득한 지식이기 때문입니다. 정량화하기도 어렵고, 모든 경우에 유효하다고 보증할 수도 없죠.

부족 지식은 일반적인 암묵지와는 달리 특정 조직이나 집단 내에 정보가 공유됩니다. 예를 들면, ‘우리 식당에서는 볶음 요리에 반드시 이 참기름을 우리 주방 국자로 한 국자 넣는다’라는 식입니다. 한 개인의 어렴풋한 감이 아니기 때문에 조직 내에서 잘 논의하면 문서화도 가능합니다. 하지만 기본적으로 부족 지식은 집단의 구성원만을 위해 존재하기 때문에 도제식 훈련 과정을 통해 전수되는 경우가 대부분입니다. 그 결과 부족 지식을 공유하는 집단과 그렇지 않은 집단 사이에 벽이 생깁니다.

저커버그의 리스트에 오른 이 천재들도 부족 지식을 공유하고 있습니다. 여기에는 몇 가지 요소가 있습니다. 초지능에 도달하기 위한 기술적인 완성도가 포함됩니다. 매일 연구실에서 새롭게 발견되는 사실이 쌓이고 있는 지금, 발행된 논문들을 빠짐없이 읽어도 이들의 기술을 따라잡을 수는 없습니다. 외부에서는 무슨 일이 벌어지는지 짐작도 하지 못하는 동안 이들은 교류와 협력을 통해 시너지를 내고 혁신을 만들어 냅니다. 2023년 논문 한 편을 발행했던 버클리대 박사 과정의 빌 피블스라는 학생도 마찬가지였습니다. 도움을 줬던 팀 브룩스라는 다른 학생에게 전하는 감사 인사를 논문에 남겼죠. 이로부터 얼마 되지 않아 이 둘은 오픈AI의 동영상 생성 AI 모델인 ‘소라’를 출시해 냅니다.

또 다른 요소는 AI 개발의 방향성에 관한 것입니다. 2024년에 발표된 한 논문은 AI 모델 개발 과정에 작동하고 있는 부족 지식 메커니즘을 지적했습니다. AI 모델의 평가와 개선이 내부 연구팀만 접근할 수 있는 평가 지표나 실험 방식에 따라 이루어지고 있다는 겁니다. 전형적인 ‘부족 지식’입니다. 내부의 연구자나 PM(Project Manager)만이 그 맥락과 기준, 평가 방식, 해석 방식에 관해 공유하고 있습니다. 외부에서는 재현은커녕 파악조차 어렵습니다. 즉, AI 시스템의 품질 판단은 비공식적이며 문서화되지 않은, ‘그들만의 관행’에 의존하고 있는 겁니다.

천재들의 야심

저커버그가 막대한 자금을 쏟아부어 메타에 이식하고 싶어 한 것은 최고의 AI 연구 집단이 갖고 있는 이 ‘부족 지식’입니다. 이게 있어야 다른 기업들보다 먼저 초지능에 도달할 수 있습니다. 압도적인 차이는 아니더라도, 오픈AI나 구글은 쉽게 따라 할 수 없는 ‘기술적 해자’를 이들의 부족 지식이 있어야 구축할 수 있습니다.

생성형 AI로 전 세계의 돈이 몰려들고 있는 지금, 업계 최고로 인정받는 인재들은 돈만 보고 움직이지 않습니다. 어디로 가든 돈은 충분히 줍니다. 이들을 움직이는 것은 ‘동기’입니다. 멋지고, 흥미롭고, 중요하며 해결되지 않은 문제를 해결하는 것이죠. 모든 젊은이의 야망, 세상을 바꿀 수 있는 곳에서 일하고자 하는 겁니다.

그러려면 일단 돈이 많은 회사로 가야 합니다. 무한한 컴퓨팅 자원과 데이터를 쓸 수 있기 때문입니다. 저커버그가 제시한 연봉 액수는 단순히 부에 대한 약속이 아니라 메타라는 회사가 제공할 수 있는 연구 기반을 상징하는 것이었다고 볼 수 있겠죠. 다음으로 초지능, 혹은 AGI를 가장 먼저 개발할 회사로 가야 합니다. 다른 누구도 아닌 나 자신이 AI를 통한 패러다임 전복의 주역이 되기 위해서입니다. 이 집단은 세상을 바꾸겠다는 의지와 확신으로 움직입니다.

blue, blue-sky

물론, 메타에도 훌륭한 인재들이 있습니다. 하지만 많이 떠났습니다. 2023년 처음으로 ‘라마(LLaMA)’를 공개했을 당시 논문에 이름을 올린 14명의 공동 저자 중 현재 메타에 남아 있는 인물은 3명뿐입니다. 이들은 메타를 떠나 경쟁 스타트업으로 이직하거나 자신의 회사를 창업했습니다. 그 결과 메타가 2025년 4월 공개한 최신 모델, 라마 4는 혹평을 면치 못했습니다. 일부 직원들은 링크드인 프로필에서 라마 4 개발 관련 내용을 삭제하기도 했을 정도로 말이죠. 결국 메타는 라마 4의 플래그십 모델인 ‘베히모스’ 출시를 무기한 연기한 상태입니다.

각자의 이유가 있겠지만, 순수 기초 연구(blue-sky research)를 등한시하는 회사 분위기도 한몫 했다는 보도가 나왔습니다. 양자 역학의 초기 연구나 아인슈타인의 상대성 이론, 1950~1960년대의 프로그래밍 언어 연구 같은 기초 연구를 말합니다. 당장 돈이 되는 것도 아니고 실패나 비효율을 감수해야 하지만, 장기적인 돌파구를 발견하기 위해서는 반드시 필요하죠.

메타의 분위기, 저커버그의 방향성을 짐작해 볼 수 있는 부분입니다. 역사에 남을 과학적 업적을 만들기보다는 단기간에 인정받을 수 있는 결과에 집중하는 분위기입니다. 이해가 가지 않는 것은 아닙니다. 메타는 생성형 AI 분야에서 후발 주자입니다. 메타가 야심 차게 내놓은 라마가 오픈 소스 모델을 표방했던 것도, 오픈AI를 중심으로 시장을 선점한 경쟁자들과 차별화를 꾀하기 위해서였습니다. 앞서가는 경쟁자를 빠르게 추월하려면 지금 인정받을 수 있는 결과를 내야 한다는 압박이 있었겠지요.

중국 이민 2세의 강렬한 애국심

이번에 출범한 슈퍼인텔리전스 부서는 막다른 골목에 몰린 메타가 절치부심 끝에 던지는 승부수입니다. 오픈AI의 공동 창업자인 일리야 수츠케버급은 데려오지 못했지만, 어쨌든 팀을 출범시킬 수 있을 정도로는 사람을 다시 수혈했습니다. 그리고 아마도 그 과정에 일정 부분 역할을 했을 것으로 보이는 인물이 바로 최근 메타가 140억 달러를 투자한 데이터 라벨링 기업, ‘스케일AI’의 창업자 알렉산더 왕입니다. 왕은 슈퍼인텔리전스 부서를 이끄는 임무를 맡았고요.

대중에게는 이름이 널리 알려지지 않았지만, 알렉산더 왕은 실리콘밸리의 소문난 ‘인싸’입니다. 업계에서는 왕을 엔지니어로서 능력보다는 네트워킹 쪽이 훨씬 뛰어난 인물이라고 평가합니다. 사람을 끌어당기는 재능을 바탕으로 왕은 대학 1학년이었던 19살 나이에 스케일AI를 창업했고, 회사를 쑥쑥 키웠습니다. 스타트업 액셀러레이터인 와이콤비네이터(Y-Combinator)의 투자를 받았죠. 오픈AI나 구글 같은 프런티어 AI 기업부터 미 국방부 같은 연방 정부까지 고객으로 확보했습니다. 그리고 28살이 된 왕은 저커버그의 구원 투수로 마운드에 섰습니다. 

이 젊은 억만장자의 생각을 들여다보면, 메타의 초지능이 어떤 성향을 보이게 될 것인지 짐작해 볼 수 있습니다. 왕은 미국의 AI 자주권을 지키기 위해 중국을 견제해야 한다는 주장을 거침없이 내놓고, 군에 AI를 빠르게 적용해야 새로운 시대에 패배자가 되지 않을 수 있다고 이야기합니다. 한 인터뷰에서 왕은 기술자들이 미국의 군사적, 경제적 리더십에 대한 관점을 가져야 한다고 강조했습니다. 왕 자신은 “미국의 리더십이 반드시 유지되어야 한다”라고 믿는다며 말이죠. 왕이 데려올 인재의 철학을, 그들이 만들게 될 메타의 초지능의 논리 구조를 상상하게 됩니다.

쇼고스의 분장

최근 〈월스트리트저널〉은 ‘챗GPT 속의 괴물’이라는 제목의 사설을 실었습니다. 기술 기업들이 AI 모델을 안전하게 정렬하려는 노력은 ‘우리가 이해하지 못하는 괴물에게 쉽게 지워질 분장을 시키는 것’에 불과하다는 주장입니다. 사설은 최근 발표된 논문을 근거로, 대규모 언어 모델(LLM)을 사후에 훈련하여 정렬한들 악의적인 의도가 없는 파인 튜닝만으로도 실제 오정렬(misalignment)이 일어날 수 있다고 강조합니다. 특정 코드 작성에 맞게 훈련했더니 느닷없이 혐오 발언을 쏟아내는 식입니다.

이 세계가 결국 인공적인 초지능과 조우하게 된다면, 그리고 초지능을 우리 인류가 직접 만들어 낼 계획이라면 인류는 그 개발 과정을 알 권리와 의무가 있습니다. 무엇을 학습하며 어떤 철학에 따라 추론하고 결론을 내는 존재인지 등장 이전에 투명하게 공개되어야 합니다. 인류의 역사가 쌓아 온 데이터와 지식을 기반으로 만들어질 것이기 때문입니다. 우리의 삶이 엄청난 변화를 겪게 될 것이기 때문입니다.

하지만, 현재 AI 모델 개발은 소수의 천재들의 부족 지식에 기대어 이루어지고 있습니다. 이들의 커뮤니티에서 어떠한 철학이 이야기되고 있는지, 어떤 회사의 연구실에서 정렬 관련 학습에 어느 정도의 가중치를 두는지도 알 길이 없습니다. 일반 시민은 물론이고, 이 사회의 기본적인 질서 유지를 맡고 있는 정부도 마찬가지입니다.

저커버그의 리스트로 새삼 주목받게 된 AI 업계의 인재 전쟁은, 우리가 얼마나 소수의 사람에게 미래의 사회상을 온전히 내맡기고 있는지 상기할 기회가 되었습니다. 생성형 AI가 제대로 작동하면 할수록, 엄청난 능력을 보여 주면 줄수록 ‘AI 투명성’이라는 몇 년 전의 어젠다는 희미해져 갑니다. 이미 잊힌 사어(死語)가 되어 버렸을지도 모르겠습니다.

---