실리콘밸리에서 추방된 사람

전쟁은 설익은 미래의 기술을 현재로 끌어와 무기로 사용하곤 합니다. 기술 실패의 부작용에 대한 우려는 ‘국익’이라는 명분으로 간단히 무시됩니다. 2차 세계 대전의 핵무기가 그러했다면, 이번 이란 전쟁에서는 AI를 접목한 기술들이 그렇습니다. 그리고 이 과정에서 가장 큰 주목을 받은 기업이 바로 앤트로픽입니다.

앤트로픽은 자사의 AI 모델을 국방부가 사용하는 데 두 가지만은 허용할 수 없다고 주장했습니다. 첫 번째는 시민에 대한, 좀 더 정확히는 ‘미국 시민’에 대한 대규모 감시입니다. 두 번째는 인간의 감독이 없는 완전 자율 무기 시스템이고요. 국방부는 딱 잘라 거절했습니다. 전쟁 상황에서 민간 기업에 AI 사용 여부 결정권을 넘겨줄 수 없다는 겁니다. 앤트로픽이 제시하는 기준 자체도 모호하고요.

결국 양측의 갈등은 갈 데까지 갔습니다. 미국 정부는 앤트로픽과의 계약 해지는 물론 ‘공급망 위험 기업’ 지정까지 밀어붙였습니다. 앤트로픽은 이에 반발해 소송을 제기한 상황이죠. 이 장면을 실리콘밸리와 트럼프 진영의 대립으로 해석하는 시각이 있습니다. 하지만 시야를 좀 더 넓혀보면, 기술 진영 내에 새로운 정치 세력이 자라나고 있다는 시그널이 포착됩니다.

치밀한 계산

저는 개인적으로 앤트로픽이 실리콘밸리의 성자나 영웅이라고 생각하지는 않습니다. 앤트로픽은 공익법인입니다. 창립자들은 원래 몸담고 있던 오픈AI가 원래 약속했던 설립 목표로부터 이탈해 있다고 봤습니다. AGI가 모든 인류에게 이익이 되도록 안전하고 유익한 방식으로 개발하겠다는 목표 말입니다.

그래서 정관에도 공익적 목적을 명시했고, 2022년부터는 ‘헌법적 AI (Constitutional AI)’라는 훈련 방법론을 채택하고 있습니다. AI에 일종의 헌법과 같은 원칙 목록을 직접 주고, AI 스스로 자신의 응답을 평가하고, 수정하게 하는 방식입니다. 인간에게 유익하며 무해하고, 정직한 AI 모델로 개발하고자 하는 목적입니다. 사람이 AI의 성능을 평가하는 과정에서 유해 콘텐츠에 노출되는 일을 줄이고, AI의 행동 기준을 명시적이고 투명하게 공개할 수 있다는 장점도 있습니다.

제게 돈이 있다고 해 보죠. 2025년의 어느 날을 기준으로, 생성형 AI에 투자한다고 가정하면 오픈AI가 현명한 정답일 겁니다. 제가 실력 있는 AI 엔지니어라고 해 볼까요. 여러 회사의 일자리 제안 중에서 오픈AI를 선택해야 AGI의 순간에 가장 근접하는 결정이 될 겁니다. 하지만 적지 않은 선택이 앤트로픽으로도 향했습니다. 앤트로픽의 이념에 동의했기 때문입니다. 만약 국방부의 요구를 그대로 수용했다가는 어떤 후폭풍을 맞을지 알 수 없습니다. 최고의 인재가 회사를 떠나고, 투자가 줄 수 있죠. 다리오 아모데이 CEO는 회사의 가치를 지키는 선택을 했을 뿐입니다.

기술 업계 전반의 분위기는 앤트로픽에 우호적이라는 보도가 나옵니다. 《뉴욕타임스》 등의 매체를 중심으로 실리콘밸리에 앤트로픽 지지를 위한 결집이 관찰된다는 소식이 전해졌습니다. 하지만 미국 기술 업계의 분위기는 10년 전과는 많이 다릅니다. 다양한 목소리가 존재합니다. 예를 들면 안두릴의 창립자인 팔머 럭키처럼 대놓고 앤트로픽의 주장을 비판하는 인물도 있죠.

그 천재 소년의 이야기

안두릴이라는 기업의 이름은 꽤 알려졌습니다. 팔란티어와 함께 떠오르고 있는 최첨단 방산 기업입니다. 그런데 이 기업의 탄생 배경 자체가 몹시 정치적인 이유 때문이었다는 이야기는 잘 회자되지 않는 것 같습니다. 사건은 2010년대로 거슬러 올라갑니다.

2012년 4월, 19살이었던 럭키는 자신이 개발하던 VR 기기의 프로토타입을 미국의 전설적인 게임 프로그래머 존 카맥에게 보냅니다. 럭키의 가능성을 알아본 카맥의 전폭적인 지원으로 전설이 탄생합니다. ‘오큘러스’입니다. 부모님 댁 마당 한쪽 트레일러에서 지내며 VR 헤드셋을 만들던 19세의 ‘하드웨어 덕후’ 럭키가 단번에 촉망받는 창업자로 주목받게 된 순간입니다.

그다음 이야기는 잘 알려져 있습니다. 2014년, 페이스북은 오큘러스를 약 20억 달러에 인수했습니다. 당시 마크 저커버그는 VR을 ‘차세대 컴퓨팅 플랫폼’으로 보고 접근했다고 합니다. 애플이 비전 프로를 내놓으면서 보여줬던 구상을, 저커버그는 몇 년이나 앞서 그렸던 겁니다. 럭키의 이름값도 높아졌고요. 실제 일반 소비자를 대상으로 한 제품도 무사히 개발되어 출시되었습니다. 2016년의 일입니다. 하지만 곧 사달이 났습니다.

2016년 9월, 럭키를 겨냥한 보도가 나옵니다. 친트럼프 성향 단체인 ‘Nimble America’에 럭키가 1만 달러를 기부했고, 이 돈은 당시 대선 라이벌이었던 힐러리 클린턴을 조롱하는 광고에 쓰였다는 겁니다. 업계 전체가 술렁였습니다. 당시만 해도 실리콘밸리는 친민주당 성향이 강했습니다. 럭키는 보도 내용에 관해 일부 해명도 내놓고 일부 사과도 했지만, 사태는 걷잡을 수 없었습니다. 엄청난 비난은 물론이고, 업계의 ‘손절’에도 직면했습니다. 일부 VR 개발자들이 오큘러스 지원 중단까지 선언했던 겁니다.

결국 럭키는 2017년 페이스북을 떠나게 됩니다. 회사와 자신의 이미지 관리에 무척 공을 들이는 저커버그로서는 오래 참았다고 할 수도 있겠습니다. 이때 럭키의 나이는 24세였습니다. 아마도 이 경험은 이후 형성하게 될 세계관에도 영향을 미쳤겠지요.

전쟁과 기술

컨테이너 안에서 오큘러스를 발명한 20대 초반의 천재가 다음을 기약하지 않을 리 없습니다. 다음 창업 아이템은 바로 방산 분야였죠. 럭키는 2017년 안두릴을 창업했습니다. 전통적으로 실리콘밸리에서는 기피되던 분야였습니다. 좀 더 정확히 말하자면, 실리콘밸리에서 일하는 많은 사람들이 기피하는 분야라고 해야겠네요. 당시의 분위기가 어땠는지는 2018년 구글이 겪었던 소동을 보면 알 수 있습니다.

당시 구글이 미 국방부의 인공지능 군사 프로젝트 ‘프로젝트 메이븐(Project Maven)’에 참여하고 있다는 사실이 알려지면서 직원 3100명 이상이 순다르 피차이 CEO에게 항의 서한을 보냈습니다. 시위도 일어났죠. 구글이 전쟁에 관련된 사업을 해서는 안 된다는 주장이었습니다. 당시 피차이 CEO는 구글의 기술은 공격과는 관련 없는 목적에 한정되어 있다고 설명했습니다. 드론 영상 등을 검토하는 인간을 돕는 수준이라고요. 하지만 직원들은 이런 기술이 결국 드론 타격의 표적 식별에 활용될 수 있다고 우려했습니다.

우리는 이 우려가 그대로 현실이 된 세계를 살고 있습니다. AI 모델은 ICE가 이민 단속 대상을 선별하는 과정에 사용되거나, 이란의 어느 지역을 폭격해야 혁명 수비대에게 타격을 입힐 것인지 판단합니다. 구글의 직원들이 회사를 막아섰기 때문에 2026년의 전장에서 구글은 주인공의 자리에 서지 못한 것이죠.

하지만 당시에도 비주류는 존재했습니다. 예를 들면, 피터 틸 같은 인물 말입니다. 이른바 ‘페이팔 마피아’ 출신으로, 팔란티어의 창립자 중 한 명이기도 합니다. 하지만 피터 틸은 트럼프를 지지하는 것으로 알려졌기 때문에 실리콘밸리에서는 여론이 좋지 않았습니다. 정치적 성향과는 관계없이 피터 틸은 뛰어난 인물입니다. J.D. 밴스라는 정치 풋내기를 발굴해 부통령 자리에까지 올려놓을 만큼 말이죠. 피터 틸은 팔머의 가능성을 지나치지 않았습니다. 안두릴의 창업 자금을 댔고, 정치 및 방산 쪽의 네트워크를 활용해 지원하기도 했습니다. 

피터 틸이라는 거물의 지지뿐만 아니라 시대의 바람도 팔머 쪽으로 불었습니다. 실리콘밸리의 대다수가 가능성이 전혀 없다고 생각했던 일이 일어난 겁니다. 바로 트럼프 1기 행정부의 출범입니다. ‘장사의 신’이 백악관에 입성하면서 기존 방산 빅5의 독과점 장벽에 균열이 가기 시작한 겁니다. 물론 스페이스X나 팔란티어 등의 신생 업체들이 소송까지 불사하며 진입 장벽을 낮춰 놓은 덕도 봤고요.

안두릴이 정부에 납품을 성공한 첫 제품은 바로 ‘무인 감시탑(Autonomous Surveillance Tower, AST)’이었습니다. 제품명은 ‘Sentry Tower’였습니다. 태양광 전원 기반의 이동형 감시탑입니다. 카메라와 열화상, 레이더 등을 통해 수집한 데이터를 AI가 분석해 동물, 사람, 차량을 구분하고 위치와 경보를 현장 요원에게 보내는 방식입니다. 트럼프가 약속했던 국경 장벽을 디지털로 구현한 제품이라 할 수 있습니다.

원래 미 국토안보부는 2000년대 중반, 보잉사와 함께 비슷한 시스템을 개발하고자 했습니다. 하지만 돈만 쓰고 성과는 없었죠. 안두릴은 달랐습니다. 제품을 다 만들어 가져와 시험해 보고 사라고 제안했습니다. 텍사스에서 시험 가동한 결과, 타워가 설치된 이후 10주 동안 국경을 넘는 55명을 검거할 수 있었습니다. 약 440킬로그램에 달하는 마리화나를 압수하기도 했죠. 샌디에이고 외곽에서는 설치 후 12일 동안 10건의 적발을 기록했고요.

애국하는 기술의 시대

사실 2010년대의 실리콘밸리를 떠올려 보면, 애플 이외의 기업이 제대로 된 기계를 만들어 낸 예시를 찾기 힘듭니다. 소프트웨어 개발 및 배포와 하드웨어 개발 및 대량 생산은 완전히 다른 문제입니다. 후자는 대량 생산을 뒷받침할 ‘제조업’ 기반을 전제해야 성립합니다. 일정 부분은 외주화할 수 있습니다. 애플과 폭스콘과의 관계처럼 말이죠. 하지만, 생산 초기부터 해외 사이트에 대규모로 공장을 지을 수는 없습니다. 테슬라의 경우 2010년 인수한 캘리포니아의 프리몬트 공장이 첫 생산 시설입니다. 이후 해외 공장을 짓기까지 9년이 더 걸렸습니다. 2019년 착공된 기가팩토리 상하이입니다.

여기서 하드테크의 차별점이 발생합니다. 제조업은 곧 지역 사회의 생계가 되는 문제입니다. 페이스북을 발명한다고 갑자기 텍사스 어느 지역에 공장이 들어서고 지역 경제가 활성화되며 수만 개의 일자리가 생기지 않습니다. 하지만 테슬라가 성공하면 그런 일이 발생합니다. 안두릴같이 자동화 무기를 대량 생산하겠다는 기업이 성공해도 그런 일이 발생하죠.

미국의 제조업 기반이 무너지는 동안 민주당 정권이 무능했던 것은 사실입니다. 다른 기회를 찾았고, 그 기회가 기존 산업에 뿌리 박혀 있던 삶까지 풍요롭게 해 줄 것으로 생각했을지는 모르겠지만 말이죠. 도널드 트럼프라는 인물은 이 붕괴와 분노를 간파했습니다. 그리고 제조업을 ‘애국’이라는 이데올로기에 편입시키는 데에 성공했죠.

팔머 럭키는 남부 캘리포니아의 롱비치 지역에서 태어나 자랐습니다. 비행기를 만드는 공장이 있었고, 그 공장에서 일하는 사람이 많았던 지역입니다. 21세기 들어서는 공장이 문을 닫았지만 말이죠. 저커버그와 럭키의 세계는 애초부터 달랐습니다. 럭키가 하드테크의 길로 접어든 것도, 그리고 그 하드테크의 정점을 찍을 수 있는 분야인 방산 분야로 확장한 것도 마냥 우연이라고만 할 수는 없습니다. 럭키는 실리콘밸리에 어울리는 사람이 아니었습니다.

그리고 이제 본격적으로 AI가 전쟁의 무기로 사용되는 시대가 도래했습니다. 실리콘밸리가 비난했던 하드웨어 덕후는 미 국방부가 가장 사랑하는 기술자가 되었고요. 최근 미 육군은 안두릴과 29조 원 규모의 계약을 체결했습니다. 트럼프 대통령이 추진 중인 미군 현대화 계획에서도 안두릴은 빼놓을 수 없는 회사로 부상했습니다. 이 계획에는 최소 1조 달러가 투입될 예정입니다.

럭키는 최근 인터뷰에서 앤트로픽을 직설적으로 비난했습니다. 앤트로픽이 이야기하는 ‘인간’이나 ‘공격’, ‘사용’ 등의 용어는 기준이 모호하다는 겁니다. 또, 국방부가 앤트로픽과 같은 특정 기업의 자체적인 제한 기준을 수용하게 되면 결국 수많은 기업의 각기 다른 규제에 얽매이게 된다는 점도 지적했죠. 무엇보다 럭키는 앤트로픽의 주장이 민주적 절차에 어긋난다고 주장합니다. 민간 기술 기업이 AI 사용을 제한할 수 있다면, 막대한 세금으로 마련한 대금을 받아 챙긴 사기업 임원들의 권한이 너무 커진다는 겁니다. 민주적 절차를 거쳐 선출된 대통령보다도 말이죠.

이와 함께 럭키는 미국이 더 이상 ‘세계의 경찰’ 역할을 할 수 없다고 강조합니다. 대신 미국은 우방국들이 스스로를 방어할 수 있도록 돕는 ‘세계의 무기상(World gun store)’ 역할을 수행해야 한다고 제언하죠. 어딘가 트럼프의 주장과 너무 똑같다는 생각이 듭니다. 시대 정신과 너무나 잘 맞는 이야기이고요. 안두릴이 생산하고 있는, 자체 AI OS로 묶인 자율 무기 생태계가 유럽과 일본, 한국의 국방 시스템에 이식될 날이 머지않았을지도 모릅니다. 기술은 정치적이지 않습니다. 하지만 기술을 만들고 사용하고 파는 사람은 정치적입니다. 지금 우리가 모두 목격하고 있듯 말입니다.

---