추천 콘텐츠
구글의 새 라이벌, 엔비디아
4월 10일, explained
구글이 슈퍼컴퓨터를 공개했다. 인공지능 학습의 새 지평을 열겠다는 포부다.
ⓒ일러스트: 권순문/북저널리즘
NOW THIS
구글이 현지 시간 4월 5일 자신들이 인공지능 학습에 쓰는 슈퍼컴퓨터를 공개했다. 2016년부터 자체 개발해 2020년부터 운영해 왔으며 자사의 초대형 언어 모델 ‘팜(PaLM)’도 50일간 이 슈퍼컴퓨터를 통해 훈련했다고 밝혔다. 대규모 언어 모델(LLM)의 주력 시스템이 될 것이라며 성능을 과시했는데 비교 대상에 올린 건 다름 아닌 반도체 회사 엔비디아였다.
WHY NOW
인공지능 모델이 학생이면 개발사는 학부모다. 학부모는 더 우수한 교육 환경을 열망한다. 이를 담보하는 게 슈퍼컴퓨터에 달린 반도체다. 사회가 인공지능을 활용한 교육을 고민할 때 인공지능을 위한 교육 시장은 이미 ‘SKY 캐슬’이었다. 경쟁은 언제나 새로운 시장을 연다. 이 교육열 이면을 들여다보면 인공지능 경쟁의 진짜 승자가 보인다.
실리콘밸리 8학군
인공지능은 배울 게 많다. 슈퍼컴퓨터는 인공지능 모델의 스파르타식 자습 교실이다. 수천 개의 반도체로 무장한 그곳엔 야자 감독관이자 공부 길잡이인 연구원들이 있다. 이들은 학습 요령이 적힌 핸드북 하나만 준 채 데이터를 바닥에 쏟아붓고 문을 닫는다. 홀로 남은 인공지능은 이제 흩어진 데이터들의 규칙을 알아서 찾아야 한다. 이렇게 탄생한 게 구글의 ‘람다(LaMDA)’, 오픈AI의 ‘GPT’다. 이 모델이 상품화한 게 ‘바드’와 ‘챗GPT’다. AI 경쟁의 과열은 실리콘밸리 8학군 사교육 시장에 불을 지폈다. 더욱 고성능의 자율 학습 시스템을 찾게 된 것이다.
AI 전쟁의 최대 수혜자
학습 시장의 명문은 엔비디아다. 엔비디아는 원래 그래픽 카드로 불리는 GPU의 강자다. GPU는 컴퓨터의 두뇌인 CPU보다 훨씬 많은 코어를 가지고 있는데 각 코어의 속도가 빠르진 않지만 많은 작업을 동시에 진행할 수 있다. 이 병렬 연산 방식은 딥러닝에 효과적이었고 GPU는 AI 개발의 핵심으로 떠오른다. 엔비디아가 AI 전용 반도체 시장의 90퍼센트를 점유할 수 있던 비결이다. 챗GPT가 AI 상용화의 가능성을 열자 엔비디아의 주가는 1월에만 30퍼센트가 넘게 뛰었다. GPU 기반의 컴퓨팅을 대체할 것은 없어 보였다.
GPU vs TPU
구글이 여기에 도전장을 던졌다. 구글은 GPU와 다른 AI 컴퓨팅 인프라를 갖추고 있다. ‘TPU v4’라고 불리는 구글의 슈퍼컴퓨터엔 자체 개발한 ‘텐서 프로세싱 유닛’(Tensor Processing Units·TPU)이라는 AI 칩 4000개가 탑재돼 있다. TPU는 구글의 머신러닝 엔진인 ‘텐서플로우(Tensorflow)’에 최적화된 칩으로 특정 조건에선 GPU보다 연산력이 뛰어나다. 즉, 반도체에서 비롯된 컴퓨팅 능력이 교육 시스템의 차이를 만드는 것이다. 인공지능 전쟁이 하드웨어로 확전되는 것은 이 때문이다.
골드러시 시대의 교훈
지금의 AI 경쟁은 1800년대 골드러시를 연상케 한다. 금을 찾으러 간 광부 중 부를 얻은 것은 소수였지만 곡괭이 같은 채굴 장비나 청바지를 판 상인들은 큰 이득을 봤다. 인공지능 역시 지금의 검색 시장처럼 승자 독식 구조가 될 가능성이 크다. 최고의 인공지능 서비스를 개발하는 것보다 파생 산업에 투자하는 게 안전한 이유다. 실제 엔비디아는 기업들의 AI 개발 인프라 전반을 구축하는 솔루션을 제공한다. AI 경쟁의 승자가 누구든 돈을 쓸어 담게 돼 있다. 그러나 AI 광부인 구글이 채굴 장비 시장에 뛰어든 것은 비단 돈 때문이 아니다.
결과보다 체계
구글이 TPU의 우수성을 입증하려는 이유엔 마이크로소프트와의 경쟁 심리도 작용한다. 챗GPT의 모태인 GPT 모델이 엔비디아의 GPU를 기반으로 하기 때문이다. 챗GPT의 등장은 이미 구글의 자존심에 흠집을 냈다. 구글은 인공지능 업계의 리더고 바드는 챗GPT보다 훌륭해야 했다. 챗GPT가 엉뚱한 답을 내놓으면서도 시장의 환호를 받은 반면 바드가 오답 하나에도 주가가 폭락한 이유는 사람들이 구글에 거는 기대 때문이다. 구글은 뛰어난 학생 하나보다 그런 학생 수십 명을 키워낼 수 있는 시스템을 선보이고자 한 것이다.
나만의 하드웨어
“소프트웨어에 진심인 사람은 자기만의 하드웨어를 만들어야 한다.” 애플의 공동 창업자 스티브 잡스가 아이폰을 세상에 처음 공개할 당시 미국의 전산학자 앨런 케이를 인용해 한 말이다. 하드웨어의 성능이 소프트웨어의 정교함을 좌우하는 시대는 진작에 왔다. 자사 제품의 차별화된 성능을 기술적으로 구현하면서도 가격 경쟁력을 갖추려면 나만의 하드웨어가 필요한 법이다. 애플과 테슬라, 구글이 자체 칩을 갖추려는 이유다. 인텔이 고객을 잃었듯 엔비디아도 언제고 웃을 수만은 없다. 그러나 이 열풍 속에 진짜 웃는 곳은 따로 있다. TSMC다.
시장의 시장의 시장
엔비디아의 GPU, 구글의 TPU, 애플의 M시리즈, 테슬라의 D1은 모두 TSMC가 만든다. 업계 최고의 수율과 기술력 덕분이다. 삼성전자와 달리 파운드리만 고집하는 점도 장점으로 꼽힌다. 파운드리는 시스템 반도체를 대체할 무언가가 나오기 전까지 계속 돈을 버는 구조다. 그때그때 반도체 시황에 영향을 받을 뿐이다. 이는 생산이 설계와 달리 대체 불가하기 때문이다. 기술 기업이 생산 인프라를 구축하려면 막대한 예산과 기술력이 필요하다. 파운드리를 틀어쥔 TSMC의 약점은 대만이 가지는 지정학적 리스크 혹은 미국의 반도체법 정도다.
IT MATTERS
인공지능의 파생 시장에서 한국 기업이 발 디딜 구석은 마땅치 않아 보인다. 대규모 언어 모델을 개발하는 네이버와 카카오가 바드나 챗GPT 같은 학생을 배출할 수 있을지, 삼성전자나 SK하이닉스가 엔비디아나 구글의 AI 칩 생산을 끌어올 수 있을지는 미지수다. AI 러시로 반도체 호황이 기대된다는 뉴스는 많지만 정작 우리 기업들은 D램 수요 저하로 최악의 실적을 내고 있다. D램 세계 1위 삼성전자는 결국 감산을 결정하기도 했다. 현재로서 가장 유력한 승부처는 여전히 시스템 반도체고 TSMC의 벽은 높다.
하지만 늘 반등의 기회는 있다. 구글이 반도체 독립을 선언했을 당시 삼성전자는 구글의 모바일 기기에 들어간 자체 칩 ‘텐서’ 설계에 도움을 줬다. 그간 삼성전자의 발목을 잡아온 설계 역량이 빛을 본 케이스다. 파운드리 분사가 꼭 정답이 아닐지도 모른다. 테슬라의 완전자율주행(FSD) 칩도 TSMC가 맡고 있지만 운영 체제(OS)에 칩을 최적화하는 작업을 삼성전자가 일부 맡고 있다. 시시각각 변하는 반도체 시장에서 “고객과 경쟁하지 않는다”는 원칙은 불변의 진리가 아닐지 모른다.
구글이 현지 시간 4월 5일 자신들이 인공지능 학습에 쓰는 슈퍼컴퓨터를 공개했다. 2016년부터 자체 개발해 2020년부터 운영해 왔으며 자사의 초대형 언어 모델 ‘팜(PaLM)’도 50일간 이 슈퍼컴퓨터를 통해 훈련했다고 밝혔다. 대규모 언어 모델(LLM)의 주력 시스템이 될 것이라며 성능을 과시했는데 비교 대상에 올린 건 다름 아닌 반도체 회사 엔비디아였다.
WHY NOW
인공지능 모델이 학생이면 개발사는 학부모다. 학부모는 더 우수한 교육 환경을 열망한다. 이를 담보하는 게 슈퍼컴퓨터에 달린 반도체다. 사회가 인공지능을 활용한 교육을 고민할 때 인공지능을 위한 교육 시장은 이미 ‘SKY 캐슬’이었다. 경쟁은 언제나 새로운 시장을 연다. 이 교육열 이면을 들여다보면 인공지능 경쟁의 진짜 승자가 보인다.
실리콘밸리 8학군
인공지능은 배울 게 많다. 슈퍼컴퓨터는 인공지능 모델의 스파르타식 자습 교실이다. 수천 개의 반도체로 무장한 그곳엔 야자 감독관이자 공부 길잡이인 연구원들이 있다. 이들은 학습 요령이 적힌 핸드북 하나만 준 채 데이터를 바닥에 쏟아붓고 문을 닫는다. 홀로 남은 인공지능은 이제 흩어진 데이터들의 규칙을 알아서 찾아야 한다. 이렇게 탄생한 게 구글의 ‘람다(LaMDA)’, 오픈AI의 ‘GPT’다. 이 모델이 상품화한 게 ‘바드’와 ‘챗GPT’다. AI 경쟁의 과열은 실리콘밸리 8학군 사교육 시장에 불을 지폈다. 더욱 고성능의 자율 학습 시스템을 찾게 된 것이다.
AI 전쟁의 최대 수혜자
학습 시장의 명문은 엔비디아다. 엔비디아는 원래 그래픽 카드로 불리는 GPU의 강자다. GPU는 컴퓨터의 두뇌인 CPU보다 훨씬 많은 코어를 가지고 있는데 각 코어의 속도가 빠르진 않지만 많은 작업을 동시에 진행할 수 있다. 이 병렬 연산 방식은 딥러닝에 효과적이었고 GPU는 AI 개발의 핵심으로 떠오른다. 엔비디아가 AI 전용 반도체 시장의 90퍼센트를 점유할 수 있던 비결이다. 챗GPT가 AI 상용화의 가능성을 열자 엔비디아의 주가는 1월에만 30퍼센트가 넘게 뛰었다. GPU 기반의 컴퓨팅을 대체할 것은 없어 보였다.
GPU vs TPU
구글이 여기에 도전장을 던졌다. 구글은 GPU와 다른 AI 컴퓨팅 인프라를 갖추고 있다. ‘TPU v4’라고 불리는 구글의 슈퍼컴퓨터엔 자체 개발한 ‘텐서 프로세싱 유닛’(Tensor Processing Units·TPU)이라는 AI 칩 4000개가 탑재돼 있다. TPU는 구글의 머신러닝 엔진인 ‘텐서플로우(Tensorflow)’에 최적화된 칩으로 특정 조건에선 GPU보다 연산력이 뛰어나다. 즉, 반도체에서 비롯된 컴퓨팅 능력이 교육 시스템의 차이를 만드는 것이다. 인공지능 전쟁이 하드웨어로 확전되는 것은 이 때문이다.
골드러시 시대의 교훈
지금의 AI 경쟁은 1800년대 골드러시를 연상케 한다. 금을 찾으러 간 광부 중 부를 얻은 것은 소수였지만 곡괭이 같은 채굴 장비나 청바지를 판 상인들은 큰 이득을 봤다. 인공지능 역시 지금의 검색 시장처럼 승자 독식 구조가 될 가능성이 크다. 최고의 인공지능 서비스를 개발하는 것보다 파생 산업에 투자하는 게 안전한 이유다. 실제 엔비디아는 기업들의 AI 개발 인프라 전반을 구축하는 솔루션을 제공한다. AI 경쟁의 승자가 누구든 돈을 쓸어 담게 돼 있다. 그러나 AI 광부인 구글이 채굴 장비 시장에 뛰어든 것은 비단 돈 때문이 아니다.
결과보다 체계
구글이 TPU의 우수성을 입증하려는 이유엔 마이크로소프트와의 경쟁 심리도 작용한다. 챗GPT의 모태인 GPT 모델이 엔비디아의 GPU를 기반으로 하기 때문이다. 챗GPT의 등장은 이미 구글의 자존심에 흠집을 냈다. 구글은 인공지능 업계의 리더고 바드는 챗GPT보다 훌륭해야 했다. 챗GPT가 엉뚱한 답을 내놓으면서도 시장의 환호를 받은 반면 바드가 오답 하나에도 주가가 폭락한 이유는 사람들이 구글에 거는 기대 때문이다. 구글은 뛰어난 학생 하나보다 그런 학생 수십 명을 키워낼 수 있는 시스템을 선보이고자 한 것이다.
나만의 하드웨어
“소프트웨어에 진심인 사람은 자기만의 하드웨어를 만들어야 한다.” 애플의 공동 창업자 스티브 잡스가 아이폰을 세상에 처음 공개할 당시 미국의 전산학자 앨런 케이를 인용해 한 말이다. 하드웨어의 성능이 소프트웨어의 정교함을 좌우하는 시대는 진작에 왔다. 자사 제품의 차별화된 성능을 기술적으로 구현하면서도 가격 경쟁력을 갖추려면 나만의 하드웨어가 필요한 법이다. 애플과 테슬라, 구글이 자체 칩을 갖추려는 이유다. 인텔이 고객을 잃었듯 엔비디아도 언제고 웃을 수만은 없다. 그러나 이 열풍 속에 진짜 웃는 곳은 따로 있다. TSMC다.
시장의 시장의 시장
엔비디아의 GPU, 구글의 TPU, 애플의 M시리즈, 테슬라의 D1은 모두 TSMC가 만든다. 업계 최고의 수율과 기술력 덕분이다. 삼성전자와 달리 파운드리만 고집하는 점도 장점으로 꼽힌다. 파운드리는 시스템 반도체를 대체할 무언가가 나오기 전까지 계속 돈을 버는 구조다. 그때그때 반도체 시황에 영향을 받을 뿐이다. 이는 생산이 설계와 달리 대체 불가하기 때문이다. 기술 기업이 생산 인프라를 구축하려면 막대한 예산과 기술력이 필요하다. 파운드리를 틀어쥔 TSMC의 약점은 대만이 가지는 지정학적 리스크 혹은 미국의 반도체법 정도다.
IT MATTERS
인공지능의 파생 시장에서 한국 기업이 발 디딜 구석은 마땅치 않아 보인다. 대규모 언어 모델을 개발하는 네이버와 카카오가 바드나 챗GPT 같은 학생을 배출할 수 있을지, 삼성전자나 SK하이닉스가 엔비디아나 구글의 AI 칩 생산을 끌어올 수 있을지는 미지수다. AI 러시로 반도체 호황이 기대된다는 뉴스는 많지만 정작 우리 기업들은 D램 수요 저하로 최악의 실적을 내고 있다. D램 세계 1위 삼성전자는 결국 감산을 결정하기도 했다. 현재로서 가장 유력한 승부처는 여전히 시스템 반도체고 TSMC의 벽은 높다.
하지만 늘 반등의 기회는 있다. 구글이 반도체 독립을 선언했을 당시 삼성전자는 구글의 모바일 기기에 들어간 자체 칩 ‘텐서’ 설계에 도움을 줬다. 그간 삼성전자의 발목을 잡아온 설계 역량이 빛을 본 케이스다. 파운드리 분사가 꼭 정답이 아닐지도 모른다. 테슬라의 완전자율주행(FSD) 칩도 TSMC가 맡고 있지만 운영 체제(OS)에 칩을 최적화하는 작업을 삼성전자가 일부 맡고 있다. 시시각각 변하는 반도체 시장에서 “고객과 경쟁하지 않는다”는 원칙은 불변의 진리가 아닐지 모른다.