추천 콘텐츠
AI 제국의 지배자는 누구인가
2024년 3월 22일, explained
엔비디아는 하드웨어 회사다. 젠슨 황의 야망은 더 크다.
현지 시각 2024년 3월 18일 캘리포니아 새너제이 SAP 센터에서 열린 엔비디아 GTC 인공 지능 컨퍼런스에서 엔비디아 CEO 젠슨 황이 기조 연설을 하고 있다. 사진; Justin Sullivan/Getty Images
NOW THIS
오랜만이었다, 기술이 이렇게 많은 사람을 설레게 하고 가슴 뛰게 하는 순간은. 현지 시각 지난 18일 열린 엔비디아의 연례 개발자 컨퍼런스, ‘GTC 2024’ 얘기다. 말 그대로 콘서트였고 독무대였다. 슈퍼스타로 떠오른 젠슨 황 엔비디아 CEO는 두 시간을 꽉 채워 관객의 기대에 응답했다. 젠슨 황이 그려낸 미래 예상도가 공개됐다. AI는 궁극의 결과물, 로봇으로 실현될 것이다.
WHY NOW
GTC는 ‘GPU 테크놀로지 콘퍼런스’의 약자다. 2009년부터 매년 열렸지만, 코로나19의 영향으로 2020년부터는 온라인 행사로 전환됐다. 그러니까, 올해 GTC는 5년 만에 돌아온 오프라인 축제 현장이었던 셈이다. 한 때는 게임 업계의 행사였다. 그러나 상황이 달라졌다. 특히, 지난 5년 동안 많은 것이 바뀌었다. 엔비디아의 주가는 2023년 1월 이후 450퍼센트 가까이 급등했다. AI 덕분이다. 챗GPT의 등장이 엔비디아를 시총 3위 기업으로 끌어올린 것이다. 하지만 엔비디아의 생각은 다르다. 엔비디아가 챗GPT를 가능하게 한 장본인이다. 그리고 이제, 시장의 주도권을 하드웨어 진영의 수장인 엔비디아가 거머쥘 차례라고 선언했다.
새로운 칩
가장 먼저 소개한 것은 엔비디아가 내놓은 차세대 AI 반도체, ‘블랙웰’이다. 블랙웰 기본 GPU 모델, ‘B100’은 현재 전 세계 기업들이 없어서 못 구한다는 엔비디아의 대표 AI 칩, ‘H100’ 대비 2.5배 빠르다. 트랜지스터 숫자가 800억 개 수준에서 2천8십억 개 수준으로 늘어났기 때문이다. 어떻게 가능했을까. 칩 2개를 이어 붙였다. ‘칩 넷(chip net)’ 방식이다. H100 8천개가 있어야 GPT를 훈련할 수 있다. B100은 2천개로 같은 효과를 낼 수 있다. 성능이 압도적으로 향상되었다. 물건은 올해 말 나온다. 하지만 벌써 아마존, 델, 구글, 메타, 마이크로소프트, 오픈AI, 오라클, 테슬라는 물론이고 노보노디스크까지 블랙웰 구매 대기 명단에 이름을 올렸다.
공짜보다 싸다
물론, 경쟁자들의 추격도 거세다. 예를 들어 AMD MI300X 모델의 경우 트랜지스터가 천3백억 개다. 칩 8개를 이어 붙여 만들었다. 하지만 엔비디아는 기술은 물론 자신감도 압도적이다. 젠슨 황은 “경쟁사가 공짜 칩을 만들어 뿌려도 엔비디아를 이길 수 없다”고 단언한다. 계산 능력의 지표가 되는 트랜지스터의 숫자도 물론 중요하다. 하지만 그 칩을 사용한 AI 시스템의 전체 운용 비용(TCO)까지 생각하면 엔비디아가 더 나은 선택이라는 주장이다. 아무리 성능 좋고 저렴한 ‘가성비’ 에어콘을 사도 전기료 폭탄을 맞아버린다면 진정한 가성비가 될 수 없는 것과 같은 원리다.
기막힌 가성비의 비밀
그렇다면 엔비디아의 칩은 왜 TCO에서 유리할까. 미리 준비했기 때문이다. 데이터 센터에서는 수천 개의 칩이 하나로 묶여 AI 모델을 실행한다. 엔비디아의 칩은 효율적으로 묶인다. 2019년에 관련 기술을 가진 네트워킹 업체, ‘멜라녹스’를 인수하며 기술의 격차를 만들었다. 또 소프트웨어 플랫폼 ‘CUDA’의 존재도 무시할 수 없다. 이미 2000년대 중반부터 엔비디아는 CUDA를 통해 AI 시스템을 만들고 구동하도록 지원해 왔다. 그 결과, CUDA는 업계 표준이 되었다. CUDA를 쓴다면 엔비디아 칩을 산다. 2000년대 중반은 물론이고 2019년에도, 인류의 99.9퍼센트는 지금과 같은 시장을 예상하지 못했다. 젠슨 황은 했다.
칩 아니고 플랫폼
컨퍼런스에서는 블랙웰을 기반으로 한 슈퍼칩, 슈퍼컴퓨터 시스템 등도 소개되었다. 하지만 젠슨 황이 힘주어 강조한 것은 따로 있었다. 바로 ‘플랫폼’이다. 엔비디아는 AI와 관련된 모든 것의 플랫폼이 되겠다고 선언했다. 맞춤형 AI 칩 설계의 플랫폼, 새로운 AI 모델 개발을 위한 플랫폼, AI가 적용된 로보틱스 개발을 위한 플랫폼까지. 이 중 새로운 AI 모델 개발을 위한 플랫폼, NIM(Nvidia Inference Microservice)에 주목할 필요가 있다. 엔비디아의 컴퓨팅 파워부터 소프트웨어까지, 구독형으로 이용할 수 있다. 대놓고 오픈AI에 맞설 주자들을 불러 모아 AI 개발의 장을 제공한다는 얘기다. 혹은, 유통이나 제조, 의료 등의 잠재적 오픈AI 고객들에게 기성품을 구입하는 대신 우리 회사에 꼭 맞는 맞춤형 AI 시스템을 만들어보라는 제안이 될 수도 있다.
지구를 시뮬레이션
이렇게 만든 AI는 세계를 어떻게 바꿀 수 있을까. 전 세계가 거대 언어 모델(Large Language Models, LLM)을 기반으로 한 챗GPT 등에 열광하고 있지만, 엔비디아는 다른 비전을 선보였다. 바로 ‘디지털 트윈’이다. 무엇이든 디지털상에 똑같은 환경을 만들어 놓고 시뮬레이션을 돌려보는 개념이다. 엔비디아는 지구를 시뮬레이션할 수 있는 ‘어스-2(Earth-2)’ 기후 디지털 트윈 클라우드 플랫폼을 공개했다. 기후 재난이 일상화된 시대를 관통하는, 영리한 쇼맨십이다. 대만 중앙기상청(CWA)이 어스-2를 도입했고, 글로벌 날씨 예측 기업, 더 웨더 컴퍼니(The Weather Company)도 어스-2 API 채택 의사를 밝혔다.
리허설이 만드는 기회
AI로 열린, 더 강력한 디지털 트윈의 가능성은 상업적인 면에서도 이미 위력을 발휘하고 있다. HD현대중공업은 엔비디아와 손잡고 선박 건조 현장에 디지털 트윈을 접목했다. 현실에서 배를 만드는 도중에 뭔가가 잘못된다면 막대한 비용이 소요된다. 오류가 있는지 디지털 트윈 기술로 먼저 리허설해 보면 시행착오를 줄일 수 있다. 비용만 줄어드는 것이 아니라 현실 세계의 안전도 확보할 수 있다. 그리고 이런 시뮬레이션은 사람에게만 유용한 것이 아니다.
다음은 현실이다, 휴먼
엔비디아가 공개한 ‘프로젝트 그루트’는 휴머노이드 로봇이 인간의 행동을 모방하고 물리법칙을 학습할 수 있도록 구축한 디지털 트윈 가상 세계다. 최근 공개되어 전 세계를 경악시켰던 휴머노이드 로봇 ‘Figure 01’은 판단하고 행동하며 평가한다. AI가 탑재되었기 때문이다. 오픈AI의 기술이다. 소프트웨어가 아닌, 인간과 부대끼며 세계를 구성하는 하드웨어로서의 AI, 휴머노이드 로봇의 시대가 이제 코 앞이다. 하지만 챗GPT가 말뭉치를 학습했듯, AI가 탑재된 휴머노이드 로봇도 현실 세계를 학습할 필요가 있다. 갑자기 서울 한복판에 로봇을 풀어놓는 것은 위험하다. 인간의 행동을 모방하고 물리법칙을 학습할 수 있는 가상의 공간, 디지털 트윈의 존재가 중요한 까닭이 여기에 있다. 컨퍼런스 현장에서 선보인 로봇, ‘오렌지’와 ‘그린’이 그 증거다.
IT MATTERS
많은 언론이 엔비디아의 주가에 주목한다. 그러나 이번 GTC는 엔비디아의 사업 설명회가 아니었다. 일종의 선전포고, 출정식에 가깝다. 겨냥한 것은 오픈AI다. 1경 원 규모의 자금을 모아 AI 칩을 직접 만들겠다고 나선 샘 올트먼에 대한 엔비디아의 답변이, 이번 GTC였다. 두 시간 내내 젠슨 황이 설명한 것은 ‘플랫폼’이었다. 오픈AI의 챗GPT가 아니더라도 엔비디아가 짜 놓은 판에만 들어오면 AI 생태계에서 의미 있는 지분을 획득할 수 있다는 제안이다. 물론, 젠슨 황의 계획대로 될지는 두고봐야 한다. 하지만 분명, 엔비디아는 판을 키우고 있다.
오랜만이었다, 기술이 이렇게 많은 사람을 설레게 하고 가슴 뛰게 하는 순간은. 현지 시각 지난 18일 열린 엔비디아의 연례 개발자 컨퍼런스, ‘GTC 2024’ 얘기다. 말 그대로 콘서트였고 독무대였다. 슈퍼스타로 떠오른 젠슨 황 엔비디아 CEO는 두 시간을 꽉 채워 관객의 기대에 응답했다. 젠슨 황이 그려낸 미래 예상도가 공개됐다. AI는 궁극의 결과물, 로봇으로 실현될 것이다.
WHY NOW
GTC는 ‘GPU 테크놀로지 콘퍼런스’의 약자다. 2009년부터 매년 열렸지만, 코로나19의 영향으로 2020년부터는 온라인 행사로 전환됐다. 그러니까, 올해 GTC는 5년 만에 돌아온 오프라인 축제 현장이었던 셈이다. 한 때는 게임 업계의 행사였다. 그러나 상황이 달라졌다. 특히, 지난 5년 동안 많은 것이 바뀌었다. 엔비디아의 주가는 2023년 1월 이후 450퍼센트 가까이 급등했다. AI 덕분이다. 챗GPT의 등장이 엔비디아를 시총 3위 기업으로 끌어올린 것이다. 하지만 엔비디아의 생각은 다르다. 엔비디아가 챗GPT를 가능하게 한 장본인이다. 그리고 이제, 시장의 주도권을 하드웨어 진영의 수장인 엔비디아가 거머쥘 차례라고 선언했다.
새로운 칩
가장 먼저 소개한 것은 엔비디아가 내놓은 차세대 AI 반도체, ‘블랙웰’이다. 블랙웰 기본 GPU 모델, ‘B100’은 현재 전 세계 기업들이 없어서 못 구한다는 엔비디아의 대표 AI 칩, ‘H100’ 대비 2.5배 빠르다. 트랜지스터 숫자가 800억 개 수준에서 2천8십억 개 수준으로 늘어났기 때문이다. 어떻게 가능했을까. 칩 2개를 이어 붙였다. ‘칩 넷(chip net)’ 방식이다. H100 8천개가 있어야 GPT를 훈련할 수 있다. B100은 2천개로 같은 효과를 낼 수 있다. 성능이 압도적으로 향상되었다. 물건은 올해 말 나온다. 하지만 벌써 아마존, 델, 구글, 메타, 마이크로소프트, 오픈AI, 오라클, 테슬라는 물론이고 노보노디스크까지 블랙웰 구매 대기 명단에 이름을 올렸다.
공짜보다 싸다
물론, 경쟁자들의 추격도 거세다. 예를 들어 AMD MI300X 모델의 경우 트랜지스터가 천3백억 개다. 칩 8개를 이어 붙여 만들었다. 하지만 엔비디아는 기술은 물론 자신감도 압도적이다. 젠슨 황은 “경쟁사가 공짜 칩을 만들어 뿌려도 엔비디아를 이길 수 없다”고 단언한다. 계산 능력의 지표가 되는 트랜지스터의 숫자도 물론 중요하다. 하지만 그 칩을 사용한 AI 시스템의 전체 운용 비용(TCO)까지 생각하면 엔비디아가 더 나은 선택이라는 주장이다. 아무리 성능 좋고 저렴한 ‘가성비’ 에어콘을 사도 전기료 폭탄을 맞아버린다면 진정한 가성비가 될 수 없는 것과 같은 원리다.
기막힌 가성비의 비밀
그렇다면 엔비디아의 칩은 왜 TCO에서 유리할까. 미리 준비했기 때문이다. 데이터 센터에서는 수천 개의 칩이 하나로 묶여 AI 모델을 실행한다. 엔비디아의 칩은 효율적으로 묶인다. 2019년에 관련 기술을 가진 네트워킹 업체, ‘멜라녹스’를 인수하며 기술의 격차를 만들었다. 또 소프트웨어 플랫폼 ‘CUDA’의 존재도 무시할 수 없다. 이미 2000년대 중반부터 엔비디아는 CUDA를 통해 AI 시스템을 만들고 구동하도록 지원해 왔다. 그 결과, CUDA는 업계 표준이 되었다. CUDA를 쓴다면 엔비디아 칩을 산다. 2000년대 중반은 물론이고 2019년에도, 인류의 99.9퍼센트는 지금과 같은 시장을 예상하지 못했다. 젠슨 황은 했다.
칩 아니고 플랫폼
컨퍼런스에서는 블랙웰을 기반으로 한 슈퍼칩, 슈퍼컴퓨터 시스템 등도 소개되었다. 하지만 젠슨 황이 힘주어 강조한 것은 따로 있었다. 바로 ‘플랫폼’이다. 엔비디아는 AI와 관련된 모든 것의 플랫폼이 되겠다고 선언했다. 맞춤형 AI 칩 설계의 플랫폼, 새로운 AI 모델 개발을 위한 플랫폼, AI가 적용된 로보틱스 개발을 위한 플랫폼까지. 이 중 새로운 AI 모델 개발을 위한 플랫폼, NIM(Nvidia Inference Microservice)에 주목할 필요가 있다. 엔비디아의 컴퓨팅 파워부터 소프트웨어까지, 구독형으로 이용할 수 있다. 대놓고 오픈AI에 맞설 주자들을 불러 모아 AI 개발의 장을 제공한다는 얘기다. 혹은, 유통이나 제조, 의료 등의 잠재적 오픈AI 고객들에게 기성품을 구입하는 대신 우리 회사에 꼭 맞는 맞춤형 AI 시스템을 만들어보라는 제안이 될 수도 있다.
지구를 시뮬레이션
이렇게 만든 AI는 세계를 어떻게 바꿀 수 있을까. 전 세계가 거대 언어 모델(Large Language Models, LLM)을 기반으로 한 챗GPT 등에 열광하고 있지만, 엔비디아는 다른 비전을 선보였다. 바로 ‘디지털 트윈’이다. 무엇이든 디지털상에 똑같은 환경을 만들어 놓고 시뮬레이션을 돌려보는 개념이다. 엔비디아는 지구를 시뮬레이션할 수 있는 ‘어스-2(Earth-2)’ 기후 디지털 트윈 클라우드 플랫폼을 공개했다. 기후 재난이 일상화된 시대를 관통하는, 영리한 쇼맨십이다. 대만 중앙기상청(CWA)이 어스-2를 도입했고, 글로벌 날씨 예측 기업, 더 웨더 컴퍼니(The Weather Company)도 어스-2 API 채택 의사를 밝혔다.
리허설이 만드는 기회
AI로 열린, 더 강력한 디지털 트윈의 가능성은 상업적인 면에서도 이미 위력을 발휘하고 있다. HD현대중공업은 엔비디아와 손잡고 선박 건조 현장에 디지털 트윈을 접목했다. 현실에서 배를 만드는 도중에 뭔가가 잘못된다면 막대한 비용이 소요된다. 오류가 있는지 디지털 트윈 기술로 먼저 리허설해 보면 시행착오를 줄일 수 있다. 비용만 줄어드는 것이 아니라 현실 세계의 안전도 확보할 수 있다. 그리고 이런 시뮬레이션은 사람에게만 유용한 것이 아니다.
다음은 현실이다, 휴먼
엔비디아가 공개한 ‘프로젝트 그루트’는 휴머노이드 로봇이 인간의 행동을 모방하고 물리법칙을 학습할 수 있도록 구축한 디지털 트윈 가상 세계다. 최근 공개되어 전 세계를 경악시켰던 휴머노이드 로봇 ‘Figure 01’은 판단하고 행동하며 평가한다. AI가 탑재되었기 때문이다. 오픈AI의 기술이다. 소프트웨어가 아닌, 인간과 부대끼며 세계를 구성하는 하드웨어로서의 AI, 휴머노이드 로봇의 시대가 이제 코 앞이다. 하지만 챗GPT가 말뭉치를 학습했듯, AI가 탑재된 휴머노이드 로봇도 현실 세계를 학습할 필요가 있다. 갑자기 서울 한복판에 로봇을 풀어놓는 것은 위험하다. 인간의 행동을 모방하고 물리법칙을 학습할 수 있는 가상의 공간, 디지털 트윈의 존재가 중요한 까닭이 여기에 있다. 컨퍼런스 현장에서 선보인 로봇, ‘오렌지’와 ‘그린’이 그 증거다.
IT MATTERS
많은 언론이 엔비디아의 주가에 주목한다. 그러나 이번 GTC는 엔비디아의 사업 설명회가 아니었다. 일종의 선전포고, 출정식에 가깝다. 겨냥한 것은 오픈AI다. 1경 원 규모의 자금을 모아 AI 칩을 직접 만들겠다고 나선 샘 올트먼에 대한 엔비디아의 답변이, 이번 GTC였다. 두 시간 내내 젠슨 황이 설명한 것은 ‘플랫폼’이었다. 오픈AI의 챗GPT가 아니더라도 엔비디아가 짜 놓은 판에만 들어오면 AI 생태계에서 의미 있는 지분을 획득할 수 있다는 제안이다. 물론, 젠슨 황의 계획대로 될지는 두고봐야 한다. 하지만 분명, 엔비디아는 판을 키우고 있다.