챗GPT 뒤엔 엔비디아 있어… “AI가 인류 새 문명 열 것”
게임 칩에서 AI 심장으로, GPU가 만든 디지털 혁명젠슨 황 엔비디아 최고경영자가 30일 서울 삼성동 한 치킨집에서 치맥회동을 하며 이재용 삼성전자[005930] 회장과 러브샷을 하고 있다. [연합뉴스]

경주에서 열리고 있는 아시아태평양경제협력체(APEC)의 주역은 이재명 대통령과 도널드 트럼프 미국 대통령, 시진핑 중국 국가주석일 것이다. 하지만 이들 정치 지도자들 못지 않게 주목받고 인기를 끈 인물이 있었으니 바로 15년 만에 한국을 다시 찾은 젠슨 황 엔비디아 CEO다.

(APEC) CEO 서밋 참석차 방한한 황 CEO는 이재용 삼성전자 회장, 정의선 현대차그룹 회장과 ‘소맥’ 러브샷을 하며 ‘인공지능(AI) 깐부’를 맺는 등 광폭 횡포로 대한민국 국민들을 사로잡았다.

황 CEO는 AI의 심장 GPU(그래픽처리장치)로 세상을 지배하는 사람이다. 트레이드 마크인 검은 가죽 재킷은 도전과 성공, 그리고 미래를 상징한다.

초거대 언어모델(LLM)이 수천억 개의 매개변수(파라미터)를 학습하는 과정은 상상을 초월하는 연산 능력을 요구한다. 이는 전통적인 중앙처리장치(CPU)의 처리 방식을 무력화했다. 이 불가능해 보이던 일을 현실로 만든 핵심 기술이 GPU다. 젠슨 황은 이 시장에서 절대적인 황제다.

1993년 4월 설립된 엔비디아는 AI 산업의 폭발적 성장에 힘입어 전 세계 기업 최초로 시가총액 5조 달러(약 7100조원)를 돌파했다.

GPU는 원래 3차원 게임 그래픽으로 개발됐다. 하지만 수천 개의 연산 코어를 병렬로 동시에 구동하는 데 최적화된 게 AI 혁명과 맞물리면서 기적을 낳았다. 방대한 데이터를 한꺼번에 처리하는 딥러닝 학습에 GPU는 안성마춤이었다.

연합뉴스에 따르면 엔비디아가 자랑하는 최신 GPU ‘H100 텐서 코어’는 챗GPT 등 LLM 훈련에 있어 사실상 표준 장비를 넘어선 ‘필수 인프라’다. 시장조사업체 트렌드포스에 따르면 2024년 기준 AI 학습용 고성능 GPU 시장에서 엔비디아의 점유율은 무려 80%를 웃돈다. 오픈AI, 구글, 메타, 아마존 등 글로벌 빅테크 기업들이 천문학적인 자금을 쏟아부으며 엔비디아 GPU를 쓸어 담는 배경이다.

단순히 칩 성능만 뛰어난 것이 아니다. 엔비디아는 ‘NVLink’라는 초고속 연결 기술로 승부수를 띄웠다. H100은 ‘NVLink’를 통해 수백, 수천 개의 GPU를 마치 하나의 거대한 슈퍼컴퓨터처럼 묶어낸다. 이는 매개변수가 조(兆) 단위를 넘나드는 LLM을 학습하는 데 필수적인 ‘AI 데이터센터 스케일 아웃(Scale-out)’ 전략의 핵심이다. 칩 하나가 아니라 데이터센터 전체를 AI 시대에 최적화시킨 엔비디아의 치밀함이 돋보이는 대목이다.

게다가 엔비디아는 단순 ‘하드웨어 회사’가 아닌 소프트업체이기도 하다. ‘AI 인프라 지배자’로 만든 핵심 무기는 ‘쿠다(CUDA)’라는 소프트웨어다.

2006년 엔비디아가 선보인 병렬 컴퓨팅 아키텍처인 쿠다는 AI 개발자들이 그래픽 기술을 몰라도 GPU의 강력한 연산력을 쉽게 활용할 수 있는 다리를 놓아줬다. 이로써 AI 연구 생태계는 마치 물이 낮은 곳으로 흐르듯 자연스레 엔비디아의 GPU 생태계 안으로 흡수됐다.

오늘날 쿠다는 15년 이상 축적된 방대한 라이브러리, 프레임워크, 코드 등 AI 개발의 역사가 고스란히 담겨 있다.

다른 경쟁사 칩을 쓰려면 쿠다를 완전히 대체할 새로운 시스템을 처음부터 구축해야 하는데, 이는 시간과 비용 측면에서 매우 어려운 일이다. 쿠다는 엔비디아의 기술적 우위를 넘어 그 어떤 경쟁자도 넘보기 힘든 ‘시장 종속성’이라는 강력한 진입장벽을 구축한 셈이다.

엔비디아는 이제 그래픽 카드 회사를 넘어 AI 전용 슈퍼컴퓨터(DGX 시리즈), 데이터센터 시스템, 산업별 AI 플랫폼을 공급하는 토털 인프라 기업으로 진화했다.

특히 최근 젠슨 황 CEO가 제시하는 비전은 한층 더 과감하다.그는 “데이터는 석유이고 GPU는 정유공장”이라며 ‘AI 공장’ 개념을 강조한다. 나아가 ‘디지털 트윈’을 통해 GPU 기반으로 실제 공장, 도시, 제품을 가상 공간에 똑같이 구현하고 AI로 시뮬레이션하는 미래를 제시하고 있다.

이는 엔비디아가 제조, 로보틱스, 건축 등 전통 산업의 AI 인프라까지 모두 장악하겠다는 장기 전략을 보여준다.

1993년 작은 그래픽 칩 스타트업으로 출발한 엔비디아가 세계 AI 생태계의 지배자로 우뚝 설 수 있었던 배경에는 2000년대 중반 GPU를 범용 연산 장치로 확장하는 데 과감히 투자한 젠슨 황의 선견지명과 전략적 결단이 자리 잡고 있다.

엔비디아의 독점적인 지위는 전 세계 정부와 기업에 ‘의존도’라는 숙제를 안겼다. 엔비디아의 압도적 지위에 도전하는 움직임도 활발하다.

경쟁사 AMD는 MI300 시리즈를 출시하며 엔비디아의 H100에 맞서고 있다. AMD는 상대적인 가격 경쟁력과 오픈소스 체계를 통해 CUDA 생태계의 틈을 벌리려 애쓰고 있다.

더욱 강력한 도전자는 ‘구매자이자 경쟁자’인 빅테크 기업들이다.

구글, 아마존, 마이크로소프트 등 글로벌 클라우드 공룡들은 천문학적인 비용을 절감하고 성능을 최적화하기 위해 자체 AI 칩 개발을 가속화하고 있다. 이들의 자체 칩 개발은 엔비디아의 장기적인 시장 점유율에 가장 큰 변수가 될 전망이다.

‘AI 제국’을 건설한 젠슨 황은 AI가 단순한 기술 트렌드를 넘어 인류 문명의 새로운 시대를 여는 핵심 동력이 될 것으로 확신하고 있다. 그의 시대는 언제까지 이어질 것인가.