엔비디아 고급AI칩 구하기 어려워...가격폭등하나?

“코로나19 팬데믹 당시 화장지 구하기 같습니다.”

AI(인공지능) 스타트업 라미니(Lamini)의 샤론 저우 최고경영자(CEO)는 “(엔비디아와 네트워크가 있는) 업계의 누구를 아는지가 중요해 졌다”며 AI칩 구하기 전쟁을 이같이 비유했다. 생성형AI인 챗GPT가 전 세계에 주목을 받은 이후 소프트웨어 업체들이 너도나도 AI개발에 나서면서, 핵심 하드웨어인 AI칩 공급을 받기가 어려워지고 있다는 설명이다.

고급 AI칩 4400만원…“마약보다 구하기 어려워”

29일(현지시간) 미 일간 월스트리트저널(WSJ)에 따르면 소프트웨어 기업들이 AI개발에 적극 나서고 있지만, 엔비디아 AI칩 수요에 비해 공급이 부족하면서 ‘프로세서 병목현상’이 벌어지고 있다. 마치 팬데믹 초기에 화장지 사재기가 벌어졌을 때와 유사하다는 말이 나올 정도다.

엔비디아는 원래 그래픽처리장치(GPU) 전문 업체다. 전 세계 GPU시장에서 90% 점유율을 확보하고 있는 사실상 독점기업이다. 화려한 3D 게임을 하려면 데이터 처리 속도를 높여야 하는데 중앙처리장치(CPU)만으로는 한계가 있어 GPU가 보조하는 역할을 한다. 마찬가지로 챗GPT와 같은 생성형AI를 위한 거대언어모델(LLM)을 자체 개발하려면 인텔과 AMD의 CPU 외 엔비디아의 GPU가 필수적일 수밖에 없다. GPU를 AI칩으로 부르는 이유다. 챗GPT 개발에 엔비디아의 ‘A100’칩이 1만개가 들어가는 것으로 알려져 있다. AI칩이 없으면 LLM을 개발하는 데 상당한 시간이 걸릴 수밖에 없는데, AI 초격차를 내기 위해 치열한 경쟁이 벌어지고 있는 상황에서 후발주자 입장에서는 발등에 불이 떨어진 상황이다.

이미 AI 클라우드 서비스 확대에 나서고 있는 구글, 아마존, 마이크로소프트, 오라클 등 빅데크들은 데이터센터 성능을 키우기 위해 엔비디아의 칩을 대거 매입하고 있는 것으로 전해진다. 반면 빅테크에 비해 상대적으로 협상력이 부족한 소규모 스타트업 입장에서는 AI칩을 구하기가 ‘하늘에 별 따기’ 수준인 셈이다. ‘프리미엄’도 상당히 붙어 일부 소매점에서는 고급 AI칩이 개당 3만3000달러(약 4400만원)에 팔리기도 한다. 최근 AI개발에 눈독을 들이고 있는 테슬라 CEO인 일론 머스크도 최근 WSJ CEO 카운슬 서밋에서 “현재 GPU는 마약보다 구하기가 상당히 어렵다”고 말할 정도다.

MS와 아마존에 구걸…“서버 더 할당해달라”

자체적으로 AI 컴퓨팅을 구축하기 어려운 기업들은 AI 클라우드 서비스에 목을 매고 있지만, 이마저도 쉽지 않다. 이미 클라우드서비스를 선구매한 업체들이 많기 때문이다. 일부 기업은 다른 스타트업과 프로세서와 서버 주문 용량의 조정해달라고 요청하거나, 클라우드서비스 업체인 아마존과 MS에 조금이라도 서버를 할당해달라고 구걸하고 있는 상황이다. 상대적으로 인기가 낮은 클라우드업체인 오라클에도 수요가 폭증하고 있다.

AI업체들은 최소 내년까지는 AI칩 부족현상이 지속할 것으로 예상하고 있다. 엔비디아는 최근 수요 폭증을 대비해 AI칩인 H100 생산량을 늘리고 있다고 밝혔지만 쉽지 않은 상황이다. 엔비디아의 칩은 세계 최대 파운드리(반도체 위탁생산)업체인 TSMC에서 제조하고 있는데, 이미 2~3년간 물량이 이미 선주문돼 있기 때문이다. TSMC 등 파운드리 업체가 공장설비를 보다 확충해야 하는데 이 역시 3~5년은 더 걸릴 수밖에 없다.

AI기반 대화형 검색툴을 개발하고 있는 콘플레서티 AI의 CEO인 아라빈드 스리니바스는 WSJ에 “이미 선불로 결제하더라도 GPU가 당장 오는 건 아니다”면서 “엔비디아칩을 구입하려면 6개월 이상 기다려야 한다. 그저 기다리는 것밖에 할 수 있는 게 없다”고 말했다.

 

오픈AI의 챗봇 '챗GPT'로 시작된 인공지능(AI) 열풍이 반도체 시장의 공급난으로 이어지며, 업계의 AI 개발 속도를 늦추고 있다는 지적이 제기됐다. 또 이런 부족 현상이 이미 AI 열풍 최대 수혜자로 꼽힌 미국 반도체업체 엔비디아의 추가 성장으로 이어질 거란 전망도 나왔다. 업계에선 현재의 공급난이 코로나19 팬데믹(세계적 대유행) 초기에 나타났던 '화장지 대란' 때와 비슷한 수준이라고 평가하며 내년까지 공급난이 계속될 것으로 예상한다.

29일(현지시간) 월스트리트저널(WSJ)은 AI 열풍 확산으로 AI 학습에 필수적인 그래픽처리장치(GPU) 수요가 급증했지만, 공급이 이를 따라가지 못하면서 GPU 확보 경쟁이 갈수록 치열해지고 있다고 보도했다. WSJ은 "구글 CEO(순다르 피차이)는 'AI 혁명'을 인간이 불을 사용하는 것에 비유했다. 하지만 문제는 현재 불을 지필 '디지털 불쏘시개'가 부족하다"며 GPU 공급난이 아마존·마이크로소프트(MS) 등 클라우드 서비스 공급업체들의 AI 개발 및 처리 능력을 제한하고 있다고 지적했다.

GPU는 AI 분야 정보처리에 활용된다. GPU를 사용하면 문장 생성 및 분석 등 생성형 AI 학습 등 여러 개의 연산을 병렬 처리 방식으로 동시에 처리할 수 있어 작업 속도를 높일 수 있다. 특히 엔비디아가 생산하는 GPU는 여러 개의 연산을 동시에 진행하는 데 매우 뛰어나 AI 학습 관련 작업에 필수적인 칩으로 평가받는다. 엔비디아는 세계 GPU 공급량의 90%가량을 책임지고 있다.

WSJ은 '챗GPT' 열풍으로 AI 개발과 투자 속도가 빨라졌고, 개발자들이 갈수록 더 복잡한 모델을 내놓고 이를 작동하기 위한 서버 용량도 커지면서 GPU 수요가 공급을 능가하는 수준으로 급증했다고 설명했다. UBS 분석에 따르면 챗GPT 이전 버전에는 약 1만개의 GPU가 필요했다. 이에 대해 일론 머스크 테슬라 CEO는 업데이트된 챗GPT 최신 버전에는 이전보다 3~5배가 많은 3만~5만개의 엔비디아 고급 GPU가 필요할 것이라고 추산한 바 있다.

업계에 따르면 현재 엔비디아 GPU를 받으려면 주문 후 최소 6개월 이상을 기다려야 한다. WSJ은 "일부 소매업체에서 엔비디아 GPU는 현재 3만3000달러(약 4358만원)에 판매되고 있는데, 수요 급증으로 더 높은 가격에도 팔리고 있다"고 전했다.

AI 스타트업 라미니의 공동창업자이자 최고경영자(CEO)인 샤론 저우는 "(GPU) 부족으로 업계의 누구를 아는지가 중요해졌다"며 GPU를 팬데믹 초기 사재기 열풍이 불었던 화장지에 비유했다. 샘 알트만 오픈AI CEO는 지난 16일 "지금으로선 챗GPT 이용자가 많지 않았으면 좋겠다"며 GPU 병목현상을 언급했다. 머스크 테슬라 CEO는 지난 23일 한 행사에서 GPU 공급난 상황에 대해 "현시점에서 GPU는 마약보다 구하기 훨씬 어렵다"고까지 표현했다.

업계는 GPU 공급난이 내년까지 이어질 것으로 보고 대응책 마련에 고심한다. 일부 업체는 GPU 부족에 따른 서비스 중단 가능성을 우려해 클라우드 용량을 차단했다. AI 스타트업 일부는 자체적으로 물리적 서버를 구입하거나 GPU 품귀 현상이 해결될 때까지 오라클 등과 같은 상대적으로 인기가 적은 클라우드 공급사와 거래하는 등의 대안을 모색하고 있다. 이와 관련 머스크 CEO는 오라클의 여유 서버 공간 상당 부분을 확보한 것으로 알려졌다.

GPU 수요 급증 및 공급 부족은 엔비디아의 매출과 이미 급상승한 주가에도 긍정적인 영향을 줄 수 있다. 엔비디아 주가는 올해에만 166.5% 뛴 389.46달러(26일 종가 기준)를 기록 중이다. 시가총액은 1조달러 직전(약 9631억달러)이다.