시큐리티팩트

[시큐리티팩트=최석윤 기자] 인공지능(AI) 혁명의 심장부인 가속기 칩 시장에서 전례 없는 격전이 벌어지고 있다. 오랫동안 'AI 시대의 원유(原油)'를 독점 공급해온 엔비디아의 GPU(Graphic Processing Unit)가 구글이 자체 개발한 TPU(Tensor Processing Unit)의 공세에 직면하며 시장이 요동치고 있다. 이 두 거대 기술의 충돌은 단순히 하드웨어 경쟁을 넘어, 데이터센터 인프라와 클라우드 서비스의 판도를 근본적으로 바꿀 '빅뱅'으로 평가된다.

최근 구글이 자체 개발 칩인 TPU를 외부 고객사(메타 포함)에 적극적으로 판매하려 한다는 보도가 나오자, 뉴욕 증시는 즉각적으로 반응했다. 엔비디아 주가는 하루 만에 장중 최대 7% 급락했으며, 마감 기준 3% 하락하며 1150억 달러(약 160조 원)에 달하는 시가총액이 증발했다. 이는 TPU가 엔비디아 중심의 가속기 시장에서 강력한 경쟁자로 부상했음을 시사한다. 한편, 구글의 모회사 알파벳 주가는 TPU 부상 기대감에 힘입어 사상 최고가를 기록하며 희비가 엇갈렸다.

AI 칩 전쟁의 두 축인 GPU와 TPU는 애초에 개발 목적과 설계 철학이 완전히 다르다. 이 차이가 현재 시장 경쟁의 핵심 쟁점이다.

엔비디아 GPU, '범용성'으로 시장을 지배하다

엔비디아의 GPU는 원래 고화질 비디오 게임 이미지를 생생하게 렌더링하기 위해 개발됐다. 수천 개의 컴퓨팅 '코어'를 통해 여러 작업을 병렬로 처리하는 구조는 AI 연산에 완벽하게 들어맞았다.

△ 압도적인 생태계: 엔비디아는 CUDA라는 강력한 소프트웨어 플랫폼을 기반으로 시장을 지배한다. 전 세계 AI 개발자와 연구자들이 이 환경에 익숙하다. 이 소프트웨어 장벽은 후발 주자들이 넘기 어려운 가장 큰 난관이다.

△ 범용성과 다재다능함: GPU는 다양한 AI 모델과 연구 분야에 즉시 적용 가능하다. 학습과 추론 모두에서 뛰어난 성능을 보이며, 진화하는 AI 환경에서 유연성을 제공한다. 엔비디아는 자사 제품이 특정 AI 기능만을 위한 ASIC보다 더 높은 성능과 대체성을 제공한다고 강조한다.

구글 TPU, '효율성'을 극대화한 메스

구글의 TPU는 "회사 자체 AI가 파산시키는 것을 막기 위해" 탄생했다. 2013년, 구글은 모든 사용자가 음성 검색을 사용하면 데이터센터를 두 배로 늘려야 할 것이라는 현실적인 공포에 직면했다. CPU와 GPU는 현금에 불을 지르는 것과 같았다.

△ 최적화된 성능: TPU는 AI 신경망 훈련의 핵심인 행렬 연산(Matrix Multiplication)을 위해 특별히 설계됐다. 이는 특정 AI 작업을 순차적으로, 반복적으로, 효율적으로 수행하도록 최적화된 ASIC(주문형 반도체)다.

△ 비용 효율성: TPU는 GPU보다 유연성은 떨어지지만, 해당 작업을 실행할 때 전력 소모가 적다. 이는 운영 비용을 획기적으로 절감하며 GPU에 비해 가격 대비 성능이 우수하다는 것을 의미한다. 일부 작업에서 GPU보다 30%에서 때로는 두 배 더 저렴한 비용 효율을 보인다.

블룸버그 인텔리전스 분석가는 "TPU는 AI에 불필요한 칩의 기능을 제거했기 때문에 특정 작업에서 GPU보다 월등한 성능을 낼 수 있다"고 설명했다.

시장 충격의 도화선, '외부 판매'와 Gemini 3

최근의 주가 급락은 구글의 전략 변화에서 비롯됐다.

구글은 그동안 TPU를 자사 서비스(검색, 유튜브)에만 사용해 왔다. 그러나 이제 메타 플랫폼즈(Meta Platforms)가 2027년에 데이터센터에 TPU 도입을 논의 중이라는 보도가 나오면서, TPU가 엔비디아의 핵심 고객을 빼앗을 수 있다는 우려가 현실화됐다. 메타는 자체 칩(MTIA) 개발과 함께 TPU를 병행하는 멀티 칩 전략을 구상 중인 것으로 보인다.

여기에 구글의 최신 대형 언어 모델 'Gemini 3'가 공개됐다. 구글은 엔비디아 GPU에 전혀 의존하지 않고 구글의 TPU 인프라만을 기반으로 학습되었다고 밝혔다. 이는 TPU만으로도 최첨단 AI 모델을 구축할 수 있음을 증명하며 "엔비디아 없이도 가능하다"는 기술적 전환 가능성을 시사했다.

엔비디아의 반격… "우리가 한 세대 앞서있다"

엔비디아는 즉각적으로 자신감을 표명했다. 엔비디아는 소셜 미디어를 통해 "NVIDIA는 업계보다 한 세대 앞서 있다"고 주장했다. 그들은 자신들의 GPU가 모든 AI 모델을 실행하는 유일한 플랫폼이라고 강조했다. 엔비디아의 이 같은 반응은 '위기감의 표현'인 동시에 '지배력 사수'의 의지를 보여준다.

실제로 엔비디아의 주장은 근거가 있다. 차세대 칩 블랙웰(Blackwell)은 여전히 업계의 '금본위제'로 통한다. 구글 딥마인드 CEO 데미스 하사비스 역시 젠슨 황(엔비디아 CEO)에게 GPU의 확장법칙이 여전히 유효하다고 인정했을 정도다.

'현금의 힘'과 시장 재편의 서막

이 경쟁이 단순한 기술 싸움이 아닌 '자금력 싸움'이라는 분석도 나온다.

엔비디아는 막강한 자금력을 자랑한다. GPU 판매로 인해 73%라는 경이적인 총이익률을 기록하고 있다. 이는 경쟁사 AMD보다 20%포인트 이상 높은 수치다. 시장 분석가들은 2025년 엔비디아의 자유현금 흐름이 약 970억 달러에 이를 것으로 예상한다.

엔비디아는 확보한 막대한 현금을 바탕으로 유망한 AI 스타트업에 전략적으로 투자하거나 우선 공급권을 제공하며 '락인(Lock-in) 효과'를 강화하고 있다. 이는 고객들이 GPU 생태계에서 벗어나지 못하게 하는 강력한 울타리 역할, 즉 생태계 방어 전략을 가능게 한다.

클라우드 전쟁의 새로운 국면, '탈(脫) 엔비디아' 전선 확대

GPU 대 TPU의 대결은 클라우드 서비스의 경쟁력에 직접적인 영향을 미친다. 엔비디아 GPU는 모든 주요 클라우드에 공급되지만, 구글 TPU는 구글 클라우드 내에 잠겨 있다. 만약 구글이 TPU를 성공적으로 확산시킨다면, 구글 클라우드는 젠슨 황의 'GPU 세금(높은 마진)'을 강제로 적용받지 않는 유일한 메이저 클라우드가 되어 강력한 가격 경쟁력을 갖게 된다.

이러한 흐름에 따라, 마이크로소프트(Maia)와 아마존(Trainium) 같은 다른 클라우드 제공업체들도 엔비디아 의존도를 줄이기 위해 자체 AI 칩 개발에 박차를 가하고 있다.

또한, 브로드컴의 역할도 주목된다. 브로드컴은 구글의 최신 TPU(v6 아이언우드) 개발의 핵심 파트너로서, 맞춤형 ASIC 시장에서 엔비디아의 독주를 견제하는 '보이지 않는 손' 역할을 수행하고 있다.

독점의 종말, 본격적인 'AI 군비 경쟁'

현재 상황은 엔비디아의 독점적 지위가 위협받고 있다는 측면에서는 분명하다. 하지만 엔비디아가 당장 패권을 잃었다고 보기는 어렵다.

장기적으로는 '범용적 생태계'(GPU) 대 '맞춤형 효율성'(TPU)의 대결은 피할 수 없다. 특히 AI 모델이 실제 서비스에 적용되는 추론(Inference) 시장이 폭발적으로 성장할 때, 가격 대비 전력 효율성이 뛰어난 TPU와 같은 ASIC 칩들이 우위를 점할 수 있다.

AI 군비 경쟁은 이제 2막에 접어들었다. 엔비디아는 자금력과 생태계를 바탕으로, 구글은 혁신적인 효율성과 가격 경쟁력을 무기로 싸우고 있다. 이 전쟁의 승자는 누가 더 많은 개발자를 끌어들이고, 폭증하는 AI 워크로드를 얼마나 저렴하고 효율적으로 처리할 수 있는가에 달려 있다.