AI 시장에서 또 다른 성장 동력이 나타났다. Nvidia의 2025년 1분기 매출이 441억 달러로 전년 대비 69% 급증하며 시장의 주목을 받고 있는 가운데, 이번 성장의 핵심은 단순한 AI 훈련이 아닌 ‘추론(Inference)’ 수요의 폭발적 증가에 있다.
AI 추론 시장, 새로운 성장 엔진으로 부상
AI 추론이란 무엇인가?
AI 추론은 이미 훈련된 AI 모델이 실제로 사용자의 질문에 답하거나 문제를 해결하는 과정이다. 추론은 쿼리의 단순한 인식과 응답에서 복잡한 정보 생성으로 변화했으며, 여러 출처에서 요약하는 것과 거대 언어 모델이 포함되어 컴퓨팅 수요를 급격히 증가시켰다고 전문가들은 분석한다.
시장 규모와 성장 전망
전 세계 AI 시장 규모가 2024년 2,340억 달러에서 2032년 2조 6,260억 달러로 예측 기간 동안 29.2%의 연평균 성장률을 기록할 전망이다. 특히 추론 부문은 이 성장을 견인하는 핵심 동력으로 평가받고 있다.
2024년은 ROI가 입증된 사용 사례가 일부 출현했고, 2025년에는 이러한 사용 사례가 대규모로 채택될 전망이라는 분석처럼, AI가 실험 단계를 넘어 본격적인 상용화 단계에 진입하면서 추론 수요가 급증하고 있다.
Broadcom과의 시너지 효과
네트워킹 인프라의 중요성
Nvidia의 성장을 더욱 가속화하는 요인 중 하나는 Broadcom의 최신 네트워킹 칩 출시다. Broadcom이 새로운 Tomahawk 6 네트워킹 칩 출시를 시작했으며, 이 칩은 이전 버전 대비 2배의 성능을 자랑하고 AI 속도 향상을 목표로 한다고 발표했다.
Tomahawk 6는 102.4Tbps의 대역폭을 제공하며, 최대 128,000개의 GPU를 2계층 토폴로지로 지원할 수 있어 이전에 3계층이 필요했던 것을 단순화했다는 점이 주목할 만하다.
AI 인프라 투자 확대
AI 인프라 투자의 핵심 수혜주로 브로드컴이 꼽히며, 다양한 산업 분야의 AI 도입으로 데이터 통신량이 급증하면서 브로드컴의 통신 칩 수요가 폭발적으로 늘어나고 있다. 이는 Nvidia의 GPU와 함께 AI 생태계 전반의 성장을 뒷받침하는 중요한 요소다.
2025년 AI 추론 혁명의 핵심 트렌드
에이전틱 AI의 부상
에이전틱 AI의 시대가 열리면서 여러 모델로 구성된 복잡한 시스템에서 거의 즉각적인 응답에 대한 수요가 증가할 것이다. 이러한 변화는 추론 성능에 대한 요구사항을 한층 높이고 있다.
실시간 추론의 중요성
추론 시간 컴퓨트를 잘 활용하면, AI는 단순한 정답 기계에서 벗어나 복잡한 상황에서 합리적인 결정을 내리는 사고 파트너로 진화할 수 있다는 분석이 나오고 있다.
기업의 AI 도입 가속화
2025년에는 전사적 규모로 확대되는 양상이 나타날 전망이며, ROI를 확인한 수많은 기업이 활용처를 확대하고 있다고 전문가들은 전망한다.
투자자들이 주목해야 할 포인트
지속 가능한 성장 동력
2025년에는 업계가 청정 에너지 경로 중 하나로 원자력을 더 폭넓게 수용하게 될 것으로 예상하며, 가속 컴퓨팅, 시뮬레이션 기술, AI와 3D 시각화의 사용 증가로 인해 지원받고 있다는 점에서 Nvidia의 장기적 성장 가능성을 엿볼 수 있다.
시장 점유율 확대
Nvidia의 1분기 매출은 441억 달러로 전분기 대비 12%, 전년 대비 69% 증가했으며, 이러한 성장세가 지속될 것으로 예상된다.
글로벌 AI 경쟁 심화
전 세계 AI 시장 규모가 2023년 1,502억 달러에서 2030년 1조 3,452억 달러로 연간 36.8%의 고속 성장을 이어갈 전망이라는 점에서, Nvidia는 이 거대한 시장에서 핵심적인 위치를 차지하고 있다.
주의해야 할 리스크 요인
지정학적 리스크
미국 정부가 H20 제품의 중국 수출에 라이선스가 필요하다고 통보했으며, 이로 인해 45억 달러의 손실을 기록하는 등 지정학적 리스크가 여전히 존재한다.
경쟁 심화
AI 시장이 성장하면서 AMD, Intel 등 경쟁사들의 도전도 거세지고 있어, Nvidia가 현재의 시장 지배력을 유지할 수 있을지 지켜봐야 한다.
결론: AI 추론 시대의 새로운 기회
Nvidia의 주가 상승은 단순한 AI 붐을 넘어서 실질적인 AI 활용이 확산되고 있음을 보여주는 신호다. 특히 AI 추론 수요의 급증과 Broadcom 같은 파트너사의 네트워킹 기술 발전이 시너지를 만들어내면서, AI 생태계 전반의 성장을 견인하고 있다.
새로운 하드웨어 혁신과 지속적인 소프트웨어 개선을 통해 성능은 향상되고 총소유비용은 5배 이상 절감될 것으로 예상된다는 전망처럼, 기술 발전과 비용 효율성 개선이 동시에 이뤄지면서 AI 도입 장벽이 낮아지고 있다.
투자자들은 단순히 주가 상승에만 주목할 것이 아니라, AI 산업의 구조적 변화와 장기적 성장 동력을 이해하고 접근해야 할 시점이다. 특히 추론 시장의 성장은 이제 막 시작된 만큼, 관련 기업들의 실적과 기술 개발 동향을 면밀히 지켜볼 필요가 있다.