엔비디아, 2만개의 GenAI 스타트업이 자사 플랫폼을 기반으로 구축 중이라고 밝혀

황 최고경영자는 이더넷이 엔비디아가 AI 컴퓨팅을 더 넓은 시장에 제공할 수 있는 주요 새로운 기회라고 강조했습니다.

2024년 5월 23일 오후 2:27- 4달 전VENTUREBEAT.COM- James Thomason

엔비디아, 2만개의 GenAI 스타트업이 자사 플랫폼을 기반으로 구축 중이라고 밝혀

요약생성

바쁠 때는 리얼라이즈가 내용을 요약해 드려요.

2024년 5월 23일 오전 7시 27분

엔비디아의 젠슨 황

엔비디아의 젠슨 황 디지털 렌더링

엔비디아 CEO 젠슨 황은 수요일 2025년 1분기 실적 발표에서 엔비디아의 가속 컴퓨팅 플랫폼을 사용하는 생성형 AI(GenAI) 스타트업의 폭발적인 성장을 강조했습니다.

“멀티미디어부터 디지털 캐릭터, 디자인, 애플리케이션 생산성, 디지털 생물학에 이르기까지 모든 분야에서 1만 5천~2만 개의 생성형 AI 스타트업이 있습니다.”라고 황은 말했습니다. “자율 주행 자동차의 운영 영역을 확장하기 위해 엔드투엔드 모델을 학습할 수 있도록 AV 산업이 엔비디아로 이동하고 있다는 점은 괄목할 만한 사례입니다.”

황은 엔비디아의 CUDA 소프트웨어와 텐서 코어 아키텍처를 사용하여 AI 애플리케이션을 시장에 출시하기 위해 경쟁하는 기업들이 엔비디아 GPU에 대한 수요가 “엄청나다”고 강조했습니다. 소비자 인터넷 기업, 기업, 클라우드 제공업체, 자동차 회사, 의료 기관은 모두 수천 개의 엔비디아 GPU로 구축된 “AI 팩토리”에 대규모로 투자하고 있습니다.

엔비디아 CEO는 생성형 AI로의 전환이 정보 검색에서 지능형 출력 생성으로 컴퓨팅이 이동하면서 “기본적인 풀스택 컴퓨팅 플랫폼 전환”을 주도하고 있다고 말했습니다.

“[컴퓨터]는 이제 맥락적으로 관련성이 높은 지능형 답변을 생성합니다.”라고 황은 설명했습니다. “이는 전 세계의 컴퓨팅 스택을 바꿀 것입니다. PC 컴퓨팅 스택조차 혁신될 것입니다.”

급증하는 수요를 충족하기 위해 엔비디아는 1분기에 H100 “호퍼” 아키텍처 GPU 출하를 시작했으며, 호퍼보다 4~30배 빠른 AI 학습 및 추론을 제공하는 차세대 “블랙웰” 플랫폼을 발표했습니다. 주요 컴퓨터 제조업체에서 100개 이상의 블랙웰 시스템이 올해 출시되어 광범위한 도입을 가능하게 할 것입니다.

황은 엔비디아의 엔드투엔드 AI 플랫폼 기능이 AI 워크로드가 빠르게 진화함에 따라 더 좁은 솔루션보다 훨씬 큰 경쟁 우위를 제공한다고 말했습니다. 그는 GenAI 혁명이 본격화됨에 따라 엔비디아의 호퍼, 블랙웰 및 미래 아키텍처에 대한 수요가 내년까지 공급을 초과할 것으로 예상했습니다.

AI 칩 수요를 따라잡기 위해 고군분투

엔비디아가 1분기에 260억 달러의 사상 최고 매출을 기록했음에도 불구하고, 이 회사는 AI 워크로드에 대한 GPU 공급 능력이 고객 수요를 크게 따라잡지 못하고 있다고 밝혔습니다.

“우리는 매일 경쟁하고 있습니다.”라고 황은 엔비디아의 주문 이행 노력에 대해 말했습니다. “고객들은 시스템을 최대한 빨리 제공하고 구축할 것을 요구하고 있습니다.”

황은 엔비디아가 새로운 블랙웰 아키텍처 생산을 확대하더라도 현재 주력 제품인 H100 GPU에 대한 수요가 당분간 공급을 초과할 것이라고 언급했습니다.

엔비디아 H100 GPU 출처: 엔비디아

“이번 분기 동안 H100에 대한 수요가 계속 증가했습니다…H200으로 전환하고 블랙웰로 전환함에 따라 당분간 수요가 공급을 초과할 것으로 예상합니다.”라고 그는 말했습니다.

엔비디아 CEO는 획기적인 AI 모델과 애플리케이션을 통해 시장에 가장 먼저 진출하는 기업이 얻는 경쟁 우위를 이러한 긴급성의 원인으로 꼽았습니다.

“다음 주요 고원에 도달하는 회사는 획기적인 AI를 발표할 수 있고, 그 다음 회사는 0.3% 더 나은 것을 발표할 수 있습니다.”라고 황은 설명했습니다. “학습 시간이 매우 중요합니다. 3개월 빨리 학습하는 것이 모든 것을 의미합니다.”

결과적으로 황은 클라우드 제공업체, 기업, AI 스타트업이 경쟁사보다 앞서기 위해 가능한 한 많은 GPU 용량을 확보해야 한다는 엄청난 압박감을 느끼고 있다고 말했습니다. 그는 엔비디아 AI 플랫폼에 대한 공급 부족이 2024년까지 지속될 것으로 예상했습니다.

“블랙웰은 공급을 앞서고 있으며 내년까지 수요가 공급을 초과할 것으로 예상합니다.”라고 황은 밝혔습니다.

엔비디아 GPU는 클라우드 AI 호스트에 매력적인 수익률을 제공

황은 또한 클라우드 제공업체와 다른 기업이 엔비디아의 가속 컴퓨팅 플랫폼에서 AI 모델을 호스팅하여 어떻게 강력한 재무적 수익을 창출할 수 있는지에 대한 세부 정보를 제공했습니다.

“엔비디아 AI 인프라에 1달러를 투자할 때마다 클라우드 제공업체는 4년 동안 GPU 인스턴스 호스팅 수익으로 5달러를 벌 수 있는 기회가 있습니다.”라고 황은 밝혔습니다.

황은 엔비디아의 최신 H200 GPU를 사용하는 700억 개의 매개변수를 가진 언어 모델을 예로 들었습니다. 그는 단일 서버가 초당 2만 4천 개의 토큰을 생성하고 2,400명의 동시 사용자를 지원할 수 있다고 주장했습니다.

“즉, 토큰당 현재 가격으로 엔비디아 H200 서버에 1달러를 투자할 때마다 API 제공업체 [토큰 제공]는 4년 동안 7달러의 수익을 창출할 수 있습니다.”라고 황은 말했습니다.

황은 엔비디아의 지속적인 소프트웨어 개선이 GPU 플랫폼의 추론 성능을 지속적으로 향상시키고 있다고 덧붙였습니다. 지난 분기에 최적화를 통해 H100의 속도가 3배 빨라져 고객의 비용이 3배 감소했습니다.

황은 이러한 강력한 투자 수익률이 아마존, 구글, 메타, 마이크로소프트, 오라클과 같은 클라우드 거대 기업이 AI 용량을 확보하고 개발자를 유치하기 위해 경쟁하면서 엔비디아 실리콘에 대한 엄청난 수요를 촉발하고 있다고 주장했습니다.

그는 엔비디아의 타의 추종을 불허하는 소프트웨어 도구와 에코시스템 지원과 결합하여 이러한 경제적 이점이 엔비디아를 GenAI 배포를 위한 최고의 플랫폼으로 만들고 있다고 주장했습니다.

엔비디아, AI를 위한 이더넷 네트워킹에 적극적으로 진출

엔비디아는 GPU로 가장 잘 알려져 있지만, 인피니밴드 기술을 통해 데이터 센터 네트워킹 분야에서도 주요 업체입니다.

1분기에 엔비디아는 인피니밴드 채택으로 인해 네트워킹 부문에서 전년 대비 강력한 성장을 보고했습니다.

그러나 황은 이더넷이 엔비디아가 AI 컴퓨팅을 더 넓은 시장에 제공할 수 있는 주요 새로운 기회라고 강조했습니다. 이 회사는 1분기에 이더넷을 통한 AI 워크로드에 최적화된 스펙트럼-X 플랫폼 출하를 시작했습니다.

“스펙트럼-X는 엔비디아 네트워킹에 새로운 시장을 열어주고 이더넷 전용 데이터 센터가 대규모 AI를 수용할 수 있도록 합니다.”라고 황은 말했습니다. “스펙트럼-X가 1년 안에 수십억 달러 규모의 제품 라인으로 성장할 것으로 예상합니다.”

황은 엔비디아가 “이더넷에 올인하고 있다”고 말하며 인피니밴드 및 NVLink 상호 연결을 보완하기 위해 스펙트럼 스위치의 주요 로드맵을 제공할 것이라고 밝혔습니다. 이러한 3가지 네트워킹 전략을 통해 엔비디아는 단일 노드 AI 시스템부터 대규모 클러스터에 이르기까지 모든 것을 타겟팅할 수 있을 것입니다.

엔비디아는 또한 이번 분기에 51.2테라비트/초 스펙트럼-4 이더넷 스위치를 샘플링하기 시작했습니다. 황은 델과 같은 주요 서버 제조업체가 엔비디아의 가속화된 AI 네트워킹을 시장에 출시하기 위해 스펙트럼-X를 도입하고 있다고 말했습니다.

“오늘 우리 아키텍처에 투자하면 아무것도 하지 않아도 점점 더 많은 클라우드와 데이터 센터로 이동하고 모든 것이 작동합니다.”라고 황은 확신했습니다.

데이터 센터와 게임으로 인한 사상 최고의 1분기 실적

엔비디아는 1분기에 전 분기 대비 18%, 전년 대비 262% 증가한 260억 달러의 사상 최고 매출을 기록하며 240억 달러의 전망치를 크게 웃돌았습니다.

데이터 센터 사업은 성장의 주요 원동력이었으며, 매출은 전 분기 대비 23%, 전년 대비 무려 427% 증가한 226억 달러에 달했습니다. CFO 콜레트 크레스는 데이터 센터 부문의 놀라운 성장을 강조했습니다.

“컴퓨팅 매출은 전년 대비 5배 이상, 네트워킹 매출은 3배 이상 증가했습니다. 데이터 센터의 강력한 분기별 성장은 기업과 소비자 인터넷 기업을 중심으로 모든 유형의 고객에 의해 이루어졌습니다. 대규모 클라우드 제공업체는 엔비디아 AI 인프라를 대규모로 배포하고 확장하면서 강력한 성장을 지속하고 있습니다.”

게임 매출은 전 분기 대비 8% 감소했지만 전년 대비 18% 증가한 26억 5천만 달러였습니다. 이는 엔비디아의 계절적 감소 예상치와 일치했습니다. 크레스는 “지포스 RTX SUPER GPU 시장 반응이 좋으며, 제품 전반에 걸쳐 최종 수요와 채널 재고가 건강한 상태를 유지하고 있습니다.”라고 언급했습니다.

전문 시각화 매출은 전 분기 대비 8% 감소했지만 전년 대비 45% 증가한 4억 2,700만 달러였습니다. 자동차 매출은 전 분기 대비 17%, 전년 대비 11% 증가한 3억 2,900만 달러에 달했습니다.

엔비디아는 2분기에 모든 시장 플랫폼에서 분기별 성장이 예상되는 약 280억 달러(±2%)의 매출을 예상합니다.

이미지 출처: ThinkorSwim

엔비디아 주가는 이 회사가 10:1 주식 분할을 발표한 후 시간 외 거래에서 5.9% 상승한 1,005.75달러를 기록했습니다.

중요한 공개: 저자는 엔비디아 주식(NVDA)을 보유하고 있습니다. 투자 조언이 아닙니다. 투자 결정을 내리기 전에 전문 투자 고문과 상담하십시오.