요약생성
바쁠 때는 리얼라이즈가 내용을 요약해 드려요.
엔비디아 CEO 젠슨 황은 Computex에서 세계 최고의 컴퓨터 제조업체들이 기업의 AI 팩토리 및 데이터 센터 구축을 위해 Grace CPU, 엔비디아 네트워킹 및 인프라를 갖춘 엔비디아 블랙웰 아키텍처 기반 시스템을 공개한다고 발표했습니다.
AI 처리 작업에서 에너지 소비량이 25배 더 우수하고 비용이 저렴한 엔비디아 블랙웰 GPU와 동일한 패키지에 여러 개의 칩으로 구성된 엔비디아 GB200 Grace Blackwell 슈퍼칩은 이전 버전에 비해 LLM 추론 워크로드 성능이 최대 30배 향상되는 등 탁월한 성능 향상을 약속합니다.
차세대 생성형 AI 발전을 목표로 하는 황 CEO는 ASRock Rack, Asus, Gigabyte, Ingrasys, Inventec, Pegatron, QCT, Supermicro, Wistron, Wiwynn이 엔비디아 GPU와 네트워킹을 사용하여 클라우드, 온프레미스, 임베디드 및 에지 AI 시스템을 제공할 것이라고 말했습니다.
황 CEO는 성명서에서 “차세대 산업 혁명이 시작되었습니다. 기업과 국가들은 엔비디아와 협력하여 수조 달러 규모의 기존 데이터 센터를 가속 컴퓨팅으로 전환하고 새로운 상품인 인공 지능을 생산하기 위해 새로운 유형의 데이터 센터인 AI 팩토리를 구축하고 있습니다.'라고 말했습니다. “서버, 네트워킹, 인프라 제조업체부터 소프트웨어 개발자에 이르기까지 업계 전체가 모든 분야에서 AI 기반 혁신을 가속화하기 위해 블랙웰에 대비하고 있습니다.”
모든 유형의 애플리케이션을 처리하기 위해 단일 GPU에서 다중 GPU, x86 기반 프로세서에서 Grace 기반 프로세서, 공랭식 기술에서 수랭식 기술에 이르기까지 다양한 제품이 제공될 예정입니다.
또한 다양한 크기와 구성의 시스템 개발 속도를 높이기 위해 엔비디아 MGX 모듈식 레퍼런스 디자인 플랫폼이 이제 블랙웰 제품을 지원합니다. 여기에는 주류 대규모 언어 모델 추론, 검색 증강 생성 및 데이터 처리를 위한 탁월한 성능을 제공하도록 구축된 새로운 엔비디아 GB200 NVL2 플랫폼이 포함됩니다.
Asus 회장인 Jonney Shih는 성명서에서 “ASUS는 NVIDIA와 협력하여 COMPUTEX에서 선보일 강력한 서버 라인업을 통해 엔터프라이즈 AI를 새로운 차원으로 끌어올리고 있습니다. NVIDIA의 MGX 및 블랙웰 플랫폼을 사용하여 학습, 추론, 데이터 분석, HPC 전반의 고객 워크로드를 처리하도록 구축된 맞춤형 데이터 센터 솔루션을 제작할 수 있습니다.”라고 말했습니다.
GB200 NVL2는 기업이 매년 수백억 달러를 지출하는 데이터 분석과 같은 새로운 시장 기회에 이상적입니다. NVLink-C2C 인터커넥트가 제공하는 고대역폭 메모리 성능과 블랙웰 아키텍처의 전용 압축 해제 엔진을 활용하여 x86 CPU를 사용하는 것보다 에너지 효율성이 8배 향상되고 데이터 처리 속도가 최대 18배 빨라집니다.
가속 컴퓨팅을 위한 모듈식 레퍼런스 아키텍처
엔비디아의 블랙웰 플랫폼.
전 세계 데이터 센터의 다양한 가속 컴퓨팅 요구 사항을 충족하기 위해 엔비디아 MGX는 컴퓨터 제조업체에 100개 이상의 시스템 설계 구성을 빠르고 비용 효율적으로 구축할 수 있는 레퍼런스 아키텍처를 제공합니다.
제조업체는 서버 섀시에 대한 기본 시스템 아키텍처부터 시작한 다음, 다양한 워크로드를 처리할 GPU, DPU, CPU를 선택합니다. 현재까지 25개 이상의 파트너사에서 출시되었거나 개발 중인 90개 이상의 시스템이 MGX 레퍼런스 아키텍처를 활용하고 있으며, 이는 작년 6개 파트너사의 14개 시스템에서 증가한 수치입니다. MGX를 사용하면 개발 비용을 최대 4분의 3까지 절감하고 개발 시간을 3분의 2까지 단축하여 단 6개월 만에 완료할 수 있습니다.
AMD와 Intel은 자체 CPU 호스트 프로세서 모듈 설계를 처음으로 제공할 계획으로 MGX 아키텍처를 지원하고 있습니다. 여기에는 차세대 AMD Turin 플랫폼과 P-코어(이전 코드명 Granite Rapids)가 탑재된 Intel® Xeon® 6 프로세서가 포함됩니다. 모든 서버 시스템 빌더는 이러한 레퍼런스 설계를 사용하여 설계 및 성능의 일관성을 유지하면서 개발 시간을 단축할 수 있습니다.
엔비디아의 최신 플랫폼인 GB200 NVL2도 MGX와 블랙웰을 활용합니다. 스케일 아웃, 단일 노드 설계를 통해 광범위한 시스템 구성 및 네트워킹 옵션을 통해 가속 컴퓨팅을 기존 데이터 센터 인프라에 원활하게 통합할 수 있습니다.
GB200 NVL2는 엔비디아 블랙웰 텐서 코어 GPU, GB200 Grace 블랙웰 슈퍼칩, GB200 NVL72를 포함한 블랙웰 제품군에 합류합니다.
에코시스템
엔비디아 블랙웰에는 2,080억 개의 트랜지스터가 탑재되어 있습니다.
NVIDIA의 포괄적인 파트너 에코시스템에는 세계 최고의 반도체 제조업체이자 엔비디아 파운드리 파트너인 TSMC와 AI 팩토리를 구축하기 위한 핵심 부품을 제공하는 글로벌 전자 제품 제조업체가 포함됩니다. 여기에는 Amphenol, Asia Vital Components(AVC), Cooler Master, Colder Products Company(CPC), Danfoss, Delta Electronics, LITEON과 같은 회사의 서버 랙, 전력 공급, 냉각 솔루션 등과 같은 제조 혁신이 포함됩니다.
그 결과 새로운 데이터 센터 인프라를 신속하게 개발 및 배포하여 전 세계 기업의 요구 사항을 충족할 수 있으며, 블랙웰 기술, NVIDIA Quantum-2 또는 Quantum-X800 InfiniBand 네트워킹, 엔비디아 Spectrum-X 이더넷 네트워킹, NVIDIA BlueField-3 DPU를 통해 더욱 가속화할 수 있습니다. 이러한 기술은 선도적인 시스템 제조업체인 Dell Technologies, Hewlett Packard Enterprise, Lenovo의 서버에서 제공됩니다.
또한 기업은 엔비디아 AI Enterprise 소프트웨어 플랫폼(엔비디아 NIM 추론 마이크로서비스 포함)에 액세스하여 프로덕션 등급의 생성형 AI 애플리케이션을 만들고 실행할 수 있습니다.
대만, 블랙웰 수용
생성형 AI는 엔비디아를 블랙웰로 이끌고 있습니다.
황 CEO는 기조 연설에서 대만의 선도 기업들이 자체 비즈니스에 AI의 힘을 불어넣기 위해 블랙웰을 빠르게 채택하고 있다고 발표했습니다.
대만 최고의 의료 기관인 Chang Gung Memorial Hospital은 블랙웰 컴퓨팅 플랫폼을 사용하여 생물 의학 연구를 발전시키고, 이미징 및 언어 애플리케이션을 가속화하여 임상 워크플로우를 개선하고, 궁극적으로 환자 치료를 개선할 계획입니다.
Hon Hai Technology Group의 CEO인 Young Liu는 성명서에서 “생성형 AI가 산업을 변화시키면서 Foxconn은 가장 다양하고 까다로운 컴퓨팅 요구 사항을 충족하는 최첨단 솔루션을 제공할 준비가 되어 있습니다. 당사는 자체 서버에서 최신 블랙웰 플랫폼을 사용할 뿐만 아니라 엔비디아에 핵심 부품을 제공하여 고객의 출시 시간을 단축할 수 있도록 지원합니다.”라고 말했습니다.
세계 최대 전자 제품 제조업체 중 하나인 Foxconn은 엔비디아 Grace 블랙웰을 사용하여 AI 기반 전기 자동차 및 로봇 공학 플랫폼을 위한 스마트 솔루션 플랫폼과 고객에게 보다 개인화된 경험을 제공하는 언어 기반 생성형 AI 서비스를 개발할 계획입니다.
Quanta Computer의 회장인 Barry Lam은 성명서에서 “우리는 전례 없는 속도로 혁신이 가속화되고 있는 AI 중심 세계의 중심에 서 있습니다. 엔비디아 블랙웰은 단순한 엔진이 아니라 이러한 산업 혁명에 불을 붙이는 불꽃입니다. 차세대 생성형 AI를 정의하는 데 있어 Quanta는 이 놀라운 여정에 NVIDIA와 함께하게 된 것을 자랑스럽게 생각합니다. 우리는 함께 AI의 새로운 장을 만들고 정의할 것입니다.”라고 말했습니다.
Supermicro의 사장 겸 CEO인 Charles Liang은 다음과 같이 말했습니다. “당사의 빌딩 블록 아키텍처 및 랙 스케일 수랭식 솔루션은 당사의 사내 엔지니어링 및 월 5,000개 랙의 글로벌 생산 능력과 결합되어 광범위한 획기적인 엔비디아 AI 플랫폼 기반 제품을 전 세계 AI 팩토리에 신속하게 제공할 수 있습니다. 블랙웰 아키텍처를 기반으로 하는 모든 제품에 최적화된 랙 스케일 설계의 수랭식 또는 공랭식 고성능 시스템은 고객에게 차세대 컴퓨팅 요구 사항을 충족하는 플랫폼을 놀랍도록 다양하게 선택할 수 있을 뿐만 아니라 AI의 미래로 도약할 수 있는 기회를 제공할 것입니다.”
TSMC의 CEO인 C.C. Wei는 성명서에서 “TSMC는 엔비디아와 긴밀히 협력하여 AI에 대한 비전을 실현할 수 있는 반도체 혁신의 한계를 뛰어넘고 있습니다. 업계를 선도하는 당사의 반도체 제조 기술은 블랙웰 아키텍처를 기반으로 하는 GPU를 포함하여 엔비디아의 획기적인 GPU를 구현하는 데 도움이 되었습니다.”라고 말했습니다