추천, 2024

편집자의 선택

Nvidia의 새로운 Volta 기반 DGX-1 슈퍼 컴퓨터는 400 대의 서버를 상자에 넣습니다.

AI Inferencing at the Speed of Light

AI Inferencing at the Speed of Light
Anonim

고가의 서버가있는 경우 400 대의 서버 랙을 구입할 필요가 없습니다. 데스크탑에 설치된 Volta GPU가 장착 된 Nvidia DGX-1 슈퍼 컴퓨터.

일반 랙 서버처럼 보이는 DGX-1 슈퍼 컴퓨터는 8 대의 Tesla V100 GPU에서 대부분의 컴퓨팅 성능을 제공합니다.

새로운 Volta 아키텍처를 기반으로 한 최초의 GPU 인 GPU는 수요일 캘리포니아 산호세에서 열린 GPU 기술 컨퍼런스에서 소개되었다.

[추가 정보 : PC 게임용 최고의 그래픽 카드]

기조 연설 중에 Nvidia의 CEO 인 Jen-Hsun Huang은 말했습니다.

그러나 Tesla V100 컴퓨터가 장착 된 DGX-1은 값이 비쌉니다. US $ 149,000는 사람들의 생명을 구할 가치가 있습니다. 그러나 황 교수는 3 분기에 박스가 출하 될 것이라고 말하면서 사람들에게 주문하도록 권유했다.

새로운 슈퍼 컴퓨터 40,960 개의 CUDA 코어는 Nvidia가 말한 800 CPU의 컴퓨팅 성능과 동일하다. Nvidia에 따르면이 시스템은 250 개의 2 소켓 서버로 구성된 현재 Pascal 아키텍처를 기반으로 한 이전 DGX-1을 대체합니다.

Nvidia는이 시스템이 대략 960 테라 플롭의 반 정밀도 - 16 비트 플로팅 point-performance는 단 정밀도와 배정도 성능이 떨어짐을 의미합니다. 수치는 이용 가능하지 않았지만 반 배정도 성능은 기계 학습 업무에서 중요한 것으로 간주됩니다.

GPU와 함께 2.2GHz의 클럭 속도로 실행되는 두 개의 20 코어 Intel Xeon E5-2698 v4가 있습니다. 이 시스템에는 4 개의 1.92TB SSD가 있으며 우분투 리눅스에서 실행됩니다.

이 시스템은 3,200 와트의 전력을 소비하므로 하루 종일 계속 작동시키지 않으면 전기 요금이 부과됩니다.

게이머는 기계에 대해 흥분하지 않습니다. Tesla V100이 장착 된 DGX-1은 거대한 게임 장비가 되기에는 너무 비쌉니다. 대신 기계 학습을 위해 더 많이 설계되었습니다.

GPU는 이미 데이터 센터의 기계 학습 작업에 힘을 실어 주며, 엔비디아 슈퍼 컴퓨터는 GPU가 어떻게 이미지 인식 및 자연 언어 처리와 같은 애플리케이션을 구현하는지 보여주는 예입니다.

Huang 특히 인공 지능에 GPU가 들어 맞는 컴퓨팅 성능을 제공하지 못한다. DGX-1의 테슬라 V100은 현재 파스칼 아키텍처보다 5 배 빠르다. NVLink 2.0과 같은 새로운 기술, 최대 300Gbps (초당 비트)의 대역폭을 가진 새로운 인터커넥트를 갖출 것입니다. GPU에는 210 억 개의 트랜지스터와 5,120 개의 코어가 있습니다. 또한 900GBps (초당 바이트 수)의 HBM2 메모리 대역폭을 갖추고 있습니다. Nvidia는 큐브와 유사한 Tensor Core를 포함 시켰습니다.이 코어는 심화 학습을 향상시키기 위해 일반 프로세싱 코어와 함께 작동합니다. Nvidia는 효과적인 심층 학습 시스템의 핵심 인 행렬 곱셈을 가속화하기 위해 코어 구조화에 중점을 두었습니다. 이 구조는 낮은 수준의 부동 소수점 계산을 조정하는 데 도움이되어 깊은 학습 속도를 높여야합니다.

Huang은 GPU가 딥 - 러닝 성능을 120 테라 플롭으로 제공한다고 자랑하지만 검증하기는 어렵습니다. 슈퍼 컴퓨터는 CUDA, Tensor 및 Caffe2와 같은 많은 고성능 컴퓨팅 및 심층 학습 프레임 워크에서 작동합니다.

그래픽 회사는 또한 새로운 DGX-1의 더 작은 버전 인 DGX 스테이션을 선보였습니다. 워크 스테이션과 비슷하게 보이며 DGX-1의 절반 인 테슬라 V100 GPU가 4 개 있습니다. 가격은 69,000 달러이며 3 분기에 출시 될 예정이다.

Nvidia는 제품이 전 세계에 선적 될지 여부를 즉시 알리지 않았다.

인기있는 카테고리

Top