Hardware

NVIDIA A16 with 4x Ampere 16GB ....

crazyits 2023. 2. 24. 00:51
반응형

Nvidia 는 일반용 제품을 만들어 판매를 하기는 하지만...

그 보다 더 큰 시장이 기업들을 위한 시장이다.

그쪽에서 사용하는 제품중에 좀 특이한 것들이 있다.

Nvidia A16 이라는 물건인데... RTX 3천에 사용된 Ampere 칩이 4개나 들어간 모델이다.

Nvidia A16은 두개의 슬롯을 차지하는 카드로 정면에서 보면  약간의 주름이 보이기는 하지만 대체적으로 평평한 표면으로 보이는 모습이다.

후면 부를 보면 카드를 보호하기 위한 금속판으로 되어 있으며 분해를 위한 볼트들이 보인다.

사실 제품 내부의 구성은.....

이런식으로 GPU 칩 4개가 장착이 되어 있으며 각기 16GB의 메모리를 탑재하고 있다.

제품의 하단부를 확인해 보면... 역시나 약간의 주름만 확인이 가능하다.

일반카드와 는 다른 모습이라 냉각을 어떻게 시키는 것인가 궁금할텐데...

슬롯부를 보면 방열핀이 보이고 공기 흐름을 위한 통로가 보인다.

디스플레이 출력 단자가 있어야 할 곳이 뻥 뚫어져있고 그곳을 통하여 열기를 방출하는 것이다.

저 뒤쪽에서 케이스에서 장착된 고속(대략 5000 rpm 정도?)의 팬이 공기를 불어넣고 그것이 카드 내부의 방열판을 통하게 되고 슬롯부의 홀을 통하여 나오게 되는 것이다.

해당 제품의 후면(?)을 보면... 8핀 커넥터와 GPU 지지대용 마운트를 볼 수 있다.

제품의 길이가 상당하기 때문에 휘어짐을 방지하기 위해 뒷부분의 고정이 필요한 것이다.

저 카드의 내부 모습이 궁금하겠지만...... 

다른 비스무리한 형태의 제품으로 만족을 하도록 하자...

Facebook 에서 폐기한 HPE 시스템에서 나온 Nvidia GRID M40 인데... 형태가 동일하다.

Ampere 칩이 들어간 위치랑 메모리 위치가 거의 동일할 겁니다.

반응형

Nvidia A16의 주요 사양을 보면

GPU : Nvidia Ampere

Memory : 4 x 16GB GDDR6

Memory 대역폭 : 4 x 200GB /s

ECC 지원 : 예

CUDA 코어 : 4 x 1280

3세대 Tensor 코어 : 4 x 40

2세대 RT 코어 : 4  x 10

FP32 / TF32 / TF32 1 (TFLOPS) : 4  x 4.5 / 4 x 9 / 4 x 18

INT8 / INT8 1 (TOPS) : 4 x 35.9 / 4 x 71.8

인터페이스 : PCIe GEN4(x 16)

최대 전력소비 : 250W

인코딩 / 디코딩 엔진 : 4NVENC / 8NVDEC ( AV1 디코드 포함)

vGPU 소프트웨어 지원 : Nvidia 가상 PC(vPC), Nvidia 가상 애플리케이션(vApp), Nvidia 가상 워크스테이션(rWS), Nvidia AI Enterprise, Nvidia 가상 컴퓨팅 서버(vCS)

MIG 지원 : No

4개의 Ampere 칩을 탑재하고 있어 각 GPU는 16GB 메모리에만 액세스할 수 있습니다.

Nvidia A100은 최대 7개의 GPU 파티션으로 분할이 가능한 MIG 라는 것을 지원하지만 위 제품은 이것을 지원하지 않습니다.

이러한 카드는 하나만 사용되는 것이 아니라

가상화와 같은 특정한 서버를 위해서 사용되는 것으로 단일카드에 다수가 장착되어 있는 것이 공간상 유용합니다.

아래와 같이 많은 수를 장착하여 사용하는 것입니다.

16개의  A16이 장착되었으니 16  x 4 = 64개의 Ampere 칩이 장착되게 됩니다.

64개의 가상 OS에 GPU를 제공할 수 있게 됩니다.

 

일반인은 이런 신기한 제품들 폐기 또는 교체 처분되어 가격이 싸게 풀릴때나 사용해 볼 수 있겠죠....

반응형