2U4 입니다

Jan 17, 2024

Computex 2023에서 우리는 ASUS의 2U 4노드 NVIDIA Grace Superchip 서버를 보았습니다. ASUS RS720QN-E11-RS24U라고 불리는 이 제품은 여러 ASUS 리뷰에서 본 24베이 2.5인치 2U 섀시와 4개의 NVIDIA Grace Superchip 노드를 결합합니다.

흥미로운 점은 NVIDIA Grace Superchip 모듈이 멋지게 보이지만 많은 서버에 배포되는 것을 우리가 보고 있는 것과는 다르다는 것입니다. 그래도 뷰티 스킨에 모듈이 있습니다.

다시 한번 말씀드리자면 NVIDIA Grace CPU는 72코어 Arm Neoverse V2 디자인입니다. NVIDIA는 "Grace Superchip" 구성이라고 불리는 구성에서 이러한 72코어 CPU 중 2개가 약 740의 SPECint_rate_2017을 얻어야 한다고 말합니다. 이는 공식적으로 결과가 제출되지 않았기 때문에 추정된 수치입니다. 일부 출판물에서는 144개 코어를 갖춘 이 듀얼 칩 솔루션이 가장 빠른 CPU(또는 듀얼 CPU 구성)라고 말했습니다. 예를 들어 단일 AMD EPYC 9654를 탑재한 ASUS는 898입니다. NVIDIA의 추정 수치를 고려할 때 듀얼 Grace 솔루션은 정수 측면에서 84-96 코어 단일 소켓 AMD EPYC "Genoa"와 경쟁해야 합니다.

이 솔루션에는 고속 칩 간 상호 연결과 ECC가 내장된 LPDDR5X 메모리가 있습니다.

500W에서는 해당 그림에 메모리가 포함되어 있어 상당히 전력 효율적입니다. AMD EPYC 9654에는 360W TDP가 있지만 또 다른 60W+를 사용할 수 있는 12개의 메모리 채널도 있습니다. 그러나 NVIDIA가 제공하는 것은 약 1TB/s의 메모리 대역폭을 갖춘 960GB의 ECC 메모리입니다. 따라서 NVIDIA Grace Superchip은 실제로 Intel Xeon MAX CPU와 같은 HBM 메모리를 사용하지 않고 높은 메모리 대역폭을 위해 설계되었습니다.

이것이 NVIDIA Grace Superchip을 탑재한 시스템의 첫 번째 작품이기 때문에 NVIDIA가 인기를 얻었고 소비자 사이트에서는 이것이 어떻게 가장 빠른지 설명하지 않고 이것이 가장 빠른 칩이라고 말하고 있기 때문에 우리는 칩에 대해 조금 더 명확하게 설명하고 싶었습니다.

ASUS RS720QN-E11-RS24U의 간략한 사양은 다음과 같습니다. 흥미로운 점은 ASUS가 512G/256G에서 LPDDR5를 말한다는 것입니다. 모듈은 240GB, 480GB 및 960GB 구성(ECC 포함)의 LPDDR5X와 함께 제공될 예정입니다.

시스템은 후면 I/O 및 관리 기능을 갖춘 대부분의 ASUS 노드처럼 보입니다. 한 가지 큰 차이점은 여기에 POST 코드 LED가 표시되지 않는다는 것입니다.

시스템 내부에는 2개의 PCIe Gen5 슬롯과 1개의 OCP NIC 3.0 슬롯이 있습니다. 또한 온보드 ASPEED BMC도 볼 수 있습니다.

NVIDIA Grace Superchip에는 섀시에 맞게 맞춤화되고 노드의 전체 폭에 걸쳐 실행되는 거대한 방열판이 있습니다. 이는 방열판이 소켓 주변 영역과 DIMM 슬롯으로 제한되는 현재 x86 서버와 실제로 큰 차별화 요소입니다. 냉정한 관점에서 볼 때 Grace는 많은 의미가 있습니다.

또 다른 멋진 기능은 노드당 전면 2.5인치 베이 6개 외에 부팅 드라이브용 듀얼 M.2 모듈이 있다는 점입니다.

노드는 고밀도 커넥터를 통해 섀시에 연결됩니다.

섀시에 대해서는 이전에 본 적이 있기 때문에 너무 광범위하게 초점을 맞추지는 않을 것입니다.

전반적으로 NVIDIA Grace Superchip 시스템을 직접 볼 수 있어서 좋았습니다. 온보드 LPDDR5X 메모리는 144개의 Arm Neoverse V2 코어와 함께 이 솔루션에 많은 메모리 대역폭을 제공합니다. 시스템을 보기 전에 우리가 아마도 과소평가한 점은 DIMM 슬롯의 높이를 고려할 필요가 없기 때문에 온보드 메모리가 이러한 서버에 대한 냉각 솔루션을 구축하는 방법을 얼마나 변경하는지입니다.

곧 STH 연구실에서 이러한 시스템을 더 많이 볼 수 있기를 바랍니다.