AMD Instinct™ MI300 시리즈 플랫폼

엑사스케일급 기술을 주류 HPC 및 AI에 도입

 

엑사스케일 시대를 위한 가속기

・Frontier는 TOP500 중 1위 슈퍼컴퓨터이며, 이 목표를 달성하려면 AMD ROCm™ 소프트웨어 플랫폼을 사용하는 AMD EPYC™ 프로세서 및 AMD Instinct™ GPU가 필요합니다. 시장에서 최고의 프로세서를 사용하더라도 AMD EPYC™ 9004 시리즈 CPU에는 HPC, AI 교육 및 추론, 데이터 집약적인 워크로드를 위한 GPU 가속이 필요합니다.

・ 데이터센터 APU 및 개별 GPU 

GIGABYTE는 AMD Instinct™ MI300 시리즈 가속기를 위한 강력한 패시브 냉각 서버를 제작하고 맞춤화했으며 여기에는 이전 제품인 MI250 GPU와 같은 OAM 폼 팩터가 포함됩니다. 새로운 AMD Instinct MI300 시리즈 가속기는 두 가지 플랫폼, 즉 GIGABYTE 5U G593 시리즈 서버에 탑재된 OAM 모듈인 MI300X GPU와 GIGABYTE G383 시리즈에 4개의 소켓이 있는 LGA 소켓 설계로 제공되는 MI300A APU용으로 설계되었습니다. 

・

곧 출시될 예정인 새로운 1위 슈퍼컴퓨터에서 El Capitan은 AMD Zen4 CPU와 AMD CDNA™3 GPU가 통합 메모리를 공유하는 칩렛 설계를 갖춘 MI300A APU 아키텍처를 독점적으로 배포합니다. 이는 이 기술이 대규모 컴퓨팅 클러스터에 맞게 확장될 수 있을 뿐만 아니라 단일 HPC 서버와 같은 소규모 배포도 지원할 수 있음을 의미합니다.

데이터 센터 APU(MI300A) 및 개별 GPU(MI300X)

MI300A 및 MI300X 가속기로 구성된 AMD Instinct™ MI300 시리즈는 작고 효율적인 패키지로 AI 및 고성능 컴퓨팅(HPC) 기능을 강화하도록 설계되었습니다. 각 서버 소켓의 APU(가속 처리 장치)인 MI300A는 GPU, CPU 및 고대역폭 메모리(HBM3)를 단일 패키지에 통합하여 효율성과 밀도를 지원합니다. MI300X는 표준 플랫폼에서 노드당 8개의 GPU로 원시 가속 성능을 제공합니다.

AMD Instinct MI300 시리즈 가속기는 데이터 센터 효율성을 개선하고 예산 및 지속 가능성 문제를 해결하며 고도로 프로그래밍 가능한 GPU 소프트웨어 플랫폼을 제공하는 것을 목표로 합니다. 생성적 AI 및 HPC를 위한 고급 GPU, 높은 처리량의 AMD CDNA 3 GPU CU 및 기본 하드웨어 희소 매트릭스 지원이 특징입니다. MI300 시리즈는 계산 처리량을 향상하고 프로그래밍 및 배포를 단순화함으로써 리소스, 복잡성, 속도 및 아키텍처 문제로 인해 증가하는 AI 및 가속화된 HPC에 대한 수요를 해결합니다. AMD Instinct MI300 시리즈는 배포 준비가 완료되었습니다.

 

MI300X GPU 및 MI300A APU용 애플리케이션

AMD Instinct MI300 시리즈 플랫폼의 장점

성능 컴퓨팅

MI300 시리즈는 HBM 메모리와 대역폭을 크게 늘려 대규모 언어 모델링 훈련 및 추론의 효율성을 높였습니다.

 

아키텍처 유연성

MI300 시리즈에는 192GB HBM3 메모리를 갖춘 강력한 개별 GPU 또는 24개의 CPU 코어와 128GB HMB3 메모리를 갖춘 APU 옵션이 있습니다. 스케일링에 이상적입니다.

 

에너지 효율

에너지 효율적인 상위 10대 슈퍼컴퓨터 중 7대는 AMD Instinct 가속기를 사용합니다. 이러한 효율성은 DC에 대한 회사의 지속 가능성 목표와 일치합니다.

 

활용도 향상

MI300 시리즈는 용량 낭비를 줄이고 활용도를 높이기 위해 GPU와 APU의 컴퓨팅 장치를 분할하여 가상화된 배포를 지원합니다.

AMD Instinct™ MI300A APU

모델	MI300A APU
폼 팩터	APU SH5 소켓
AMD 'Zen 4' CPU 코어	24
GPU 컴퓨팅 유닛	228
스트림 프로세서	14,592
피크 FP64/FP32 매트릭스*	122.6테라플롭스
피크 FP64/FP32 벡터*	61.3/122.6 TFLOPS
피크 FP16/BF16*	980.6테라플롭스
피크 FP8*	1961.2테라플롭스
기억 용량	128GB HBM3
메모리 시계	5.2GT/초
메모리 대역폭	5.3TB/초
버스 인터페이스	PCIe Gen5 x16
확장된 Infinity Fabric™ 링크	4
최대 TDP	550W(공기 및 액체) 및 760W(물)
가상화	최대 3개의 파티션

* 희박성이 없음을 나타냅니다.

AMD Instinct™ MI300X GPU

모델	MI300X GPU	MI250과 비교한 성능
폼 팩터	OAM 모듈
GPU 컴퓨팅 유닛	304	46% 증가
스트림 프로세서	19,456	46% 증가
피크 FP64/FP32 매트릭스*	163.4테라플롭스	81% 증가
피크 FP64/FP32 벡터*	81.7/163.4 테플롭스	80% & 261% 증가
피크 FP16/BF16*	1307.4테라플롭스	261% 증가
피크 FP8*	2614.9 테플롭스
기억 용량	최대 192GB HBM3	50% 증가
메모리 대역폭	5.3TB/초	62% 증가
버스 인터페이스	PCIe 5세대 x16
Infinity Fabric™ 링크	7
최대 TBP	750W
가상화	최대 8개 파티션

* 희박성이 없음을 나타냅니다.