Na konferencji Ignite 2024 Microsoft Azure zaprezentował pierwszy procesor z rodziny Epyc, wyposażony w rdzenie Zen 4 i pamięć HBM3 – produkt otrzymał oznaczenie AMD Instinct MI300C i na chwilę obecną dostępny jest wyłącznie w infrastrukturze chmurowej Microsoft.
W ubiegłą niedzielę, gdy szef działu data center AMD uczestniczył w prezentacji najszybszego superkomputera El Capitan, firma wymieniła MI300C jako jeden z modeli linii Instinct, ale nie podała wówczas szczegółów. Rodzina akceleratorów AMD Instinct MI300 jest przeznaczona dla sektorów obliczeń o wysokiej wydajności i sztucznej inteligencji.
Mają układ chipletów, którego podstawą są cztery sąsiadujące ze sobą kości I/O, na których umieszczone są chiplety GPU/XCD lub procesora centralnego. Jeśli konfiguracja akceleratora MI300A obejmuje sześć XCD i trzy ośmiordzeniowe CCD, wówczas MI300C ma jednostki XCD zastąpione CCD – odpowiednio całkowita liczba rdzeni Zen 4 nie wynosi 24, ale 96. Praktycznie nie ma innych różnic; znajduje się moduł pamięci HBM3 o pojemności 128 GB. Zasadniczo okazuje się, że akcelerator AMD MI300C to procesor Epyc z HBM3.
W praktyce ilość dostępnych zasobów procesora zależy od scenariuszy jego wykorzystania. Na maszynie wirtualnej Microsoft Azure HBv5 pracują w czterech jednostkach, po 88 rdzeni dostępnych na każdy procesor; Zainstalowane na płycie cztery procesory o maksymalnej częstotliwości taktowania 4 GHz zapewniają 352 rdzenie. Przepustowość pamięci wynosi 6,9 TB/s przy pojemności 400–450 GB (HBM3), można zainstalować do 9 GB pamięci na rdzeń. Funkcja SMT (jednoczesna wielowątkowość) jest wyłączona; Na serwer przypada tylko jedna maszyna wirtualna.
Obsługiwane jest interkonekt Nvidia Quantum-2 InfiniBand o prędkości 800 Gbit/s – 200 Gbit/s na akcelerator; VMSS Flex umożliwia skalowanie obciążeń MPI do setek tysięcy rdzeni procesorów z dostępem do pamięci HBM; Dostępna jest karta sieciowa Azure Boost 2, która zapewnia prędkość sieci do 160 Gb/s. Klientom dostępna jest także lokalna pamięć masowa SSD NVMe o pojemności 14 TB z szybkością do 50 GB/s i prędkością zapisu do 30 GB/s.
Podkreśla się, że AMD Instinct MI300C w najbliższej przyszłości pozostanie dostępny wyłącznie na platformie Microsoft Azure.
