Рекордсмен MLPerf: 4U AI-сервер на базі NVIDIA HGX™ Ampere (8-GPU) та AMD EPYC™.
Технічна специфікаціяmeta brain NF5488A5 — це флагманська AI-платформа, яка утримує лідерство у світових бенчмарках MLPerf як за продуктивністю тренування, так і за швидкістю інференсу. Це найкраще рішення для розв'язання критично важливих AI-задач: сервер здатний завершити повне тренування ResNet50 всього за 27 хвилин, а в задачах інференсу обробляти понад 329 000 зображень на секунду. Стратегічною перевагою моделі є використання архітектури NVIDIA HGX™ з 8 повнозв’язними GPU Ampere через NVSwitch у компактному 4U корпусі, що забезпечує найвищу щільність обчислень на ринку. Завдяки інноваційному зв’язку між CPU та GPU та підтримці мережі InfiniBand 800 Гб/с, сервер мінімізує затримки та дозволяє лінійно масштабувати продуктивність до рівня суперкомп’ютерних кластерів.
NF5488A5 займає перші місця в тестах MLPerf AI, що підтверджує його перевагу в задачах класифікації зображень, обробки відео та голосу, а також у фінансовому аналізі.
Поєднання двох процесорів AMD EPYC™ (TDP 280 Вт) та 8 графічних процесорів NVIDIA Ampere Tensor Core. Високошвидкісний інтерконект NVSwitch забезпечує миттєвий обмін даними між усіма GPU.
Завдяки програмно-апаратній ко-оптимізації обсяг передачі даних було скорочено на 50%. Інноваційний механізм планування забезпечує лінійне зростання продуктивності при додаванні нових карт.
Підтримка високошвидкісної мережі 800 Гб/с InfiniBand дозволяє об’єднувати сервери у великі кластери з низькою затримкою для роботи над глобальними AI-проектами.
| Форм-фактор | Стійка-сервер 4U |
| Процесор | 2 × AMD® EPYC® Rome або Milan (TDP до 280 Вт) 4 лінки XGMI для міжпроцесорного зв’язку |
| GPU (Графічна система) | 1 × NVIDIA HGX™ Ampere (8-GPU модульна архітектура) |
| Пам'ять | 32 × DDR4 3200MT/s RDIMM / LRDIMM |
| Накопичувачі | • 8 × 2,5" SAS/SATA SSD (до 4 × NVMe U.2) • 6 × слотів M.2 для швидкого завантаження ОС |
| Слоти розширення | 5 × PCIe 4.0 x16 слотів для мережевих адаптерів |
| Мережа | InfiniBand 800 Гб/с; опційно 10G Ethernet Optical Interface |
| Контролер зберігання | Підтримка 3508 Raid Card або PCIe Raid Card |
| Керування | BMC Aspeed 2500 (IPMI, SOL, KVM Over IP, Virtual Media) |
| Джерело живлення | 3+1 резервні БЖ (3000Вт 80Plus Platinum) |
| Вентилятори | N+1 надлишкові вентилятори з гарячою заміною |
| Операційні системи | Red Hat Enterprise 7.8+, CentOS 7.8+, Ubuntu 18.04+ |
| Розміри (Ш × В × Г) | 448 мм × 175,35 мм × 834,4 мм |
| Вага | Чиста вага: 65 кг; Вага в упаковці: 97 кг |
| Робоча температура | Від 10°C до 35°C (стандарт), до 40°C при певних умовах |