NVIDIA H100 96GB NVL — это профессиональное серверное решение для задач искусственного интеллекта, обучения и инференса больших языковых моделей (LLM), а также высокопроизводительных вычислений (HPC). Версия NVL представляет собой комплект из двух графических ускорителей NVIDIA H100, соединенных между собой высокоскоростной шиной NVLink, что обеспечивает минимальные задержки при обмене данными между GPU.
Каждый GPU в составе NVIDIA H100 NVL оснащен 96 ГБ памяти HBM3 с высокой пропускной способностью, что делает решение особенно эффективным при работе с крупными нейросетевыми моделями и большими массивами данных. Архитектура NVIDIA Hopper и Tensor Cores нового поколения позволяют значительно ускорять вычисления в задачах машинного обучения, глубокого обучения и аналитики данных.
В отличие от стандартных PCIe-конфигураций, NVIDIA H100 NVL обеспечивает прямое взаимодействие между двумя GPU без участия центрального процессора, что критично для AI-нагрузок, требующих высокой пропускной способности и масштабирования внутри одного вычислительного узла. Такое решение часто используется в GPU-серверах для обучения LLM, инференса, научных расчетов и построения AI-кластеров.
NVIDIA H100 96GB NVL применяется в корпоративных дата-центрах, исследовательских центрах и коммерческих AI-платформах. Поставка осуществляется под проект с возможностью подбора серверной платформы, систем охлаждения, питания и сетевой инфраструктуры. Решение предназначено для заказчиков, которым требуется максимальная производительность GPU в задачах AI, LLM и HPC.