Nvidia сегодня представила новый класс суперкомпьютеров, основанных на искусственном интеллекте, с большим объёмом памяти - суперкомпьютер Nvidia DGX на базе суперчипов Nvidia GH200 Grace Hopper и системы переключения Nvidia NVLink, созданный для разработки новых генеративных ИИ-приложений, рекомендательных систем и обработки больших объёмов данных.
Объединение 256 суперчипов GH200 с помощью технологии NVLink Switch System
Nvidia DGX GH200 использует технологию NVLink Switch System для объединения 256 суперчипов GH200, позволяя им работать как один графический процессор. Это обеспечивает производительность на уровне 1 Эфлопс и общий объем памяти в 144 ТБ - почти в 500 раз больше, чем у предыдущего поколения Nvidia DGX A100, представленного в 2020 году.
Искусственный интеллект на новом уровне
"Генеративный ИИ, большие языковые модели и рекомендательные системы - это цифровые двигатели современной экономики", - сказал основатель и генеральный директор Nvidia Дженсен Хуанг. - "Суперкомпьютеры с искусственным интеллектом DGX GH200 объединяют передовые ускоренные вычисления и сетевые технологии Nvidia, чтобы расширить границы искусственного интеллекта".
Преимущества суперчипов GH200 и технологии NVLink
Суперчипы GH200 устраняют необходимость в традиционном подключении CPU-GPU через PCIe путем объединения ЦП Nvidia Grace на базе Arm с графическим процессором с тензорными ядрами Nvidia H100 в одном корпусе, используя чип Nvidia NVLink-C2C. Это увеличивает пропускную способность между GPU и CPU в 7 раз по сравнению с технологией PCIe, снижает энергопотребление межсоединений более чем в 5 раз и обеспечивает строительный блок GPU с архитектурой Hopper емкостью 600 ГБ для суперкомпьютеров DGX GH200.
Уникальные возможности DGX GH200
DGX GH200 - это первый суперкомпьютер, в котором суперчипы Grace Hopper объединены с системой коммутации Nvidia NVLink, позволяющей всем графическим процессорам в системе DGX GH200 работать вместе как единое целое. В предыдущей версии системы было возможно объединить только восемь графических процессоров с NVLink в один графический процессор без потери производительности.
Завершение нового суперкомпьютера Nvidia: Nvidia Helios
Nvidia создает собственный суперкомпьютер с искусственным интеллектом на базе DGX GH200, чтобы обеспечить работу своих исследователей и команд разработчиков. Суперкомпьютер, названный Nvidia Helios, будет оснащен четырьмя системами DGX GH200. Каждая из них будет соединена с сетью Nvidia Quantum-2 InfiniBand, чтобы повысить пропускную способность данных для обучения больших моделей ИИ. Helios будет включать 1024 суперчипа Grace Hopper и, ожидается, будет запущен к концу года.