Nvidia представляет настольный суперкомпьютер DGX Station с ИИ, 72-ядерным процессором и GPU Blackwell Ultra

🚀 Компания Nvidia представила свой второй настольный суперкомпьютер для ИИ — DGX Station. Устройство предназначено для разработчиков ИИ, исследователей и специалистов по данным, которые хотят создавать и запускать крупные языковые модели (LLM) и другие проекты ИИ локально. 💻

💡 DGX Station значительно мощнее своего предшественника, DGX Spark (ранее известного как Project DIGITS). Новый суперкомпьютер способен локально запускать модели с 200 миллиардами параметров благодаря процессору GB300 Grace Blackwell Ultra Desktop Superchip. Этот процессор имеет доступ к 496 ГБ памяти LPDDR5X и 288 ГБ памяти HBM3e. 🧠

🔧 Superchip включает 72-ядерный процессор Grace, соединённый с графическим процессором Blackwell Ultra через технологию NVLink-C2C. Это соединение обеспечивает пропускную способность в 7 раз выше, чем PCIe Gen 5, или до 900 ГБ/с. Графический процессор Blackwell Ultra предлагает до 1,5 раз больше производительности в операциях ИИ (AI FLOPS) по сравнению с предыдущим поколением и оптимизирован для работы с моделями FP4, что снижает нагрузку на память и вычисления. ⚡

💾 В мини-ПК установлен накопитель M.2 NVMe SSD объёмом 1 или 4 ТБ с поддержкой шифрования данных. Также используется сетевой адаптер NVIDIA ConnectX-7 SmartNIC и контроллеры Wi-Fi 7 и Bluetooth 5.3. 📡

🔌 В набор интерфейсов входят четыре порта USB 4 Type-C (до 40 Гбит/с), разъём RJ45 для сетевого кабеля (10GbE) и выход HDMI 2.1a. Заявленное энергопотребление устройства составляет 170 Вт. ⚡

🖥️ Компьютер работает под управлением NVIDIA DGX OS — модифицированной версии Ubuntu, адаптированной для задач ИИ. Это позволяет легко переносить модели LLM из локальной разработки в облако для масштабирования. Устройство будет выпущено в 2025 году сторонними производителями. 🗓️

💸 Для тех, кому требуется разработка LLM, но не нужна мощность DGX Station, доступна видеокарта Nvidia 5090, способная запускать модели с примерно 30 миллиардами параметров. Однако её цена значительно превышает рекомендованную розничную стоимость и составляет более 4000 долларов. Даже более доступная 4060 Ti 16 ГБ, которая может работать с моделями до 14 миллиардов параметров, стоит дорого, но её можно приобрести менее чем за 1000 долларов. 💵