NVIDIA представила персональный ИИ-суперкомпьютер под названием Project Digits. В мае этого года компания начнёт продажи системы, которая основана на новом суперчипе GB10 Grace Blackwell. Этот чип имеет достаточно высокую вычислительную мощность для запуска сложных моделей ИИ (LLM) и достаточно компактен, чтобы поместиться на столе и работать от стандартной розетки.
Производитель обещает, что ИИ станет основным в каждом приложении для каждой отрасли
«ИИ станет основным в каждом приложении для каждой отрасли. Благодаря Project Digits суперчип Grace Blackwell станет доступен миллионам разработчиков, — заявил генеральный директор Nvidia Дженсен Хуанг. — Размещение суперкомпьютера ИИ на столах каждого специалиста по обработке данных, исследователя ИИ и студента даст им возможность участвовать в формировании эпохи ИИ».
Характеристики системы Project Digits
Project Digits, размером с традиционный настольный мини-ПК вроде Mac mini, может работать с моделями ИИ, содержащими до 200 миллиардов параметров. Цена системы составляет 3000 долларов. Для более требовательных приложений две системы Project Digits могут быть объединены для работы с моделями, содержащими до 405 миллиардов параметров.
Чип GB10 Grace Blackwell
GB10 Grace Blackwell обеспечивает производительность до 1 петафлопа с точностью FP4. Это означает, что он способен выполнять 1 квадриллион операций в секунду для обучения и запуска ИИ-моделей. Система оснащена графическим процессором с ядрами Nvidia CUDA последнего поколения и тензорными ядрами пятого поколения. Он подключён через NVLink-C2C к центральному процессору Grace с 20 энергоэффективными ядрами на архитектуре Arm.
Площадь оперативной памяти и накопителя
Каждая система оснащается 128 Гбайт унифицированной когерентной оперативной памяти и до 4 Тбайт NVMe-накопителя.
Библиотека программного обеспечения Nvidia
Покупатели новинки также получат доступ к библиотеке программного обеспечения Nvidia для ИИ, включая наборы для разработки, инструменты оркестрации и предварительно обученные модели, доступные в каталоге Nvidia NGC.
Поддержка Linux и популярных фреймворков
Система работает на базе Linux Nvidia DGX OS и поддерживает такие популярные фреймворки, как PyTorch, Python и Jupyter Notebooks. Разработчики могут настраивать модели с помощью фреймворка Nvidia NeMo и ускорять рабочие процессы в области науки о данных с помощью библиотек Nvidia RAPIDS.
Развертывание моделей ИИ
Пользователи могут разрабатывать и тестировать свои модели ИИ локально на Project Digits, а затем развёртывать их в облачных сервисах или инфраструктуре центров обработки данных, которые используют ту же архитектуру Grace Blackwell и программную платформу Nvidia AI Enterprise.
Навык ИИ от Nvidia уже существует
Это далеко не первый потребительский ИИ-суперкомпьютер Nvidia. В декабре компания анонсировала версию своего компьютера Jetson за 249 долларов для приложений ИИ, ориентированную на любителей и стартапы, под названием Jetson Orin Nano Super, который способен справляться с LLM до 8 миллиардов параметров.
