Самый маленький в мире суперкомпьютер с искусственным интеллектом ( 1 фото )

NVIDIA представляет самый маленький в мире суперкомпьютер с искусственным интеллектом, который может запускать 200 миллиардов ИИ-моделей

Стоимость ПК - 3000 долларов.

Сегодня на CES 2025 генеральный директор Nvidia Дженсен Хуанг анонсировал Project DIGITS — революционный персональный суперкомпьютер с искусственным интеллектом, предназначенный для исследователей, специалистов по обработке данных и студентов по всему миру.

Проект DIGITS, созданный на базе надёжной платформы NVIDIA Grace Blackwell, предоставляет беспрецедентные возможности искусственного интеллекта, позволяя пользователям создавать прототипы, настраивать и внедрять крупномасштабные модели искусственного интеллекта — и всё это на настольной системе.

Суперчип GB10: Непревзойденная энергоэффективность и производительность

В основе проекта DIGITS лежит революционный суперчип NVIDIA GB10 Grace Blackwell, предлагающий невероятную производительность ИИ в петафлопсах с точностью FP4. Эта система на кристалле (SoC) сочетает в себе передовой графический процессор Blackwell с новейшими ядрами CUDA и тензорными ядрами, а также высокоэффективный центральный процессор Grace, построенный на архитектуре Arm. Суперчип GB10 использует NVLink-C2C для бесперебойной межчиповой связи, обеспечивая беспрецедентную производительность.

Сотрудничество между NVIDIA и MediaTek, лидером в области технологий SoC на базе Arm, привело к созданию энергоэффективной конструкции, которая обеспечивает значительную вычислительную мощность в устройстве, работающем от стандартной электрической розетки.

Project DIGITS включает 128 ГБ унифицированной памяти и до 4 ТБ хранилища NVMe, что позволяет ему работать с моделями ИИ, содержащими до 200 миллиардов параметров. Объединив две системы DIGITS с помощью сети NVIDIA ConnectX, пользователи могут расширить эти возможности и управлять моделями, содержащими до 405 миллиардов параметров.

«Для развития ИИ требуются инструменты, которые позволят исследователям проводить масштабные, быстрые и точные эксперименты. Проект NVIDIA DIGITS представляет собой значительный шаг вперёд. Я рад видеть, как 128 ГБ в таком компактном форм-факторе могут способствовать развитию корпоративного ИИ в будущем», — сказал Сильвио Саварезе, главный научный сотрудник Salesforce.

Единая экосистема для разработки искусственного интеллекта

Проект DIGITS легко интегрируется в экосистему ИИ NVIDIA, предлагая гибкий конвейер разработки. Пользователи могут создавать прототипы моделей ИИ локально на своих системах DIGITS, работающих под управлением ОС NVIDIA DGX на базе Linux, и легко масштабировать эти модели в облаке NVIDIA DGX или в центрах обработки данных. Такая совместимость обеспечивает единообразие при локальном и облачном развертывании на базе архитектуры Grace Blackwell.

Разработчики получают доступ к широкому набору инструментов в каталоге NVIDIA NGC, включая комплекты для разработки программного обеспечения, фреймворки и инструменты для оркестрации. Сложные приложения на основе ИИ можно создавать с помощью NVIDIA Blueprints, микросервисов NIM и фреймворка NeMo для тонкой настройки моделей.

Для специалистов по обработке данных библиотеки RAPIDS ускоряют рабочие процессы с данными, а поддержка таких популярных инструментов, как PyTorch и Jupyter, повышает удобство использования.

Когда приложения будут готовы к развёртыванию, лицензия NVIDIA AI Enterprise обеспечит необходимую безопасность и поддержку корпоративного уровня, гарантируя плавный переход от экспериментов к производству.

Проект NVIDIA DIGITS устраняет разрыв между высокопроизводительными вычислениями на основе ИИ и доступностью, позволяя разработчикам с любым уровнем подготовки участвовать в инновациях на основе ИИ. Предоставляя возможности суперкомпьютеров на основе ИИ для отдельных настольных компьютеров, NVIDIA предоставляет новому поколению исследователей и разработчиков инструменты, необходимые для формирования будущего на основе ИИ.

Обсуждаем околополитические темы на моем канале "Гражданин на диване", а интересную и познавательную информацию читаем на канале "Таблетка для головы". Есть у меня еще канал с юморными ситуациями для настроения "Вот так бывает", подписывайтесь. Кстати, у кого есть доступ до ТикТока подключайтесь к моему политическому каналу - @masterpolit