Техновости
Новости

NVIDIA Nemotron 3.5: Super VL и Bolt для агентов — обзор, характеристики, даты выхода

NVIDIA представила Nemotron 3.5 Super VL (120B) для мультимодальных агентных задач и две edge-модели Bolt: 74B-A9B 24GB и E4B 4GB. Super VL и Bolt 74B-A9B уже доступны, Bolt E4B выйдет 23 октября. Модели покрывают весь спектр развёртывания — от серверов до локальных устройств. Открытые веса, кастомизация через NeMo, поддержка llama.cpp, Ollama, vLLM.

Editor 7 мин 0 просм.
NVIDIA Nemotron 3.5: Super VL и Bolt для агентов — обзор, характеристики, даты выхода

Первоисточник: blogs.nvidia.com

Что нового в семействе Nemotron

NVIDIA анонсировала три открытые модели для агентных задач: Nemotron 3.5 Super VL на 120 млрд параметров и две edge-модели — Nemotron 3.5 Bolt 74B-A9B 24GB и Nemotron 3.5 Bolt E4B 4GB. Super VL и Bolt 74B-A9B доступны уже сейчас, Bolt E4B появится 23 октября. Вместе они закрывают весь спектр развёртывания: от крупных серверов до локальных устройств и edge-оборудования.

Новые модели дополняют семейство Nemotron, в которое также входят Lightning (высокопроизводительные нагрузки) и Ultra (сложные задачи рассуждения). Bolt ориентирован на периферийные вычисления, а Super VL — на мультимодальные агентные сценарии.

Nemotron 3.5 Super VL: характеристики и возможности

Super VL — открытая модель на 120 млрд параметров, созданная в сотрудничестве с Nemotron Coalition. По заявлению NVIDIA, она обеспечивает точность на уровне крупнейшей модели рассуждения компании при примерно в пять раз меньшем числе параметров. Модель позиционируется как самый быстрый открытый агентный инструмент в своём классе: до 5 раз выше пропускная способность по сравнению с ближайшими аналогами (по данным Artificial Analysis Intelligence Index).

  • 120 млрд параметров, открытые веса
  • Мультимодальность: текст, изображения, веб-страницы, PDF
  • Агентные задачи: следование инструкциям, использование инструментов, многошаговые бизнес-процессы
  • До 5x быстрее других моделей своего класса
  • Возможность дообучения на собственных данных

Мультимодальные способности Super VL: OCR, таблицы, графики

Super VL ориентирована на практические задачи агентов: распознавание текста (OCR), работу с таблицами, графиками и структурированной информацией в визуальных документах. Модель обрабатывает веб-страницу, извлекает текст, читает графики и возвращает выводы. То же самое относится к PDF и другим документам.

Совмещение текстового и визуального понимания в одной модели позволяет агентам не переключаться между отдельными системами — контекст сохраняется при переходе от документа к данным и принятию решений.

Nemotron 3.5 Bolt: агентный интеллект на периферии

Bolt — это две модели, предназначенные для локального запуска агентных задач. Bolt 74B-A9B 24GB оптимизирована для баланса интеллекта и скорости на устройство, а Bolt E4B 4GB — для быстрых разговорных агентов с фокусом на интеллект на гигабайт памяти.

Bolt 74B-A9B 24GB: баланс интеллекта и скорости

Модель использует нативную 2-битную квантизацию, чтобы уместиться в 24 ГБ памяти и работать параллельно с другими приложениями. Она предназначена для повседневных агентных задач на NVIDIA RTX/DGX Spark. По данным NVIDIA, это открытая модель №1 в своём классе на PinchBench и №2 на BrowseComp. Пользователи могут делегировать ей исследование веб-страниц, написание и отладку кода без отправки данных в облако.

Bolt E4B 4GB: для разговорных агентов

Bolt E4B 4GB создана для физических и разговорных агентов на GeForce RTX, Jetson и RTX/DGX Spark. Она сочетает естественный диалог с многошаговыми агентными возможностями для локальных голосовых ассистентов, интерактивных персонажей и встраиваемых интерфейсов. Релиз запланирован на 23 октября.

Сравнение моделей: Super VL, Bolt 74B-A9B, Bolt E4B

Сравнение новых моделей Nemotron 3.5
МодельПараметрыПамятьОсновное назначениеДоступность
Super VL120Bн/дМультимодальные агентные задачи, OCR, таблицы, графикиУже доступна
Bolt 74B-A9B 24GB74B (A9B)24 ГБЛокальные агентные задачи на RTX/DGX SparkУже доступна
Bolt E4B 4GBE4B4 ГБРазговорные и физические агенты на GeForce RTX, Jetson, RTX/DGX Spark23 октября

Аппаратные требования и поддержка

Super VL работает на DGX Spark, DGX Station, RTX PRO и RTX системах, на NVIDIA Jetson, а также в дата-центрах и облаках. Bolt 74B-A9B 24GB поддерживает llama.cpp, Ollama, LM Studio, Unsloth и vLLM. Она также предназначена для ноутбуков NVIDIA RTX Spark (выходят 16 октября) и работает на GeForce RTX, DGX Spark, DGX Station и рабочих станциях RTX PRO.

Доступность и сроки релиза

  • Nemotron 3.5 Super VL: доступна сейчас на Hugging Face, Open Router, ModelScope и как NVIDIA NIM.
  • Nemotron 3.5 Bolt 74B-A9B 24GB: доступна сейчас на Hugging Face.
  • Nemotron 3.5 Bolt E4B 4GB: ожидается 23 октября.

Открытость и кастомизация

Super VL поставляется с открытыми весами, датасетами и рецептами обучения. Организации могут запускать модель там, где требуют политики безопасности и резидентности данных, а также дообучать её на своих данных. Поддержка кастомизации осуществляется через NVIDIA NeMo, Python-пайплайны и открытые датасеты. NVIDIA также публикует открытые датасеты на Hugging Face по агентному использованию инструментов, финансам, следованию инструкциям, длинному контексту, справедливости и визуально-языковому пониманию, а также RL-среды в NeMo Gym.

Модель упакована как production-ready микросервис NVIDIA NIM с оптимизированными конфигурациями и корпоративной поддержкой, обновляется каждые две недели. При работе на NVIDIA Dynamo организации могут обслуживать до 8 раз больше пользователей с задержкой на 85% ниже.

Реальные сценарии применения

Среди организаций, уже дообучающих Super VL на своих данных: Scale AI (для агента кредитного финанса Skydance и агента M&A due diligence для EY), AfterQuery (для Hebbia — анализ кредитных соглашений), AI21 и Alice (кибербезопасность), Mercor (бенчмарк APEX-SWE для кодинга), ModelScope (фреймворк ms-swift). Дополнительно: Ramp (финансовая аналитика), Dream (кибербезопасность), Lila Sciences (научные исследования), R1 (медицинские страховые требования), TrainLoop (дерматология с данными Nolla).

Среди платформ, интегрирующих модель: Atlassian (поиск по Jira и Confluence), CrowdStrike (агентная защита), Dassault Systèmes (инженерное проектирование), Perplexity (поиск и агентные задачи), Salesforce (автоматизация государственных процессов), Synopsys (верификация полупроводников).

Заключение

NVIDIA Nemotron 3.5 Super VL и Bolt предлагают открытые решения для агентных задач на всех уровнях — от серверов до edge-устройств. Super VL обеспечивает мультимодальность и высокую точность при 120 млрд параметров, а Bolt 74B-A9B 24GB и Bolt E4B 4GB — локальный интеллект с оптимизацией под память. Модели доступны для загрузки и кастомизации, что делает их привлекательными для организаций, ценящих контроль и приватность.

Когда выйдет Nemotron 3.5 Bolt E4B 4GB?

Релиз запланирован на 23 октября.

Можно ли дообучить Nemotron 3.5 Super VL на своих данных?

Да, модель поставляется с открытыми весами и поддерживает кастомизацию через NVIDIA NeMo, Python-пайплайны и открытые датасеты.

Какие аппаратные требования у Bolt 74B-A9B 24GB?

Модель использует 2-битную квантизацию и требует 24 ГБ памяти. Она работает на NVIDIA RTX/DGX Spark, GeForce RTX, DGX Station, RTX PRO и ноутбуках RTX Spark.

Чем Super VL отличается от Lightning и Ultra?

Lightning ориентирована на высокопроизводительные нагрузки, Ultra — на сложные задачи рассуждения, а Super VL — на мультимодальные агентные задачи с визуальным пониманием.

Читайте также