Nemotron 3.5 Super VL в JumpStart: VLM для экрана, видео и документов

В SageMaker JumpStart появились два чекпоинта Nemotron 3.5 Super VL , мультимодальной модели на 120 миллиардов параметров с 12 миллиардами активных на каждый токен. На входе картинка, короткое видео и текст, на выходе текст с вызовом инструментов и ответом по JSON-схеме. NVIDIA позиционирует её не как универсальный чат, а как слой для агентов, которым нужно читать документы и «видеть» экран. Сценарии из коробки Документы , OCR, таблицы и графики в PDF; одна страница 1536×1024 съедает примерно столько же токенов контекста. Интерфейсы , привязка к элементам экрана для computer-use агентов, которые кликают по приложениям. Видео , вопросы по коротким MP4, в том числе файл в base64 в пределах лимита запроса. Мультимодальные агенты , рассуждения включены по умолчанию, их можно отключать параметром enable_thinking ; формат ответа задаётся через response_format . Языковой блок , гибридная архитектура с длинным контекстом (в карточке до миллиона токенов), плюс vision-энкодер C-RADIO. В готовых конфигурациях JumpStart окно обслуживания уже меньше: от 520 до 15 600 токенов , профили generate, summarize и modify подбирают под длину промпта. NVFP4 против BF16 Для быстрого инференса по умолчанию идёт NVFP4: чекпоинт около 75 ГБ, стартовый инстанс ml.g7.24xlarge на Blackwell. В тесте AWS средняя скорость выдачи , 63,07 токена в секунду на запрос, до первого токена около 0,45 с. На длинном summarize-профиле (10 000 входных токенов) ожидание первого токена на том же железе растёт до 12,62 с. Вариант BF16 , около 249 ГБ на ml.p5en.48xlarge ; в том же бенчмарке до 140,85 токена/с. Эти веса можно скачать для своей донастройки (SFT, RL, дистилляция), но endpoint JumpStart LoRA не подхватывает. По мультимодальным тестам NVFP4 почти не отстаёт от полноточной версии: на MMLongBench-Doc оба дают 62,82, на OSWorld-Verified квантизованная даже чуть выше , 52,30. Как развернуть Из SageMaker Studio , поиск по имени модели и Deploy, либо через SageMaker Python SDK от версии 3.25: JumpStartConfig и ModelBuilder . Важная ловушка: тип инстанса нужно явно передать в Compute , иначе SDK подставит ml.m5.large и сборка упадёт. Для примеров с картинкой и видео в посте берут профиль modify , там контекст до 15 600 токенов. Endpoint на ml.g7.24xlarge обычно поднимается около 10 минут; в новых AWS-аккаунтах квоты на G7 часто нулевые , заранее запросите лимит в Service Quotas. Источник: NVIDIA Nemotron 3.5 Super VL is now available in Amazon SageMaker JumpStart .