BF16-версия Nemotron 3 Ultra требует минимум восемь серверных GPU
NVIDIA выпустила Nemotron 3 Ultra 4 июня 2026 года. По состоянию на 14 августа на официальной странице релиза от 4 июня по-прежнему перечислены базовая, дообученная и квантизованная контрольные точки, а также обучающие наборы данных; там же указаны 550 млрд общих и 55 млрд активных параметров и контекст до одного миллиона токенов.
Главная оговорка после релиза не изменилась: открытая публикация весов не делает Ultra моделью для обычного компьютера. Полная версия BF16 требует как минимум восьми современных серверных GPU, а русский язык не входит в официальный перечень поддерживаемых языков.
Что получила линейка Nemotron 3
Ultra стала крупнейшей и наиболее производительной моделью семейства Nemotron 3 по оценке самой NVIDIA. Это точнее, чем безусловное определение «самая мощная открытая модель»: единого общепринятого теста, который позволял бы присвоить такой титул среди всех доступных моделей, не существует.
В основе Ultra лежит разреженная архитектура «смесь экспертов». При обработке запроса задействуется только часть специализированных блоков, поэтому объём активных вычислений заметно меньше общего размера модели. Такой подход помогает сочетать большую ёмкость с более приемлемой скоростью, но полный набор весов всё равно необходимо разместить в памяти серверной системы.
Архитектура объединяет Mamba-2, механизм внимания и LatentMoE. Слои Mamba рассчитаны на эффективную обработку длинных последовательностей, тогда как механизм внимания нужен для точного обращения к отдельным фрагментам контекста. Предсказание нескольких токенов за один проход применяется для ускорения генерации.
Модель ориентирована прежде всего на длительные агентные процессы: планирование, программирование, вызов внешних инструментов, анализ полученных результатов и продолжение задачи через множество шагов. Большой контекст позволяет передавать объёмные документы, код и историю операций, однако его предельная длина сама по себе не гарантирует безошибочного поиска фактов во всём загруженном массиве.
Почему открытые веса не означают простой локальный запуск
На актуальной карточке BF16-версии указаны минимальные конфигурации из восьми GB200, B200, GB300, B300 или H200 либо шестнадцати H100. Там же размещены лицензия OpenMDW 1.1 и список из десяти поддерживаемых языков: английского, французского, испанского, итальянского, немецкого, японского, хинди, корейского, бразильского варианта португальского и китайского.
Такие требования относят BF16-вариант к серверному классу. Возможность скачать и самостоятельно развернуть веса даёт организациям контроль над инфраструктурой и средой исполнения, но не устраняет затраты на GPU, оперативную память, хранение файлов и обслуживание вычислительного узла.
Отсутствие русского в официальном списке не доказывает, что модель совершенно не способна формировать русскоязычный текст. Оно означает более узкую вещь: NVIDIA не заявляет для русского тот же статус поддержки, что для перечисленных языков. Поэтому результаты на русскоязычных инструкциях, отраслевой терминологии и внутренних документах нельзя выводить из общей многоязычной оценки модели.
Понятие открытости здесь также требует точности. NVIDIA разместила контрольные точки, часть обучающих данных и рецепты подготовки модели, но использование материалов регулируется отдельной лицензией. Это более содержательная публикация, чем один доступ через закрытый API, однако термин «открытая модель» не отменяет лицензионных условий и инфраструктурных ограничений.
Квантизация снизила требования, но не превратила Ultra в настольную модель
Более поздняя контрольная точка NVFP4 уменьшает аппаратный барьер за счёт хранения разных компонентов с пониженной точностью. В техническом описании NVIDIA от 26 июня размер модели после квантизации сокращён с 1121 до 352,3 ГБ, то есть в 3,2 раза, а требуемое аппаратное окружение — вдвое.
Название NVFP4 не означает, что вся модель хранится в одном четырёхбитном формате. Маршрутизируемые эксперты используют NVFP4, общие эксперты и линейные слои Mamba — FP8, а чувствительные элементы, включая часть механизма внимания, сохраняют более высокую точность. Такое смешанное представление позволяет экономить память там, где это меньше влияет на результат.
Квантизованная контрольная точка рассчитана на ускорители поколений Hopper и Blackwell. Среда обслуживания выбирает подходящий вычислительный формат с учётом возможностей оборудования, поэтому один и тот же файл можно использовать на разных серверных архитектурах NVIDIA.
Несмотря на сокращение, объём весов остаётся слишком большим для типичной пользовательской видеокарты и большинства рабочих станций. NVFP4 делает собственное развёртывание доступнее для исследовательских групп, облачных площадок и компаний с GPU-кластерами, но не превращает Ultra в массовую локальную модель.
Как оценивать заявления о производительности
NVIDIA публикует результаты, в которых Ultra сочетает высокую пропускную способность с качеством, сопоставимым с другими крупными моделями в выбранных испытаниях. Эти данные характеризуют конкретные конфигурации, длину ввода и вывода, оборудование и программную среду, а не универсальное превосходство в любом сценарии.
Пропускная способность показывает, сколько данных система способна обработать за определённое время. Она не равна точности ответа и не предсказывает качество работы на языке, отсутствующем в официальном перечне. Результаты программирования, поиска по документам или вызова инструментов также зависят от агентной оболочки, настроек генерации и подключённых сервисов.
Практическая ценность Nemotron 3 Ultra заключается не в спорном абсолютном титуле, а в сочетании открытых контрольных точек, длинного контекста и архитектуры для сложных агентных процессов. Обратная сторона этого сочетания — серверный масштаб: даже уменьшенная версия требует специализированной инфраструктуры, а полная BF16-конфигурация начинается с многопроцессорного GPU-узла.
Читайте также:
Подпишитесь на рассылку
Получайте свежие новости Web3, AI и криптовалют прямо на вашу почту.