NVIDIA Nemotron открывает исходники моделей и данных для ускорения развития ИИ

NVIDIA представила Nemotron — не просто семейство моделей искусственного интеллекта, а открытую экосистему моделей, наборов данных и рецептов обучения, которые любой разработчик может использовать для создания и кастомизации собственных AI-систем.

Открытый подход к разработке ИИ

Nemotron предлагает полную прозрачность: от легковесных моделей для периферийных устройств до крупномасштабных языковых моделей уровня frontier. Разработчики получают полный доступ к тому, как обучаются модели, какие данные используются и как адаптировать их под конкретные задачи. Никаких черных ящиков.

NVIDIA также использует Nemotron внутри компании для проектирования следующего поколения ускоренной инфраструктуры, включая GPU, программное обеспечение и сети, экспериментируя открыто вместе с сообществом.

Ключевые прорывы в эффективности

Новейшие разработки Nemotron объединяют архитектурные инновации, прогресс в точности вычислений и интеллектуальное управление рассуждениями.

Гибридная архитектура Transformer + Mamba

Nemotron Nano V2 представляет гибридную архитектуру Transformer-Mamba, которая сочетает способность Transformers к рассуждениям на больших расстояниях с последовательной эффективностью слоев Mamba-2.

Большинство слоев внимания заменены на Mamba-модули, которые обрабатывают последовательности за линейное время с постоянной памятью на токен, при этом несколько ключевых слоев внимания сохраняются для обеспечения полноконтекстного рассуждения.

Результат: в 6-20 раз более высокая пропускная способность вывода на том же оборудовании с минимальной потерей точности по различным тестам. Эта эффективность делает AI-ассистентов на устройствах практичными для принятия решений в реальном времени.

Обучение с FP4 точностью

Nemotron демонстрирует энергоэффективное обучение с FP4 точностью на GPU Blackwell с использованием NVIDIA Transformer Engine. Это дает мировую точность при значительно меньших энергозатратах, доказывая, что четырехбитная точность может обучать модели уровня frontier без потери интеллектуальных возможностей.

Конфигурируемые бюджеты мышления

Качество рассуждений часто масштабируется с тем, как долго модель «думает». Nemotron вводит конфигурируемые бюджеты мышления, позволяя разработчикам контролировать глубину рассуждений, балансируя между качеством ответов и операционными затратами.

• Короткое мышление = быстрые, дешевые ответы
• Длинное мышление = глубокие рассуждения и высокая точность

Обзор моделей Nemotron

Семейство включает текстовые и мультимодальные большие языковые модели трех весовых категорий:

• Nano — небольшие, быстрые и готовые для работы на периферийных устройствах
• Super — среднего класса, сбалансированные для корпоративных задач
• Ultra — масштаба frontier для передовых исследований

Все модели обучаются с использованием общих открытых рецептов данных, предлагая воспроизводимые базовые линии, которые любой может расширить.

Эффективность на основе данных

Умные данные, а не просто большие данные, обеспечивают производительность Nemotron.

Улучшенные наборы данных для предварительного обучения, курированные и дополненные синтетическими данными, ускоряют сходимость до 4 раз, производя более способные модели при том же вычислительном бюджете.

Открытая стратегия NVIDIA — это не просто маркетинговый ход, а фундаментальный сдвиг в философии разработки ИИ. Вместо того чтобы держать модели в черных ящиках, компания открывает весь конвейер разработки: от данных до архитектурных решений. Это создает беспрецедентную возможность для сообщества воспроизводить, проверять и улучшать результаты. Интересно, что при этом NVIDIA не теряет коммерческого преимущества — экосистема Blackwell и CUDA остаются их козырем.

По материалам Hugging Face.