Jetson Orin Nano · Orin NX · AGX Orin · Jetson Thor

Платформы NVIDIA Jetson для периферийного искусственного интеллекта и робототехники

Сравните платформы Jetson по показателям искусственного интеллекта, объему памяти, пропускной способности датчиков, поколению JetPack, требованиям к несущей плате, режиму питания и ограничениям на продолжительность работы в режиме непрерывного развертывания.

  • Orin Nano Super · 67 TOPS8 ГБ · до 25 Вт
  • Orin NX Super · 157 TOPS16 ГБ · до 40 Вт
  • AGX Orin · 275 TOPS64 ГБ · до 60 Вт
Сравнение модулей Jetson Проверить системные требования NVIDIA
Платформа-носитель NVIDIA Jetson для робототехники с искусственным интеллектом на периферии и машинного зрения

Совместимость с модулем Jetson

Выберите модуль, соответствующий узкому месту в конвейере ИИ

При выборе платформы Jetson следует исходить из объёма памяти модели, нагрузки на датчики, времени работы и номинальной мощности, а не из самых высоких опубликованных показателей вычислительной мощности.

Направление «Джетсон» Ссылка Идеальная посадка Переходите на следующий уровень, когда
Orin Nano 8 ГБ Super 67 разреженных / 33 плотных INT8 TOPS · 8 ГБ · 102 ГБ/с Компактные системы технического зрения, робототехника и упрощённое мультимодальное вычисление Ограничивающим фактором становится объем памяти, параллельные конвейеры или максимальная вычислительная мощность в 25 Вт
Orin NX 16 ГБ Super 157 разреженных / 78 плотных массивов INT8 TOPS · 16 ГБ · 102 ГБ/с Больше параллельных выводов в классе модулей размером 70 × 45 мм Вам потребуется гораздо больше памяти, портов ввода-вывода для датчиков или модулей расширения класса AGX
AGX Orin 64 ГБ 275 INT8 TOPS · 64 ГБ · 204,8 ГБ/с Крупногабаритные модели, многосенсорная робототехника и периферийные системы с высокой вычислительной мощностью 64 ГБ или вычислительная мощность класса «Орин» по-прежнему недостаточны
Джетсон Тор / T5000 2070 FP4 ТФЛОПС (разреженные массивы) · 128 ГБ · 273 ГБ/с Физический ИИ, гуманоидная робототехника и более крупные генеративные модели Мощность 40–130 Вт или новая механика платформы не подходят для данного продукта

INT8 · FP4 · Редкий · Плотный

Не следует оценивать Орина и Тора по одному и тому же показателю ИИ

В методах Orin и Thor используются разные опубликованные данные о точности и разреженности. Более высокие значения могут отражать различия в формате рабочей нагрузки, а не непосредственно сопоставимое повышение производительности приложения.

Метрика Пример для справки Что же следует сравнивать посетителю
Редкие INT8 TOPS Orin Nano Super: 67 · Orin NX Super: 157 Целевая модель, точность, поддержка разреженности, размер партии и время непрерывной работы
Плотные топы INT8 Orin Nano Super: 33 · Orin NX Super: 78 Используйте в тех случаях, когда ускорение за счет разреженности данных не приносит модели пользы
FP4 ТФЛОПС Jetson T5000: 2070 TFLOPS с разреженными данными в формате FP4 Не сравнивайте напрямую с Orin INT8 TOPS; проведите тестирование производительности целевой модели и среды выполнения

Размещение в памяти

Размер модели и объем рабочей памяти могут потребовать модернизации раньше, чем это потребуется из-за вычислительной мощности

Память Jetson используется совместно операционной системой, рабочими нагрузками графического процессора, весами моделей, буферами кадров, контейнерами и данными приложений. Поэтому доступный объем памяти меньше, чем заявленная емкость модуля.

Модуль Память Пропускная способность Типичный повод для обновления
Orin Nano Super 8 ГБ LPDDR5 102 ГБ/с Веса моделей, буферы камеры и время выполнения больше не укладываются в безопасный запас памяти
Orin NX Super 16 ГБ LPDDR5 102 ГБ/с Параллельные модели, более крупные модели VLM или конвейеры обработки данных с датчиков превышают 16 ГБ
AGX Orin 64 ГБ 64 ГБ LPDDR5 204,8 ГБ/с Более крупные генеративные модели или многосенсорные рабочие нагрузки требуют большего объёма памяти и пропускной способности
Jetson T5000 128 ГБ LPDDR5X 273 ГБ/с Рабочие нагрузки, сочетающие физические вычисления и искусственный интеллект, требуют значительно большего объёма памяти для моделей и контекста

Сравните требования к платформам, готовым к использованию ИИ, помимо Jetson →

Модуль Jetson · Контракт с оператором связи

Модуль определяет ресурсы; оператор связи определяет, к чему система может подключаться

Модуль Jetson не предоставляет готового набора интерфейсов для развертывания. Маршрутизация по носителю определяет входы камер, интерфейсы NVMe, сетевые интерфейсы, USB, CAN, интерфейсы расширения, разъемы питания и внешние разъемы.

Траектория движения камеры

Перед выбором носителя необходимо определить следующие параметры: CSI, мост GMSL, камеры USB или GigE, синхронизацию, триггер, питание датчика и поддержку драйверов.

Хранение данных и PCIe

Подключите устройства NVMe, записи, модемы и сетевые устройства к доступным линиям модуля и проверьте ограничения по совместному использованию ресурсов.

Работа в сети

Размер каналов связи класса GbE, 10GbE или 25GbE определяется объемом трафика, поступающего с датчиков, трафика регистрации и трафика, выходящего из модулей вывода результатов, а не только количеством разъемов.

Механическая совместимость

В моделях Orin Nano/NX используется компактный модуль размером 70 × 45 мм, тогда как для моделей AGX и Thor требуются другие архитектуры носителя и системы охлаждения.

Планирование высокоскоростных сетевых входов-выходов для каналов передачи данных ИИ →

JetPack · CUDA · TensorRT

Зафиксировать версию программного стека NVIDIA в соответствии с ревизией аппаратного обеспечения

JetPack является частью производственной платформы, поскольку он объединяет Jetson Linux, CUDA, TensorRT, драйверы, дерево устройств и средства генерации поддерживаемых модулей.

Слой Остановка на время производства Почему это важно
Jetson Linux / BSP Версия ветки, ядро, дерево устройств, драйверы Проверка совместимости камер, интерфейсов PCIe, USB, сетевых компонентов и операторов связи
CUDA / TensorRT Версии среды выполнения, операторы, процесс сборки движка Можно изменить совместимость моделей, точность траектории и задержку
Контейнеры Исходный образ и зависимости приложения Снижает вероятность непредвиденных изменений в ходе выполнения между версиями производственной среды
OTA / Восстановление Пакет обновлений, откат и образ восстановления Предотвращает ситуацию, при которой в результате обновления развернутые модули становятся невозвратными

Суперрежим · nvpmodel · Устойчивая мощность

Подберите размер кондиционера и мощность системы охлаждения с учетом режима работы, который вы действительно будете использовать

Модуль Справочник по мощности Значение дизайна
Orin Nano Super Режимы отсчета: 7, 15, 25 Вт Для работы на мощности 25 Вт требуется источник питания и система охлаждения, рассчитанные на длительную нагрузку класса «Super»
Orin NX Super Режимы эталонного измерения: 10, 15, 25, 40 Вт Режим 40 В изменяет требования к теплоотводу и мощности постоянного тока, хотя размеры модуля остаются прежними — 70 × 45 мм
AGX Orin 64 ГБ 15–60 Вт Носитель, радиатор и корпус должны соответствовать выбранному режиму непрерывной работы
Jetson T5000 40–130 Вт Переводит продукт в класс с существенно иными характеристиками по энергопотреблению и охлаждению

Миграция на Jetson

Обновлять следует только тогда, когда существующий модуль достигнет измеримого предела

Текущий модуль Действовать, когда Следующее направление
Orin Nano Super 8 ГБ памяти или 67 TOPS в режиме разреженных данных уже недостаточно Orin NX Super
Orin NX Super 16 ГБ памяти, 157 TOPS или компактный модуль ввода-вывода становятся ограничивающим фактором AGX Orin
AGX Orin 64 ГБ памяти, 275 TOPS или программное обеспечение поколения Orin — этого недостаточно Джетсон Тор
Джетсон Тор Не подходит для мощности класса 130 В, модульной механики или перехода на JetPack 7 Пересмотреть архитектуру платформы

Обзор платформы NVIDIA

Сначала отправьте конвейер моделей и датчиков

Укажите модель, точность, целевую платформу JetPack, топологию камер/датчиков, требования к памяти, объём хранилища, сетевые возможности, режим питания, корпус, количество и жизненный цикл.

Отправить требования к платформе NVIDIA

Стартовые платформы

Начните с направления ношения, наиболее близкого к требуемому модулю Jetson

Стартовая платформа Лучшая причина начать именно здесь Заморозить перед выпуском
Несущая плата NVIDIA Jetson формата Mini-ITX Стандартная схема размещения компонентов для системы Jetson Edge AI Модуль, схема подключения CSI/USB/сети, NVMe, питание, JetPack, система охлаждения и версия аппаратного обеспечения
Индивидуальная эталонная платформа Jetson Стандартные входы/выходы датчика, топология датчика или его механическая конструкция не подходят Карта ресурсов, спецификация поставщиков, BSP, объем валидации, тепловой контур и меры контроля на протяжении жизненного цикла

ЧАСТО ЗАДАВАЕМЫЕ ВОПРОСЫ

Часто задаваемые вопросы о платформе NVIDIA Jetson

Всегда ли более высокий показатель Jetson TOPS означает более высокую частоту кадров (FPS)?

Нет. На фактическую пропускную способность влияют следующие факторы: точность, разреженность, поддержка TensorRT, операторы модели, объем обмена данными в памяти, предварительная обработка, размер пакеты и устойчивая мощность.

В каких случаях следует выбрать Orin NX вместо Orin Nano?

Применяйте это решение, когда 8 ГБ памяти, 67 TOPS в режиме разреженных вычислений или параллелизм класса Nano становятся ограничивающими факторами, при этом компактный формат модуля 70 × 45 мм по-прежнему подходит.

Можно ли напрямую сравнивать Thor с Orin TOPS?

Нет. Опубликованные Тором показатели FP4 в ТФЛОПС и Орином показатели INT8 в ТОПС основаны на разных метриках точности. Сравните фактическую модель, потребности в памяти, задержку и энергопотребление.

Что необходимо заморозить для производства «Джетсонов»?

Зафиксировать версии модулей, версии носителя, версии JetPack/Jetson Linux, дерево устройств, драйверы, версии CUDA/TensorRT, контейнеры, режим питания, тепловую схему и процесс восстановления.

Изучите практические рекомендации по проектированию NVIDIA Edge & Embedded Design

Будьте впереди благодаря подробному освещению интеграции модулей Jetson, вычислений на GPU в реальном времени и проверенных на практике тактик внедрения ИИ, охватывающих робототехнику, компьютерное зрение и автономную инфраструктуру. Создаете ли вы следующую "умную фабрику" или внедряете искусственный интеллект на границе, наш блог предоставит вам знания, которые помогут сделать это правильно.