Jetson Orin Nano · Orin NX · AGX Orin · Jetson Thor

Plataformas NVIDIA Jetson para IA en el borde y robótica

Compara las plataformas Jetson según los parámetros de IA, la memoria, el ancho de banda de los sensores, la generación de JetPack, los requisitos de la placa portadora, el modo de alimentación y los límites de implementación continuada.

  • Orin Nano Super · 67 TOPS8 GB · hasta 25 W
  • Orin NX Super · 157 TOPS16 GB · hasta 40 W
  • AGX Orin · 275 TOPS64 GB · hasta 60 W
Comparar módulos Jetson Consultar los requisitos de NVIDIA
Plataforma base NVIDIA Jetson para robótica con IA en el borde y visión artificial

Compatibilidad con el módulo Jetson

Elige el módulo en función del cuello de botella en el flujo de trabajo de IA

La elección de un Jetson debe basarse en la memoria del modelo, la carga de los sensores, el tiempo de ejecución y la potencia sostenida, y no en la cifra de rendimiento computacional más alta publicada.

Dirección de Jetson Referencia Ajuste más firme Avanzar cuando
Orin Nano 8 GB Super 67 dispersos / 33 densos INT8 TOPS · 8 GB · 102 GB/s Visión compacta, robótica e inferencia multimodal más ligera La memoria, las tuberías de procesamiento concurrentes o el límite máximo de potencia de cálculo de 25 W se convierten en factores limitantes
Orin NX 16 GB Super 157 dispersos / 78 densos INT8 TOPS · 16 GB · 102 GB/s Mayor capacidad de inferencia simultánea en la clase de módulos de 70 × 45 mm Necesitas mucha más memoria, E/S de sensores o una expansión de clase AGX
AGX Orin 64 GB 275 INT8 TOPS · 64 GB · 204,8 GB/s Modelos de gran tamaño, robótica multisensor y sistemas periféricos de alto rendimiento computacional 64 GB o la potencia de cálculo de clase Orin siguen siendo insuficientes
Jetson Thor / T5000 2070 FP4 TFLOPS (matriz dispersa) · 128 GB · 273 GB/s IA física, robótica humanoide y modelos generativos de mayor tamaño La potencia de 40-130 W o la nueva mecánica de la plataforma no se adaptan al producto

INT8 · FP4 · Esparso · Denso

No clasifiques a Orin y a Thor con un mismo número de IA

Orin y Thor utilizan diferentes referencias publicadas en materia de precisión y dispersión. Un número mayor puede corresponder a un formato de carga de trabajo distinto, más que a un aumento directamente comparable del rendimiento de la aplicación.

Métrica Ejemplo de referencia Lo que el visitante debería comparar en su lugar
TOPS con datos dispersos en INT8 Orin Nano Super: 67 · Orin NX Super: 157 Modelo objetivo, precisión, soporte de dispersión, tamaño de lote y relojes sostenidos
Camisetas INT8 de tejido tupido Orin Nano Super: 33 · Orin NX Super: 78 Utilizar cuando el modelo no se beneficia de la aceleración en modelos dispersos
4 TFLOPS de FP4 Jetson T5000: 2070 TFLOPS de FP4 en formato disperso No lo compares directamente con Orin INT8 TOPS; realiza pruebas de rendimiento del modelo objetivo y del tiempo de ejecución.

Residencia de memoria

El tamaño del modelo y la memoria de trabajo pueden obligar a actualizar antes de que lo haga el poder de cálculo

La memoria de Jetson es compartida por el sistema operativo, las cargas de trabajo de la GPU, los pesos de los modelos, los búferes de fotogramas, los contenedores y los datos de las aplicaciones. Por lo tanto, el margen de memoria disponible es menor que la capacidad nominal del módulo.

Módulo Memoria Ancho de banda Motivo habitual para actualizar
Orin Nano Super 8 GB de LPDDR5 102 GB/s Los pesos de los modelos, los búferes de la cámara y el tiempo de ejecución ya no caben dentro del margen de seguridad
Orin NX Super 16 GB de LPDDR5 102 GB/s Los modelos concurrentes, los VLM de mayor tamaño o las cadenas de procesamiento de sensores superan los 16 GB
AGX Orin 64 GB 64 GB de LPDDR5 204,8 GB/s Los modelos generativos de mayor tamaño o las cargas de trabajo multisensor requieren más capacidad de almacenamiento local y más ancho de banda.
Jetson T5000 128 GB de LPDDR5X 273 GB/s Las cargas de trabajo de «Physical-AI» requieren una memoria para modelos y contexto considerablemente mayor.

Compara los requisitos de las plataformas preparadas para la IA más allá de Jetson →

Módulo Jetson · Contrato de operador

El módulo define los recursos; el operador define a qué puede conectarse el sistema

Un módulo Jetson no incluye un conjunto completo de interfaces de implementación. El enrutamiento del fabricante determina las entradas de cámara, NVMe, red, USB, CAN, expansión, alimentación y conectores externos.

Trayectoria de la cámara

Antes de seleccionar el operador, define los parámetros CSI, el puente GMSL, las cámaras USB o GigE, la sincronización, el disparador, la alimentación del sensor y la compatibilidad con los controladores.

Almacenamiento y PCIe

Asigne los dispositivos NVMe, de captura, de módem y de red a los carriles disponibles del módulo y compruebe los límites de los recursos compartidos.

Redes

Calcular los enlaces de clase GbE, 10 GbE o 25 GbE a partir del tráfico de entrada de los sensores, el registro y la salida de inferencias, en lugar de basarse únicamente en el número de conectores.

Compatibilidad mecánica

Los modelos Orin Nano/NX utilizan módulos compactos de 70 × 45 mm, mientras que los modelos AGX y Thor requieren arquitecturas térmicas y de soporte diferentes.

Planificar las E/S de red de alta velocidad para las rutas de datos de IA →

JetPack · CUDA · TensorRT

Fijar la pila de software de NVIDIA con la revisión de hardware

JetPack forma parte de la plataforma de producción, ya que integra Jetson Linux, CUDA, TensorRT, los controladores, el árbol de dispositivos y la generación de módulos compatibles.

Capa Parada para la producción Por qué es importante
Jetson Linux / BSP Rama de lanzamiento, núcleo, árbol de dispositivos, controladores Compatibilidad con cámaras, PCIe, USB, redes y operadores
CUDA / TensorRT Versiones de tiempo de ejecución, operadores y proceso de compilación del motor Permite modificar la compatibilidad del modelo, la precisión de la trayectoria y la latencia
Contenedores Imagen base y dependencias de la aplicación Reduce los cambios inesperados en el tiempo de ejecución entre revisiones de producción
OTA / Recuperación Paquete de actualización, reversión e imagen de recuperación Evita que una actualización haga que las unidades desplegadas sean irrecuperables

Modo Super · nvpmodel · Potencia sostenida

Dimensiona el sistema de transporte y refrigeración en función del modo de alimentación que vayas a utilizar realmente

Módulo Referencia de potencia Significado del diseño
Orin Nano Super Modos de referencia de 7, 15 y 25 W El funcionamiento a 25 W requiere una fuente de alimentación y un sistema de refrigeración diseñados para una carga sostenida de clase «Super».
Orin NX Super Modos de referencia de 10, 15, 25 y 40 W El modo de 40 W modifica los requisitos térmicos y de potencia de CC, aunque el módulo siga midiendo 70 × 45 mm.
AGX Orin 64 GB 15–60 W El soporte, el disipador térmico y la carcasa deben ser compatibles con el modo sostenido seleccionado.
Jetson T5000 40–130 W Sitúa al producto en una categoría de consumo energético y refrigeración sustancialmente diferente

Migración a Jetson

Actualiza solo cuando el módulo actual alcance un límite cuantificable

Módulo actual Mover cuando Próximo paso
Orin Nano Super 8 GB de memoria o 67 TOPS dispersos ya no son suficientes Orin NX Super
Orin NX Super 16 GB de memoria, 157 TOPS o una E/S de portadora compacta se convierten en un factor limitante AGX Orin
AGX Orin 64 GB de memoria, 275 TOPS o el software de la generación Orin son insuficientes Jetson Thor
Jetson Thor No es compatible con la potencia de clase W de 130, la mecánica de módulos ni la migración a JetPack 7 Reevaluar la arquitectura de la plataforma

Análisis de la plataforma NVIDIA

Envía primero el flujo de trabajo del modelo y del sensor

Indica el modelo, la precisión, el objetivo del JetPack, la topología de la cámara y los sensores, los requisitos de memoria, el almacenamiento, la conectividad de red, el modo de alimentación, la carcasa, la cantidad y el ciclo de vida.

Enviar los requisitos de la plataforma NVIDIA

Plataformas de salida

Empieza por la dirección del soporte más cercana al módulo Jetson requerido

Plataforma de salida La mejor razón para empezar por aquí Congelar antes de soltar
Placa base NVIDIA Jetson Mini-ITX Directrices estándar para el uso de Jetson en aplicaciones de IA en el borde Módulo, mapa CSI/USB/red, NVMe, alimentación, JetPack, solución térmica y revisión de hardware
Plataforma de referencia Jetson personalizada Las E/S estándar del soporte, la topología de los sensores o los componentes mecánicos no se ajustan Mapa de recursos, lista de materiales del portador, BSP, alcance de la validación, trayectoria térmica y controles del ciclo de vida

PREGUNTAS FRECUENTES

Preguntas frecuentes sobre la plataforma NVIDIA Jetson

¿Un valor más alto de TOPS en Jetson implica siempre un mayor número de FPS?

No. La precisión, la dispersión, la compatibilidad con TensorRT, los operadores del modelo, el tráfico de memoria, el preprocesamiento, el tamaño del lote y la potencia sostenida determinan el rendimiento real.

¿Cuándo debería optar por el Orin NX en lugar del Orin Nano?

Opte por esta solución cuando la memoria de 8 GB, los 67 TOPS dispersos o la concurrencia de clase Nano resulten limitantes, siempre que el formato compacto del módulo de 70 × 45 mm siga siendo adecuado.

¿Se puede comparar directamente Thor con Orin TOPS?

No. Los valores publicados por Thor (FP4 TFLOPS) y por Orin (INT8 TOPS) utilizan métricas de precisión diferentes. Compara el modelo real, las necesidades de memoria, la latencia y el consumo energético.

¿Qué hay que congelar para la producción de Jetson?

Congelar el módulo, la revisión de la placa base, la versión de JetPack/Jetson Linux, el árbol de dispositivos, los controladores, las versiones de CUDA/TensorRT, los contenedores, el modo de consumo energético, el diseño térmico y el proceso de recuperación.

Explora ideas prácticas para NVIDIA Edge & Embedded Design

Mantente a la vanguardia con información detallada sobre la integración del módulo Jetson, el cálculo en tiempo real en la GPU y las tácticas de implantación de IA probadas sobre el terreno: robótica, visión computerizada e infraestructura autónoma. Tanto si está construyendo la próxima fábrica inteligente como implantando la IA en el perímetro, nuestro blog le ofrece los conocimientos necesarios para hacerlo bien.