Jetson Orin Nano · Orin NX · AGX Orin · Jetson Thor

Plataformas NVIDIA Jetson para IA na periferia e robótica

Compare as plataformas Jetson com base em métricas de IA, memória, largura de banda dos sensores, geração do JetPack, requisitos da placa de suporte, modo de alimentação e limites de implementação sustentada.

  • Orin Nano Super · 67 TOPS8 GB · até 25 W
  • Orin NX Super · 157 TOPS16 GB · até 40 W
  • AGX Orin · 275 TOPS64 GB · até 60 W
Comparar módulos Jetson Verificar os meus requisitos da NVIDIA
Plataforma de suporte NVIDIA Jetson para robótica com IA de ponta e visão artificial

Compatibilidade com o módulo Jetson

Escolha o módulo com base no ponto de estrangulamento no fluxo de trabalho de IA

A escolha do Jetson deve basear-se na memória do modelo, na carga dos sensores, no tempo de execução e na potência sustentada — e não no valor de computação mais elevado publicado.

Direção Jetson Referência O ajuste mais firme Avançar quando
Orin Nano 8 GB Super 67 esparsos / 33 densos INT8 TOPS · 8 GB · 102 GB/s Visão compacta, robótica e inferência multimodal mais leve A memória, os pipelines simultâneos ou o limite máximo de computação de 25 W tornam-se fatores limitantes
Orin NX 16 GB Super 157 esparsos / 78 densos INT8 TOPS · 16 GB · 102 GB/s Maior capacidade de inferência simultânea na classe de módulos de 70 × 45 mm Precisa de muito mais memória, E/S de sensores ou expansão da classe AGX
AGX Orin 64 GB 275 INT8 TOPS · 64 GB · 204,8 GB/s Modelos de grande dimensão, robótica multissensor e sistemas de ponta com elevada capacidade de computação 64 GB ou a capacidade de computação da classe Orin continuam a ser insuficientes
Jetson Thor / T5000 2070 FP4 TFLOPS (matriz esparsa) · 128 GB · 273 GB/s IA física, robótica humanóide e modelos generativos de maior dimensão A potência de 40–130 W ou a nova mecânica da plataforma não se adequam ao produto

INT8 · FP4 · Esparso · Denso

Não classifiquem o Orin e o Thor com um único número de IA

O Orin e o Thor utilizam diferentes referências publicadas em matéria de precisão e esparsidade. Um valor mais elevado pode indicar um formato de carga de trabalho diferente, em vez de um aumento diretamente comparável no desempenho da aplicação.

Métrica Exemplo de referência O que o visitante deve comparar, em vez disso
TOPS com INT8 esparso Orin Nano Super: 67 · Orin NX Super: 157 Modelo-alvo, precisão, suporte à esparsidade, tamanho do lote e relógios sustentados
TOPS INT8 densos Orin Nano Super: 33 · Orin NX Super: 78 Utilizar quando o modelo não beneficia da aceleração em modelos esparsos
FP4 TFLOPS Jetson T5000: 2070 TFLOPS de FP4 em configuração esparsa Não compare diretamente com o Orin INT8 TOPS; faça um teste de desempenho do modelo alvo e do tempo de execução

Residência de Memória

O tamanho do modelo e a memória de trabalho podem obrigar à atualização antes mesmo da capacidade de computação

A memória do Jetson é partilhada pelo sistema operativo, pelas cargas de trabalho da GPU, pelos pesos dos modelos, pelos buffers de fotogramas, pelos contentores e pelos dados das aplicações. Por conseguinte, a margem disponível é inferior à capacidade nominal do módulo.

Módulo Memória Largura de banda Motivo típico para uma atualização
Orin Nano Super 8 GB de LPDDR5 102 GB/s Os pesos dos modelos, as memórias tampão das câmaras e o tempo de execução já não cabem dentro da margem de segurança
Orin NX Super 16 GB de LPDDR5 102 GB/s Os modelos simultâneos, os VLMs de maior dimensão ou os pipelines de sensores ultrapassam os 16 GB
AGX Orin 64 GB 64 GB de LPDDR5 204,8 GB/s Os modelos generativos de maior dimensão ou as cargas de trabalho multissensor requerem mais capacidade de armazenamento local e largura de banda
Jetson T5000 128 GB de LPDDR5X 273 GB/s As cargas de trabalho de IA física requerem uma memória de modelo e de contexto substancialmente maior

Compare os requisitos das plataformas preparadas para IA para além do Jetson →

Módulo Jetson · Contrato de Operador

O módulo define os recursos; o operador define o que o sistema pode ligar

Um módulo Jetson não fornece um conjunto completo de interfaces de implementação. O encaminhamento da placa-mãe determina as entradas da câmara, NVMe, rede, USB, CAN, expansão, alimentação e conectores externos.

Trajetória da câmara

Defina o CSI, a ponte GMSL, as câmaras USB ou GigE, a sincronização, o disparador, a alimentação do sensor e a compatibilidade com os controladores antes de selecionar a operadora.

Armazenamento e PCIe

Atribua os dispositivos NVMe, de captura, de modem e de rede às vias disponíveis do módulo e confirme os limites dos recursos partilhados.

Redes de contactos

Avaliar as ligações de classe GbE, 10GbE ou 25GbE com base no tráfego proveniente da entrada do sensor, do registo e da saída de inferência, em vez de se basear apenas no número de conectores.

Compatibilidade mecânica

Os modelos Orin Nano/NX utilizam a classe de módulos compactos de 70 × 45 mm, enquanto os modelos AGX e Thor requerem arquiteturas de suporte e térmicas diferentes.

Planear E/S de rede de alta velocidade para percursos de dados de IA →

JetPack · CUDA · TensorRT

Fixar a pilha de software da NVIDIA com a revisão de hardware

O JetPack faz parte da plataforma de produção porque integra o Jetson Linux, o CUDA, o TensorRT, os controladores, a árvore de dispositivos e a geração de módulos suportados.

Camada Congelamento para produção Porque é que é importante
Jetson Linux / BSP Ramo de lançamento, kernel, árvore de dispositivos, controladores Controla a compatibilidade com câmaras, PCIe, USB, redes e operadoras
CUDA / TensorRT Versões de tempo de execução, operadores, processo de compilação do motor É possível alterar a compatibilidade do modelo, o percurso de precisão e a latência
Contentores Imagem base e dependências da aplicação Reduz as alterações inesperadas no tempo de execução entre revisões de produção
OTA / Recuperação Pacote de atualização, reversão e imagem de recuperação Impede que uma atualização torne as unidades implementadas irrecuperáveis

Modo Super · nvpmodel · Potência sustentada

Dimensionar o sistema de transporte e refrigeração de acordo com o modo de alimentação que irá efetivamente implementar

Módulo Referência de potência Significado do design
Orin Nano Super Modos de referência de 7 / 15 / 25 W O funcionamento a 25 W requer uma fonte de alimentação e um sistema de refrigeração concebidos para a carga sustentada da classe Super
Orin NX Super Modos de referência de 10 / 15 / 25 / 40 W O modo de 40 W altera os requisitos térmicos e de potência CC, apesar de o módulo continuar a ter as dimensões de 70 × 45 mm
AGX Orin 64 GB 15–60 W O suporte, o dissipador de calor e a caixa de proteção devem ser compatíveis com o modo sustentado selecionado
Jetson T5000 40–130 W Coloca o produto numa classe de alimentação e refrigeração substancialmente diferente

Migração para o Jetson

Atualizar apenas quando o módulo existente atingir um limite quantificável

Módulo atual Mover quando Próximo Passo
Orin Nano Super 8 GB de memória ou 67 TOPS esparsos já não são suficientes Orin NX Super
Orin NX Super 16 GB de memória, 157 TOPS ou as E/S do suporte compacto tornam-se um fator limitante AGX Orin
AGX Orin 64 GB de memória, 275 TOPS ou o software da geração Orin são insuficientes Jetson Thor
Jetson Thor A potência de 130 da classe W, a mecânica do módulo ou a migração para o JetPack 7 não são compatíveis Reavaliar a arquitetura da plataforma

Análise da Plataforma NVIDIA

Envie primeiro o pipeline do modelo e do sensor

Indique o modelo, a precisão, o destino do JetPack, a topologia da câmara/sensor, as necessidades de memória, o armazenamento, a rede, o modo de alimentação, a caixa de proteção, a quantidade e o ciclo de vida.

Enviar os requisitos da plataforma NVIDIA

Plataformas de partida

Comece pela direção do suporte mais próxima do módulo Jetson pretendido

Plataforma de partida A melhor razão para começar por aqui Congelar antes da libertação
Placa de suporte NVIDIA Jetson Mini-ITX Orientação padrão para a plataforma de IA de ponta Jetson Módulo, mapa CSI/USB/rede, NVMe, alimentação, JetPack, solução térmica e revisão de hardware
Plataforma de referência Jetson personalizada As E/S padrão do suporte, a topologia dos sensores ou a mecânica não são compatíveis Mapa de recursos, lista de materiais (BOM) do transportador, BSP, âmbito de validação, percurso térmico e controlos do ciclo de vida

FAQ

Perguntas frequentes sobre a plataforma NVIDIA Jetson

Um valor mais elevado de Jetson TOPS significa sempre um FPS mais elevado?

Não. A precisão, a esparsidade, a compatibilidade com o TensorRT, os operadores do modelo, o tráfego de memória, o pré-processamento, o tamanho do lote e a potência sustentada determinam o rendimento real.

Quando devo optar pelo Orin NX em vez do Orin Nano?

Opte por esta solução quando a memória de 8 GB, os 67 TOPS esparsos ou a concorrência de classe Nano se revelarem limitantes, desde que o formato compacto do módulo de 70 × 45 mm ainda seja compatível.

O Thor pode ser comparado diretamente com o Orin TOPS?

Não. Os valores publicados pelo Thor (FP4 TFLOPS) e pelo Orin (INT8 TOPS) utilizam métricas de precisão diferentes. Compare o modelo real, as necessidades de memória, a latência e o consumo de energia.

O que é necessário congelar para a produção do Jetson?

Congelar o módulo, a revisão da placa-mãe, a versão do JetPack/Jetson Linux, a árvore de dispositivos, os controladores, as versões do CUDA/TensorRT, os contentores, o modo de alimentação, o projeto térmico e o processo de recuperação.

Explore insights práticos para NVIDIA Edge e design incorporado

Fique à frente com uma cobertura aprofundada sobre a integração do módulo Jetson, computação de GPU em tempo real e tácticas de implementação de IA testadas no terreno - abrangendo robótica, visão computacional e infraestrutura autónoma. Quer esteja a construir a próxima fábrica inteligente ou a implementar a IA no edge, o nosso blogue fornece o conhecimento necessário para o fazer corretamente.