Jetson Orin Nano · Orin NX · AGX Orin · Jetson Thor

Plateformes NVIDIA Jetson pour l'IA en périphérie et la robotique

Comparez les plateformes Jetson en fonction des indicateurs d'IA, de la mémoire, de la bande passante des capteurs, de la génération JetPack, des exigences en matière de carte porteuse, du mode d'alimentation et des limites de déploiement en continu.

  • Orin Nano Super · 67 TOPS8 Go · jusqu'à 25 W
  • Orin NX Super · 157 TOPS16 Go · jusqu'à 40 W
  • AGX Orin · 275 TOPS64 Go · jusqu'à 60 W
Comparer les modules Jetson Vérifier la configuration requise pour NVIDIA
Plateforme de support NVIDIA Jetson pour la robotique et la vision artificielle en périphérie

Compatibilité avec les modules Jetson

Choisissez le module correspondant au goulot d'étranglement dans le pipeline d'IA

Le choix d'un modèle Jetson doit se fonder sur la mémoire du modèle, la charge des capteurs, la durée d'exécution et la puissance en régime continu, et non sur la puissance de calcul maximale annoncée.

Direction Jetson Référence La coupe la plus ajustée Passer au niveau supérieur quand
Orin Nano 8 Go Super 67 clairsemés / 33 denses INT8 TOPS · 8 Go · 102 Go/s Vision compacte, robotique et inférence multimodale allégée La mémoire, les pipelines concurrents ou la limite de puissance de calcul de 25 W deviennent des facteurs limitants
Orin NX 16 Go Super 157 rares / 78 denses INT8 TOPS · 16 Go · 102 Go/s Une inférence plus simultanée dans la catégorie des modules de 70 × 45 mm Vous avez besoin de beaucoup plus de mémoire, d’E/S de capteurs ou d’une extension de type AGX
AGX Orin 64 Go 275 INT8 TOPS · 64 Go · 204,8 Go/s Modèles de grande taille, robotique multicapteurs et systèmes périphériques à haute puissance de calcul Une capacité de calcul de 64 Go ou de classe Orin reste insuffisante
Jetson Thor / T5000 2 070 FP4 TFLOPS (matrice clairsemée) · 128 Go · 273 Go/s IA physique, robotique humanoïde et modèles génératifs à grande échelle Une puissance de 40 à 130 W ou les nouveaux mécanismes de la plateforme ne conviennent pas à ce produit

INT8 · FP4 · Clairsemé · Dense

Ne classez pas Orin et Thor sous un seul numéro d'IA

Orin et Thor s'appuient sur des références différentes en matière de précision et de parcimonie. Un chiffre plus élevé peut correspondre à un format de charge de travail différent plutôt qu'à une augmentation directement comparable des performances de l'application.

Métrique Exemple de référence Ce que le visiteur devrait plutôt comparer
TOPS avec entiers INT8 clairsemés Orin Nano Super : 67 · Orin NX Super : 157 Modèle cible, précision, support de parcité, taille de lot et horloges soutenues
T-shirts INT8 épais Orin Nano Super : 33 · Orin NX Super : 78 À utiliser lorsque le modèle ne bénéficie pas de l'accélération par clairsemage
4 TFLOPS en FP Jetson T5000 : 2 070 TFLOPS FP4 en mode « sparse » Ne comparez pas directement avec Orin INT8 TOPS ; effectuez des tests de performance sur le modèle cible et l'environnement d'exécution.

Résidence « Mémoire »

La taille du modèle et la mémoire de travail peuvent imposer la mise à niveau avant même que le calcul ne le fasse

La mémoire du Jetson est partagée entre le système d'exploitation, les charges de travail du GPU, les poids des modèles, les tampons d'image, les conteneurs et les données des applications. La capacité disponible est donc inférieure à la capacité nominale du module.

Module Mémoire Largeur de bande Motif courant de mise à niveau
Orin Nano Super 8 Go de LPDDR5 102 Go/s Les poids des modèles, les tampons des caméras et le temps d'exécution ne tiennent plus dans la marge de sécurité
Orin NX Super 16 Go de mémoire LPDDR5 102 Go/s Les modèles parallèles, les VLM de plus grande taille ou les pipelines de capteurs dépassent les 16 Go
AGX Orin 64 Go 64 Go de LPDDR5 204,8 Go/s Les modèles génératifs de grande envergure ou les charges de travail multi-capteurs nécessitent davantage de capacité de stockage en local et de bande passante
Jetson T5000 128 Go de LPDDR5X 273 Go/s Les charges de travail « Physical-AI » nécessitent une mémoire dédiée aux modèles et au contexte nettement plus importante

Comparez les exigences des plateformes prêtes pour l'IA au-delà de Jetson →

Module Jetson · Contrat de transport

Le module définit les ressources ; l'opérateur définit ce à quoi le système peut se connecter

Un module Jetson ne fournit pas un ensemble complet d'interfaces de déploiement. Le choix du support détermine les entrées caméra, les connecteurs NVMe, réseau, USB, CAN, d'extension, d'alimentation et externes.

Trajectoire de la caméra

Avant de choisir un support, définissez les paramètres suivants : CSI, pont GMSL, caméras USB ou GigE, synchronisation, déclenchement, alimentation des capteurs et prise en charge des pilotes.

Stockage et PCIe

Affectez les périphériques NVMe, de capture, les modems et les périphériques réseau aux voies disponibles du module, puis vérifiez les limites relatives aux ressources partagées.

Réseautage

La taille des liaisons de type GbE, 10 GbE ou 25 GbE est déterminée par le trafic provenant des entrées des capteurs, de la journalisation et des sorties d'inférence, plutôt que par le seul nombre de connecteurs.

Compatibilité mécanique

Les modèles Orin Nano/NX utilisent des modules compacts de 70 × 45 mm, tandis que les modèles AGX et Thor nécessitent des architectures de support et de gestion thermique différentes.

Concevoir des E/S réseau à haut débit pour les chemins de données de l'IA →

JetPack · CUDA · TensorRT

Figer la pile logicielle NVIDIA en fonction de la révision matérielle

JetPack fait partie intégrante de la plateforme de production, car il intègre Jetson Linux, CUDA, TensorRT, les pilotes, l'arborescence des périphériques et la génération des modules pris en charge.

Couche Gel de production Pourquoi c'est important
Jetson Linux / BSP Branche de publication, noyau, arborescence des périphériques, pilotes Prise en charge des caméras, du PCIe, de l'USB, des réseaux et de la compatibilité avec les opérateurs
CUDA / TensorRT Versions d'exécution, opérateurs, processus de compilation du moteur Permet de modifier la compatibilité des modèles, le chemin de précision et la latence
Conteneurs Image de base et dépendances de l'application Réduit les variations imprévues de la durée d'exécution entre les révisions de production
OTA / Récupération Pack de mise à jour, restauration et image de secours Empêche qu'une mise à jour ne rende les unités déployées irrécupérables

Mode Super · nvpmodel · Puissance en continu

Dimensionnez le support et le système de refroidissement en fonction du mode d'alimentation que vous comptez réellement mettre en œuvre

Module Référence en matière de puissance Signification du design
Orin Nano Super Modes de référence 7 / 15 / 25 W Le fonctionnement à 25 W nécessite une alimentation et un système de refroidissement conçus pour une charge continue de classe « Super ».
Orin NX Super Modes de référence 10 / 15 / 25 / 40 W Le mode 40 W modifie les exigences en matière de dissipation thermique et d'alimentation en courant continu, même si le module conserve ses dimensions de 70 × 45 mm
AGX Orin 64 Go 15 à 60 W Le support, le dissipateur thermique et le boîtier doivent être adaptés au mode continu sélectionné
Jetson T5000 40 à 130 W Ce produit entre désormais dans une catégorie de consommation électrique et de refroidissement sensiblement différente.

Migration vers Jetson

Ne procédez à une mise à niveau que lorsque le module existant atteint une limite mesurable

Module actuel Déplacer quand Prochaine étape
Orin Nano Super 8 Go de mémoire ou 67 TOPS « sparse » ne suffisent plus Orin NX Super
Orin NX Super Avec 16 Go de mémoire, 157 TOPS ou des E/S de support compactes deviennent un frein AGX Orin
AGX Orin Une mémoire de 64 Go, 275 TOPS ou un logiciel de la génération Orin ne suffisent pas Jetson Thor
Jetson Thor La puissance de classe 130 W, la mécanique du module ou la migration vers JetPack 7 ne sont pas compatibles Réévaluer l'architecture de la plateforme

Analyse de la plateforme NVIDIA

Envoyer d'abord le pipeline du modèle et des capteurs

Indiquez le modèle, la précision, la cible JetPack, la topologie des caméras/capteurs, les besoins en mémoire, le stockage, la mise en réseau, le mode d'alimentation, le boîtier, la quantité et le cycle de vie.

Envoyer les spécifications de la plateforme NVIDIA

Plateformes de départ

Commencez par la direction du support la plus proche du module Jetson requis

Plateforme de départ La meilleure raison de commencer par ici Congeler avant la mise en vente
Carte porteuse NVIDIA Jetson Mini-ITX Instructions standard pour le transport des appareils Jetson Edge AI Module, carte CSI/USB/réseau, NVMe, alimentation, JetPack, solution thermique et révision matérielle
Plateforme de référence Jetson personnalisée Les E/S standard du support, la topologie des capteurs ou les caractéristiques mécaniques ne sont pas adaptées Carte des ressources, nomenclature du support, BSP, périmètre de validation, chemin thermique et contrôles du cycle de vie

FAQ

FAQ sur la plateforme NVIDIA Jetson

Un score TOPS plus élevé sur Jetson signifie-t-il systématiquement un nombre d'images par seconde (FPS) plus élevé ?

Non. Le débit réel dépend de la précision, de la parcimonie, de la prise en charge de TensorRT, des opérateurs de modèle, du trafic mémoire, du prétraitement, de la taille des lots et de la puissance soutenue.

Dans quels cas vaut-il mieux choisir l'Orin NX plutôt que l'Orin Nano ?

Optez pour cette solution lorsque la mémoire de 8 Go, les 67 TOPS en mode « sparse » ou la concurrence de classe Nano constituent un frein, tout en conservant un format de module compact de 70 × 45 mm.

Peut-on comparer directement Thor à Orin TOPS ?

Non. Les chiffres publiés par Thor (FP4 TFLOPS) et par Orin (INT8 TOPS) reposent sur des mesures de précision différentes. Comparez le modèle réel, les besoins en mémoire, la latence et la consommation électrique.

Quels éléments doivent être gelés pour la production de Jetson ?

Figer le module, la révision du support, la version de JetPack/Jetson Linux, l'arborescence des périphériques, les pilotes, les versions de CUDA/TensorRT, les conteneurs, le mode d'alimentation, la conception thermique et le processus de récupération.

Découvrez des idées pratiques pour la conception NVIDIA Edge et embarquée

Gardez une longueur d'avance grâce à une couverture approfondie de l'intégration des modules Jetson, du calcul GPU en temps réel et des tactiques de déploiement de l'IA testées sur le terrain, couvrant la robotique, la vision par ordinateur et l'infrastructure autonome. Que vous construisiez la prochaine usine intelligente ou que vous déployiez l'IA à la périphérie, notre blog vous apporte les connaissances nécessaires pour bien faire les choses.