Jetson Orin Nano · Orin NX · AGX Orin · Jetson Thor

エッジAIおよびロボティクス向けNVIDIA Jetsonプラットフォーム

AI指標、メモリ、センサー帯域幅、JetPackの世代、キャリアボードの要件、電源モード、および持続的な展開の制限に基づいて、Jetsonプラットフォームを比較してください。.

  • オーリン・ナノ・スーパー・67 TOPS8 GB · 最大 25 W
  • Orin NX Super · 157 TOPS16 GB・最大40 W
  • AGX Orin · 275 TOPS64 GB · 最大 60 W
Jetsonモジュールの比較 NVIDIAのシステム要件を確認する
エッジAIロボティクスおよびマシンビジョン向けのNVIDIA Jetsonキャリアプラットフォーム

Jetsonモジュールの適合性

AIパイプラインのボトルネックに応じてモジュールを選択する

Jetsonの選定は、公表されている最高性能値ではなく、モデルのメモリ使用量、センサーの負荷、実行時間、および持続消費電力から始めるべきです。.

ジェットソンの進行方向 参考文献 最強のフィット感 いつステップアップすべきか
Orin Nano 8GB Super 67 スパース / 33 デンセ INT8 TOPS · 8 GB · 102 GB/s コンパクトなビジョン、ロボティクス、および軽量なマルチモーダル推論 メモリ、並列パイプライン、あるいは25 Wという演算能力の上限がボトルネックとなる
Orin NX 16GB Super 157 スパース / 78 デンセ INT8 TOPS · 16 GB · 102 GB/s 70 × 45 mm モジュールクラスにおける並列推論のさらなる強化 もっと多くのメモリ、センサーI/O、あるいはAGXクラスの拡張機能が必要です。
AGX Orin 64GB 275 INT8 TOPS · 64 GB · 204.8 GB/s 大規模モデル、マルチセンサーロボット、および高演算能力のエッジシステム 64 GB または Orin クラスの演算能力では、依然として不十分である
ジェットソン・ソー / T5000 2070 FP4 TFLOPS（疎） · 128 GB · 273 GB/s フィジカルAI、ヒューマノイドロボット、および大規模な生成モデル 40～130 Wの出力や新しいプラットフォームの仕組みは、この製品には適していない

INT8 · FP4 · スパース · デンセ

オーリンとトールを1つのAI番号でランク付けしないでください

OrinとThorでは、精度や疎性に関する参考文献が異なります。数値が大きいからといって、必ずしもアプリケーションのパフォーマンスが直接的に向上するとは限らず、むしろ異なるワークロードの形式を表している可能性があります。.

メートル 参考例 訪問者が代わりに比較すべきこと
スパース INT8 TOPS Orin Nano Super：67 · Orin NX Super：157 ターゲットモデル、精度、スパース性のサポート、バッチサイズ、および持続クロック
高密度 INT8 TOPS Orin Nano Super：33 · Orin NX Super：78 モデルがスパース加速の恩恵を受けられない場合に使用してください
FP4 TFLOPS Jetson T5000：2070 スパース FP4 TFLOPS Orin INT8 TOPSと直接比較せず、対象モデルと実行時間をベンチマークしてください

メモリ常駐

モデルのサイズとワーキングメモリは、計算能力に先立ってアップグレードを余儀なくさせることがある

Jetsonのメモリは、オペレーティングシステム、GPUワークロード、モデルの重み、フレームバッファ、コンテナ、およびアプリケーションデータによって共有されます。そのため、実際に利用可能な空き容量は、モジュールの公称容量よりも少なくなります。.

モジュール メモリー 帯域幅 代表的なアップグレードのきっかけ
オーリン・ナノ・スーパー 8 GB LPDDR5 102 GB/s モデルの重み、カメラバッファ、および実行時間が、安全な余裕範囲内に収まらなくなりました
オーリン NX スーパー 16 GB LPDDR5 102 GB/s 並列モデル、大規模なVLM、またはセンサーパイプラインは16 GBを超える
AGX Orin 64GB 64 GB LPDDR5 204.8 GB/s 大規模な生成モデルやマルチセンサーのワークロードでは、より多くの常駐容量と帯域幅が必要となります
Jetson T5000 128 GB LPDDR5X 273 GB/s 物理-AIワークロードでは、モデルメモリとコンテキストメモリが大幅に多くなる必要があります

Jetson以外のAI対応プラットフォームの要件を比較する →

Jetsonモジュール・キャリア契約

モジュールはリソースを定義し、キャリアはシステムが何に接続できるかを定義する

Jetsonモジュールには、完成したデプロイメント用インターフェースセットは含まれていません。キャリアのルーティングによって、カメラ入力、NVMe、ネットワーク、USB、CAN、拡張機能、電源、および外部コネクタが決定されます。.

カメラの軌跡

キャリアボードの選定に先立ち、CSI、GMSLブリッジ、USBまたはGigEカメラ、同期、トリガー、センサー電源、およびドライバーの対応状況を確認してください。.

ストレージとPCIe

NVMe、キャプチャ、モデム、およびネットワークデバイスをモジュールの利用可能なレーンに割り当て、共有リソースの制限を確認します。.

ネットワーキング

サイズについては、単にコネクタの数だけでなく、センサー入力、ロギング、および推論出力トラフィックにおけるGbE、10GbE、または25GbEクラスのリンク数を基準とする。.

機械的互換性

Orin Nano/NXはコンパクトな70 × 45 mmのモジュールクラスを採用していますが、AGXおよびThorには異なるキャリアおよび熱設計が必要です。.

AIデータパス向けの高速ネットワークI/Oの計画 →

JetPack · CUDA · TensorRT

ハードウェアリビジョンに合わせてNVIDIAソフトウェアスタックを固定する

JetPackは、Jetson Linux、CUDA、TensorRT、ドライバー、デバイスツリー、およびサポート対象モジュールの生成を統合しているため、生産プラットフォームの一部となっています。.

レイヤー 生産用フリーズ なぜ重要なのか
Jetson Linux / BSP リリースブランチ、カーネル、デバイスツリー、ドライバ カメラ、PCIe、USB、ネットワーク、およびキャリアとの互換性を制御します
CUDA / TensorRT 実行時バージョン、演算子、エンジンのビルドプロセス モデルの互換性、精度パス、レイテンシを変更できます
コンテナ ベースイメージとアプリケーションの依存関係 本番環境のリビジョン間における予期せぬ実行時の変更を低減します
OTA / リカバリ パッケージの更新、ロールバック、およびリカバリイメージ 更新によって、デプロイ済みのユニットが復元不能になるのを防ぎます

スーパーモード · nvpmodel · 持続出力

実際に導入する電力モードに合わせて、キャリアと冷却システムの規模を決定する

モジュール 電源リファレンス デザインの意味
オーリン・ナノ・スーパー 7 / 15 / 25 W の基準モード 25 Wでの動作には、スーパークラスの持続負荷に対応するように設計されたキャリア電源および冷却装置が必要です。
オーリン NX スーパー 10 / 15 / 25 / 40 W の基準モード 40 Wモードでは、モジュールのサイズは70 × 45 mmのままですが、放熱要件と直流電力要件が変化します。
AGX Orin 64GB 15～60 W キャリア、ヒートシンク、および筐体は、選択した持続モードに適合している必要があります。
Jetson T5000 40～130 W 当該製品を、電力消費および冷却の面で実質的に異なるクラスへと移行させる

Jetsonへの移行

既存のモジュールが測定可能な限界に達した場合にのみアップグレードを行う

現在のモジュール いつ移動するか 次の方向
オーリン・ナノ・スーパー 8 GBのメモリや67スパースTOPSではもはや不十分だ オーリン NX スーパー
オーリン NX スーパー 16 GBのメモリ、157 TOPS、あるいはコンパクトキャリアのI/Oがボトルネックとなる AGX オリン
AGX オリン 64 GBのメモリ、275 TOPS、あるいはOrin世代のソフトウェアでは不十分である ジェットソン・トール
ジェットソン・トール 130 Wクラスの電力、モジュールの機構、またはJetPack 7への移行には適合しません プラットフォームのアーキテクチャを見直す

NVIDIAプラットフォームレビュー

モデルとセンサーのパイプラインを先に送信する

モデル、精度、JetPackのターゲット、カメラ／センサーのトポロジー、メモリ要件、ストレージ、ネットワーク、電源モード、筐体、数量、およびライフサイクルを明記してください。.

NVIDIAプラットフォームの要件を送信する

スタート台

必要なJetsonモジュールに最も近いキャリアの方向から開始する

スタート台 ここから始めるべき最大の理由 放出前に凍結
NVIDIA Jetson Mini-ITX キャリアボード JetsonエッジAIキャリアの標準的な方向性 モジュール、CSI/USB/ネットワークマップ、NVMe、電源、JetPack、放熱ソリューション、およびハードウェアリビジョン
カスタム Jetson リファレンスプラットフォーム 標準的なキャリアのI/O、センサーのトポロジー、または機構が適合しない リソースマップ、キャリアBOM、BSP、検証範囲、熱経路、ライフサイクル管理

よくあるご質問

NVIDIA Jetson プラットフォームに関するよくある質問

JetsonのTOPSが高いほど、必ずしもFPSも高くなるのでしょうか？

いいえ。実際のスループットを決定づけるのは、精度、スパース性、TensorRTのサポート、モデル演算子、メモリトラフィック、前処理、バッチサイズ、および持続消費電力です。.

どのような場合に、Orin NanoではなくOrin NXを選ぶべきでしょうか？

8 GBのメモリ、67スパースTOPS、またはナノクラスの並列処理能力がボトルネックとなる場合でも、70 × 45 mmのコンパクトなモジュールサイズであれば、引き続き搭載可能です。.

ThorはOrin TOPSと直接比較できるのでしょうか？

いいえ。Thorが公表しているFP4 TFLOPSと、Orinが公表しているINT8 TOPSは、異なる精度基準に基づいています。実際のモデル、メモリ要件、レイテンシ、消費電力を比較してください。.

Jetsonの製造において、何を冷凍しなければならないのでしょうか？

モジュール、キャリアのリビジョン、JetPack/Jetson Linuxのリリース、デバイスツリー、ドライバ、CUDA/TensorRTのバージョン、コンテナ、電源モード、熱設計、およびリカバリプロセスを固定する。.

NVIDIA Edgeおよび組込み設計のための実践的な洞察を探る

Jetsonモジュールの統合、リアルタイムGPUコンピューティング、ロボット工学、コンピュータ・ビジョン、自律型インフラストラクチャなど、現場で実証されたAI導入戦術に関する詳細な情報をお届けします。次のスマート・ファクトリーを構築する場合でも、エッジでAIを展開する場合でも、当社のブログはそれを正しく実行するための知識を提供します。