科技永不停步，我們亦然
經過驗證的 Mini-ITX 平台，專為工業、邊緣和嵌入式系統環境的可靠部署而設計。
Jetson Orin Nano · Orin NX · AGX Orin · Jetson Thor
適用於邊緣 AI 與機器人的 NVIDIA Jetson 平台
根據 AI 指標、記憶體、感測器頻寬、JetPack 世代、載板需求、電源模式以及持續部署限制，比較 Jetson 平台。.
- Orin Nano Super · 67 TOPS8 GB · 最高 25 W
- Orin NX Super · 157 TOPS16 GB · 最高 40 W
- AGX Orin · 275 TOPS64 GB · 最高 60 W
Jetson 模組相容性
根據 AI 處理流程中的瓶頸選擇模組
選擇 Jetson 時，應以模型記憶體、感測器負載、執行時間及持續功耗為考量依據——而非僅以官方公布的最高運算效能為準。.
| Jetson 方向 | 參考資料 | 最合身 | 何時該晉升 |
|---|---|---|---|
| Orin Nano 8GB Super | 67 稀疏 / 33 密集 INT8 TOPS · 8 GB · 102 GB/s | 緊湊型視覺、機器人技術與更輕量化的多模態推論 | 記憶體、並行管線或 25 瓦的運算上限將成為限制因素 |
| Orin NX 16GB Super | 157 稀疏 / 78 密集 INT8 TOPS · 16 GB · 102 GB/s | 在 70 × 45 毫米模組類別中實現更多並行推論 | 您需要更多記憶體、感測器 I/O 或 AGX 級別的擴充功能 |
| AGX Orin 64GB | 275 INT8 TOPS · 64 GB · 204.8 GB/s | 大型模型、多感測器機器人及高運算邊緣系統 | 64 GB 或 Orin 級別的運算能力仍顯不足 |
| Jetson Thor / T5000 | 2070 FP4 TFLOPS 稀疏運算 · 128 GB · 273 GB/s | 物理人工智慧、類人型機器人及大型生成式模型 | 40–130 W 的功率或新的平台機制不適合該產品 |
INT8 · FP4 · 稀疏 · 密集
請勿將奧林和索爾歸入同一個 AI 編號
Orin 和 Thor 採用了不同的已發表精確度與稀疏性參考值。較大的數值可能代表不同的工作負載格式，而非應用程式效能的直接可比提升。.
| 公制 | 參考範例 | 訪客應該比較的是什麼 |
|---|---|---|
| 稀疏 INT8 TOPS | Orin Nano Super：67 · Orin NX Super：157 | 目標模型、精確度、稀疏性支援、批次大小與持續時鐘 |
| 高密度 INT8 TOPS | Orin Nano Super：33 · Orin NX Super：78 | 當模型無法從稀疏加速中獲益時，請使用此方法 |
| 4 TFLOPS 的浮點運算效能 | Jetson T5000：2070 稀疏浮點運算（FP4）TFLOPS | 請勿直接與 Orin INT8 TOPS 進行比較；應針對目標模型及其執行時間進行基準測試 |
記憶駐留計畫
模型規模與工作記憶體可能在運算能力提升之前就迫使系統進行升級
Jetson 的記憶體由作業系統、GPU 工作負載、模型權重、幀緩衝區、容器及應用程式資料共同共用。因此，實際可用空間會比模組標稱容量來得小。.
| 模組 | 記憶體 | 頻寬 | 典型的升級觸發條件 |
|---|---|---|---|
| Orin Nano Super | 8 GB LPDDR5 | 102 GB/s | 模型權重、相機緩衝區及執行時間已超出安全餘裕範圍 |
| Orin NX Super | 16 GB LPDDR5 | 102 GB/s | 並行模型、較大的大型語言模型（VLM）或感測器處理管線的記憶體用量超過 16 GB |
| AGX Orin 64GB | 64 GB LPDDR5 | 204.8 GB/s | 較大型的生成式模型或多感測器工作負載需要更多的駐留空間和頻寬 |
| Jetson T5000 | 128 GB LPDDR5X | 273 GB/s | 物理-AI 工作負載需要大幅更大的模型記憶體和上下文記憶體 |
Jetson 模組 · 承運商合約
模組定義資源；載體則定義系統能連接哪些內容
Jetson 模組並未提供一套完整的部署介面。其介面配置取決於載板設計，包括攝影機輸入、NVMe、網路、USB、CAN、擴充埠、電源及外部連接埠。.
鏡頭路徑
在選擇載板之前，請先定義 CSI、GMSL 橋接器、USB 或 GigE 攝影機、同步、觸發、感測器供電及驅動程式支援。.
儲存裝置與 PCIe
將 NVMe、擷取裝置、調製解調器及網路裝置映射至模組的可用通道，並確認共享資源的限制。.
人脈建立
應依據感測器輸入、日誌記錄及推論輸出流量中的 GbE、10GbE 或 25GbE 等級鏈路規模來評估，而非僅以連接器數量為準。.
機械相容性
Orin Nano/NX 採用緊湊型 70 × 45 毫米模組規格，而 AGX 和 Thor 則需要不同的載板與散熱架構。.
JetPack · CUDA · TensorRT
根據硬體版本凍結 NVIDIA 軟體堆疊
JetPack 是生產平台的一部分，因為它整合了 Jetson Linux、CUDA、TensorRT、驅動程式、裝置樹以及受支援的模組生成功能。.
| 圖層 | 生產凍結 | 為何重要 |
|---|---|---|
| Jetson Linux / BSP | 發行分支、核心、裝置樹、驅動程式 | 控制相機、PCIe、USB、網路及電信業者相容性 |
| CUDA / TensorRT | 執行階段版本、運算子、引擎建置流程 | 可調整模型相容性、精確路徑及延遲 |
| 容器 | 基礎映像與應用程式依賴項 | 減少不同生產版本之間出現的意外執行時變更 |
| OTA / 恢復 | 更新套件、回滾與還原映像檔 | 防止更新導致已部署的單元無法恢復 |
超級模式 · nvpmodel · 持續功率
根據您實際部署的供電模式，選擇合適的載體與冷卻系統規格
| 模組 | 電源參考 | 設計的意義 |
|---|---|---|
| Orin Nano Super | 7 / 15 / 25 W 參考模式 | 25 瓦的運作需配備專為 Super 級持續負載設計的載波電源與散熱系統 |
| Orin NX Super | 10 / 15 / 25 / 40 W 參考模式 | 即使模組尺寸仍維持在 70 × 45 公釐，40 瓦模式仍會改變散熱及直流電源的需求 |
| AGX Orin 64GB | 15–60 瓦 | 載體、散熱器與外殼必須與所選的持續運作模式相符 |
| Jetson T5000 | 40–130 瓦 | 使該產品進入截然不同的供電與散熱等級 |
Jetson 遷移
僅在現有模組達到可量化的極限時才進行升級
| 當前模組 | 何時移動 | 下一步方向 |
|---|---|---|
| Orin Nano Super | 8 GB 記憶體或 67 稀疏 TOPS 已不再足夠 | Orin NX Super |
| Orin NX Super | 16 GB 記憶體、157 TOPS 或緊湊型載板 I/O 成為瓶頸 | AGX Orin |
| AGX Orin | 64 GB 記憶體、275 TOPS 或 Orin 世代軟體皆不足 | 傑森·索爾 |
| 傑森·索爾 | 130 W 級功率、模組化機械結構或 JetPack 7 遷移方案均不適用 | 重新評估平台架構 |
NVIDIA 平台評測
先傳送模型和感測器處理流程
請提供型號、精度、JetPack 目標、相機／感測器拓撲、記憶體需求、儲存空間、網路連線、電源模式、外殼、數量及生命週期。.
起跑台
從最接近所需 Jetson 模組的載板方向開始
| 起跑台 | 從這裡開始的最佳理由 | 釋放前先凍結 |
|---|---|---|
| NVIDIA Jetson Mini-ITX 載板 | 標準 Jetson 邊緣 AI 載板方向 | 模組、CSI/USB/網路配置、NVMe、電源、JetPack、散熱解決方案及硬體版本 |
| 客製化 Jetson 參考平台 | 標準載體的 I/O、感測器拓撲或機械結構不適用 | 資源地圖、載體物料清單、BSP、驗證範圍、熱路徑及生命週期管控 |
常見問題
NVIDIA Jetson 平台 常見問題解答
Jetson 的 TOPS 值越高，是否總是代表 FPS 越高？
不。精確度、稀疏性、對 TensorRT 的支援、模型運算子、記憶體流量、預處理、批次大小以及持續功耗，這些因素共同決定了實際吞吐量。.
什麼時候應該選擇 Orin NX 而不是 Orin Nano？
當 8 GB 記憶體、67 稀疏 TOPS 或 Nano 級並行處理能力成為瓶頸時，請考慮升級；此時，尺寸僅 70 × 45 mm 的緊湊型模組仍能完美適用。.
Thor 能否與 Orin TOPS 直接相提並論？
不。Thor 公布的 FP4 TFLOPS 與 Orin 的 INT8 TOPS 採用了不同的精確度指標。請比較實際模型、記憶體需求、延遲及功耗。.
在 Jetson 的生產過程中，哪些部分必須進行冷凍處理？
凍結模組、載板版本、JetPack/Jetson Linux 發行版、裝置樹、驅動程式、CUDA/TensorRT 版本、容器、電源模式、熱設計及恢復流程。.
探索 NVIDIA Edge 與嵌入式設計的實用心得
深入報導 Jetson 模組整合、即時 GPU 運算，以及跨越機器人、電腦視覺和自動基礎設施的實地測試 AI 部署策略，讓您保持領先。無論您是要建立下一個智慧工廠，或是在邊緣部署 AI，我們的部落格都能提供正確的知識。
