기술은 결코 멈추지 않으며, 우리도 마찬가지입니다
산업, 엣지 및 임베디드 시스템 환경에서 안정적으로 배포할 수 있도록 설계된 검증된 Mini-ITX 플랫폼입니다.
Jetson Orin Nano · Orin NX · AGX Orin · Jetson Thor
엣지 AI 및 로봇 공학을 위한 NVIDIA Jetson 플랫폼
AI 지표, 메모리, 센서 대역폭, JetPack 세대, 캐리어 보드 요구 사항, 전원 모드 및 지속 배포 제한을 기준으로 Jetson 플랫폼을 비교해 보세요.
- 오린 나노 슈퍼 · 67 TOPS8 GB · 최대 25 W
- 오린 NX 슈퍼 · 157 TOPS16 GB · 최대 40 W
- AGX Orin · 275 TOPS64 GB · 최대 60 W
제트슨 모듈 호환성
AI 파이프라인에서 병목 현상이 발생하는 부분을 기준으로 모듈을 선택하세요
제트슨을 선택할 때는 공개된 최고 연산 성능 수치가 아니라, 모델 메모리, 센서 부하, 실행 시간 및 지속 전력 소비량부터 고려해야 합니다.
| 제트슨 방향 | 참고 문헌 | 최고의 핏 | 다음과 같은 경우 한 단계 위로 이동하세요 |
|---|---|---|---|
| 오린 나노 8GB 슈퍼 | 67개 스파스 / 33개 덴스 INT8 TOPS · 8 GB · 102 GB/s | 소형 비전, 로봇 공학 및 경량화된 다중 모드 추론 | 메모리, 동시 파이프라인 또는 25W의 연산 상한선이 병목 요인이 된다 |
| 오린 NX 16GB 슈퍼 | 157 스파스 / 78 덴스 INT8 TOPS · 16 GB · 102 GB/s | 70 × 45 mm 모듈 등급에서 더 많은 동시 추론 처리 | 훨씬 더 많은 메모리, 센서 I/O 또는 AGX급 확장 기능이 필요합니다. |
| AGX Orin 64GB | 275 INT8 TOPS · 64 GB · 204.8 GB/s | 대규모 모델, 다중 센서 로봇 공학 및 고성능 엣지 시스템 | 64GB 또는 오린급 연산 성능으로도 여전히 부족하다 |
| 제트슨 토르 / T5000 | 2070 FP4 TFLOPS 스파스 · 128 GB · 273 GB/s | 물리 기반 AI, 휴머노이드 로봇공학 및 대규모 생성형 모델 | 40~130W의 출력이나 새로운 플랫폼 메커니즘이 이 제품에 적합하지 않습니다. |
INT8 · FP4 · 스파스 · 덴스
오린과 토르를 하나의 AI 번호로 통합하여 순위를 매기지 마십시오
Orin과 Thor는 서로 다른 공개된 정밀도 및 스파시티 기준을 사용합니다. 수치가 더 크다고 해서 애플리케이션 성능이 직접적으로 비교 가능한 수준으로 향상된다는 것을 의미하기보다는, 다른 워크로드 형식을 나타낼 수 있습니다.
| Metric | 참고 예시 | 방문객이 대신 비교해야 할 사항 |
|---|---|---|
| 스파스 INT8 TOPS | 오린 나노 슈퍼: 67 · 오린 NX 슈퍼: 157 | 목표 모델, 정밀도, 스파시티 지원, 배치 크기 및 지속 클럭 |
| 고밀도 INT8 상판 | 오린 나노 슈퍼: 33 · 오린 NX 슈퍼: 78 | 모델이 스파스 가속의 이점을 얻지 못하는 경우에 사용합니다. |
| FP4 TFLOPS | Jetson T5000: 2070 스파스 FP4 TFLOPS | Orin INT8 TOPS와 직접 비교하지 말고, 대상 모델과 런타임을 벤치마크하십시오. |
메모리 레지던시
모델 규모와 작업 기억력은 연산 능력보다 먼저 업그레이드를 필요로 할 수 있다
Jetson의 메모리는 운영 체제, GPU 워크로드, 모델 가중치, 프레임 버퍼, 컨테이너 및 애플리케이션 데이터가 공유하여 사용합니다. 따라서 실제로 사용 가능한 여유 용량은 명시된 모듈 용량보다 적습니다.
| 모듈 | 메모리 | 대역폭 | 일반적인 업그레이드 유발 요인 |
|---|---|---|---|
| 오린 나노 슈퍼 | 8GB LPDDR5 | 102 GB/s | 모델 가중치, 카메라 버퍼 및 런타임이 더 이상 안전한 여유 공간 내에 들어가지 않습니다. |
| 오린 NX 슈퍼 | 16GB LPDDR5 | 102 GB/s | 병렬 모델, 대용량 언어 모델(VLM) 또는 센서 파이프라인의 용량이 16GB를 초과합니다. |
| AGX Orin 64GB | 64GB LPDDR5 | 204.8 GB/s | 대규모 생성형 모델이나 다중 센서 워크로드는 더 많은 상주 용량과 대역폭이 필요합니다. |
| Jetson T5000 | 128GB LPDDR5X | 273 GB/s | 물리-AI 워크로드에는 훨씬 더 큰 모델 메모리와 컨텍스트 메모리가 필요합니다. |
제트슨 모듈 · 캐리어 계약
모듈은 리소스를 정의하고, 캐리어는 시스템이 무엇과 연결할 수 있는지를 정의합니다.
Jetson 모듈은 완성된 배포용 인터페이스 세트를 제공하지 않습니다. 캐리어 라우팅을 통해 카메라 입력, NVMe, 네트워킹, USB, CAN, 확장, 전원 및 외부 커넥터가 결정됩니다.
카메라 이동 경로
캐리어 선택에 앞서 CSI, GMSL 브리지, USB 또는 GigE 카메라, 동기화, 트리거, 센서 전원 및 드라이버 지원에 대해 정의해야 합니다.
저장 장치 및 PCIe
NVMe, 캡처, 모뎀 및 네트워크 장치를 모듈의 사용 가능한 레인에 매핑하고 공유 리소스 제한 사항을 확인하십시오.
네트워킹
센서 입력, 로깅 및 추론 출력 트래픽에서 발생하는 GbE, 10GbE 또는 25GbE급 링크의 크기를, 단순히 커넥터 수만 고려하는 것이 아니라 이를 기준으로 측정합니다.
기계적 호환성
Orin Nano/NX는 70 × 45 mm 크기의 소형 모듈을 사용하는 반면, AGX와 Thor는 다른 캐리어 및 열 설계가 필요합니다.
JetPack · CUDA · TensorRT
하드웨어 리비전에 맞춰 NVIDIA 소프트웨어 스택을 고정하기
JetPack은 Jetson Linux, CUDA, TensorRT, 드라이버, 디바이스 트리 및 지원되는 모듈 생성을 통합하므로 프로덕션 플랫폼의 일부입니다.
| 레이어 | 생산용 동결 | 중요한 이유 |
|---|---|---|
| Jetson Linux / BSP | 릴리스 브랜치, 커널, 디바이스 트리, 드라이버 | 카메라, PCIe, USB, 네트워킹 및 캐리어 호환성을 제어합니다. |
| CUDA / TensorRT | 런타임 버전, 연산자, 엔진 빌드 프로세스 | 모델 호환성, 정밀도 경로 및 지연 시간을 변경할 수 있습니다. |
| 컨테이너 | 기본 이미지 및 애플리케이션 종속성 | 프로덕션 버전 간에 발생하는 예기치 못한 런타임 변경을 줄여줍니다 |
| OTA / 복구 | 업데이트 패키지, 롤백 및 복구 이미지 | 업데이트로 인해 배포된 유닛을 복구할 수 없게 되는 것을 방지합니다 |
슈퍼 모드 · nvpmodel · 지속 출력
실제로 적용할 전원 모드에 맞춰 캐리어 및 냉각 장치의 규모를 결정하십시오.
| 모듈 | 전원 참조 | 디자인의 의미 |
|---|---|---|
| 오린 나노 슈퍼 | 7 / 15 / 25 W 기준 모드 | 25W 작동 시에는 슈퍼급 지속 부하에 맞춰 설계된 캐리어 전원 및 냉각 장치가 필요합니다. |
| 오린 NX 슈퍼 | 10 / 15 / 25 / 40 W 기준 모드 | 모듈의 크기는 70 × 45 mm로 동일하지만, 40W 모드로 전환하면 열 및 직류 전력 요구 사항이 달라집니다. |
| AGX Orin 64GB | 15–60 W | 캐리어, 방열판 및 인클로저는 선택한 지속 모드와 일치해야 합니다. |
| Jetson T5000 | 40–130 W | 해당 제품을 전력 및 냉각 측면에서 실질적으로 다른 등급으로 이동시킵니다. |
Jetson 마이그레이션
기존 모듈이 측정 가능한 한계에 도달했을 때만 업그레이드하십시오
| 현재 모듈 | 이동 시기 | 다음 방향 |
|---|---|---|
| 오린 나노 슈퍼 | 8GB 메모리나 67 스파스 TOPS로는 더 이상 충분하지 않다 | 오린 NX 슈퍼 |
| 오린 NX 슈퍼 | 16GB 메모리, 157 TOPS 또는 소형 캐리어 I/O가 병목 현상이 된다 | AGX 오린 |
| AGX 오린 | 64GB 메모리, 275 TOPS, 또는 Orin 세대 소프트웨어만으로는 부족하다 | 제트슨 토르 |
| 제트슨 토르 | 130 W급 전력, 모듈식 구조 또는 JetPack 7 마이그레이션은 적합하지 않습니다 | 플랫폼 아키텍처 재검토 |
NVIDIA 플랫폼 리뷰
모델 및 센서 파이프라인을 먼저 전송하세요
모델, 정밀도, JetPack 대상, 카메라/센서 토폴로지, 메모리 요구 사항, 저장 용량, 네트워킹, 전원 모드, 외장 케이스, 수량 및 수명 주기를 제공하십시오.
출발대
필요한 Jetson 모듈에 가장 가까운 캐리어 방향에서 시작하세요.
| 출발대 | 이곳에서 시작해야 할 가장 큰 이유 | 방출 전 정지 |
|---|---|---|
| NVIDIA Jetson Mini-ITX 캐리어 보드 | Jetson 엣지 AI 캐리어의 표준 사용 지침 | 모듈, CSI/USB/네트워크 맵, NVMe, 전원, JetPack, 열 관리 솔루션 및 하드웨어 릴리스 |
| 맞춤형 Jetson 레퍼런스 플랫폼 | 표준 캐리어 I/O, 센서 토폴로지 또는 기계적 구조가 적합하지 않음 | 리소스 맵, 캐리어 BOM, BSP, 검증 범위, 열 경로 및 수명 주기 관리 |
자주 묻는 질문
NVIDIA Jetson 플랫폼 자주 묻는 질문(FAQ)
Jetson TOPS 수치가 높을수록 항상 FPS도 더 높아지는 것일까요?
아니요. 정밀도, 스파스성, TensorRT 지원 여부, 모델 연산자, 메모리 트래픽, 전처리, 배치 크기 및 지속 출력이 실제 처리량을 결정합니다.
어떤 경우에 Orin Nano 대신 Orin NX를 선택해야 할까요?
8GB 메모리, 67 스파스 TOPS 또는 나노급 동시 처리 능력이 한계가 될 때, 여전히 70 × 45mm 크기의 소형 모듈 형식에 장착이 가능한 경우 이 제품을 선택하십시오.
토르를 오린 TOPS와 직접 비교할 수 있을까요?
아니요. Thor가 발표한 FP4 TFLOPS와 Orin의 INT8 TOPS는 서로 다른 정밀도 측정 기준을 사용합니다. 실제 모델, 메모리 요구량, 지연 시간 및 전력 소비량을 비교해 보세요.
제트슨 생산을 위해 무엇을 냉동해야 하나요?
모듈, 캐리어 리비전, JetPack/Jetson Linux 릴리스, 디바이스 트리, 드라이버, CUDA/TensorRT 버전, 컨테이너, 전원 모드, 열 설계 및 복구 프로세스를 고정하십시오.
NVIDIA 엣지 및 임베디드 설계를 위한 실용적인 인사이트 살펴보기
로봇 공학, 컴퓨터 비전, 자율 인프라를 아우르는 Jetson 모듈 통합, 실시간 GPU 컴퓨팅, 현장에서 검증된 AI 배포 전략에 대한 심층적인 내용을 통해 앞서 나가세요. 차세대 스마트 팩토리를 구축하든 엣지에 AI를 배포하든, 유니티 블로그는 올바른 배포를 위한 지식을 제공합니다.
-
LTE 대 4G: 차이점, 속도, 그리고 어느 쪽이 더 나을까?
LTE와 4G의 비교는 완전히 별개의 두 이동통신망을 비교하는 것이 아닙니다. 4G는 이동통신의 한 세대를 지칭하는 용어이며,…
-
산업용 프로젝트를 위한 Mini-ITX 마더보드 제조업체 10곳
산업용 또는 임베디드 프로젝트를 위해 Mini-ITX 마더보드 제조사들을 비교하고 있다면, 그 목적은 단순히…를 찾는 데 그치는 것이 아닙니다.
-
SCADA 대 PLC: 차이점, 아키텍처 및 하드웨어 위험
SCADA와 PLC를 비교할 때, 두 시스템의 핵심적인 차이는 기능적 측면에 있습니다. PLC는 기계 또는 공정 제어를…
