NVIDIA 推出 Jetson Orin™ Nano Super：全球最具性價比的生成式 AI PC

NVIDIA Jetson Orin Nano Super以親民的價格，將強大的AI運算能力帶入更多領域，讓AI應用更普及。

Nvidia CEO - Jensen Huang 再次掀起 AI 領域的熱潮，推出全新 Jetson Orin Nano Super。這款小巧而強大的設備僅售 $249，擁有高達 70 萬億次運算性能（TOPS），為生成式 AI 和機器人應用提供了前所未有的可能性。讓我們深入探索這款令人驚艷的產品！

NVIDIA 的 $249 邊緣 AI 秘密武器：Jetson Orin Nano

如果你對 AI 和邊緣計算感興趣，那麼 NVIDIA 最新推出的 Jetson Orin Nano 絕對是值得關注的技術創新。憑藉 25 瓦的功耗和卓越的計算能力，這款小巧卻強大的單板電腦配備了 6 顆 ARM 核心和 1024 個 CUDA 核心，成為目前最具性價比的 AI 計算機。這款設備專為開發者和研究人員設計，能夠執行從生成式 AI 到機器人控制等多種高級應用。

Jetson Orin Nano Super：為生成式 AI 而生

Jetson Orin Nano Super 是 NVIDIA Jetson 系列的新成員

• 超高性能： 支援高達 70 萬億次運算性能，能夠執行複雜的深度學習和生成式模型。
• 全面支援： 適用於 CUDA、TensorRT 等 NVIDIA 的完整 AI 生態系統。
• 靈活應用： 不論是機器人、邊緣計算還是桌面 AI 應用，都能勝任。

Jetson Orin Nano Super：性能提升的邊緣 AI 解決方案

Jetson Orin Nano Super 是對現有 Jetson Nano 的升級，具備新的 25 瓦電源模式，性能提升高達 70%。此外，整個 Jetson 系列的支援將延續至 2032 年，這意味著它不僅是一款高性價比的開發工具，也是長期應用的穩定選擇。

這款開發套件包括以下三部分：

1. 塑膠底座： 提供穩定性與天線支撐。
2. Jetson 載板： 提供 I/O 連接功能。
3. Jetson 模組： 包含主要的計算與記憶體元件。

Jetson Orin Nano Super 的尺寸僅有 45 x 69.6 毫米，接近信用卡大小，內部卻集成了強大的 NVIDIA Tegra Orin SoC（系統級芯片），包括 6 核 ARM Cortex-A78 處理器、1024 CUDA 核心、32 個第三代 Tensor Core，以及 8GB LPDDR5 記憶體，傳輸速率提升至 102GB/s。

硬體設計與連接選項

Orin Nano Super 的硬體設計注重性能與靈活性：

• GPIO 接頭： 提供類似 Raspberry Pi 的 40 Pin 接頭，支援 UART、SPI、I²C 等功能。
• 多個 M.2 插槽： 提供擴展能力，包括預裝的無線卡和 PCIe 3.0 支援。
• 完整的 I/O 接口： 包括 19V 電源輸入、DisplayPort、USB 3.2 Gen 2、千兆以太網，以及 USB Type-C。

它還支援多種電源模式（7 瓦、15 瓦和 25 瓦），根據應用需求靈活切換。

軟體支援與開發工具

Orin Nano Super 採用最新的 JetPack 6.1 軟體包，內含豐富的工具與庫，例如：

• TensorRT 和 DeepStream SDK：適用於深度學習推理與流媒體處理。
• OpenCV 和 Isaac SDK：專為電腦視覺與機器人開發設計。

通過 JetPack 升級，現有的 Jetson Nano 開發套件也能升級為 Super，進一步延長設備的使用壽命。

Jetson Orin Nano：邊緣 AI 的未來

當提到 NVIDIA，大多數人會想到它的 GPU 無論是用於遊戲、機器學習還是超級計算。然而，Jetson Orin Nano 的定位截然不同。它專為邊緣 AI 設計，將計算能力帶到靠近數據源的地方，適合用於機器人、無人機、攝像頭和其他需要本地處理的應用場景。

這款設備外形緊湊，類似於高配版的 Raspberry Pi，但性能卻大幅超越。內置的 1024 CUDA 核心和 8GB RAM 使其成為進行 AI 實驗和開發的理想平台。重要的是，其價格僅為 $249，讓更多開發者可以接觸到邊緣 AI 技術。

重新定義機器人計算

Jetson Orin Nano Super 的誕生可追溯至 NVIDIA 早期推出的 Exavier 處理器，這是一款專為機器人開發的全新型態處理器。如今，隨著深度學習技術的進步，各式各樣的機器人應運而生，包括輪式機器人、兩足和多足機器人，甚至是接近真人的仿生機器人。

Jetson Orin Nano Super 的強大性能使其成為這些應用的核心支柱：

• 多功能應用： 從控制機器人的運動，到處理感測數據，再到實現決策與規劃，均表現出色。
• 低功耗高效能： 僅 25 瓦功耗即可驅動生成式 AI 模型，例如大型語言模型（LLM）。

更廣泛的應用場景

除了機器人，Jetson Orin Nano Super 還能用於其他多種場景：

• 桌面 AI 工作站： 適合開發者執行 AI 訓練與推理工作。
• 邊緣計算： 支援 IoT 設備，處理本地數據。
• 教育與研究： 提供穩定的開發環境，適合教學與學術用途。

Jetson Orin Nano Super 實測

AI 應用：實現本地 LLM 運行

Jetson Orin Nano Super 的性能使其能夠運行大型語言模型（LLM），例如 LLaMA 3.2。測試顯示：

• 3 億參數版本： 使用約 72% 記憶體，能快速生成文本，適合處理一般應用。
• 更大模型支持： 雖需進一步優化，但其穩定性和效率表現優異。

這種離線運行能力對於需要本地 AI 處理的場景（如無人機、物聯網設備）尤其重要。

邊緣 AI 應用案例：車道監控系統

為了測試 Orin Nano 的實際應用性能，我們搭建了一個車道監控系統。該系統使用了 YOLOv8 物體檢測模型，能夠實時分析安全攝像頭的視頻畫面，識別進出車輛。

1. 模型與數據處理： YOLO 是一種快速且準確的物體檢測模型，能夠一次性處理整個畫面。通過預訓練數據集，YOLO 可輕鬆識別汽車、卡車等目標。
2. 本地處理優勢： 使用 Orin Nano 的 GPU，該系統能以每秒數幀的速度處理視頻流，並實現目標識別、跟蹤和通知。
3. 通知系統： 當車輛進入或離開時，系統通過語音模組進行提示。這種即時反應大大提高了實用性。

運行大型語言模型的能力

除了物體檢測，Orin Nano 還展示了運行大型語言模型（如 LLaMA 3.2）的潛力。通過安裝和配置 AI 模型，我們測試了 Orin Nano 的本地推理能力，並取得了令人印象深刻的結果。

• 性能測試： Orin Nano 能以每秒 21 個 token 的速度生成文本，儘管不如高端工作站快速，但其效率已足以滿足基本應用需求。
• 對比分析： 與高性能的 M2 Mac Pro Ultra 相比，Orin Nano 的性能約為其五分之一，但考慮到其小型化和低功耗設計，這一表現非常出色。

廣泛的生成式人工智慧軟體生態系統和社區

生成式人工智慧正在迅速發展。 NVIDIA Jetson AI 實驗室為來自開源社群的尖端模型提供即時支持，並提供易於使用的教學。開發人員還可以獲得更廣泛的Jetson 社群的廣泛支持，並從開發人員創建的專案中獲得靈感。

Jetson 運行 NVIDIA AI 軟體，包括用於機器人技術的NVIDIA Isaac 、用於視覺 AI 的NVIDIA Metropolis以及用於感測器處理的NVIDIA Holoscan 。透過用於產生合成資料的NVIDIA Omniverse Replicator 和用於微調NGC 目錄中的預訓練 AI 模型的NVIDIA TAO 工具包，可以縮短開發時間。

結語：AI 技術的平民化

Jetson Orin Nano 是一款價格合理、性能卓越的邊緣 AI 開發工具。其定價策略也是讓生成式 AI 走向普及的重要一步。無論是進行車道監控這類實用應用，還是探索大型語言模型的本地運行，這款設備都展現了其強大的靈活性和計算能力。親民的價格使開發者和研究人員能以更低的門檻探索前沿技術。

對於那些需要本地 AI 計算的開發者和研究人員，Jetson Orin Nano 提供了一種低成本、高效率的選擇。在未來，這種邊緣 AI 設備將在物聯網、機器人和其他應用領域發揮更大的作用。

如果你對 Jetson Orin Nano 感興趣，不妨親自試試，探索它的無限可能！

• NVIDIA Jetson Orin Nano Super Developer Kit - 規格表下載
• Nvidia - Jetson Orin Nano 超級開發套件

NVIDIA Jetson Orin Nano Super Developer Kit Spec

注意：請參閱最新版《NVIDIA Jetson Linux 開發人員指南》的「軟體功能」部分，以取得支援功能的清單。