想知道如何最大化 RTX AI PC 的 AI 能力嗎？NVIDIA 推出的 AI 基礎模型將是您的關鍵！我們將深入探討這些模型的特性和應用，幫助您充分利用您的 AI PC。
CES—NVIDIA 今日宣布可在 NVIDIA RTX™ AI PC 本機執行的基礎模型，大幅提升數位人類、內容創作、生產力和開發能力。
這些模型以 NVIDIA NIM™ 微服務的形式提供，並由新的 GeForce RTX™ 50 系列 GPU 加速，其具備高達每秒 3,352 兆次 AI 運算效能和 32GB 的 VRAM。RTX 50 系列建立在 NVIDIA Blackwell 架構之上，是首款支援 FP4 運算的消費級 GPU，與前一代硬體相比，AI 推論效能提升 2 倍，並使生成式 AI 模型能夠在本機以更小的記憶體佔用空間執行。
GeForce™ 長期以來一直是 AI 開發者的重要平台。第一個 GPU 加速的深度學習網路 AlexNet 於 2012 年在 GeForce GTX™ 580 上訓練完成，而去年，超過 30% 的已發表 AI 研究論文引用了 GeForce RTX 的使用。
現在，透過生成式 AI 和 RTX AI PC，任何人都可以成為開發者。諸如 AnythingLLM、ComfyUI、Langflow 和 LM Studio 等新一代低程式碼和無程式碼工具，使愛好者能夠透過簡單的圖形使用者介面在複雜的工作流程中使用 AI 模型。
連接到這些 GUI 的 NIM 微服務將使存取和部署最新的生成式 AI 模型變得毫不費力。NVIDIA AI 藍圖 建立在 NIM 微服務之上，為數位人類、內容創作等提供易於使用、預先配置的參考工作流程。
為了滿足來自 AI 開發者和愛好者日益增長的需求，每家頂尖的 PC 製造商和系統組裝商都在推出搭載 GeForce RTX 50 系列 GPU 且支援 NIM 的 RTX AI PC。
NVIDIA 創辦人兼執行長黃仁勳表示：「AI 正以光速發展，從感知 AI 到生成式 AI，現在更是代理式 AI。NIM 微服務和 AI 藍圖為 PC 開發者和愛好者提供了探索 AI 魔力的建構模組。」
讓 AI 更靈活
基礎模型是在大量原始資料上訓練的神經網路，是生成式 AI 的建構模組。
NVIDIA 將針對 RTX AI PC 發布來自頂級模型開發商（如 Black Forest Labs、Meta、Mistral 和 Stability AI）的一系列 NIM 微服務。用例涵蓋大型語言模型 (LLM)、視覺語言模型、圖像生成、語音、用於檢索增強生成 (RAG) 的嵌入模型、PDF 提取和電腦視覺。
Black Forest Labs 執行長 Robin Rombach 表示：「搭載 FP4 運算的 GeForce RTX 50 系列 GPU 將釋放大量可以在 PC 上運行的模型，這些模型以前僅限於大型資料中心。使 FLUX 成為 NVIDIA NIM 微服務提高了 AI 可以被更多用戶部署和體驗的速度，同時提供令人難以置信的效能。」
NVIDIA 今天還宣布了 Llama Nemotron 系列開放模型，這些模型在廣泛的代理任務中提供高準確度。Llama Nemotron Nano 模型將作為適用於 RTX AI PC 和工作站的 NIM 微服務提供，並且擅長指令遵循、功能呼叫、聊天、編碼和數學等代理式 AI 任務。
NIM 微服務包括在 PC 上運行 AI 的關鍵組件，並針對跨 NVIDIA GPU（無論是在 RTX PC 和工作站還是在雲端中）的部署進行了優化。
開發者和愛好者將能夠快速下載、設定和運行這些在搭載 Windows Subsystem for Linux (WSL) 的 Windows 11 PC 上的 NIM 微服務。
微軟 Windows 公司副總裁 Pavan Davuluri 表示：「AI 正在快速推動 Windows 11 PC 的創新，而 Windows Subsystem for Linux (WSL) 為 Windows 11 上的 AI 開發提供了與 Windows Copilot Runtime 並行的絕佳跨平台環境。針對 Windows PC 優化的 NVIDIA NIM 微服務為開發者和愛好者提供了可立即整合到其 Windows 應用程式中的 AI 模型，進一步加速了 AI 功能向 Windows 用戶的部署。」
在 RTX AI PC 上運行的 NIM 微服務將與頂級 AI 開發和代理框架相容，包括 AI Toolkit for VSCode、AnythingLLM、ComfyUI、CrewAI、Flowise AI、LangChain、Langflow 和 LM Studio。開發人員可以透過行業標準端點將基於這些框架建構的應用程式和工作流程連接到運行 NIM 微服務的 AI 模型，使他們能夠在雲端、資料中心、工作站和 PC 上使用具有統一介面的最新技術。
愛好者還可以透過即將發布的 NVIDIA ChatRTX 技術演示來體驗一系列 NIM 微服務。
為代理式 AI 賦予形象
為了展示愛好者和開發者如何使用 NIM 來建構 AI 代理和助理，NVIDIA 今天預覽了 Project R2X，這是一個具備視覺功能的 PC 頭像，可以將資訊放在用戶的指尖，協助處理桌面應用程式和視訊會議通話、閱讀和總結文件等等。
該頭像是使用 NVIDIA RTX Neural Faces 渲染的，這是一種新的生成式 AI 演算法，透過完全生成的像素來增強傳統的光柵化。然後，臉部由一種新的基於擴散的 NVIDIA Audio2Face™-3D 模型進行動畫處理，該模型改善了嘴唇和舌頭的運動。R2X 可以透過 CrewAI、Flowise AI 和 Langflow 等開發框架連接到雲端 AI 服務，例如 OpenAI 的 GPT4o 和 xAI 的 Grok，以及 NIM 微服務和 AI 藍圖，例如 PDF 檢索器或其他 LLM。註冊 以獲取 Project R2X 的最新資訊。
AI 藍圖即將登陸 PC
PC 用戶也可以透過 AI 藍圖使用 NIM 微服務 - 參考 AI 工作流程，可以在 RTX PC 上本機運行。透過這些藍圖，開發人員可以從 PDF 文件建立 Podcast、生成由 3D 場景引導的精美圖像等等。
PDF to podcast 的藍圖從 PDF 中提取文字、圖像和表格，以建立可供使用者編輯的 Podcast 腳本。它還可以從腳本生成完整的錄音，使用藍圖中提供的聲音或基於用戶的聲音樣本。此外，用戶可以與 AI Podcast 主持人進行即時對話，以了解有關特定主題的更多資訊。
該藍圖使用 NIM 微服務，例如用於語言的 Mistral-Nemo-12B-Instruct、用於文字轉語音和自動語音辨識的 NVIDIA Riva，以及用於 PDF 提取的 NeMo Retriever 微服務集合。
用於 3D 引導生成式 AI 的 AI 藍圖 為藝術家提供了對圖像生成的更精細控制。雖然 AI 可以從簡單的文字提示生成驚人的圖像，但僅使用文字來控制圖像構圖可能具有挑戰性。透過此藍圖，創作者可以使用在 Blender 等 3D 渲染器中佈置的簡單 3D 物件來引導 AI 圖像生成。藝術家可以手動創建 3D 資產或使用 AI 生成它們，將其放置在場景中並設定 3D 視窗攝影機。然後，由 FLUX NIM 微服務驅動的預先封裝的工作流程將使用當前構圖來生成與 3D 場景匹配的高品質圖像。
NVIDIA NIM 微服務和 AI 藍圖將於 2 月開始提供，最初的硬體支援將適用於 GeForce RTX 50 系列、GeForce RTX 4090 和 4080，以及 NVIDIA RTX 6000 和 5000 專業 GPU。未來將支援更多 GPU。
支援 NIM 的 RTX AI PC 將由 Acer、ASUS、Dell、GIGABYTE、HP、Lenovo、MSI、Razer 和 Samsung，以及本地系統組裝商 Corsair、Falcon Northwest、LDLC、Maingear、Mifcon、Origin PC、PCS 和 Scan 提供。
加入 Tenten AI: Threads ，以了解有關 Nvidia, AI, NIM 微服務、AI Blueprint 和 RTX AI PC 如何加速生成式 AI 的更多資訊。
