进阶 📋 6 个步骤 第 333 / 470 篇

Perplexity × NVIDIA Portable Computer:零 Token 成本本地 Agent 平台,数据不出设备

8 月 25 日 Perplexity 联合 NVIDIA 推出 Portable Computer:模型、文件处理、工具调用与工作流全部在 NVIDIA 驱动的 Linux 硬件(如 DGX Spark)上本地运行,本地任务零 Token 费用、数据默认留在设备,需要更强能力时先征求许可再升级云端。本教程讲架构、部署与选型。

2026.08.26· 15 分钟阅读· 约 1946 字

云端 Agent 好用,但账和隐私一直让人嘀咕:Token 成本飘忽不定,核心数据却要上传到别人服务器。8 月 25 日,Perplexity 联合 NVIDIA 给出了一个新答案——「Portable Computer」:一个完全本地运行的 Agent 平台,模型、文件处理、工具调用、工作流全在 NVIDIA 驱动的 Linux 硬件(如 DGX Spark)上跑,本地任务零 Token 费用,数据默认留在设备上;只有当任务需要更强能力时,系统才会先征求你的许可,再升级到云端模型。本教程带你拆解它的设计与落地路径。

🖥️ 本教程适合:关注数据主权与成本可控的开发者、想搭私有化 Agent 工作流的技术负责人。需要一点 Linux / Docker 基础。

先搞懂:本地 Agent 为什么现在才「跨过门槛」

本地跑 AI 不是新鲜事,难的是把「本地 + 工具调用 + 工作流 + 多任务」串成一个好用平台。Portable Computer 的三层设计:

层作用关键点
模型层本地推理开源模型(如 Nemotron 系)在本地硬件上跑
执行层文件处理 / 工具调用 / 工作流Agent 能真正「干活」而不只是聊天
升级闸门必要时升云端先征求用户许可,成本与隐私由用户掌控

一句话总结它的卖点:可预测的成本结构 + 更强的数据主权。这也是它在「万亿美元数据中心叙事」之外,给本地 AI 的一次重要表态——本地 Agent 已经跨过实用性门槛。

Step 1:确认你的硬件与运行环境

1 先有「电脑」,再谈「便携」
Portable Computer 运行在 NVIDIA 驱动的 Linux 硬件上,
典型平台:DGX Spark(桌面级 AI 工作站)等
要求:
· NVIDIA GPU(驱动已装好)
· Linux 系统(Ubuntu 等主流发行版)
· 足够内存/显存跑你选的模型
  (开源模型规模从 7B 到 70B+ 不等)

没有现成硬件?
· 先在云上租一台带 NVIDIA GPU 的 Linux 实例
  (如 A 系列/4090 档位)体验流程
· 确认工作流顺了,再决定是否采购本地硬件
  ——这是成本最低的试错路径。
💡 参考《Ollama 本地部署》的经验:模型选型直接影响体验。端侧/桌面级硬件优先选 7B-30B 档模型,追求「能跑 + 够用」而非「最大参数」。本地模型部署的更多细节可看本中心《本地大模型 Ollama 接入 Agent》。

Step 2:安装平台与模型

2 一条链路装齐
官方安装路径(以官方文档为准):
1. 在 Linux 上安装 Portable Computer 运行时
   (Perplexity 提供安装脚本 / 容器镜像)
2. 拉取并配置开源模型
   ——支持 Nemotron 等 NVIDIA 系开源模型,
   也可选你偏好的开源权重
3. 初始化工作区:挂载你的文件目录
   ——本地文件处理、工具调用都在这里发生

安装完成后跑一个「hello 任务」:
让 Agent 读取本地一个文件并总结,
确认模型 + 工具链 + 文件访问都通。

本地 ≠ 一定安全:数据不出设备降低了外泄风险,但设备本身的安全(磁盘加密、权限管理、备份)现在完全由你自己负责——这是数据主权的另一面。

Step 3:跑通第一个本地 Agent 工作流

3 零成本干第一件实事
建议从「文档处理类」任务起步(本地强项):
· 批量整理文件夹:重命名、归类、生成索引
· 本地文档问答:把资料丢进工作区,
  让 Agent 基于本地文件回答
· 定时工作流:每天读取本地数据,
  生成日报/周报,全程不产生 Token 费用

示例任务:
「把 ~/invoices 下的 PDF 发票按月份分类,
 生成一份汇总表到 ~/reports」

感受两个点:
1. 速度与质量:本地模型够不够用?
2. 成本:全程 0 Token 费用的体验
💡 本地任务的「零成本」来自不联网计费——但要注意,硬件电费、折旧也是成本。算总账时把硬件摊销算进去,才是真实的「本地成本」。

Step 4:理解「许可式云端升级」

4 本地兜底,云端救急

Portable Computer 不是「纯本地一刀切」:当任务需要更强能力(复杂推理、更大模型、实时联网)时,系统会先征求你的许可,再升级到云端模型。这解决了「本地模型能力不足」的最大痛点。

工作方式:
1. 任务到达 → 先尝试本地执行
2. 本地模型判断能力不足 / 任务超纲
   → 弹窗询问:是否升级云端?
3. 你同意 → 走云端模型,按云端计费
   你拒绝 → 保持本地,或任务降级处理

这意味着:
· 日常任务成本锁定为 0
· 关键时刻的能力上限没有天花板
· 每次「出网」都由你点头——成本可控、隐私可审

把「许可」当成预算闸门:云端升级是按量计费,频率越高账单越贵。建议给「升级请求」也设一个心理预算——比如每天最多允许 N 次云端升级,超了就走纯本地模式。

Step 5:算一笔本地 vs 云端的成本账

5 别只看单价,看总成本
成本项云端 Agent本地(Portable Computer)
Token 费用按量,随用量波动本地任务 0;云端升级按量
硬件投入无(租用)DGX Spark 等一次性采购 + 摊销
数据外发默认上传云端默认不出设备
运维平台托管自己升级驱动/模型/备份
能力上限顶级模型随用随有本地模型 + 许可式升级
💡 经验法则:高频率、可预测、数据敏感的任务适合本地;低频、超难、要最新信息的任务适合云端。大部分团队是混合形态——本地为主、云端救急,成本曲线最平滑。

Step 6:选型对照——你适合哪条路

6 对照清单,对号入座
适合 Portable Computer 的人:
□ 数据敏感:客户资料、财务、研发代码不想出内网
□ 用量大而稳定:每天都在跑 Agent,Token 账单很高
□ 有 Linux 硬件/NVIDIA 设备,愿意自己运维
□ 想要「成本可预测」的固定开销

可能更适合云端/其他方案的人:
□ 没有本地硬件、也不想折腾运维
□ 任务要最新联网信息(本地模型需配合升级闸门)
□ 用量小、波动大——云端按量反而更划算
□ 需要顶级模型稳定输出——参考《本地隐私优先 Agent》
  的思路做分层:敏感任务本地,其余云端

方法论可对照《Agent Harness 选型指南》:
先盘你的数据敏感度与成本结构,再选平台。
🎉 至此你已完整理解 Portable Computer 的定位:它是「本地优先 + 许可式云端」的代表性产品,也是数据主权与成本可控这条路线的一次重要落地。硬件条件允许时,值得用它跑一个月,把真实成本与体验量化出来再决策。

常见问题速查

你遇到的现象大概率原因 & 解决
本地模型回答质量不够换更大模型(内存够的话);或接受「本地兜底 + 云端救急」的混合模式
云端升级请求太频繁把高频任务拆成更适合本地模型的子任务,减少超纲场景
不确定自己适不适合先用云 GPU 实例跑一周模拟,量化用量后再决策硬件投入
设备数据安全担心启用磁盘加密、最小权限账号、定期备份——数据主权也包括本地防线
← 返回教程中心