云端 Agent 好用,但账和隐私一直让人嘀咕:Token 成本飘忽不定,核心数据却要上传到别人服务器。8 月 25 日,Perplexity 联合 NVIDIA 给出了一个新答案——「Portable Computer」:一个完全本地运行的 Agent 平台,模型、文件处理、工具调用、工作流全在 NVIDIA 驱动的 Linux 硬件(如 DGX Spark)上跑,本地任务零 Token 费用,数据默认留在设备上;只有当任务需要更强能力时,系统才会先征求你的许可,再升级到云端模型。本教程带你拆解它的设计与落地路径。
先搞懂:本地 Agent 为什么现在才「跨过门槛」
本地跑 AI 不是新鲜事,难的是把「本地 + 工具调用 + 工作流 + 多任务」串成一个好用平台。Portable Computer 的三层设计:
| 层 | 作用 | 关键点 |
|---|---|---|
| 模型层 | 本地推理 | 开源模型(如 Nemotron 系)在本地硬件上跑 |
| 执行层 | 文件处理 / 工具调用 / 工作流 | Agent 能真正「干活」而不只是聊天 |
| 升级闸门 | 必要时升云端 | 先征求用户许可,成本与隐私由用户掌控 |
一句话总结它的卖点:可预测的成本结构 + 更强的数据主权。这也是它在「万亿美元数据中心叙事」之外,给本地 AI 的一次重要表态——本地 Agent 已经跨过实用性门槛。
Step 1:确认你的硬件与运行环境
Portable Computer 运行在 NVIDIA 驱动的 Linux 硬件上,
典型平台:DGX Spark(桌面级 AI 工作站)等
要求:
· NVIDIA GPU(驱动已装好)
· Linux 系统(Ubuntu 等主流发行版)
· 足够内存/显存跑你选的模型
(开源模型规模从 7B 到 70B+ 不等)
没有现成硬件?
· 先在云上租一台带 NVIDIA GPU 的 Linux 实例
(如 A 系列/4090 档位)体验流程
· 确认工作流顺了,再决定是否采购本地硬件
——这是成本最低的试错路径。
Step 2:安装平台与模型
官方安装路径(以官方文档为准):
1. 在 Linux 上安装 Portable Computer 运行时
(Perplexity 提供安装脚本 / 容器镜像)
2. 拉取并配置开源模型
——支持 Nemotron 等 NVIDIA 系开源模型,
也可选你偏好的开源权重
3. 初始化工作区:挂载你的文件目录
——本地文件处理、工具调用都在这里发生
安装完成后跑一个「hello 任务」:
让 Agent 读取本地一个文件并总结,
确认模型 + 工具链 + 文件访问都通。
本地 ≠ 一定安全:数据不出设备降低了外泄风险,但设备本身的安全(磁盘加密、权限管理、备份)现在完全由你自己负责——这是数据主权的另一面。
Step 3:跑通第一个本地 Agent 工作流
建议从「文档处理类」任务起步(本地强项):
· 批量整理文件夹:重命名、归类、生成索引
· 本地文档问答:把资料丢进工作区,
让 Agent 基于本地文件回答
· 定时工作流:每天读取本地数据,
生成日报/周报,全程不产生 Token 费用
示例任务:
「把 ~/invoices 下的 PDF 发票按月份分类,
生成一份汇总表到 ~/reports」
感受两个点:
1. 速度与质量:本地模型够不够用?
2. 成本:全程 0 Token 费用的体验
Step 4:理解「许可式云端升级」
Portable Computer 不是「纯本地一刀切」:当任务需要更强能力(复杂推理、更大模型、实时联网)时,系统会先征求你的许可,再升级到云端模型。这解决了「本地模型能力不足」的最大痛点。
工作方式:
1. 任务到达 → 先尝试本地执行
2. 本地模型判断能力不足 / 任务超纲
→ 弹窗询问:是否升级云端?
3. 你同意 → 走云端模型,按云端计费
你拒绝 → 保持本地,或任务降级处理
这意味着:
· 日常任务成本锁定为 0
· 关键时刻的能力上限没有天花板
· 每次「出网」都由你点头——成本可控、隐私可审
把「许可」当成预算闸门:云端升级是按量计费,频率越高账单越贵。建议给「升级请求」也设一个心理预算——比如每天最多允许 N 次云端升级,超了就走纯本地模式。
Step 5:算一笔本地 vs 云端的成本账
| 成本项 | 云端 Agent | 本地(Portable Computer) |
|---|---|---|
| Token 费用 | 按量,随用量波动 | 本地任务 0;云端升级按量 |
| 硬件投入 | 无(租用) | DGX Spark 等一次性采购 + 摊销 |
| 数据外发 | 默认上传云端 | 默认不出设备 |
| 运维 | 平台托管 | 自己升级驱动/模型/备份 |
| 能力上限 | 顶级模型随用随有 | 本地模型 + 许可式升级 |
Step 6:选型对照——你适合哪条路
适合 Portable Computer 的人:
□ 数据敏感:客户资料、财务、研发代码不想出内网
□ 用量大而稳定:每天都在跑 Agent,Token 账单很高
□ 有 Linux 硬件/NVIDIA 设备,愿意自己运维
□ 想要「成本可预测」的固定开销
可能更适合云端/其他方案的人:
□ 没有本地硬件、也不想折腾运维
□ 任务要最新联网信息(本地模型需配合升级闸门)
□ 用量小、波动大——云端按量反而更划算
□ 需要顶级模型稳定输出——参考《本地隐私优先 Agent》
的思路做分层:敏感任务本地,其余云端
方法论可对照《Agent Harness 选型指南》:
先盘你的数据敏感度与成本结构,再选平台。
常见问题速查
| 你遇到的现象 | 大概率原因 & 解决 |
|---|---|
| 本地模型回答质量不够 | 换更大模型(内存够的话);或接受「本地兜底 + 云端救急」的混合模式 |
| 云端升级请求太频繁 | 把高频任务拆成更适合本地模型的子任务,减少超纲场景 |
| 不确定自己适不适合 | 先用云 GPU 实例跑一周模拟,量化用量后再决策硬件投入 |
| 设备数据安全担心 | 启用磁盘加密、最小权限账号、定期备份——数据主权也包括本地防线 |