Agent Sandbox 从零开始 · 3.0
第 3 / 34 节 · 面向零基础读者

第 1 章:智能体为什么需要沙箱

从聊天到行动

普通聊天模型接收文字,返回文字。智能体在这个基础上,可以调用工具:读取文件、运行 Python、浏览网页、编辑仓库。一个常见循环是:收到目标,选择工具,执行工具,观察结果,决定下一步。

例如,你说“帮我分析本月支出”。模型可能决定读取 CSV 文件,再用 Python 求和,最后写出报告。模型产生的代码本质上仍是一份待执行的输入。执行程序接到它之后,才会产生真实的文件读写或网络请求。

关键区别是:模型提出动作,执行器完成动作。沙箱约束的是后者的能力。即使模型误判,执行器也应该把影响限制在预先允许的范围。

用练习厨房来理解

把智能体想成实习厨师:它会看菜谱,也可能看错步骤。沙箱像一个单独的练习厨房,只给它需要的食材、器具和时间。它不能因为说“我需要更多权限”就自动拿到整栋楼的钥匙。

类比也有边界。真正的沙箱靠操作系统、虚拟化或远程服务实施限制,不能只靠一句“请不要访问其他文件”。厨房墙壁对应技术边界,菜谱里的提醒对应行为约定,两者作用不同。

不只是防恶意代码

普通错误也会造成损失。例如循环不退出、临时文件占满磁盘、把原文件覆盖、依赖安装修改环境。沙箱还帮助你固定环境、控制成本、重复运行任务,并在结束后清理临时状态。

小练习:一个程序只需要给图片缩小尺寸。它是否需要读取你的浏览器目录?是否需要连接邮件服务?请分别写下“必须”和“不必”的能力。参考答案见附录。

本书包含示例与资料导读;验证范围和来源见附录。