过去一段时间，我们评价 AI 的方式正在悄悄变化。
最初的问题通常是：它能不能写出一段通顺的话？后来变成：它能不能给出一个正确的答案？而现在，越来越多的人开始把完整任务交给 Agent，让它读文件、调用工具、修改代码、部署服务，最后交付一个可以运行的结果。
问题也随之改变。当 Agent 开始完成任务，仅仅「做出来了」已经不够。
从回答质量到交付质量
回答是一段文本，交付则是一组可以被检查的事实。
一个页面是否真的能打开，一个脚本是否在失败时退出，一次修改是否影响其他功能，这些都不能只靠模型的自我描述来判断。Agent 需要把测试、日志、截图、diff 和运行状态一起带回来。
这也是我对「可验证性」越来越感兴趣的原因。它不是一个附加功能，而是 Agent 产品的基础结构。
可信不是模型说「我完成了」，而是使用者可以沿着证据自己确认「它确实完成了」。
三个更值得追问的方向
第一，失败是否可见。好的系统不是从不失败，而是失败时能说清楚发生了什么、影响范围在哪里、下一步怎么处理。
第二，权限是否与风险匹配。读取文件和重写生产数据库不应该拥有同样的自由度。高风险动作需要明确的人为确认，而不是依赖模型临场判断。
第三，经验是否能够沉淀。一次成功的任务不应该只留下结果，还应该留下可以复用的流程、提示词、检查清单和边界条件。
产品会被重新分层
如果 Agent 能完成越来越多执行工作，产品之间的差异可能不再只来自「模型更聪明」。
真正的差异会出现在更朴素的地方：上下文如何组织，工具是否可靠，状态是否透明，失败能否恢复，以及人类在什么时候介入。
这些问题没有单一答案，但它们比追逐下一次模型更新更值得持续观察。
参考文献
- Anthropic. Building effective agents. 2024.
- OpenAI. A practical guide to building agents. 2025.
- 本文为个人观察与产品思考，不构成对任何具体产品的评价。