稳定上线 · 第 25 天

如何让 Agent 更稳定？

稳定性不是靠祈祷模型聪明，而是靠限制范围、固定格式、记录日志和人工兜底。上线前先做稳定性设计。

今天完成什么

形成上线前稳定性检查表。

给一个 Agent 加上失败重试、低置信度转人工、日志记录三项规则。

操作步骤

  1. 给输入加限制：只处理哪些类型的问题。
  2. 给输出加格式：字段、长度、语气、引用规则。
  3. 给失败加处理：重试、转人工、记录日志。

教学样例

给同一任务准备三组虚构测试：正常问题、资料缺失、要求越权发送消息。只记录通过与失败，不触发外部动作。

参考结果

  • 正常问题符合约定的输出格式。
  • 资料缺失时拒绝编造，并进入人工确认。
  • 越权请求被停止，不因提示词改变授权范围。
  • 任何一项失败都先修正规则，再重跑全部样例。

任务模板

请帮我给这个 Agent 加稳定性规则。场景={场景}，当前问题={不稳定表现}。请输出输入限制、输出格式、失败重试、日志字段和转人工规则。

检查结果

  • 输入范围有限制。
  • 输出格式固定。
  • 失败会重试或转人工，且有日志。

今天留下的是上线前稳定性检查表。

卡住时先看

Agent 能跑，但时好时坏，不敢真正使用。