Agent连续重试烧钱:开发者给工具调用加四层止损
Agent调用外部工具时,最危险的故障往往不是模型答错,而是模型在工具持续失败后仍机械重试。提示词虽然写着“任务失败就重试”,模型也可能每次看到相同错误后继续认为下一次会成功。运行循环若没有明确停止条件,工具接口就可能从一次失败被放大成几十次调用。OpenRouter在2026年11月12日发布的一组可复现实验,展示了这种失控以及相应的防护方法。
实验故意设置了一个始终报错的发票查询工具。无防护的一次运行实际执行了41次相同调用,直到40步上限才结束;期间单轮输入从131个Token增长到3262个,后续调用因历史上下文不断重发而越来越贵。原文还记录到,模型有时已知工具不可用,仍继续请求同一张发票,说明只在提示词里写“不要重复”并不能替代运行时控制。
原文在六个当前模型上各运行三次,共18次对照。开启重复调用检测后,六个模型都在第三次相同调用处被拦截;全部测试的工具调用总数由314次降至64次,费用由0.29美元降至0.05美元。这个数字只适用于原文的SDK、模型、任务和短时测试,不能直接当成国内团队使用其他模型、框架或长上下文时能获得的固定节省比例,但它清楚证明了防护措施会改变运行结果。
第一层是重复调用检测。系统按工具名和参数生成指纹,先对JSON参数排序和规范化;再次看到相同调用时,不再执行工具,而是返回“重复调用不会改变结果,请改用其他方法或向用户说明”。原文的默认策略先观察,再阻止重复执行,随后停止整轮运行。团队也可以记录工具错误,要求模型在错误信息中明确下一步动作,而不是只回传模糊的超时信息。
第二层是参数归一化。精确匹配仍可能被模型绕过:原文观察到模型把发票号改成不同大小写、前缀或空格,或者附加空格和换行,看起来像新调用,实际仍在查同一张发票。对发票号、订单号这类业务主键,应提取数字部分或统一大小写、空格和前缀后再计算指纹;与业务对象无关的字段则不应进入指纹。轮询任务本来就需要重复查询,应明确关闭这类工具的重复检测,避免把正常轮询误判成死循环。
第三层是每次运行的步数和费用上限。重复检测只能识别相似调用,模型若每轮都换一种参数,它仍可能持续运行。因此还应同时限制最大步骤、最大Token或累计费用,并增加连续工具失败次数上限。原文给出的Python实现说明,这些逻辑并不依赖特定模型:运行循环自行记录每次工具调用、累计用量和失败数,触线后停止任务,并把“因成本上限终止”“因连续失败终止”等原因写入日志。上线前不能只设一个很大的步数上限;上限应从正常任务日志中的步数、单次成本和失败重试次数反推,并预留正常波动空间。
第四层是模型账户或API密钥额度。前三层都运行在自己的Agent进程里,代码有缺陷、发布时漏配参数,或许多会话各自都未超过单次上限时,仍可能累积成较高账单。OpenRouter原文展示了按API密钥设置额度、每个Agent或客户使用独立密钥的做法;额度在请求到达模型供应商前检查,超额请求会被拒绝。采用其他模型平台的国内团队,应核对相应控制台是否支持项目或密钥级日、月额度;若平台不支持,至少在自建网关或统一调用层做总额拦截,并让生产环境与测试环境使用不同凭据。
这项防护更适合已经交付Agent、编写自动化脚本或使用编程智能体的小团队。最小试点不需要购买OpenRouter产品:可以写一个只返回错误的本地发票工具,接上团队实际可调用、可付款的模型API,分别测试无防护、重复调用检测、参数归一化、单次上限和账户额度。记录正常请求被误杀的次数、失控运行总调用数、费用、人工接管次数以及任务是否成功,才知道这些上限应设在哪里。
如果团队正在给客户交付客服、查数、报表或代码修改等自动化任务,这套机制也可以成为现有交付清单的一部分:每个Agent都要说明何时重试、最多重试几次、单次最多花多少钱、谁在最终失败后接管,并把运行终止原因与客户可见结果区分开。它不是新的安全产品市场,也不是让小团队去卖一个通用熔断器;更现实的价值是减少夜间任务失控、保护报价毛利,并把故障从“账单异常”变成可定位、可复现的交付事件。
目前材料没有证明国内客户会单独采购这类防护服务,也没有证明六模型实验能迁移到所有国产模型。现有Agent框架往往已经提供迭代次数或递归上限,但这些通用参数不能自动替代业务级重复检测、费用上限和账户总额度。较稳妥的结论是:已有Agent业务应先把四层止损纳入内部上线门禁,再用真实任务日志确定阈值。