智能体的关键能力不是输出任务计划,而是把计划转化为有边界、可追踪的操作。连接ERP或办公系统时,应先确定哪些步骤允许自动完成,哪些步骤必须由业务人员确认。财务付款、账号授权和人事决定不适合只凭模型判断执行。
把工具当作独立接口管理
每个工具应有明确输入、输出、超时和错误类型。查询与修改操作分开;在业务后端校验用户权限、字段范围和状态。对工具描述中的自然语言限制,还要设置服务端规则,不能只靠提示词保证。
长任务保存检查点
记录任务标识、计划版本、已完成步骤和需要人工处理的节点。网络超时后先查询执行结果,再决定是否重试;创建订单、发邮件等动作使用幂等键,避免恢复任务时重复产生副作用。
限制执行循环
设置最大步骤数、总耗时和费用预算。遇到反复调用同一工具、缺少参数或互相矛盾的数据时暂停并交给人处理。工具返回的网页、附件和数据库备注应视为数据,不得直接提升为执行指令。
从只读助手逐步开放写操作
先验证任务分解与查询结果,再开放低风险动作。测试工具不可用、会话过期、重复回调和执行中取消。上线日志应能还原谁发起任务、调用了什么和最终结果,而不仅记录模型的解释。
参考资料
任务执行前后怎样核对
查询库存与修改库存应使用不同工具;涉及写入时先展示对象、数量和操作理由。
执行后读取业务记录核实结果。接口超时先查询任务状态,不直接重试,防止重复写入。
例如创建订单超时,先按任务编号查询订单是否已产生,再决定重试,防止同一需求生成两张订单。