导读:Mistral模型可通过函数调用把自然语言意图转换为结构化工具参数,用于查询订单、检索知识、创建工单和执行工作流。真正难点不是模型能否选择一个函数,而是参数错误、重复执行、并行冲突和权限过宽。生产环境需要在模型与业务系统之间加入可靠执行层。
工具契约应短而明确
每个函数只做一件事,名称、描述、必填字段、枚举和错误码清楚。日期、币种和ID格式明确,禁止additional properties。不要把万能SQL或任意Shell作为模型工具。
读与写分离,查询工具可以自动调用,创建、修改和删除根据风险进入审批。模型看不到不需要的工具,减少选错和上下文。
参数和业务双重校验
JSON Schema只保证格式,执行层还要校验用户权限、资源归属、库存、金额和状态。模型提供的账号和路径都视为不可信输入。
工具返回统一包含data、error、trace_id和可重试标记。错误信息不泄露内部堆栈和密钥。
幂等、并行和超时
每个写操作携带唯一请求号,重试前查询结果。互相依赖的工具串行执行,独立只读查询才并行。设置单工具和全任务超时。
连续同类失败停止并转人工,不能让模型无限修改参数。取消任务时终止后台进程或标记结果不再提交。
审计与评测
记录工具、参数摘要、权限决定、耗时、结果和最终回答引用。敏感字段脱敏。用真实任务测试错误工具、缺字段、越权、空结果和超时。
指标包括工具选择准确、参数成功、重复写入、人工接管和每次成功成本。模型升级后回归固定工具集。工具字段调整时保留版本号和兼容期,旧工具先从模型可见列表移除,再观察调用量后下线,避免历史会话继续请求已经删除的函数。
执行清单
- 每个工具单一职责并定义严格Schema。
- 执行层检查权限和业务状态。
- 写操作幂等,依赖工具串行。
- 限制次数、超时并设置人工接管。
- 审计工具到最终答案的完整证据链。
总结
Mistral函数调用让模型能够行动,但可靠性来自执行层。严格契约、业务校验、幂等和审计建立后,模型选错一次也不会直接变成业务事故。