工程 / 模型 / 网关
为浏览器智能体设计模型网关策略
Fan 团队
不同任务需要不同模型、权限和成本边界,网关策略让速度、质量和安全选择可配置。
为什么不能只配置一个模型
页面理解、短摘要、复杂规划和视觉分析的成本与延迟不同。统一网关可以按照能力、上下文长度、视觉支持和预算做路由。
运行时需要保持一致
主任务、上下文压缩、标题生成和视觉辅助请求必须看到同一会话的提供商、模型和凭据,避免任务中途串线。
实际使用建议
先为低风险读取设置快速模型,再为复杂规划和确认前复核设置更稳的模型;每周查看用量和失败记录,按真实任务耗时调整策略。