Weave Router /beta车道实战:一条指令让整个会话切入Beta策略
Weave Router /beta车道实战一条指令让整个会话切入Beta策略【免费下载链接】routerModel router for agentic systems. Routes every prompt to the right model in 50ms. Cut costs 40-70% with just an endpoint change.项目地址: https://gitcode.com/GitHub_Trending/router101/routerWeave Router 是一款为 Agent 系统设计的模型路由网关能把每个请求在 50ms 内路由到最合适的模型。它内置了一条隐藏的Beta 路由车道在任意 AI 编程客户端里输入/beta这一条指令当前会话的后续请求就会全部切换到独立部署的 Beta HMM 路由策略上无需重启、无需改配置。本文带你从零看懂这条车道的工作原理、使用方法和安全机制。什么是 /beta 车道Weave Router 默认使用稳定版stable路由策略为你的请求选模型。而在稳定车道之外部署方可以额外挂一个独立部署的 Beta HMM 策略 sidecar——它可能加载了一套候选的新策略包、新的模型花名册roster或不同的聚类划分用来做真实流量下的实验。关键定义在策略枚举中hmm_beta策略仅由会话级的/beta开关选中且永远不会成为部署默认值。也就是说✅ 每个会话可以用一条指令主动加入Beta 车道✅ 每个安装installation也可以被管理面板整体固定到 Beta 车道❌ 它绝不能被设为全局默认——坏掉的 Beta 车道不可能拖垮稳定路由 简单理解稳定车道是主干道Beta 车道是试验田。你随时可以拐进去体验新策略也随时可以一键拐回来。三步上手 /beta 指令1️⃣ 在客户端输入 /beta只要你用的是已接入 Weave Router 的客户端Claude Code、Codex、opencode、pi 等在对话中直接发送/beta即可。Claude Code安装脚本会自动写入 install/commands/beta.md 斜杠命令pi 客户端由官方扩展转发这条指令见 install/pi-router/src/beta.ts其他客户端直接把/beta作为一条用户消息发出去⚠️ 注意/beta是纯开关指令不能带参数。发送/beta status这类写法会收到用法提示指令不会生效。2️⃣ 查看路由器的确认回复路由器会立即返回一条带 ✦ 前缀的合成回复这条回复不消耗上游 token回复内容含义Beta enabled. Type /beta again to turn it off.✅ Beta 已开启本会话进入 Beta 车道Beta disabled. Stable routing restored.已关闭稳定路由恢复Beta is unavailable for this session.本部署未启用 Beta 车道或请求缺少会话标识Beta is always on for this installation; /beta has no effect.整个安装已被固定到 Beta 车道开关无效Usage: /beta指令格式错误带了参数或尾部文字3️⃣ 再发一次 /beta 即可切回再输入一次/beta就恢复到稳定路由整个过程对正在进行的对话零中断。一条指令背后发生了什么整个过程完全由路由器服务端接管/beta指令本身永远不会被转发给上游模型。核心逻辑在 internal/proxy/beta.go解析请求进入时路由器从最后一条用户消息中提取开头的/beta前缀解析器见 internal/translate/beta.go并把它从消息体中剥离原子翻转会话的 Beta 偏好被持久化到数据库迁移定义见 db/migrations/0070_session-strategy-preferences.up.sql数据库约束只允许hmm_beta这一个值。写入是原子的——即使两条/beta命令并发到达也不会基于同一份旧状态做出相反判断清理旧状态切换成功后本线程在旧策略下积累的路由钉子session pin即会话内已锁定模型的缓存会被立即作废避免新旧策略互相污染后续请求生效此后该会话的每个请求都带着 Beta 策略上下文走路由由独立的 Beta 策略包逐请求挑选模型两个细节值得新手注意历史自动瘦身会话里过往的/beta控制轮和路由器确认回复会在转发前从模型可见的历史中剥离StripBetaArtifacts模型不会看到这些内部操作子会话继承上下文压缩或子 Agent 线程会继承父会话的/beta偏好整个对话树的策略保持一致Beta 车道怎么部署的管理员视角Beta 车道是部署方可选能力。运维只需在路由器配置两个环境变量完整说明见 docs/CONFIGURATION.mdROUTER_HMM_BETA_SIDECAR_URL指向第二台 HMM sidecar它承载候选策略包。不设置时/beta只会回答unavailable且绝不影响稳定路由ROUTER_HMM_BETA_ROSTER_PATHBeta 策略使用的模型花名册。与稳定车道不同这个文件缺失或损坏时只会禁用 Beta 并记录错误日志不会让路由器启动失败——坏掉的候选策略不可能带崩稳定路由这套失败即隔离的设计在 cmd/router/main.go 的启动逻辑中实现Beta 策略管理器加载失败时Beta 车道直接标记为不可选稳定车道照常服务。在基准测试中验证 Beta 车道项目内置的评测框架 weave-bench 把/beta车道作为标准实验臂来使用见 bench/README.md探针检查weave-bench probe会用一个一次性会话发送/beta控制轮确认 Beta 车道对该 API key 已启用——确认回复不会离开路由器因此不花任何上游 token实现见 bench/weave_bench/probe.py自动前置开关跑路由器对照实验时bench/weave_bench/agent/beta_turn.py 会把 Codex 的启动命令自动拆成两轮先单独发/beta并保存确认输出只有回复包含Beta enabled才记为成功再恢复同一会话跑真实任务这正是一条指令切入 Beta 策略的规模化用法整场评测的所有试次都稳定运行在 Beta 车道上与直连和第三方路由做公平对比。常见问题速答Q/beta 会影响其他会话吗不会。偏好按安装 会话作用域持久化只有当前会话及其子线程走 Beta 车道。Q提示 Beta is unavailable 怎么办先确认你的部署是否配置了ROUTER_HMM_BETA_SIDECAR_URL托管用户可运行weave-bench probe快速自检。QBeta 车道出问题会拖垮稳定路由吗不会。策略包加载失败、花名册缺失、sidecar 不可用——所有故障路径都只会让 Beta 车道本身下线稳定车道不受任何影响。小结/beta是 Weave Router 提供的会话级策略开关——一条指令切入独立部署的 Beta 路由策略再一条指令安全返回。它既是开发者体验新策略的入口也是基准测试的标准实验臂。更多配置细节可查阅 docs/CONFIGURATION.mdHMM 策略包的自托管说明见 sidecars/hmm/README.md。【免费下载链接】routerModel router for agentic systems. Routes every prompt to the right model in 50ms. Cut costs 40-70% with just an endpoint change.项目地址: https://gitcode.com/GitHub_Trending/router101/router创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考