Skip to content

feat: 聚合供应商支持按模型路由 - #1780

Merged
BigPizzaV3 merged 1 commit into
BigPizzaV3:mainfrom
kokotao:codex/aggregate-relay-model-routing
Sep 9, 2026
Merged

feat: 聚合供应商支持按模型路由#1780
BigPizzaV3 merged 1 commit into
BigPizzaV3:mainfrom
kokotao:codex/aggregate-relay-model-routing

Conversation

@kokotao

@kokotao kokotao commented Aug 5, 2026 •
edited
Loading

Copy link
Copy Markdown
Contributor

概述

  • 新增聚合供应商按模型路由规则，支持通配符匹配与优先级排序
  • 路由命中时直接选择目标成员供应商，未命中才走原有聚合策略
  • 聚合模式下，代理转发前会将上游 model 改写为被选中成员供应商的默认模型
  • 聚合供应商写入 Codex 配置时设置 requires_openai_auth = false
  • 新增管理器 UI 辅助函数与测试，用于聚合路由规则的编辑与校验

详细说明

  • 支持 deepseek-*、gpt-* 等通配符模式及精确模型名匹配。
  • 未命中路由时保留原有聚合策略行为。
  • 路由目标无效时跳过并记录 route matched / unmatched / skipped 诊断日志。
  • 选中成员供应商请求失败时，继续按聚合成员顺序 fallback。

修复：聚合供应商不再强制要求 OpenAI 登录

  • 问题：切换到聚合供应商时，Codex 配置此前会写入 requires_openai_auth = true，强制要求聚合中继并不需要的 OpenAI 登录态。
  • 修复：RelayMode::Aggregate 生成的供应商配置现在写入 requires_openai_auth = false，并且 relay_config_status_from_home 会将「base_url + bearer token」的聚合配置视为已配置，无需 OpenAI 登录。
  • 对应测试：relay_config_status_treats_aggregate_provider_as_configured_without_openai_auth。

Closes #1744.

测试计划

  • npm test
  • npm run check
  • cargo test -p codex-plus-core --test relay_rotation
  • cargo test -p codex-plus-core --test protocol_proxy aggregate -- --nocapture
  • cargo test -p codex-plus-core --test relay_config
  • cargo test -p codex-plus-core --test relay_switch

@kokotao kokotao mentioned this pull request Aug 5, 2026
Closed
1 task
@kokotao kokotao changed the title feat: route aggregate providers by model feat: 聚合供应商支持按模型路由 Aug 10, 2026
@BigPizzaV3

BigPizzaV3 commented Aug 11, 2026

Copy link
Copy Markdown
Owner

审查结论：暂不建议合并。当前 Windows artifacts CI 失败，失败用例是 upstream_theme_assets 的字节校验：assets/inject/upstream/dream-skin/windows/renderer-inject.js 与 assets/inject/upstream/skin-packs/packs/caishen-lite/theme.json 的 SHA-256 均不匹配。请先同步/修正资源或对应基线后重新跑全平台 CI，再继续评审。

@kokotao

kokotao commented Aug 17, 2026

Copy link
Copy Markdown
Contributor Author

已同步最新 main（fb3ebd9a）并解决冲突，CI 状态更新：

  • ✅ upstream_theme_assets 已通过：同步 main 后资源基线与 SHA-256 校验一致，之前审查指出的 Windows 资源校验问题已消除
  • ✅ 修复了合并引入的编译问题：AggregateRelayProfile 初始化补充 routes 字段（apps/codex-plus-manager/src-tauri/src/commands.rs）
  • ❌ 当前 Windows artifacts 唯一失败是 codex-plus-launcher 的 watchdog_reuses_bridge_context_with_data_service（apps/codex-plus-launcher/src/main.rs:1135），该失败在上游 main 自身也存在：上游最新提交 fb3ebd9a 的 PR build artifacts 运行（run 31996725033）在同一个测试、同一位置失败（test result: FAILED. 6 passed; 1 failed）

即：本次 CI 失败不是本 PR 引入，而是上游 main 当前的问题，需要上游先修复该 launcher 测试（Windows 环境）。

@kokotao

kokotao commented Aug 19, 2026

Copy link
Copy Markdown
Contributor Author

已再次同步最新 main（c26e511，v1.2.49）并解决冲突，全平台 CI 现已通过 ✅：

  • ✅ Windows artifacts：成功（fix-launcher-watchdog-route 已在上游 main 修复之前失败的 launcher 测试）
  • ✅ macOS DMG (x64)：成功
  • ✅ macOS DMG (arm64)：成功

PR 当前 mergeable、mergeStateStatus = CLEAN，可以继续评审/合并。

BigPizzaV3
BigPizzaV3 requested changes Aug 20, 2026
View reviewed changes

@BigPizzaV3 BigPizzaV3 left a comment

Copy link
Copy Markdown
Owner

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

当前实现仍有一个阻塞性的路由失效路径：

RelayRotationSelector::select_with_outcomes 在调用 match_route_for_aggregate 前先执行 validate_aggregate_members(settings, &self.aggregate)?。因此，只要聚合中的任一成员缺少 relay、base URL 或 API key，选择流程就会直接返回 SelectionError；后续宣称会跳过无效目标的 relay_is_available / RouteMatchInfo::SkippedInvalidRelay 根本没有机会执行。

这会导致一个与 PR 描述相反的行为：某条路由目标失效时，请求不是跳过该规则并继续匹配/回退，而是整个聚合请求失败。请把校验调整到与路由语义一致：路由匹配阶段允许跳过无效目标；最终选中的普通策略成员仍需严格校验。并增加“最高优先级路由目标缺 key，下一条有效路由命中”以及“无有效路由后回退聚合策略”的回归测试。

另外该分支已再次与最新 main 冲突，修复后请 rebase 并重跑三平台 CI。

@kokotao

kokotao commented Aug 21, 2026

Copy link
Copy Markdown
Contributor Author

已按 review 意见修复完成，说明如下：

修复内容

  1. 路由失效路径修复（crates/codex-plus-core/src/relay_rotation.rs）：

    • from_settings 仅保留「空成员」检查，不再前置全量 validate_aggregate_members
    • select_with_outcomes 在路由匹配阶段跳过无效目标（缺 relay/base URL/API key），继续匹配下一条规则；只有最终通过策略（fallback/weighted）选中的普通策略成员才走 selected_member_relay 严格校验
    • peek / fallback_relays_after 同步调整，fallback 候选只保留有效成员
    • 现在行为与 PR 描述一致：某条路由目标失效时，请求跳过该规则继续匹配/回退，而不是整个聚合请求失败

  2. 回归测试（crates/codex-plus-core/tests/relay_rotation.rs）新增 2 条：

    • route_skips_highest_priority_target_missing_key_and_hits_next_valid_route：最高优先级路由目标缺 key，下一条有效路由命中
    • route_all_targets_invalid_falls_back_to_aggregate_strategy：所有路由目标无效时回退聚合策略
    • 本地 relay_rotation 37 个用例全绿

  3. 同步说明：本次采用 merge origin/main（v1.2.50, 140247a）而非 rebase。原因是上游 main 在 AggregateRelayProfile / RelaySessionProvider 等相关文件有较大改动，rebase 产生 5 文件冲突且需逐文件手工重做；merge 已解决全部冲突并保持历史可追溯。

CI 结果

三平台 CI 全部通过（run 32471131089）：

  • macOS DMG (arm64) ✅
  • macOS DMG (x64) ✅
  • Windows artifacts ✅

另：8/11 指出的 upstream 主题资源 SHA 问题已被上游 main 修复，当前分支不再涉及。

@BigPizzaV3

BigPizzaV3 commented Aug 26, 2026

Copy link
Copy Markdown
Owner

main 已更新到 7385664。请 rebase 并解决当前冲突，同时处理此前指出的聚合成员预校验问题：不能让一个无效成员在路由匹配前阻断本可命中的模型路由。请补混合有效/无效成员、fallback 和轮换结果测试，并重跑三平台 CI。

@BigPizzaV3 BigPizzaV3 mentioned this pull request Aug 26, 2026
Open
1 task
@kokotao
kokotao force-pushed the codex/aggregate-relay-model-routing branch from 453e50e to b7a48e7 Compare August 27, 2026 01:07
@kokotao

kokotao commented Aug 27, 2026

Copy link
Copy Markdown
Contributor Author

已按 review 意见完成修复并 rebase：

1. 聚合成员预校验问题

RelayRotationSelector::select_with_outcomes 已不再在任何路由匹配前调用 validate_aggregate_members：

  • from_settings 仅保留「空成员」检查
  • 路由匹配阶段用 relay_is_available 逐个判断目标是否有效（relay 存在、base_url/api_key 非空、且是聚合成员），无效目标记为 RouteMatchInfo::SkippedInvalidRelay 并继续匹配下一条规则，不再整体失败
  • 只有未命中路由、走策略选中的成员才经 selected_member_relay 严格校验，命中路由的目标因已由 relay_is_available 保证有效而直接取用
  • fallback_relays_after 同步过滤无效成员

现在行为与描述一致：某条路由目标失效时请求跳过该规则继续匹配/回退，而不是整个聚合失败。

2. 回归测试

crates/codex-plus-core/tests/relay_rotation.rs 现有以及新增用例：

  • route_skips_highest_priority_target_missing_key_and_hits_next_valid_route：最高优先级目标缺 key，下一条有效路由命中
  • route_all_targets_invalid_falls_back_to_aggregate_strategy：所有路由目标无效，回退聚合策略选中有效成员
  • fallback_after_route_hit_filters_invalid_members（新增）：混合有效/无效成员时，路由命中后 fallback 列表过滤无效成员
  • route_hit_does_not_advance_failover_rotation_index（新增）：路由命中不推进轮换索引，后续未命中仍回当前 failover 指针
  • strategy_selected_invalid_member_returns_strict_error（新增）：未命中路由且轮换正中无效成员时严格报 InvalidMemberRelay

本地验证：relay_rotation 40、protocol_proxy 75、relay_config 135、relay_switch 6、前端 node --test 138、tsc --noEmit 全绿。

3. Rebase 与 CI

已将分支 rebase 到最新 main（7385664，v1.2.55），并把功能整理为单个线性提交 b7a48e7，直接基于最新 main，无 merge 历史。PR 当前 mergeable: true。

三平台 CI 全部通过（run 33029088679）：

  • macOS DMG (arm64) ✅
  • macOS DMG (x64) ✅
  • Windows artifacts ✅

@BigPizzaV3

BigPizzaV3 commented Sep 2, 2026

Copy link
Copy Markdown
Owner

请基于当前 main 解决冲突，并保留聚合路由对无效成员的跳过、fallback 和轮换语义。需要补混合有效/无效成员、全部目标无效及策略选中无效成员的回归测试，再跑三平台 CI。

@kokotao
feat: route aggregate providers by model
d7a0a72 
Route aggregate relay requests by model pattern instead of only rotating
through members. Routes are matched by priority (descending, stable for
ties) and skipped when the target is invalid (missing relay/base_url/api_key
or not an aggregate member), falling back to the active strategy when no
route matches.

- select_with_outcomes returns the relay together with match outcomes so
  diagnostics match the actual selection from a single match pass
- route matching skips invalid targets and records SkippedInvalidRelay;
  only the strategy-selected member is strictly validated
- fallback_relays_after filters out invalid members
- add route-related translation keys and frontend route editor/validator
- tests: skip invalid route targets, fallback to strategy, filter invalid
  fallback members, keep rotation index unchanged on route hit, and strict
  validation of a strategy-selected invalid member
@kokotao
kokotao force-pushed the codex/aggregate-relay-model-routing branch from b7a48e7 to d7a0a72 Compare September 2, 2026 07:14
@BigPizzaV3

BigPizzaV3 commented Sep 4, 2026

Copy link
Copy Markdown
Owner

请基于当前 main（目前 PR base 仍停留在较旧提交）重新 rebase，并在解决冲突后重跑三平台 CI。\n\n另外，当前路由有效性判断仍把聚合成员 API key 为空视为无效；这会误伤主线已支持的无认证（noAuth）上游。请按 profile 的认证模式区分“允许空凭据的无认证成员”和“应有 API key 但缺失的成员”，并补充 noAuth 成员参与路由、fallback 与轮换的回归测试。

@BigPizzaV3

BigPizzaV3 commented Sep 9, 2026

Copy link
Copy Markdown
Owner

状态更正（核对代码后）：自动收尾时我误以为「noAuth 成员区分」和「3 类回归测试」还没做，实际你在 head d7a0a727 里已经完整处理了。已核对的证据：\n\n1. noAuth 成员区分：relay_rotation.rs 普通策略成员校验（api_key 为空 && !uses_no_auth()）和路由目标有效性（!api_key.is_empty() || uses_no_auth()），都已按认证模式区分「允许空凭据的无认证成员」和「应有 key 却缺失的成员」。\n\n2. 3 类回归测试齐全：route_all_targets_invalid_falls_back_to_aggregate_strategy、strategy_selected_invalid_member_returns_strict_error、fallback_after_route_hit_filters_invalid_members 等，我实测全过（relay_rotation 22/22 新用例 + 后端 relay_rotation 41 / relay_config 148 / relay_switch 6 / protocol_proxy-aggregate 3 全绿）。\n\n3. 三平台 CI：最新 run 33602622922（对应当前 head d7a0a727）已 success。\n\n因此从 CHANGES_REQUESTED 转为 approve，无需你再改动。我重新触发/确认一次 CI 后即可合并。感谢此前多轮耐心配合。

BigPizzaV3
BigPizzaV3 approved these changes Sep 9, 2026
View reviewed changes

@BigPizzaV3 BigPizzaV3 left a comment

Copy link
Copy Markdown
Owner

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

核对代码后确认阻塞点均已解决（见上条更正留言）：noAuth 成员区分已实现、3 类回归测试齐全且本地实测全绿、三平台 CI 在当前 head 已 success。转为 approve；合并前我会再确认一次 CI 与 main 的合并态。

@BigPizzaV3
BigPizzaV3 merged commit 5e0e47e into BigPizzaV3:main Sep 9, 2026
3 checks passed
This was referenced Sep 9, 2026
Open
Draft
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Reviewers

@BigPizzaV3 BigPizzaV3 BigPizzaV3 approved these changes

Assignees

No one assigned

Labels

None yet

Projects

None yet

Milestone

No milestone

Development

Successfully merging this pull request may close these issues.

[Feature]: 聚合供应商支持根据模型来源自动路由到不同供应商

2 participants

@kokotao @BigPizzaV3