Skip to content

perf(core): 用量接口读账本时只留请求日期范围内的记录 - #424

Merged
Phantivia merged 2 commits into
mainfrom
fix/usage-ledger-window
Nov 19, 2026
Merged

Phantivia merged 2 commits into
mainfrom
fix/usage-ledger-window

Conversation

@Phantivia

@Phantivia Phantivia commented Nov 19, 2026 •

Copy link
Copy Markdown
Member

Fixes #421

/api/usage 每次查询都把整本账本解析后留在内存里,再交给汇总按日期筛选;查「今天」也一样。WebUI 控制台页开着时,主 session 每多一次模型调用就查一次今天,查询叠在一起时各留一份整本。

改动

  • usageRecordFilter(opts)(src/core/cost.ts)按请求算出汇总会用到的时刻范围:请求的日期范围,连同 dailyTokens 往前的窗口,两端按 UTC 偏移的极值(+14:00、−12:00)放宽;ts 读不出时刻的记录照留。
  • UsageLog.readAll(keep) 读账本时只留 keep 接受的记录,还没落盘的记录同样筛。
  • 用量接口(src/bot.ts)把同一份 options(含同一个 now)交给筛选和 aggregateUsage。aggregateUsage 的算法没改,多留的记录仍由它按部署时区的墙钟再筛,所以响应逐字不变。
  • getTimezoneOffsetMinutes 每个时区复用一个 Intl.DateTimeFormat。本机量 8,000 次不同时刻的偏移:每次新建 435–570 ms,复用 32–38 ms。

不覆盖的:用量页的活动图要一年(dailyTokenDays=371),账本不到一年的部署查用量页时仍接近整本;没有日期范围的查询(如 /api/usage?bucket=day)照旧整本。读账本的耗时不变,仍要逐行解析整本。

测量

用 #417 的基准,从 jcs130 的分支跑(不进仓库)。本地对它改了两处:child.ts 照 src/bot.ts 的调用方式把 usageRecordFilter(options) 交给 readAll(改前的检出没有这个导出,照旧读整本);驱动加了三个场景,query-today(bucket=day&days=1,控制台页的请求)、concurrent-today(两个同时)、query-usage-page(bucket=auto&days=7&dailyTokenDays=371)。改前 = v0.2.16 的产品代码,改后 = 本分支。Node 22.23.2,时区 Asia/Shanghai,合成账本每条 2,560 字节、分布在 90 天里。

334 MB(130,469 条),各三遍

场景 版本 每次读留下的记录 汇总 ms 状态请求最慢 ms 堆峰值 MiB 进程 RSS 峰值 MiB
query-today 改前 130,469 139–162 115–164 399–403 497–515
query-today 改后 1,813 6–12 24–40 44–48 132–145
concurrent-today 改前 130,469 ×2 137–192 207–310 779–782 888–900
concurrent-today 改后 1,813 ×2 3–8 37–53 62 148–153
query-30d 改前 130,469 175–179 160–189 400–411 498–504
query-30d 改后 43,863 76–105 73–117 155–161 250–252
query-usage-page 改前 130,469 164–172 151–158 402–404 499–502
query-usage-page 改后 130,469 137–153 111–142 408–409 502–503
query-all 改前 130,469 215–252 211–247 408–413 503–505
query-all 改后 130,469 209–218 185–206 410–413 505–505

每个查询的完整响应在两个版本、各遍之间指纹一致。基准的边界检查里「追加重复 id 后缓存条数与去重读数一致」一项两个版本都不过,是 #417 报的那一项,这个 PR 没动。

1.48 GB(578,125 条)

今天、近 30 天各两遍;两个今天同时跑的一遍,改前的子进程堆上限 4 GiB。

场景 版本 每次读留下的记录 汇总 ms 状态请求最慢 ms 堆峰值 MiB 进程 RSS 峰值 MiB
query-today 改前 578,125 654–1,147 655–1,153 1,698–1,713 1,826–1,844
query-today 改后 8,030 24–28 29–38 109 197–198
concurrent-today 改前 578,125 ×2 636–804 1,459 3,386 3,546
concurrent-today 改后 8,030 ×2 19–22 50 169 265
query-30d 改前 578,125 958–1,173 945–1,174 1,690–1,692 1,863
query-30d 改后 194,326 382–467 379–456 652 749

这台机器测的时候还开着别的负载,单个查询读一遍账本的耗时波动大(改前 5.1–10.2 秒,改后 4.0–10.0 秒),只看同一遍里的对比。

检查

pnpm run typecheck、pnpm test 本地通过。新加一条测试:几种时区(含 +14:00 与 −12:00)、days、dailyTokenDays、读不出时刻的记录下,筛前筛后 aggregateUsage 的结果相同,查今天不留两天前的记录;两端不放宽时这条失败。

🤖 Generated with Claude Code

Phantivia and others added 2 commits November 18, 2026 22:02
- 用量汇总给每条记录换算墙钟时间,时区偏移按 15 分钟一档缓存,没命中时每次都新建一个
  Intl.DateTimeFormat。记录稀疏(每档一条)时,构造格式器占了换算的大部分时间。
- 本机 Node 22.23.2 量 8,000 次不同时刻的偏移:每次新建格式器 435–570 ms,复用一个 32–38 ms(三轮)。
- 格式器按时区字符串缓存,键只有部署配置的时区;时区名不合法时构造照旧抛错,不进缓存。

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
- 根因:每次 /api/usage 查询都把整本账本解析后留在内存里再交给汇总,查「今天」也一样;控制台页开着时
  主 session 每多一次模型调用就查一次今天,查询叠在一起时各留一份整本。
- usageRecordFilter(opts) 按请求算出汇总会用到的时刻范围(日期范围连同 dailyTokens 往前的窗口,两端按
  UTC 偏移的极值 +14:00 / −12:00 放宽),ts 读不出时刻的照留;UsageLog.readAll(keep) 读账本时只留它接受的
  记录。aggregateUsage 不变,多留的记录仍由它按墙钟再筛,所以结果逐字相同。用量接口给两边同一个 now。
- 测量(合成账本 334 MB、130,469 条,各三遍,本机 Node 22.23.2):查今天(bucket=day&days=1)每次读留下的记录
  130,469 → 1,813 条,堆峰值 399–403 → 44–48 MiB,汇总 139–162 → 6–12 ms,同期状态请求最慢 115–164 → 24–40 ms;
  两个今天的查询同时跑,堆峰值 779–782 → 62 MiB;近 30 天 400–411 → 155–161 MiB。全部历史和用量页(一年窗口)
  不变。每种查询改前改后的响应逐字相同。读账本的耗时没变(仍要逐行解析整本),约 0.9–1.2 秒。
- 没选:汇总改成边读边算(要改写去重、计价、分桶、逐日 token,风险落在费用数字上);只改控制台页的
  刷新时机(可见变化,整本仍进内存)。
- 不覆盖:用量页的活动图要一年(dailyTokenDays=371),账本不到一年的部署查用量页仍接近整本;没有日期范围
  的查询照旧整本。
- 测试:几种时区(含 +14 与 −12)、days、dailyTokenDays、读不出时刻的记录下,筛前筛后 aggregateUsage 的
  结果相同,查今天不留两天前的记录;两端不放宽时这条失败。

Refs #421

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
@Phantivia
Phantivia merged commit 831aa21 into main Nov 19, 2026
4 checks passed
@Phantivia
Phantivia deleted the fix/usage-ledger-window branch November 19, 2026 04:13
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

查询今日用量仍会把整本 usage.jsonl 保留在堆中,大账本下可能导致主进程 OOM

1 participant