Repository navigation
perf(core): 用量接口读账本时只留请求日期范围内的记录 - #424
Merged
Merged
Conversation
- 用量汇总给每条记录换算墙钟时间,时区偏移按 15 分钟一档缓存,没命中时每次都新建一个 Intl.DateTimeFormat。记录稀疏(每档一条)时,构造格式器占了换算的大部分时间。 - 本机 Node 22.23.2 量 8,000 次不同时刻的偏移:每次新建格式器 435–570 ms,复用一个 32–38 ms(三轮)。 - 格式器按时区字符串缓存,键只有部署配置的时区;时区名不合法时构造照旧抛错,不进缓存。 Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
- 根因:每次 /api/usage 查询都把整本账本解析后留在内存里再交给汇总,查「今天」也一样;控制台页开着时 主 session 每多一次模型调用就查一次今天,查询叠在一起时各留一份整本。 - usageRecordFilter(opts) 按请求算出汇总会用到的时刻范围(日期范围连同 dailyTokens 往前的窗口,两端按 UTC 偏移的极值 +14:00 / −12:00 放宽),ts 读不出时刻的照留;UsageLog.readAll(keep) 读账本时只留它接受的 记录。aggregateUsage 不变,多留的记录仍由它按墙钟再筛,所以结果逐字相同。用量接口给两边同一个 now。 - 测量(合成账本 334 MB、130,469 条,各三遍,本机 Node 22.23.2):查今天(bucket=day&days=1)每次读留下的记录 130,469 → 1,813 条,堆峰值 399–403 → 44–48 MiB,汇总 139–162 → 6–12 ms,同期状态请求最慢 115–164 → 24–40 ms; 两个今天的查询同时跑,堆峰值 779–782 → 62 MiB;近 30 天 400–411 → 155–161 MiB。全部历史和用量页(一年窗口) 不变。每种查询改前改后的响应逐字相同。读账本的耗时没变(仍要逐行解析整本),约 0.9–1.2 秒。 - 没选:汇总改成边读边算(要改写去重、计价、分桶、逐日 token,风险落在费用数字上);只改控制台页的 刷新时机(可见变化,整本仍进内存)。 - 不覆盖:用量页的活动图要一年(dailyTokenDays=371),账本不到一年的部署查用量页仍接近整本;没有日期范围 的查询照旧整本。 - 测试:几种时区(含 +14 与 −12)、days、dailyTokenDays、读不出时刻的记录下,筛前筛后 aggregateUsage 的 结果相同,查今天不留两天前的记录;两端不放宽时这条失败。 Refs #421 Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This was referenced Nov 19, 2026
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
Fixes #421
/api/usage每次查询都把整本账本解析后留在内存里,再交给汇总按日期筛选;查「今天」也一样。WebUI 控制台页开着时,主 session 每多一次模型调用就查一次今天,查询叠在一起时各留一份整本。改动
usageRecordFilter(opts)(src/core/cost.ts)按请求算出汇总会用到的时刻范围:请求的日期范围,连同dailyTokens往前的窗口,两端按 UTC 偏移的极值(+14:00、−12:00)放宽;ts读不出时刻的记录照留。UsageLog.readAll(keep)读账本时只留keep接受的记录,还没落盘的记录同样筛。src/bot.ts)把同一份 options(含同一个now)交给筛选和aggregateUsage。aggregateUsage的算法没改,多留的记录仍由它按部署时区的墙钟再筛,所以响应逐字不变。getTimezoneOffsetMinutes每个时区复用一个Intl.DateTimeFormat。本机量 8,000 次不同时刻的偏移:每次新建 435–570 ms,复用 32–38 ms。不覆盖的:用量页的活动图要一年(
dailyTokenDays=371),账本不到一年的部署查用量页时仍接近整本;没有日期范围的查询(如/api/usage?bucket=day)照旧整本。读账本的耗时不变,仍要逐行解析整本。测量
用 #417 的基准,从 jcs130 的分支跑(不进仓库)。本地对它改了两处:
child.ts照src/bot.ts的调用方式把usageRecordFilter(options)交给readAll(改前的检出没有这个导出,照旧读整本);驱动加了三个场景,query-today(bucket=day&days=1,控制台页的请求)、concurrent-today(两个同时)、query-usage-page(bucket=auto&days=7&dailyTokenDays=371)。改前 = v0.2.16 的产品代码,改后 = 本分支。Node 22.23.2,时区 Asia/Shanghai,合成账本每条 2,560 字节、分布在 90 天里。334 MB(130,469 条),各三遍
每个查询的完整响应在两个版本、各遍之间指纹一致。基准的边界检查里「追加重复 id 后缓存条数与去重读数一致」一项两个版本都不过,是 #417 报的那一项,这个 PR 没动。
1.48 GB(578,125 条)
今天、近 30 天各两遍;两个今天同时跑的一遍,改前的子进程堆上限 4 GiB。
这台机器测的时候还开着别的负载,单个查询读一遍账本的耗时波动大(改前 5.1–10.2 秒,改后 4.0–10.0 秒),只看同一遍里的对比。
检查
pnpm run typecheck、pnpm test本地通过。新加一条测试:几种时区(含 +14:00 与 −12:00)、days、dailyTokenDays、读不出时刻的记录下,筛前筛后aggregateUsage的结果相同,查今天不留两天前的记录;两端不放宽时这条失败。🤖 Generated with Claude Code