使用 Anthropic 端点时缓存命中和实际不符

[hhszzzz]

使用Anthropic端点，模型为deepseek-v4.1-flash，claudecode，参数默认，开启思考。
服务器环境运行该服务
对话时，发现统计token是实际token的2倍，即claudecode中显示200K，实际上只有100K的真实输入

Anthropic /v1/messages 响应中，把上游 usage 原样转发：

// proxy.mjs ~1379
input_tokens: usage?.inputTokens ?? 0,
cache_read_input_tokens: usage?.cachedInputTokens ?? 0,

貌似上游的 inputTokens 本身就包含缓存命中的 token，而 Anthropic 的 input_tokens 不包含 cache read/creation。两者没有做减法，导致按 Anthropic 语义解析的下游把 input_tokens 与 cache_read_input_tokens 当成互不重叠的两部分，而它们其实是重叠的，于是 input_tokens + cache_read 约等于真实输入的两倍。

[MAXeaglet]

已修复并推送（6217305，master / release / test）。你的分析完全正确 —— 位置、机制、方向都对。

实测复现

按你说的方法复现了，数字吻合：

修复前              cold        warm
  input_tokens      3936        3936
  cache_read           0        3712
  sum（总输入）      3936        7648   ← 约为真实的 1.94 倍

input_tokens 在命中缓存后没有变小，cache_read 又凭空多出 3712，下游按 Anthropic
语义相加就得到了近两倍值 —— 与你观察到的「显示 200K、实际 100K」一致。

修复

查 Anthropic 官方 SDK 的类型注释确认了语义：

Total input tokens in a request is the summation of input_tokens,
cache_creation_input_tokens, and cache_read_input_tokens.

同时发现 CC 上游其实已经算好了非缓存部分 —— inputTokenDetails.noCacheTokens，
实测满足 noCacheTokens + cacheReadTokens === inputTokens：

{ "inputTokens": 3336,
  "inputTokenDetails": { "noCacheTokens": 136, "cacheReadTokens": 3200 },
  "cachedInputTokens": 3200 }

所以实现上优先直接采用 noCacheTokens（比做减法更可靠），字段缺失时回退到
inputTokens - cacheRead - cacheWrite，保证老版本上游也能得到正确值。

覆盖两处输出点：非流式 buildAnthropicResponse、流式 message_delta。

验证

修复后（真 key，每次用独立 system prompt 保证 cold 真冷）：

              cold        warm
  input_tokens      3936         224
  cache_read           0        3712
  sum（总输入）      3936        3936   ← 恒定 ✔

非流式与流式两条路径结果一致。

一点补充

顺带确认了 OpenAI 格式不受影响：/v1/chat/completions 的 prompt_tokens 仍为总数
（OpenAI 语义里 cached_tokens 是 prompt_tokens 的子集，不应做减法），本修复只作用于
Anthropic 端点。这也正是这个 bug 只出现在 /v1/messages 上的原因 —— 两套协议对
input_tokens 的定义相反。

感谢报告，定位很准，直接指向了代码位置和机制。