跳转至

每日成本审查 2026-09-25

  • 审查日期:2026-09-25
  • 数据来源:./venv/bin/python cost_audit/daily_review.py(只读,取数时刻 01:22)
  • 状态:截至 01:22,当天未完结(已过约 5.7% 时段)

① 汇总

  • 成本 0.802 元 | 0.036 元/轮 | 0.0049 元/请求;请求 163、会话 6、轮 22、步/轮 7.4。
  • 四段占比:输出 0.468(58.4%,其中思考 0.248 元)> 输入·命中 0.180(22.4%)> 输入·未命中 0.154(19.2%)。
  • 与基线方向:成本 -91%、元/轮 -88%、步/轮 7.4 vs 基线 22.2(-67%)、输出 -84%、未命中 -92%。
  • 折算提示:累计量仅占全天时段 5.7%,但已达基线日成本的 9.4%、基线日请求的 24%——凌晨 1 小时是高密度使用时段,简单按时段折算会高估全天,暂不构成超支信号。

② 异常判定

项 判定 依据
[1] 01:11:37 会话首条 miss=15,082 正常 会话首条未命中偏高属结构必然(system+规则+HANDOFF 重建);该请求 hit=13,568,会话级未命中仅 2.1%
[1] 3 条会话中段 miss=11,143 / 11,120 / 11,020 需关注 同属 5218f54dd543,单请求 hit=51,456 / 29,312 / 159,616 远大于 miss,会话级未命中占比仅 2.1%——是前缀部分失效而非整段失效;但 4 条合计 0.066 元占当日 8.2%,量级需盯
[2] 单请求最贵 0.0597 元(out=12,647) 正常 输出主导(out=12,647 为当日最大输出),符合「输出 > 未命中 > 命中」成本结构
[3] 5218f54dd543 成本 0.545 元、50 请求 / 1 轮、步/轮 50.0 异常 占当日成本 68%(0.545/0.802);步/轮 50.0 远超当日其余会话(次高 21.5、中位个位数),单轮内 50 步属失控步进
[3] 88341d6751fb 0.109 元 / 42 请求 / 13 轮 / 步/轮 3.2 正常 步/轮 3.2 低于当日总体 7.4,42 请求分散在 13 轮属正常多轮会话
[3] 9a12e6e1207c 0.064 元 / 5 请求 / 1 轮 正常 5 请求 0.064 元,含 00:00:31 单条 0.0192 元(hit=367,872),命中良好
[4] e8076a97eb26 步/轮 21.5(43 请求 / 2 轮) 需关注 21.5 > 2×当日典型会话步/轮(6.7、5.0、3.2),但该会话未命中占比 0.0%、成本仅 0.056 元(占 7%),损失有限
[4] dc27dbf7ebd7 步/轮 6.7 正常 低于当日总体 7.4
[5] 同会话重复提问:无 正常 清单为空
[6] 输出截断嫌疑:无 正常 当日最大输出 12,647,无重复模式
[7] 上下文最大 374,402 prompt 正常 对应 miss 仅 192~514,前缀命中极好,成本可控
[8] 会话未命中占比最高 2.1% 正常 全部会话 ≤2.1%,远低于失效水平
[9] 长会话(轮≥40 或请求≥100):0 个 正常 无

③ 评估

整体基本合理,但有一条明确不合理:5218f54dd543 单轮 50 步、成本 0.545 元占当日 68%(01:11–01:17 的 HPC submit 主机会话)。证据链:步/轮 50.0 vs 当日其余会话 3.2~21.5;4 条 miss>10k 中 3 条在该会话中段(合计占当日成本 8.2%)。这是一轮提问内连跑 50 个工具步的探索型任务——不是计价问题,是单轮步进失控。除此之外:未命中率全会话 ≤2.1%、无重复提问、无输出截断、上下文 374k 全程命中,缓存与规则链路健康。

注意:截至 01:22 当天未完结,累计成本 0.802 元已达基线日成本 9.4%、请求达基线 24%——按已过时段(5.7%)折算略偏高但属凌晨高密度使用,全天结论待晚间复核。

④ 改进建议(只提不改)

  1. 压缩 5218f54dd543 类单轮步进:针对「步/轮 50、占成本 68%」——同类 HPC 探索任务先写一次性脚本取数再下结论,避免逐条试错。按当日数据折算:若该轮步进降到当日中位水平(~7 步),可省约 0.4 元/次(该会话 0.545 元的 ~75%)。
  2. 中段失效 4 条归零:针对「4 条 miss>10k 合计 0.066 元、占 8.2%」——排查 01:11 前是否改过 skill/规则仍在旧会话继续;若是,改完开新会话即可避免(属行为习惯,预计省 0.066 元/次)。
  3. e8076a97eb26 步/轮 21.5 挂账观察:针对「21.5 vs 当日典型 3.2~6.7」,但成本仅 0.056 元(7%)、未命中 0.0%,暂不动,重复出现再治理。

(无配置/规则/服务改动项,故本轮无「需确认后执行」事项。)

⑤ 会话归因

折算口径:命中×0.02 + 未命中×1.0 + 输出×4.0(元/百万);取数时刻 01:23,当日累计 173 请求 / 1.049 元(阶段一 01:22 取数为 163 请求 / 0.802 元,会话仍在进行中)。轮粒度步/轮中位 = 3。

conv 开场 结束 请求 轮 步/轮 hit miss out 成本(占比) 触发 开场提问
5218f54dd543 01:11 01:22 54 1 54.0 7,935,360 154,104 66,035 0.577(55.4%) 成本+步/轮+中段失效 我新建了一台主机专门用于HPC submit ,192.168.31.28 ,请你将该主机命名为hpc-submit,这…(脚本截断)
88341d6751fb 00:30 01:23 46 13 3.5 0 0 58,268 0.233(22.4%) 成本 /cost
e8076a97eb26 00:06 01:21 43 2 21.5 0 0 27,895 0.112(10.7%) 成本+步/轮 指向真实安装路径。本工程与 slurm_ins 部署工程分离,不重写后者。 【环境事实】
9a12e6e1207c 00:00 00:01 5 1 5.0 1,857,664 1,672 6,233 0.064(6.1%) - 好的,用内置浏览器帮我点这两步
dc27dbf7ebd7 00:08 00:30 20 3 6.7 0 0 12,273 0.049(4.7%) 步/轮 我需要虚拟一台 8C,16G 50GHDD的rocky9 虚拟机,请帮我使用部署工具创建
0cb5000a23f4 01:17 01:19 3 2 1.5 0 0 1,554 0.006(0.6%) - 我咨询你个事,像这种我明明给了很明确的路径类似于/home/rain/Documents/temp/sudo-nopas…(脚本截断)

注:mi 路由会话(88341d6751fb / e8076a97eb26 / dc27dbf7ebd7 / 0cb5000a23f4)hit/miss 计量为 0,折算成本全部落在输出段,与台账口径的差异待观察(mi 计价走 GLM 回退,SOP 四十八)。

⑥ 深挖取证

5218f54dd543(需关注)— 成本第 1 名 55.4%,单轮 54 步

  • 结论:需关注——步/轮 54 触阈值但四项核对干净(status 全 200、零输出步 0、无重复提问、无 >5min 空档),属任务驱动的长执行;3 条中段失效均为一次性重建,非持续失效。
  • 成本构成:0.577 元 = 命中 0.159 + 未命中 0.154 + 输出 0.264(与台账 ±2% 吻合);未命中段大头是会话首条(01:11:37 miss=15,082,结构必然)。
  • 关键证据:① 轮 1 内 54 步 01:11:37→01:22:52,prompt_p50=175,866,每步重放是命中段成本主因;② 中段失效 01:11:43 miss=11,120→后一条 hit 回升,01:11:59 miss=11,143→回升,01:16:57 miss=11,020→回升,均一次性重建(需关注,观察);③ 最贵步 01:16:47 out=12,647(0.0597 元),输出段为单步成本主因。
  • 收益修正:压步数只折算命中重放段——54 步若降到当日中位 3 步/轮量级,命中重放约省 0.15 元 + 部分输出,合计 ≈ 0.3 元/次(不按 0.577 元线性折算)。

88341d6751fb(需关注)— 成本第 2 名 22.4%,/cost 多轮会话

  • 结论:需关注——13 轮步/轮 3.5 正常,但成本占比 22.4% 触发阈值,且 hit/miss 计量为 0、成本全部由输出段构成。
  • 成本构成:0.233 元 = 输出 58,268 × 4 元/百万(命中/未命中计 0)。
  • 关键证据:① 本会话(开场提问 /cost),13 轮 00:30→01:23,轮 1 与轮 13 间有 51min 空档;② 轮 3 最贵 0.050 元(out 集中 5,773+3,380);③ prompt_p50 从 32,666 涨到 127,162——长会话上下文逐轮增长但未命中计 0,计价口径存疑。
  • 收益修正:数据不足,暂不估算——hit/miss=0 需先核实 mi 路由 usage 是否真的无 cached 数据,还是解析缺口。

e8076a97eb26(需关注)— 成本第 3 名 10.7%,步/轮 21.5

  • 结论:需关注——43 请求挤在 2 轮(轮 5 单轮 40 步 00:28→01:21),但 status 全 200、零输出步 0、无重复提问,属任务驱动(Lmod 路径修复类长任务)。
  • 成本构成:0.112 元 = 输出 27,895 × 4 元/百万(hit/miss 计 0)。
  • 关键证据:① 轮 5 = 40 步跨 54 分钟,含 2 个 >5min 空档(01:05→01:10、01:10→01:16)——空档是任务等待而非空转;② 单步最大输出仅 2,379,无输出爆炸。
  • 收益修正:命中重放段计量为 0,压步数当期节省≈输出段外溢部分,有限。

dc27dbf7ebd7(正常)— 步/轮 6.7 略过阈值

  • 结论:正常——仅步/轮 6.7 > 2×中位(3) 触发,成本占比 4.7% 未触发;3 轮均短平快(4/5/11 步),rocky9 虚拟机部署任务驱动。
  • 成本构成:0.049 元 = 输出 12,273 × 4 元/百万。
  • 关键证据:① 轮 3 最贵 0.031 元、11 步跨 4 分钟;② 无空档、无零输出步。

来源:/home/rain/Documents/services/token_proxy/reports/daily-review-20260925.md | 最后更新:2026-09-25 01:23(由 build/sync.py 同步,请勿在站点侧修改)