每日成本审查 2026-09-25¶
- 审查日期:2026-09-25
- 数据来源:
./venv/bin/python cost_audit/daily_review.py(只读,取数时刻 01:22) - 状态:截至 01:22,当天未完结(已过约 5.7% 时段)
① 汇总¶
- 成本 0.802 元 | 0.036 元/轮 | 0.0049 元/请求;请求 163、会话 6、轮 22、步/轮 7.4。
- 四段占比:输出 0.468(58.4%,其中思考 0.248 元)> 输入·命中 0.180(22.4%)> 输入·未命中 0.154(19.2%)。
- 与基线方向:成本 -91%、元/轮 -88%、步/轮 7.4 vs 基线 22.2(-67%)、输出 -84%、未命中 -92%。
- 折算提示:累计量仅占全天时段 5.7%,但已达基线日成本的 9.4%、基线日请求的 24%——凌晨 1 小时是高密度使用时段,简单按时段折算会高估全天,暂不构成超支信号。
② 异常判定¶
| 项 | 判定 | 依据 |
|---|---|---|
| [1] 01:11:37 会话首条 miss=15,082 | 正常 | 会话首条未命中偏高属结构必然(system+规则+HANDOFF 重建);该请求 hit=13,568,会话级未命中仅 2.1% |
| [1] 3 条会话中段 miss=11,143 / 11,120 / 11,020 | 需关注 | 同属 5218f54dd543,单请求 hit=51,456 / 29,312 / 159,616 远大于 miss,会话级未命中占比仅 2.1%——是前缀部分失效而非整段失效;但 4 条合计 0.066 元占当日 8.2%,量级需盯 |
| [2] 单请求最贵 0.0597 元(out=12,647) | 正常 | 输出主导(out=12,647 为当日最大输出),符合「输出 > 未命中 > 命中」成本结构 |
| [3] 5218f54dd543 成本 0.545 元、50 请求 / 1 轮、步/轮 50.0 | 异常 | 占当日成本 68%(0.545/0.802);步/轮 50.0 远超当日其余会话(次高 21.5、中位个位数),单轮内 50 步属失控步进 |
| [3] 88341d6751fb 0.109 元 / 42 请求 / 13 轮 / 步/轮 3.2 | 正常 | 步/轮 3.2 低于当日总体 7.4,42 请求分散在 13 轮属正常多轮会话 |
| [3] 9a12e6e1207c 0.064 元 / 5 请求 / 1 轮 | 正常 | 5 请求 0.064 元,含 00:00:31 单条 0.0192 元(hit=367,872),命中良好 |
| [4] e8076a97eb26 步/轮 21.5(43 请求 / 2 轮) | 需关注 | 21.5 > 2×当日典型会话步/轮(6.7、5.0、3.2),但该会话未命中占比 0.0%、成本仅 0.056 元(占 7%),损失有限 |
| [4] dc27dbf7ebd7 步/轮 6.7 | 正常 | 低于当日总体 7.4 |
| [5] 同会话重复提问:无 | 正常 | 清单为空 |
| [6] 输出截断嫌疑:无 | 正常 | 当日最大输出 12,647,无重复模式 |
| [7] 上下文最大 374,402 prompt | 正常 | 对应 miss 仅 192~514,前缀命中极好,成本可控 |
| [8] 会话未命中占比最高 2.1% | 正常 | 全部会话 ≤2.1%,远低于失效水平 |
| [9] 长会话(轮≥40 或请求≥100):0 个 | 正常 | 无 |
③ 评估¶
整体基本合理,但有一条明确不合理:5218f54dd543 单轮 50 步、成本 0.545 元占当日 68%(01:11–01:17 的 HPC submit 主机会话)。证据链:步/轮 50.0 vs 当日其余会话 3.2~21.5;4 条 miss>10k 中 3 条在该会话中段(合计占当日成本 8.2%)。这是一轮提问内连跑 50 个工具步的探索型任务——不是计价问题,是单轮步进失控。除此之外:未命中率全会话 ≤2.1%、无重复提问、无输出截断、上下文 374k 全程命中,缓存与规则链路健康。
注意:截至 01:22 当天未完结,累计成本 0.802 元已达基线日成本 9.4%、请求达基线 24%——按已过时段(5.7%)折算略偏高但属凌晨高密度使用,全天结论待晚间复核。
④ 改进建议(只提不改)¶
- 压缩 5218f54dd543 类单轮步进:针对「步/轮 50、占成本 68%」——同类 HPC 探索任务先写一次性脚本取数再下结论,避免逐条试错。按当日数据折算:若该轮步进降到当日中位水平(~7 步),可省约 0.4 元/次(该会话 0.545 元的 ~75%)。
- 中段失效 4 条归零:针对「4 条 miss>10k 合计 0.066 元、占 8.2%」——排查 01:11 前是否改过 skill/规则仍在旧会话继续;若是,改完开新会话即可避免(属行为习惯,预计省 0.066 元/次)。
- e8076a97eb26 步/轮 21.5 挂账观察:针对「21.5 vs 当日典型 3.2~6.7」,但成本仅 0.056 元(7%)、未命中 0.0%,暂不动,重复出现再治理。
(无配置/规则/服务改动项,故本轮无「需确认后执行」事项。)
⑤ 会话归因¶
折算口径:命中×0.02 + 未命中×1.0 + 输出×4.0(元/百万);取数时刻 01:23,当日累计 173 请求 / 1.049 元(阶段一 01:22 取数为 163 请求 / 0.802 元,会话仍在进行中)。轮粒度步/轮中位 = 3。
| conv | 开场 | 结束 | 请求 | 轮 | 步/轮 | hit | miss | out | 成本(占比) | 触发 | 开场提问 |
|---|---|---|---|---|---|---|---|---|---|---|---|
| 5218f54dd543 | 01:11 | 01:22 | 54 | 1 | 54.0 | 7,935,360 | 154,104 | 66,035 | 0.577(55.4%) | 成本+步/轮+中段失效 | 我新建了一台主机专门用于HPC submit ,192.168.31.28 ,请你将该主机命名为hpc-submit,这…(脚本截断) |
| 88341d6751fb | 00:30 | 01:23 | 46 | 13 | 3.5 | 0 | 0 | 58,268 | 0.233(22.4%) | 成本 | /cost |
| e8076a97eb26 | 00:06 | 01:21 | 43 | 2 | 21.5 | 0 | 0 | 27,895 | 0.112(10.7%) | 成本+步/轮 | 指向真实安装路径。本工程与 slurm_ins 部署工程分离,不重写后者。 【环境事实】 |
| 9a12e6e1207c | 00:00 | 00:01 | 5 | 1 | 5.0 | 1,857,664 | 1,672 | 6,233 | 0.064(6.1%) | - | 好的,用内置浏览器帮我点这两步 |
| dc27dbf7ebd7 | 00:08 | 00:30 | 20 | 3 | 6.7 | 0 | 0 | 12,273 | 0.049(4.7%) | 步/轮 | 我需要虚拟一台 8C,16G 50GHDD的rocky9 虚拟机,请帮我使用部署工具创建 |
| 0cb5000a23f4 | 01:17 | 01:19 | 3 | 2 | 1.5 | 0 | 0 | 1,554 | 0.006(0.6%) | - | 我咨询你个事,像这种我明明给了很明确的路径类似于/home/rain/Documents/temp/sudo-nopas…(脚本截断) |
注:mi 路由会话(88341d6751fb / e8076a97eb26 / dc27dbf7ebd7 / 0cb5000a23f4)hit/miss 计量为 0,折算成本全部落在输出段,与台账口径的差异待观察(mi 计价走 GLM 回退,SOP 四十八)。
⑥ 深挖取证¶
5218f54dd543(需关注)— 成本第 1 名 55.4%,单轮 54 步¶
- 结论:需关注——步/轮 54 触阈值但四项核对干净(status 全 200、零输出步 0、无重复提问、无 >5min 空档),属任务驱动的长执行;3 条中段失效均为一次性重建,非持续失效。
- 成本构成:0.577 元 = 命中 0.159 + 未命中 0.154 + 输出 0.264(与台账 ±2% 吻合);未命中段大头是会话首条(01:11:37 miss=15,082,结构必然)。
- 关键证据:① 轮 1 内 54 步 01:11:37→01:22:52,prompt_p50=175,866,每步重放是命中段成本主因;② 中段失效 01:11:43 miss=11,120→后一条 hit 回升,01:11:59 miss=11,143→回升,01:16:57 miss=11,020→回升,均一次性重建(需关注,观察);③ 最贵步 01:16:47 out=12,647(0.0597 元),输出段为单步成本主因。
- 收益修正:压步数只折算命中重放段——54 步若降到当日中位 3 步/轮量级,命中重放约省 0.15 元 + 部分输出,合计 ≈ 0.3 元/次(不按 0.577 元线性折算)。
88341d6751fb(需关注)— 成本第 2 名 22.4%,/cost 多轮会话¶
- 结论:需关注——13 轮步/轮 3.5 正常,但成本占比 22.4% 触发阈值,且 hit/miss 计量为 0、成本全部由输出段构成。
- 成本构成:0.233 元 = 输出 58,268 × 4 元/百万(命中/未命中计 0)。
- 关键证据:① 本会话(开场提问
/cost),13 轮 00:30→01:23,轮 1 与轮 13 间有 51min 空档;② 轮 3 最贵 0.050 元(out 集中 5,773+3,380);③ prompt_p50 从 32,666 涨到 127,162——长会话上下文逐轮增长但未命中计 0,计价口径存疑。 - 收益修正:数据不足,暂不估算——hit/miss=0 需先核实 mi 路由 usage 是否真的无 cached 数据,还是解析缺口。
e8076a97eb26(需关注)— 成本第 3 名 10.7%,步/轮 21.5¶
- 结论:需关注——43 请求挤在 2 轮(轮 5 单轮 40 步 00:28→01:21),但 status 全 200、零输出步 0、无重复提问,属任务驱动(Lmod 路径修复类长任务)。
- 成本构成:0.112 元 = 输出 27,895 × 4 元/百万(hit/miss 计 0)。
- 关键证据:① 轮 5 = 40 步跨 54 分钟,含 2 个 >5min 空档(01:05→01:10、01:10→01:16)——空档是任务等待而非空转;② 单步最大输出仅 2,379,无输出爆炸。
- 收益修正:命中重放段计量为 0,压步数当期节省≈输出段外溢部分,有限。
dc27dbf7ebd7(正常)— 步/轮 6.7 略过阈值¶
- 结论:正常——仅步/轮 6.7 > 2×中位(3) 触发,成本占比 4.7% 未触发;3 轮均短平快(4/5/11 步),rocky9 虚拟机部署任务驱动。
- 成本构成:0.049 元 = 输出 12,273 × 4 元/百万。
- 关键证据:① 轮 3 最贵 0.031 元、11 步跨 4 分钟;② 无空档、无零输出步。
来源:
/home/rain/Documents/services/token_proxy/reports/daily-review-20260925.md| 最后更新:2026-09-25 01:23(由build/sync.py同步,请勿在站点侧修改)