Repository navigation
fix(infer): smoke 缓存验收腿真 key 实测强化（长前缀 + 绝对命中判据） - #95
Merged
Merged
Conversation
真 key 验收（DeepSeek deepseek-chat 实跑）发现两处验收腿缺陷： 1. 自检 system 词仅 24 tokens——端点前缀缓存对短 prompt 低负载时常 不命中（厂商尽力而为），零命中 WARN 非代码缺陷但验收腿失去意义。 前缀扩至 ~459 tokens（自检清单固定段 ×12，两枪共用）。 2. 双连发判据用「相对第一枪的增量」——跨进程缓存预热后第一枪就已 命中，增量恒 0，验收腿在缓存真正生效时反而报 WARN。改为第二枪 cached 绝对值 > 0。 实测（两次独立进程）：6 PASS / 0 FAIL，第二枪稳定命中 256 tokens； 另经长前缀双连发直接验证 API 侧 hit+miss=prompt_tokens 逐位对账 （384+187=571），解析口径与厂商 usage 完全一致。 key 纪律：本改动零 key 内容；grep sk- 前缀 clean。 Signed-off-by: OriEra <294484954+leslie520-bye@users.noreply.github.com>
Signed-off-by: OriEra <294484954+leslie520-bye@users.noreply.github.com>
Signed-off-by: OriEra <294484954+leslie520-bye@users.noreply.github.com>
leslie520-bye
added a commit
that referenced
this pull request
Oct 22, 2026
* perf(subsys): rigid 写回 O(n²)→O(n) 单遍刷写（#100，评审 E3） - 步骤 4 原每实体一次 for_each2_mut 全列扫（n 体 = n 次全列遍历，1k 体即卡帧） → writeback 暂存表（clear() 复用分配，EntKey→钳制后 xyz）+ 单次列遍历查表刷写 - 每实体写回只依赖自身 body 状态，批量刷写保持写序语义 - 新增 thousand_bodies_all_receive_their_writeback：1k 体线性运动无接触精确 断言（dx=vx·dt，漏写即红）；two_runs_are_bit_identical 红线不动 - 裁定：全岛休眠跳步不做——rapier islands 自带 sleep，跳步引入语义风险 大于收益；时间断言 bench 归 #103 bench 四件套（避免 CI 时间 flaky） * test(contracts): 双端契约单一来源 golden fixture（#98，评审四方共识） - contracts/golden/intents.json：parse 词汇 28 用例（中英+否定+落空）， Rust parse() 与 kernel parseIntent() 双端共读镜像断言 - contracts/golden/presets.json：预设 14 行全字段（caps 五字段恒显式/ price 四字段或 null），Rust preset_json 规范化对照 + kernel norm 对照 - 测试挂 dev-dependencies serde_json（不受 feature 门控，任何 CI 腿都跑） - 改任一侧解析/预设而不更新 fixture → 双端 CI 同红——漂移从此有闸门 - 现状两侧表一致性同时得到实证（此前仅注释纪律维持） * docs(stability): B8 模型验收门禁节（#99，评审 AI 原生 P0） - 门禁入口 b8_gate_smoke：rule 参照后端四腿聚合冒烟（确定性/usage 计量/ 流式拼接诚实/降级链韧性），离线零网络进 CI workspace 腿 - 深度四腿不重复——STABILITY.md §B8 显式指认既有常驻测试清单 - 裁定：行为腿 #92-#95 已高度覆盖，B8 增量=显式入口+登记单一来源， 不新开 CI 独立腿（native-http 腿已常驻）避免时长膨胀 * test: 评审双 P1 修复 + rebase 后补齐上游 xlite 双端漂移 评审发现（两位独立评审 PASS-with-findings，红线零违反）： - [P1] 全角数字双端漂移实锤（JS v2.1 已归一、Rust 无）→ Rust parse 补 全角归一（对镜 kernel），fixture 新增放５个/生成１０个钉住 - [P1] 覆盖缺口必补：清屏（clear 第三同义词）、清空，但别关灯（否定后置 不抑制，比较方向翻转 fixture 必红） - [P2] b8_gate leg4 断言强化：health_report 必须记到失败计数（name-only 检查防不住 record() no-op 回归） - [P2] 1k 测试网格原点 5→9：原 origin-5 对墙嵌入 3 单位（r=8），断言成立 依赖 rapier 软接触；现体-体/体-墙全程无接触，前提为真 - [P2] kernel.test.mjs 行数断言改读 presets.json rows.length（演进少一处） - [P2] JS kind 推导裁定保留（读 fixture 会成同义反复），注释化说明 rebase 到 origin/main（上游 4 提交）后 golden 门禁当场抓到新漂移： - kernel 侧先行加了 xlite 行（15）而 Rust 表仍 14 → Rust 补 xlite 行 + presets.json 第 15 行，双端重新对齐 - price_for_label kind:model 撞行（xlite/openai 同为 gpt-4o-mini）→ 改为 首个有登记价的行胜出（网关未登记价按源厂牌价记账，绝不猜价） - 顺手 cargo fmt：上游 2f93226 带入的 http.rs 三处格式残留（CI 首红主因）
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
真 key 验收实测（deepseek-chat）发现两处验收腿缺陷并修复：①自检前缀 24 tokens 太短，端点缓存低负载不命中——扩至 ~459 tokens；②双连发判据用相对增量，跨进程预热后恒 0——改为第二枪 cached 绝对值。实测两连跑 6 PASS / 0 FAIL、稳定命中 256 tokens；API 侧 hit+miss=total 逐位对账。key 纪律：零 key 内容入仓。