[mihudaner]

问题与目的

延续 #2953 的 非aclgraph场景下host开销性能优化。已从 无优化 103.49 ms -----------> #2953 优化后 11.25 ms

当前即使 Eager 调用命中已编译 kernel，JIT 仍会在不同 helper 中重复解析同一个函数签名，并把已经取得的普通常量值先构造成 AST、再转换为源码文本。本 PR 减少这两部分 Host 准备开销。验证后耗时优化到 7.784 ms。

包含两个独立 commit，分别对应以下改动， 都是逻辑等价优化；不改变 kernel 计算、调度器或提交协议。

改动一：请求内复用函数签名

python/pypto/jit/decorator.py 新增 _function_signature，使用已有的 @cache_in_snapshot；六处签名查询统一经由该 helper。

原来：同一请求的参数名 / constexpr / layout / 参数绑定等 helper
        ----> 各自 inspect.signature(func)
现在：本请求首次查询 ----> inspect.signature(func)
      本请求再次查询 ----> 复用 Signature
      请求结束       ----> 丢弃快照，下次请求重新读取

参数绑定、默认值应用和注解求值仍按原路径执行，不缓存实参绑定结果或整个 specialization。跨请求修改默认值、注解和自定义 __signature__ 后会重新读取；嵌套调用共享当前快照，独立线程隔离，异常退出也清理快照。与现有请求快照语义一致。

改动二：普通常量文本直接生成

python/pypto/jit/specializer.py 的 constant_source 对精确的 None/bool/int/str 直接使用 repr；free_name_source 读取当前值后复用同一转换逻辑。

原来：当前值 128 ----> ast.Constant(128) ----> ast.unparse ----> "128"
现在：当前值 128 ----> repr(128) ----> "128"
默认 AST unparser 对这些类型原本就使用 repr，因此仅省去 AST 构造和遍历。精确类型用 is 检查，避免子类或元类自定义相等比较干扰。浮点数（含 NaN/Inf、负零）、子类、容器、枚举和 DSL 符号保留原转换流程。仍读取当前绑定，不新增跨请求缓存，不缓存表达式的 eval 结果或 Python 编译对象。 所以这个优化直白简单描述一下是干了什么

• 就是把常量变成源码字符串时，省掉中间绕路。

性能验证

单卡 TMR PTO Eager，B1 / 128K 历史 / S6 / TP1，BF16 hidden、正式 C4 层 W8A8 权重，NZ2，atomic_add=0、deterministic_level=0，合成独立物理 Cache 历史。以下为无 profiler 的 Host 调用中位数，各版每段 8 次：

独立 A/B	优化前	优化后	Host 降幅
改动1：b63d2031 → 请求内签名复用	11.323 ms	8.805 ms	22.2%
改动2：80336c7d → 常量文本快速生成	8.888 ms	7.784 ms	12.4%

两组为不同轮次，不将百分比直接相加。Phase 3 插桩后的另一段无 profiler 测量为 8.765 → 7.772 ms，方向一致。

轻量插桩分段如下，单位 ms、各版 8 次均值；父子边界为包含关系，不能相加：

边界	改动一 前 → 后	改动二 前 → 后
_resolve_constexpr_bindings	4.109 → 2.342	2.378 → 2.124
_get_source_hash	2.095 → 2.070	2.081 → 1.292
_resolve_specialization	2.682 → 1.914	1.935 → 1.917

独立 cProfile 的 3 次调用中，Phase 2 的 inspect.signature 次数从 645 降至 168；cProfile 绝对耗时不作为性能结论。Phase 3 的主要收益来自常量文本处理，未优化参数特化。

两阶段均保存优化前后 CANN Level1 CPU/NPU profiling。Phase 3 的 CANN Host 包络为 9.498 → 7.966 ms，设备 kernel 中位数为 483.71 → 470.84 μs，每版 8 个完整设备任务。设备仍约 0.5 ms，独立轮次差异不归因为本次核内提速。本 PR 改动位于 HBG/TMR 共用准备逻辑，但本轮只测 TMR 单算子，不将该比例外推到 HBG、ACLGraph replay 或整模型吞吐。

正确性与回归

• 两阶段分别验证同输入、同初态下的优化前后等价性：输出、Top-K/分数、五组 Cache 更新逐元素一致，最大绝对差 0；重复执行一致，保护区检查通过。此项是 Host 优化前后比较，不是 Native/PTO 精度验收。
• 两版生成的 208 份 PTO/C++ 文件一致，仅归一化自动 inline 编号及构建目录。
• 完整 tests/ut/jit/：833 passed；最后补强新字面量用例后定向回归：26 passed。
• 新增测试覆盖签名共享、默认值/注解/自定义签名刷新、异常清理、线程隔离，以及常量文本一致性、快速路径、全局重绑定、容器修改、子类和元类行为。
• 四个变更文件的 Ruff 检查、格式检查及 git diff --check 通过；提交前确认源码与已完成 NPU 验证的快照一致。
• Debug 扩展退出时有已知 nanobind 引用泄漏提示；验证任务退出码为 0。

[chatgpt-codex-connector]

Codex Review Summary

This comment shows the latest Codex review activity on this pull request.

Review	Status	Commit	Review trigger
📝 Code Review	✅ Completed 2026-10-10T01:26:53.573597Z	00d5ab9	PR opened

ℹ️ About Codex in GitHub

Your team has set up Codex to review pull requests in this repo. Reviews are triggered when you

• Open a pull request for review
• Mark a draft as ready
• Comment "@codex review" or "@codex security review".

Codex reacts with 👀 while any review is running, comments if it has suggestions, and reacts with 👍 once all reviews finish with no findings.

[coderabbitai]

Important

Review skipped

Auto reviews are disabled on base/target branches other than the default branch.

Please check the settings in the CodeRabbit UI or the .coderabbit.yaml file in this repository. To trigger a single review, invoke the @coderabbitai review command.

⚙️ Run configuration

• Configuration used: Organization UI
• Review profile: CHILL
• Plan: Advanced
• Run ID: 5288671d-ea67-4053-ad1b-e1fb3e7f27b2

---

You can disable this status message by setting the reviews.review_status to false in the CodeRabbit configuration file.

Use the checkbox below for a quick retry:

• 🔍 Trigger review

• Autofix · Keep fixing CodeRabbit findings and required CI, and resolving merge conflicts

---

Thanks for using CodeRabbit! It's free for OSS, and your support helps us grow. If you like it, consider giving us a shout-out.

❤️ Share

• X
• Mastodon
• Reddit
• LinkedIn

---

_{Comment @coderabbitai help to get the list of available commands.}