Skip to content

原型:Go 生成引擎垂直切片(NDJSON + tool-loop + 停止) #93

Closed

Description

@JonasGao

Part of #88

Question

用最小 Go 垂直切片证明生成引擎语义可对齐:真实 ai_config 跑通一个生成会话的多步 tool-loop,向现有前端(不改一行 UI)以 application/x-ndjson 推 10 种事件,含节流落库与停止/断连中断。回答:能/不能/坑在哪。

Activity

  1. self-assigned this
    on Nov 5, 2026
  2. JonasGao commented on Nov 5, 2026

    @JonasGao
    CollaboratorAuthor

    结论:能。 生成引擎语义可以在 Go 侧 1:1 对齐,全链路已在现有 UI(零 src/ 改动)上验证。产物:prototype/go-gen-engine 分支 prototype/go-gen-engine/ + 报告 docs/prototype/go-gen-engine.md(坑清单 14 条)。

    验证矩阵(全部通过)

    场景 结果
    happy 3 步 tool-loop(list→content→propose) 10 种 NDJSON 事件中 9 种按序推送;proposal 事件带完整 publicSummary;parts 序列连续、文本/reasoning 跨步合并、状态 part=Completed;查询快照 2 行 ✓
    停止(stop 路由,流中) finish aborted、turn=aborted、状态 part=Stopped、已收文本强制 flush ✓
    断连(客户端消失) 服务端自行收尾(aborted + Stopped),无悬挂 working 轮 ✓
    失败(provider 500) error 事件(第 10 种)、turn=failed、error part、状态 part=Generation failed ✓
    并发轮次 / 空消息 409 TURN_IN_PROGRESS / 400 EMPTY_MESSAGE({error,code} 形状一致)✓
    步数上限 恰 6 次 tool-call/result 后停(isStepCount(6);第 6 步工具仍执行)✓
    500ms 节流落库 流中轮询实证:delta 连续推送、DB 内容按 ~500ms 合并跳变 ✓
    UI 全链路(Playwright → Go :6890) 建会话→流式渲染→工具卡片/历史参考·不可信徽标/查询快照→proposal 面板(publicSummary 过前端结构校验)→第二轮 transcript 回放→supersede→Accept 落库(跨写者闭环);0 console errors ✓

    拓扑

    Go(chi)守两条 generation 路由,其余一切反代 Next;Go(mmodernc) 与 Next(better-sqlite3) 共写同一 SQLite(journal=delete + 双侧 busy_timeout,20+ 轮无锁冲突)。Go 在前 = 最终单二进制形态的局部预演。

    最贵的几个坑(全文 14 条见报告)

    1. 时间戳是秒——修正 调研:sqlc + modernc sqlite + chi 数据栈工作流 #92 调研的"毫秒"结论(drizzle timestamp 模式写 Unix 秒,生产行实证)。
    2. UTF-16 计长——TS string.length 语义贯穿所有字符预算(450k/40k/280/2k/200k),Go len 是字节,CJK 漂移 3 倍;需 utf16Len/sliceUTF16 helper。
    3. openai-go/v3 包路径修正——import 是 openai-go/v3(非 packages/…);openai.Int/shared.ResponsesModel;事件按 ev.Type + As*() 分发。
    4. tool-input 事件键位——function_call_arguments.delta 只带 item_id,wire 的 tool-input-delta 需要 name,适配层必须自维护 item_id→(call_id,name) 映射(漏了全发 "tool",实测踩中)。
    5. 续轮只带增量——previous_response_id 链下每请求只带本步 output;不认该字段的兼容代理是集成风险(回退=items 全量回放,蓝图要留开关)。
    6. nil slice → null——publicSummary 空数组字段 nil 序列化后前端结构校验直接丢弃整个 summary(UI 实测抓到)。
    7. strict 省略——AI SDK 对这些工具不发 strict;Go 侧显式 false 等价。

    诚实边界

    生产 ai_config 指向的本地代理(127.0.0.1:4000,ai-subscriptions 容器)当前 crash-loop 宕机。切片走的是真实 config 行的完整读取路径(协议/模型/URL/Key 全来自 DB),仅快照库 URL 指向脚本化 mock(happy/slow/fail/loopstep 四剧本,mock.go)。等代理恢复后跑一轮真实会话即可补上——已列为蓝图(#96)的集成测试输入。

    遗留给定稿票(#96)

    • adapter 接口定型(runStep/stepRequest);anthropic、openai-compatible 按同接口补齐(坑位见 调研:Go AI 客户端与 NDJSON 生成引擎移植路径 #90:anthropic-version 钉 2023-06-01、compat 裸 SSE 读 reasoning)。
    • previous_response_id 回退开关、audit 表写入归位、真实模型集成测试。
    • report-list/content 查询工具的 Go 版是全量移植,可作正式实现参照。
  3. JonasGao commented on Nov 5, 2026

    @JonasGao
    CollaboratorAuthor

    回答:能对齐,坑已列明(14 条);真实模型端点一跑补齐后无剩余未决。详见上方决议与 docs/prototype/go-gen-engine.md。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

Labels

Type

No type

Projects

No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions