Skip to content

调研:Go AI 客户端与 NDJSON 生成引擎移植路径 #90

Closed

Description

@JonasGao

Part of #88

Question

把 Vercel AI SDK v7 之上的 NDJSON 生成引擎(src/lib/generation/stream.ts 472 行 + service.ts 456 行)移植到 Go:官方 anthropic-sdk-go / openai-go 与裸 HTTP 各自的流式、多步 tool-loop(stopWhen 语义)、工具错误分类、abort 支持到什么程度?三 provider 抽象(anthropic / openai Responses / openai-compatible+reasoning 改写 hack)怎么落?10 种 NDJSON 事件到 provider 事件的映射表是什么?一次性 generateObject+zod 在 Go 侧对应什么?

Activity

  1. self-assigned this
    on Nov 5, 2026
  2. JonasGao commented on Nov 5, 2026

    @JonasGao
    CollaboratorAuthor

    研究完成。结论见 docs/research/go-ai-engine-port.md(分支 research/go-ai-engine-port,提交 639fd3e,未推送)。

    推荐方案:官方 Go SDK 只做“传输 + 原生事件解码”,自研统一事件适配层与多步工具循环,不用 BetaToolRunner。

    • anthropic:anthropic-sdk-go/v2@v2.6.0 的 Beta.Messages.NewStreaming + BetaMessage.Accumulate/ToParam();必须显式 pin anthropic-version: 2023-06-01,因为 SDK 默认的 2026-10-21 会拒绝 temperature,而当前 @ai-sdk/anthropic@4.0.16 发的正是 2023-06-01。
    • openai:openai-go/v3@v3.95.0 的 Responses.NewStreaming,手工循环;同一轮内用 PreviousResponseID 串工具步骤。
    • openai-compatible:net/http 裸 SSE,直接解析 reasoning_content|reasoning|thinking;不要继续移植 provider.ts 的 reasoning 标记嵌入 hack。

    关键发现:

    • stopWhen 是 OR 语义,且在工具执行之后判定;hasToolCall 看的是“请求调用的工具”(参数非法也算),isStepCount(6) 精确在第 6 步停止。BetaToolRunner 只有 MaxIterations,且工具要到下一次迭代才开始执行,无法表达该停止语义;默认还使用 provider-side message thread,与 ADR-0008 的 app-owned transcript 冲突。
    • 跨轮 transcript 只回放 role=user|assistant 的 text part,不回放 tool-call/tool-result/reasoning——这是必须保留的既有 quirk。
    • openai-go/v3 最新版要求 Go 1.26+(Go 1.25 需 pin v3.74.0)。
    • 文档含 10 种 NDJSON 事件到三 provider 原生事件的完整映射表、abort/stop registry 方案、generateObject+zod 的 Go 对应物,以及按优先级排序的移植风险。

    未修改 #88。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

Labels

Type

No type

Projects

No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions