智能运维值班代理系统 - 融合 RAG、ReAct 与 Plan-Execute-Replan 三大 AI 范式的智能运维平台。
OnCallAgent 是一个面向运维场景的智能代理系统，深度融合三种 AI Agent 核心技术：
-
RAG (检索增强生成) - 基于向量数据库的知识检索，将内部运维文档、告警处理手册转化为可检索的知识库，为 Agent 提供领域知识支撑
-
ReAct (推理+行动) - 对话场景下的工具调用范式，Agent 通过"思考-行动-观察"循环，自主选择工具（时间查询、知识检索、告警获取）完成用户意图
-
Plan-Execute-Replan (规划-执行-重规划) - 复杂运维任务的自主执行框架，Agent 先制定执行计划，按步骤执行，并根据执行结果动态调整后续计划，实现多步骤任务的闭环处理
三者协同工作：RAG 提供知识基础，ReAct 处理单轮工具调用，Plan-Execute-Replan 编排多步骤任务流程，共同实现从告警发现、知识检索到处理建议生成的全链路自动化运维分析。
- 智能对话 - ReAct Agent 驱动的多轮对话，支持流式响应与工具自主调用
- 知识库管理 - Markdown 文档自动解析、向量化与索引构建
- 告警分析 - 自动获取 Prometheus 活跃告警，匹配内部处理方案
- RAG 检索 - 语义相似度匹配，从知识库精准检索处理步骤
- 自主规划 - Plan-Execute-Replan 架构实现复杂任务的多步骤编排与动态调整
┌─────────────────────────────────────────────────────────────┐
│ OnCallAgent │
├─────────────────────────────────────────────────────────────┤
│ API Layer (Gin) │
│ ├── /upload - 文件上传 & 知识库索引 │
│ ├── /chat - 智能对话 │
│ ├── /chatStream - 流式对话 │
│ └── /plan - 运维计划分析 │
├─────────────────────────────────────────────────────────────┤
│ Agent Layer (CloudWeGo Eino) │
│ ├── ReAct Agent - 对话代理 (工具调用) │
│ └── Plan-Execute - 运维分析代理 (多步骤任务) │
├─────────────────────────────────────────────────────────────┤
│ Tools │
│ ├── Time Tool - 获取当前时间 │
│ ├── RAG Tool - 知识库检索 │
│ └── Prometheus Tool - 告警查询 │
├─────────────────────────────────────────────────────────────┤
│ Storage │
│ ├── Qdrant - 向量数据库 │
│ └── Ollama - Embedding 模型服务 │
└─────────────────────────────────────────────────────────────┘
- 克隆项目
git clone <repository-url>
cd OnCallAgent- 启动依赖服务
# 启动 Ollama 并下载 Embedding 模型
ollama pull nomic-embed-text
# 启动 Qdrant
docker run -p 6333:6333 -p 6334:6334 qdrant/qdrant- 配置文件
复制配置模板并修改：
cp config/config_template.json config/config.json编辑 config/config.json，填入你的 API Key 和服务地址。
- 运行服务
go mod tidy
go run cmd/main.go服务将在 http://localhost:8819 启动。
docker-compose -f docker-compose.prometheus.yml up -d{
"server": {
"host": "localhost",
"port": 8819
},
"embedder": {
"host": "127.0.0.1",
"port": 11434,
"model": "nomic-embed-text",
"dimension": 384
},
"qdrant": {
"host": "127.0.0.1",
"port": 6334,
"collection": "oncallagent"
},
"openai": {
"api_key": "your-api-key",
"model": "your-model-name",
"api_base": "https://api.openai.com/v1"
},
"prometheus": {
"url": "http://localhost:9090"
}
}| 配置项 | 说明 |
|---|---|
server.host/port |
HTTP 服务地址 |
embedder.* |
Ollama Embedding 服务配置 |
qdrant.* |
Qdrant 向量数据库配置 |
openai.* |
LLM API 配置 (兼容 OpenAI 格式) |
prometheus.url |
Prometheus 服务地址 |
GET /ping响应:
{"message": "pong"}POST /upload
Content-Type: multipart/form-data
file: <markdown-file>将 Markdown 文档上传到知识库，自动解析并建立向量索引。
响应:
{"message": "上传成功"}POST /chat
Content-Type: application/json
{
"question": "如何处理服务下线告警？",
"id": "session-id"
}响应:
{
"message": "根据知识库，服务下线可能因为服务 panic..."
}POST /chatStream
Content-Type: application/json
{
"question": "当前有哪些告警？",
"id": "session-id"
}响应: Server-Sent Events (SSE) 流式数据
data: 根据 Prometheus 查询结果...
data: [DONE]
GET /plan自动获取 Prometheus 活跃告警，检索内部知识库，生成分析报告。
响应:
{
"message": "分析结果...",
"details": ["步骤1...", "步骤2..."]
}OnCallAgent/
├── cmd/
│ └── main.go # 程序入口
├── config/
│ ├── config.json # 配置文件
│ └── config_template.json # 配置模板
├── docs/ # 知识库文档目录
├── internal/
│ ├── handler/ # HTTP 处理器
│ │ ├── chat.go
│ │ ├── file.go
│ │ └── plan.go
│ ├── router/ # 路由配置
│ │ └── init.go
│ ├── repo/ # 数据访问层
│ │ └── qrdant/ # Qdrant 向量库
│ │ ├── init/
│ │ ├── indexer/
│ │ └── retriever/
│ └── server/ # 业务逻辑层
│ ├── ai/
│ │ ├── agent/ # AI Agent 实现
│ │ │ ├── chat/ # 对话 Agent
│ │ │ ├── knowledge_index/ # 知识库索引 Agent
│ │ │ └── plan_execute_replan/ # 运维 Agent
│ │ ├── embeder/ # Embedding 服务
│ │ ├── model/ # LLM 模型封装
│ │ └── tools/ # Agent 工具
│ │ ├── metrics_alerts.go # Prometheus 工具
│ │ ├── rag.go # RAG 检索工具
│ │ └── time.go # 时间工具
│ ├── chatServer/ # 对话服务
│ ├── knowledge_index/ # 知识库索引服务
│ └── plan/ # 运维计划服务
├── pkg/
│ ├── config/ # 配置解析
│ ├── log/ # 日志组件
│ └── tool/ # 工具函数
├── prometheus_config/ # Prometheus 配置
├── prometheusTestServer/ # 测试服务器
├── docker-compose.prometheus.yml
└── go.mod
基于 ReAct (Reasoning + Acting) 模式的智能代理，能够：
- 自动选择合适的工具
- 多步推理和执行
- 记忆会话上下文
多步骤任务执行框架：
- Plan - 根据目标生成执行计划
- Execute - 按计划逐步执行
- Replan - 根据执行结果动态调整计划
基于 Qdrant 向量数据库的检索工具：
- 文档向量化存储
- 语义相似度检索
- 知识库自动更新
告警查询工具：
- 获取所有活跃告警
- 告警信息去重
- 持续时间计算
在 internal/server/ai/tools/ 目录创建新工具：
package tools
import (
"context"
"github.com/cloudwego/eino/components/tool"
"github.com/cloudwego/eino/components/tool/utils"
)
type MyToolInput struct {
Query string `json:"query" jsonschema:"description=查询参数"`
}
func NewMyTool() (tool.InvokableTool, error) {
return utils.InferTool("my_tool",
"工具描述",
func(ctx context.Context, input MyToolInput) (string, error) {
// 实现逻辑
return "result", nil
})
}将 Markdown 文档放入 docs/ 目录，通过 /upload 接口上传。
文档格式建议：
- 使用一级标题作为文档标题
- 标题会获得更高的检索权重
- 保持文档结构清晰
- 框架: Gin + CloudWeGo Eino
- 向量数据库: Qdrant
- Embedding: Ollama (nomic-embed-text)
- LLM: OpenAI 兼容 API
- 监控: Prometheus
MIT