refactor: 用 Eino 框架重构编排层 #133

huanghaosheng · 2026-06-20T12:00:44+08:00

huanghaosheng commented

2026-06-20 12:00:44 +08:00

No description provided.

huanghaosheng added 11 commits 2026-06-20 12:00:44 +08:00

feat: 引入 Eino 框架并实现 AI 编排层基础设施与节点 fd5c7712f8

- 引入 cloudwego/eino v0.9.9 和 eino-ext/components/model/openai v0.1.13
- 新增 internal/eino/ 包：
  - types.go: PipelineInput/Output、STTOutput、TokenUsage 类型定义
  - state.go: PipelineState 跨节点状态收集（线程安全）
  - callback.go: ChatModel OnEndWithStreamOutput 回调，逐 token 推送 llm_chunk
  - nodes_stt.go: STT Lambda，支持文本/语音输入模式
  - nodes_history.go: 历史组装 Lambda，含多模态图片支持
  - nodes_splitter.go: 句子分割 Transform Lambda
  - nodes_tts.go: TTS Lambda，逐句合成推送音频
  - nodes_done.go: Done Lambda，发送 llm_done 并追加历史

Co-Authored-By: Claude <noreply@anthropic.com>

feat: 实现 Eino Graph 构建与 Orchestrator 适配器，切换 main.go 4b731b5ac0

- graph.go: 构建 Graph 拓扑 START→STT→History→ChatModel→Splitter→TTS→Done→END
  - 创建 eino-ext ChatModel 对接 DashScope OpenAI 兼容接口
  - 统一使用值类型（PipelineInput/PipelineOutput）
  - Callback 在运行时通过 Stream option 传入
- adapter.go: EinoOrchestrator 实现 orchestrator.Orchestrator 接口
  - 解码 base64 音频/图片，注入 context 值
  - 调用 Graph.Stream() 触发惰性执行并消费输出
  - 追加用户/助手消息到历史
- main.go: 移除旧 llmService + orchestrator.New()
  替换为 eino.NewPipelineGraph() + eino.NewEinoOrchestrator()
- 各节点统一使用值类型，State 传递请求元数据

Co-Authored-By: Claude <noreply@anthropic.com>

refactor: 清理旧编排代码，新增 eino 包单元测试 4ffd84510e

删除旧代码：
- orchestrator/pipeline.go: 旧 STT→LLM→TTS 手写 goroutine 管道
- orchestrator/splitter.go: 旧句子切分器
- orchestrator/pipeline_test.go: 旧 Pipeline 测试
- ai/llm/openai.go: 旧 LLM OpenAI 实现（被 eino-ext ChatModel 替代）
- ai/llm/openai_test.go: 旧 LLM 测试

保留的接口和工具：
- orchestrator/orchestrator.go: Orchestrator 接口（ws/handler 依赖）
- orchestrator/sender.go: Sender 接口（eino/callback 依赖）
- ai/llm/llm.go: Request/Chunk/TokenUsage 类型定义
- ai/llm/prompt.go: BuildSystemPrompt（eino/nodes_history 依赖）
- ai/llm/scenarios.go: GetScenarioPrompt（eino/nodes_history 依赖）

新增测试：
- eino/graph_test.go: 13 个测试覆盖类型构建、State 并发安全、
  Context 注入、延迟计算、接口实现检查等

Co-Authored-By: Claude <noreply@anthropic.com>

docs: 新增 Eino 框架技术文档和重构实施记录 9576884619

- docs/11-Eino框架技术文档.md: 框架简介、技术选型对比、核心概念（Lambda/Graph/ChatModel/StreamReader/Callback/State）、CamTalk Graph 设计、目录结构、注意事项
- docs/12-Eino重构实施记录.md: 重构背景、架构变更、四阶段实施详情、代码统计、遗留事项

Co-Authored-By: Claude <noreply@anthropic.com>

fix: 修复 Eino Graph 类型不匹配和多模态消息问题 eb1b90445f

- 添加 msg2str 转换节点解决 ChatModel 输出 *schema.Message 与 Splitter 期望 string 的类型不匹配
- 将多模态图片内容从 system 消息移到 user 消息（DashScope API 仅支持 user/tool 角色的多模态内容）
- 修复 Content 和 UserInputMultiContent 不能同时设置的问题
- Splitter 输出改为 StreamReader[string]（单句），TTS 改为 TransformableLambda 流式消费
- 修复 .env 中 PostgreSQL DSN 和 Redis ADDR 的 http:// 前缀问题

Merge pull request 'feat: 重构用eino框架' (#128 ) from fea/newcode into develop 898d1474ec

Reviewed-on: http://8.161.227.145:3000/XEngineers/CamTalk/pulls/128

Merge pull request 'fix: 统一 docker-compose 环境变量注入方式，修复 postgres/redis 配置读取问题' (#130 ) from feature/add-redis-docker into develop c2c9a6d392

Reviewed-on: http://8.161.227.145:3000/XEngineers/CamTalk/pulls/130

fix: 修复 TieredManager 创建 session 时 L1/L2 ID 不一致导致 Redis 写入失败的问题 b8fd6a9330

Merge pull request 'fix: 修复 TieredManager 创建 session 时 L1/L2 ID 不一致导致 Redis 写入失败的问题' (#131 ) from fix/redis-use into develop 88ee1e2548

Reviewed-on: http://8.161.227.145:3000/XEngineers/CamTalk/pulls/131

ci: deploy 工作流增加 main 分支触发 5910e02a66

Merge pull request 'ci: deploy 工作流增加 main 分支触发' (#132 ) from fix/redis-use into develop 93d5a90495

Reviewed-on: http://8.161.227.145:3000/XEngineers/CamTalk/pulls/132

huanghaosheng merged commit de78d60959 into v2

2026-06-20 12:01:04 +08:00

huanghaosheng referenced this issue from a commit

2026-06-20 12:01:05 +08:00

Merge pull request 'refactor: 用 Eino 框架重构编排层' (#133) from develop into v2

Sign in to join this conversation.

1 Participants

Notifications

Due Date

No due date set.

Dependencies

No dependencies set.

Reference: XEngineers/CamTalk#133