- 03-接口文档: 新增第三章 AI 服务层接口(STT/LLM/TTS 三个 Service interface + 接入约定) - 03-接口文档: 新增第四章 AI 编排器(句子级流式并行策略、Orchestrator 实现、错误降级表) - 03-接口文档: 锁定 tts_audio 音频格式为 audio/mpeg(MP3 24kHz),新增前端 AudioPlayer 播放方案 - 02-系统架构: 更新 Orchestrator 代码为句子级流式并行实现 - README.md: 更新 03-接口文档描述,补充 AI 服务层和编排器关键词
CamTalk 设计文档
CamTalk 是一款多模态实时 AI 视觉对话助手。用户通过摄像头和麦克风与 AI 交互,AI 理解视觉场景和语音输入后给出自然回应。
文档索引
| 文档 | 说明 |
|---|---|
| 01-项目概述 | 项目目标、核心挑战、交付物 |
| 02-系统架构 | 三层架构、技术栈、核心交互流程、前后端模块、存储策略、部署架构 |
| 03-接口文档 | WebSocket 协议、REST API、AI 服务层接口(STT/LLM/TTS)、编排器设计、数据模型、错误码、连接管理(实现时首先阅读) |
| 04-技术选型 | 持久化层(PostgreSQL)和前端边缘处理层的选型对比与决策理由 |
| 05-用户故事 | P0/P1/P2 用户故事、验收标准、优先级决策依据 |
| 06-语音交互 | VAD → STT → LLM → TTS 全链路、延迟优化 |
| 07-视觉理解 | 帧采样策略、图像编码、多模态 LLM 输入机制 |
| 08-成本控制 | 智能采样、端云协同、模型分级、缓存复用 |
| 09-技术名词解释 | 前端/后端/AI 服务技术名词简明解释 |
推荐阅读顺序
- 01-项目概述 — 了解项目目标
- 02-系统架构 — 理解三层架构和技术栈全貌
- 03-接口文档 — 前后端通信契约,实现时的最高依据
- 04-技术选型 — 了解为什么选这些技术
- 05-用户故事 — 明确功能优先级
- 06~08 — 各技术领域的详细设计
- 09-技术名词解释 — 遇到不熟悉的名词时查阅