旋大爷的博客
V1 对话 MVP 已落地，持续迭代中

AI-assistant

产品名：企业级 AI 助手平台

项目代号为 ai-study，目标不是做一次性的聊天 Demo，而是从可验证的对话闭环开始，逐步构建包含 RAG、权限过滤、Agent、评测与多模型网关的企业级 AI 应用。当前已完成 V0 运行骨架和 V1 对话 MVP：Vue 前端、Java 业务 API、Python 模型适配、会话与调用记录均可在 Docker Compose 环境中运行。

9 篇文章 最近更新 2026年7月28日

项目定位

面向 Java 后端开发者进阶 AI 应用工程的实战项目。Java 负责企业业务、身份上下文、审计与数据边界；Python 负责模型接入、检索与后续 Agent 编排，在一个可运行、可验证、可复盘的项目中把两类能力真正串起来。

目标用户

希望从 Java 后端开发转向 AI 应用工程的开发者需要理解 LLM、RAG、Agent 如何接入企业系统的工程师关注多租户隔离、调用审计、模型成本与可观测性的技术实践者

核心价值

已跑通会话创建、消息持久化、模型调用与 token / 延迟 / 错误记录的 V1 对话闭环

Java 与 Python 通过显式请求上下文协作，租户、用户、角色和 request ID 可跨服务追踪

提供 demo provider 与 OpenAI 兼容接口两种模式，先保证本地确定性验证，再接入真实模型

Docker Compose 统一编排 PostgreSQL、Redis、Milvus、Java、Python 与前端，并区分存活和就绪检查

MVP 范围

Docker Compose 一键启动基础依赖与三层应用租户、用户、角色与请求上下文基础模型Chat 会话、消息历史与重复提交的幂等结果复用同步对话接口、SSE 事件通道与 Vue 三栏工作台模型 provider 适配、调用日志、token 与延迟记录Java、Python、PostgreSQL、Redis、Milvus 的健康状态查看

开发路线

V0 / V1：运行骨架与对话闭环（已完成）

  • Docker Compose 环境
  • 请求上下文
  • Chat 会话与调用日志
  • Vue 工作台
  • demo 与 OpenAI 兼容模型适配

V2：文档知识库 RAG MVP

  • 文档上传与解析
  • 分段和向量化
  • Milvus 检索
  • 带引用的知识库问答

V3 / V4：企业 RAG 加固与 Agent

  • 文档权限过滤
  • 混合检索与重排
  • 工具调用
  • 高风险操作人工确认

V5 - V7：评测、模型网关与作品集

  • RAG / Agent 评测
  • 调用观测与成本统计
  • 多模型路由与配额
  • 完整演示和项目复盘

风险与注意事项

  • 当前开发模式允许 demo 租户、用户和角色；接入正式认证前不能将该模式用于生产环境
  • 当前前端使用同步对话接口，后端 SSE 仍需在真实模型接入后升级为端到端 token 流式与断连收尾机制
  • 外部模型调用不受数据库事务覆盖，超时、重试、半成功与补偿策略需要在真实调用场景中继续完善
  • RAG 上线前必须把租户、用户和角色过滤前置到检索链路，不能仅依赖提示词约束
  • 真实模型 API Key、调用成本、日志脱敏和数据合规需要建立独立的配置与治理机制

项目文章