Project 03 / Applied AI

燎原火 AI 学习平台

本地优先、云端兜底的私有 AI 平台。使用 Docker、Dify、Ollama 与 DeepSeek 组织模型路由、知识库和对话记忆，探索 RAG 与 Agent 应用的工程化落地。

背景与目标

纯云端 API 成本不可控，纯本地模型又受显存和模型能力限制。项目把两类模型放入同一套路由体系：本地模型承担隐私和日常任务，云端模型负责复杂推理与兜底。

15 容器模型、编排、存储和前台服务分层

双通道本地 Ollama / 云端 DeepSeek 分流

双层记忆会话上下文与长期知识分离

Docker 分层部署

使用 Compose 管理模型服务、Dify、数据库、缓存和前端入口，降低本地复现成本。

模型路由

根据任务、可用资源和成本策略选择本地或云端模型，避免所有请求都依赖外部 API。

RAG 知识库

将文档切分、索引、检索和生成拆分，保留引用来源，便于追踪错误答案。

长期记忆与上下文

短期会话和长期知识分开存储，控制上下文长度并减少无关记忆污染。

Docker ComposeDifyOllamaDeepSeekRAGAgentPostgreSQLRedis