Tag: 生产实践

当多轮对话聊到 30 甚至 50 轮，滑动窗口滑走了开头的关键约束、全量保留又会挤爆 Token 上下文，RAG 系统该如何破局？深入剖析 Ragent 记忆系统中的增量摘要压缩算法、lastMessageId 水位线推进机制、攒批压缩优化（summaryBatchSize）、Prompt 绝对禁止记录答案的设计哲学以及 Redisson 分布式锁防重实践。

大语言模型 API 天然是无状态的，如何让每次独立的请求表现为连贯自然的连续对话？深入剖析 Ragent 问答流水线阶段一（loadMemory）背后的三层记忆架构、异步并发拉取与容错降级、滑动窗口规整（normalizeHistory）、loadAndAppend 时序避坑以及结构化 Prompt 上下文注入顺序。

从用户在前端输入一句话到打字机式流式响应返回，生产级 RAG & Agent 问答系统后端究竟经历了什么？深度解构 Ragent 项目中 StreamChatPipeline 的八阶段线性编排、三大短路分支、数据总线设计以及前置幂等/限流/Trace 工程防线。