当大模型重写了“服务端”:一次技术栈变迁的随笔
从 Spring 全家桶到 Prompt、RAG 与 Agent 编排,前后端的边界正在被大模型重新定义。一篇关于岗位变迁的随想:变的是技术栈,不变的是解决问题的能力。
从 Spring 全家桶到 Prompt、RAG 与 Agent 编排,前后端的边界正在被大模型重新定义。一篇关于岗位变迁的随想:变的是技术栈,不变的是解决问题的能力。
深入分享我在 2026 年的全栈与 AI 混合技术栈架构:以 Claude Code 和 Pi Agent 为主力编程助手,以 GLM 为核心基座大模型,以 Python + FastAPI + LangGraph + RAG 为 AI 引擎,并探索 FastMCP、FastGPT 与 RAGFlow 的企业级落地。
在高并发全栈后端开发中,如何优雅地将多路独立 I/O 调用的总耗时从线性累加压缩到最大单次 RT?以大模型 RAG 记忆加载场景为例,深度解构 CompletableFuture.supplyAsync、allOf 屏障等待、线程池物理隔离、无锁结果聚合与 WithFallback 舱壁降级设计的核心细节。
当多轮对话聊到 30 甚至 50 轮,滑动窗口滑走了开头的关键约束、全量保留又会挤爆 Token 上下文,RAG 系统该如何破局?深入剖析 Ragent 记忆系统中的增量摘要压缩算法、lastMessageId 水位线推进机制、攒批压缩优化(summaryBatchSize)、Prompt 绝对禁止记录答案的设计哲学以及 Redisson 分布式锁防重实践。
大语言模型 API 天然是无状态的,如何让每次独立的请求表现为连贯自然的连续对话?深入剖析 Ragent 问答流水线阶段一(loadMemory)背后的三层记忆架构、异步并发拉取与容错降级、滑动窗口规整(normalizeHistory)、loadAndAppend 时序避坑以及结构化 Prompt 上下文注入顺序。
深入剖析阿里巴巴开源 TransmittableThreadLocal (TTL) 的底层机制(Capture、Replay、Restore 与 Holder 弱引用字典),彻底破解线程池复用下的上下文丢失与污染困境。结合生产级 RAG 架构,实战解析如何利用全局 traceId 实现多路并发检索归因、分阶段耗时(TTFT/TBT)拆解与单次请求 Token 级成本精细化核算。