Tag: 文本向量化

文本向量化是搜索、推荐与 RAG 共同的地基。本文快速回顾 one-hot、TF-IDF、Word2Vec 等经典方案的思路与局限，重点拆解现代 Embedding 模型的三大支柱：BERT 上下文表示、Sentence-BERT 句向量专用化与对比学习训练范式，并盘点 BGE、GTE、E5、OpenAI text-embedding-3 等主流模型与 MRL、指令前缀等关键技术。

TF-IDF 用「词频 × 稀缺度」给词打分，是信息检索绕不开的经典。本文快速讲透它的核心原理，重点展开两大应用：搜索系统里的相关性打分，以及把文本变成稀疏向量后的分类、相似度与关键词提取。