Embedding 接口调用 AI栈

Embedding 接口把文本转成向量，供语义搜索与 RAG 召回使用。文中给出兼容 OpenAI 格式的最小调用示例，说明批量提交、按 index 对齐返回顺序，以及长文本切块、换模型后必须整库重算两个常见坑。
AI 开发 RAG 模型部署
Alexer 发布于 
15 0

向量数据库基础 AI栈

向量数据库负责存向量、按相似度取最近的几条。先切块并用同一个模型把文本转成向量入库，查询时把问题转成向量调接口取回原文。示例用 Chroma 内存模式跑通，注意建库和查询的 embedding 模型要保持一致，只存向量不存原文会导致召回后没法用。
AI 开发 调试工具 RAG
Alexer 发布于 
12 0

Embedding 向量概念 AI栈

Embedding 是把文本变成固定长度向量，意思接近的文本向量也接近。用法是文本转向量、存库、查询时算余弦相似度取最相似的几条。示例给出可直接运行的余弦相似度计算，并点出换模型必须重建索引、长文本要先切块两个坑。
AI 开发 RAG 模型部署
Alexer 发布于 
20 0
blogger
Alexer
这家伙很懒，什么也没留下...

最新评论

链接

搜索