通过 LlamaIndex API 构建 RAG 应用
阿里云百炼支持通过 LlamaIndex API 构建 RAG(检索增强生成)应用,用于私域知识问答、客户支持等场景。
本方案中,LlamaIndex 提供了构建 RAG 应用的工具和框架,阿里云百炼提供了数据管理能力和大模型服务。
本方案将知识库部署在云端,使用默认的智能文档切分与官方向量模型,不支持自定义文档切分方式或自定义嵌入模型。
组件列表
| 组件 | 说明 |
|---|---|
| Embedding 模型 | 使用百炼 Embedding 模型 |
| DashScopeRerank | 重排序组件 |
| DashScopeJsonNodeParser | JSON 节点解析器 |
| DashScopeCloudRetriever | 云端知识库检索器 |
| 云端知识库服务 | 使用阿里云百炼云端知识库和知识索引服务 |
| 文档解析 | 智能化解析和切分文档 |
方案概览
- 使用百炼的数据管理功能上传并管理文档
- 通过 LlamaIndex 的 DashScopeCloudRetriever 检索相关内容
- 使用百炼的大模型生成回答