Please enable JavaScript.
Coggle requires JavaScript to display documents.
aiot-cvforce-data(猜测) - Coggle Diagram
aiot-cvforce-data(猜测)
自定义开发
会话管理
-
-
-
删除
-
疑问
- 相关问题提示会不会从别人的历史会话中得到,如果是,可能只是删除会话绑定并没有删除实际会话相关记录?
对话历史管理
-
查找
-
基于问题相关性查找(疑问)?
- 针对用户提出的问题查找(相似性查找、关联性查找)所有对话历史返回相关历史?
- 大模型经过处理自动生成的相关性问题?
- 针对高评分回答提示问题的正确提问?(是否会有私密性风险?)
-
知识库管理
功能
查找
疑问
- 根据提问查找知识库,是否允许查找公共知识库?
- 支持库是否只限于上传的文件,还是会在网上查找,查找那些网站?
-
-
-
-
概述
这部分基础功能主要由LangChain完成,细节参考LangChain
-
问答评分
概述
提供针对问答的满意度评分,用于“相关问题”、“问题结果”和“模型优化”
猜测来源
commentUrl: /api/%s/data/v1/comments
-
框架
LangChain
知识库
新增
入库步骤
- 上传文件
- 将不同类型文件转换为标准格式,如html、xml
- 拆分2中输出,文字拆分成段落存放到mongodb,图片存放到oss
- 3中文字拆分的段落再提取段落标题计算embedding存放到milvus(向量数据库)
-
疑问
- 图片会怎么使用,只是返回结果时附带?
- Embedding用的什么模型
- topN会是多少,相似判断的阈值是多少
查找
步骤
- 将历史对话及当前问题提交给LLM总结成一个问题
- 将总结的问题embedding
- 用问题的embedding在milvus中搜索进行搜索得到的topN
- 根据2中搜索到的结果获得mongodb中的相关文本
- 把2中得到的文本传给LLM得到答案
疑问
- milvus搜索用哪一种算法?
- 搜索到的问题结合上下文在token有限的情况下传给LLM的策略是什么?
-
-
Summary
-
使用常见
- 历史对话上下文和当前问题的组合
- 对过长检索数据进行总结,方便LLM后续理解
- 把过长的答案总结后返回
链
-
疑问
上述知识库的步骤只从询问及推测得出,具体的步骤组成的链是什么只能拿到代码才知道
-