分享
生成文章摘要(使用milvus)
输入“/”快速插入内容
生成文章摘要(使用milvus)
用户639
用户639
用户8319
用户8319
2023年10月20日修改
目标
让大语言模型对上传的文档内容进行分析总结,生成文章摘要。
这是一种最简单的分析报告生成,同样是用户上传文件后就会自动触发。
该方案是将上传的文件导入
向量数据库
中,
通过
使用预置的问题
(如“该文章的主要内容是什么?”)
进行问答,所以可以处理长文章。若
不想使用向量数据库,
文章
比较短,
也可以
将文章一次性传给大模型,见:
生成文章摘要(用提示词模板)
效果示例
构建思路
1.
需要根据文本内容进行摘要总结,因此选择语言模型
ProxyChatLLM
组件(或其他语言模型组件)
、
RetrievalQA
组件、
CombineDocsChain
组件、
Milvus
组件,组成对文本进行问答的链;
2.
需要让用户上传文件,因此选择
装载器/Loaders
组件、
InputFileNode
组件和
OpenAIEmbeddings
组件。
3.
需要让技能自动触发预置问题的问答,所以选择
Input Node
组件。
•
连接示例如图
•
工作原理
用户上传文档并解析完成后,RetrievalQA组件会自动运行预置的问题。
•
组件参数设置
◦
InputNode:预置问题“这篇文章的主要内容是什么?请生成该文章的摘要”
◦
ProxyChatLLM
▪
Elemai Api Key: 使用代理大模型服务的api key,BISHENG DEMO环境可以直接填写我们提供的共享免费key,详见
ProxyChatLLM
▪
Elemai Base Url: 代理大模型服务的URL,BISHENG DEMO环境直接填写
http://192.168.106.12:6001/v1/chatcompletion
▪
Model Name: 模型名称
◦
OpenAIEmbeddings
▪
Tiktoken Model Name:模型名称,推荐使用text-embedding-ada-002
▪
OpenAI API Key:API接口密钥
▪
OpenAI API Base/OpenAI Proxy:服务的地址,填写其中之一即可(如果是自己代理的国内的地址则填写OpenAI Proxy参数)