|
1 |
| -# 应用 |
| 1 | +# 高级编排应用 |
2 | 2 |
|
3 |
| -!!! Abstract "" |
4 |
| - 应用是指基于 LLM 大语言模型构建的实际场景应用,分为简易配置和高级编排两种类型,并支持全屏模式和浮窗模式嵌入到第三方 Web 应用系统以及接入企业微信、钉钉、飞书、公众号等应用,满足各类发布需求。 |
5 |
| - **友情提示:社区版支持应用的最大数量为 5。** |
6 |
| - |
7 |
| - |
8 |
| - |
9 |
| -## 1 创建简易配置应用 |
10 |
| - |
11 |
| -!!! Abstract "" |
12 |
| - 点击【创建应用】,输入应用名称以及应用描述,选择【简易配置】,点击【创建】,进入简易配置应用设置页面。 |
13 |
| - |
14 |
| - |
15 |
| - |
16 |
| -!!! Abstract "" |
17 |
| - 左侧为应用信息,右侧为调试预览界面。 |
18 |
| - |
19 |
| - * 应用名称:提问时对话框的标题和名字。 |
20 |
| - * 应用描述:对应用场景及用途的简要描述。 |
21 |
| - * AI模型:可选择在【系统设置】-【模型管理】中添加的大语言模型,也可直接添加。 |
22 |
| - * 角色设定:通过给模型指定一个特定的角色或身份,来指导模型的输出更加符合特定的场景或任务需求。 |
23 |
| - * 提示词:系统默认有智能知识库的提示词,用户可以自定义通过调整提示词内容,可以引导大模型聊天方向,该提示词会被固定在上下文的开头。可以使用变量,例如:{data} 是引用知识库中已知信息,{question}是用户提出的问题。目前可针对是否引用知识库设置不同的提示词。 |
24 |
| - * 历史聊天记录:大模型提交当前会话中最后 N 条对话内容,否则仅向大模型提交当前问题。 |
25 |
| - * 关联知识库:用户提问优先在关联的知识库中检索分段,引用分段生成提示词发送给大模型进行询问。若未关联知识库或未匹配到分段内容,则默认将用户问题发送给大模型进行询问。知识库可设置检索方式、知识库的相似度,引用分段数 Top-N 和最大引用字符数、无引用知识库分段时的回答策略以及是否进行问题优化等。 |
26 |
| - * 开场白:打开对话时,系统弹出的默认引导说明。支持 Markdown 格式,[-]后的内容为快捷问题,一行一个。 |
27 |
| - * 语音输入:在语音输入完成后会转化为文字后再发送提问,需要语音识别模型的支持。 |
28 |
| - * 语音播放:将大模型生成的回答内容转换为语音进行播放,需要语音合成模型的支持。 |
29 |
| - |
30 |
| - |
31 |
| -!!! Abstract "" |
32 |
| - 应用信息设置完成后,可在右侧调试预览中进行提问测试,调试过程不计入对话日志。</br> |
33 |
| - 点击【保存并发布】后,应用设置才生效。 |
34 |
| - |
35 |
| - |
36 |
| - |
37 |
| -## 2 创建高级编排应用 |
| 3 | +## 1 创建高级编排应用 |
38 | 4 |
|
39 | 5 | !!! Abstract ""
|
40 | 6 | 点击【创建应用】,输入应用名称,选择【高级编排】,点击【创建】,进入工作流编排页面。
|
|
44 | 10 | !!! Abstract ""
|
45 | 11 | 新创建的高级编排应用会默认生成简易工作流,可以根据自己的需求进行自定义编排,点击发布后生效。<br />
|
46 | 12 |
|
47 |
| - **注意:**<br /> |
| 13 | + **注意:** |
48 | 14 |
|
49 | 15 | - 画布上的节点必须在工作流程中,不能有流程外的孤立节点,否则在发布时会校验失败。<br />
|
50 | 16 | - 每个节点可以根据节点的用途进行重命名,双击节点名称即可重命名,但同一个工作流编排中节点名称不能重复。<br />
|
51 | 17 | - 连线的后置节点可以引用前置节点的输出参数,如果节点名称变更,需要重新复制变量,参数引用方式是`{{节点名称.变量名称}}`。
|
52 | 18 |
|
| 19 | +!!! Abstract "" |
| 20 | + 完成工作流程设计之后,使用左下方的画布控制栏,可以对画布进行整体调整,包括画布缩放、节点收缩以及流程一键优化。 |
| 21 | + |
53 | 22 | 
|
54 | 23 |
|
55 |
| -### 2.1 添加组件 |
| 24 | +### 1.1 基础组件 |
| 25 | + |
56 | 26 |
|
57 | 27 | !!! Abstract ""
|
58 | 28 | 每个工作流都有基本信息与开始两个基础节点:
|
|
73 | 43 |
|
74 | 44 | 
|
75 | 45 |
|
76 |
| -#### 2.1.1 开始 |
| 46 | +#### 1.1.1 开始 |
77 | 47 |
|
78 | 48 | !!! Abstract ""
|
79 | 49 | 节点说明:工作流的开始节点,有且唯一,不能删除和复制,问答页面输入的问题会作为该节点的输出参数{question},后续节点如需引用可以复制输出参数或选择变量:`开始节点->用户问题`。
|
80 | 50 | 
|
81 | 51 |
|
82 |
| -#### 2.1.2 知识库检索节点 |
| 52 | +#### 1.1.2 知识库检索节点 |
83 | 53 |
|
84 | 54 | !!! Abstract ""
|
85 | 55 | 节点说明:如果应用需要关联知识库,则需要在编排中添加知识库检索节点,选择知识库、设置检索参数、选择检索的问题。
|
|
96 | 66 | * 检索结果 {data}:字符串类型,指根据检索问题、检索参数进行检索后命中的分段内容;
|
97 | 67 | * 满足直接回答的分段内容 {directly_return}:字符串类型,指根据检索问题、检索参数进行检索后命中的分段中满足直接回答的所有分段内容。
|
98 | 68 |
|
99 |
| -#### 2.1.3 AI 对话节点 |
| 69 | +#### 1.1.3 AI 对话节点 |
100 | 70 |
|
101 | 71 | !!! Abstract ""
|
102 | 72 | 节点说明:如果应用需要与AI大模型进行对话,则需要在编排中添加 AI 对话组件,选择 AI 模型,设置提示词,提示词可以引用前置节点的参数输出,如:可以引用前置知识库检索的检索结果和开始节点的问题变量。
|
|
108 | 78 |
|
109 | 79 | * AI回答内容 {answer}:AI模型返回的内容。
|
110 | 80 |
|
111 |
| -#### 2.1.3 指定回复节点 |
| 81 | +#### 1.1.3 指定回复节点 |
112 | 82 |
|
113 | 83 | !!! Abstract ""
|
114 | 84 | 节点说明:指定输出文本内容,如没有在知识库查询到关联内容时,可以指定回复内容;支持指定输出变量,如在知识库查询到的相关内容满足直接回答的要求,可以直接选择该变量,系统会自动转化成字符串进行输出。
|
|
120 | 90 |
|
121 | 91 | * 内容{answer}: 指定回复输出的内容。
|
122 | 92 |
|
123 |
| -#### 2.1.4 判断器节点 |
| 93 | +#### 1.1.4 判断器节点 |
124 | 94 |
|
125 | 95 | !!! Abstract ""
|
126 | 96 | 节点说明:根据不同的条件判断执行不同的分支,每个分支一个输出,每个分支必须有后置执行节点。
|
|
132 | 102 |
|
133 | 103 | * 分支名称{branch_name}:根据条件判断执行分支的分支名称。
|
134 | 104 |
|
135 |
| -#### 2.1.5 多路召回节点 |
| 105 | +#### 1.1.5 多路召回节点 |
136 | 106 |
|
137 | 107 | !!! Abstract ""
|
138 | 108 | 节点说明:根据需要重排的内容、检索问题以及检索参数进行多路召回。
|
|
143 | 113 | * 重排结果列表 {result_list}:数组类型,指根据重排后的结果列表。
|
144 | 114 | * 重排结果 {result}:字符串类型,指根据检索参数后的重排结果。
|
145 | 115 |
|
146 |
| - |
147 |
| -### 2.2 使用场景举例 |
148 |
| - |
149 |
| -!!! Abstract "" |
150 |
| - (1) 问题分类回答:提出问题后,先对问题进行分类,然后按照问题类别查询不同的知识库。要求如下: |
151 |
| - |
152 |
| - - 如果分类结果是打招呼,则指定回复内容; |
153 |
| - - 如果分类结果是售前问题咨询,则查询售前问题知识库; |
154 |
| - - 如果分类结果是售后问题咨询类,则查询售后问题知识库; |
155 |
| - - 如果分类结果是其它问题,则直接问 AI 模型。 |
156 |
| - 实现以上场景的工作流编排如下: |
157 |
| - |
158 |
| - |
| 116 | +### 1.2 添加函数 |
159 | 117 |
|
160 | 118 | !!! Abstract ""
|
161 |
| - (2) 敏感词检索:提出问题后,先判断用户的问题是否存在敏感词,如果存在敏感词,就指定回复的内容,如果不存在敏感词就继续检索知识库。 |
162 |
| - 要想实现该需求,需要执行以下几步:</br> |
163 |
| - 第一步:在知识库中维护一个敏感词知识库,把敏感词添加到问题中,然后关联一个指定敏感词的分段; |
| 119 | + 在高级编排流程中,可以添加函数库函数作为流程中的一个处理节点,以灵活处理复杂需求。 |
164 | 120 |
|
165 |
| - |
| 121 | +### 1.3 添加应用 |
166 | 122 |
|
167 | 123 | !!! Abstract ""
|
168 |
| - 第二步:在开始节点后,增加一个知识库检索节点命名为:敏感词检索,选择知识库:敏感词知识库; |
169 |
| - |
170 |
| - |
171 |
| -!!! Abstract "" |
172 |
| - 第三步:在知识库检索节点后,增加一个判断器,判断敏感词检索的检索结果是否存在敏感词,检索结果不为空,则说明存在敏感词,否则则不存在敏感词可以继续检索知识库,进行后续流程。 |
173 |
| - |
174 |
| - |
175 |
| - |
| 124 | + 在高级编排流程中,可以添加其它应用(简单配置应用和流程编排应用)作为流程中的一个处理节点,直接快速利用子应用的问答结果。 |
176 | 125 |
|
177 |
| -### 2.3 调试 |
| 126 | +### 1.4 调试 |
178 | 127 |
|
179 | 128 | !!! Abstract ""
|
180 |
| - 点击【调试】后,先校验流程是否合规,校验通过后可在当前页面进行对话测试。 |
| 129 | + 完成所有的编排设计后,可点击【调试】后,先校验流程是否合规,校验通过后可在当前页面进行对话测试。 |
181 | 130 |
|
182 | 131 | 
|
183 | 132 |
|
184 |
| -### 2.4 执行详情 |
185 |
| - |
186 | 133 | !!! Abstract ""
|
187 | 134 | 在调试对话框中进行提问,AI回答完成后,会显示【执行详情】,点击【执行详情】后,在弹出执行详情对话框中可以查看每个流程节点的执行状态、耗时以及其它执行信息。
|
188 | 135 |
|
189 | 136 | 
|
190 | 137 |
|
191 |
| -### 2.5 保存 |
| 138 | +### 1.5 保存 |
192 | 139 |
|
193 | 140 | !!! Abstract ""
|
194 | 141 | 当前系统每隔 1 分钟自动保存到本地,发布成功后将配置同步到后台数据库。
|
195 | 142 |
|
196 |
| -### 2.6 发布 |
| 143 | +### 1.6 发布 |
197 | 144 |
|
198 | 145 | !!! Abstract ""
|
199 | 146 | 点击【发布】后会校验当前工作流是否符合规则,符合规则将成功发布,否则发布失败。发布成功后,所有节点配置修改才在问答页面中生效。
|
|
0 commit comments