跳到主要内容

AI 相关参数配置说明

在 SHUWEIAI 的 AI 对话模块中，有一个 AI 高级配置，里面包含了 AI 模型的参数配置，本文详细介绍这些配置的含义。

旧版名字叫做：返回 AI 内容；新版改名：流响应。 这是一个开关，打开的时候，当 AI 对话模块运行时，会将其输出的内容返回到浏览器（API响应）； 如果关闭，会强制使用非流模式调用模型，并且 AI 输出的内容不会返回到浏览器，但是生成的内容仍可以通过【AI回复】进行输出。你可以将【AI回复】连接到其他模块中进行二次使用。

代表模型最多容纳的文字数量。

支持函数调用的模型，在使用工具时更加准确。

温度​

越低回答越严谨，少废话（实测下来，感觉差别不大）

回复上限​

最大回复 token 数量。注意，是回复的Tokens，不是上下文 tokens。 通常，回复上限=min(模型允许的最大回复上限, 最大上下文-已用上下文) 所以，一般配置模型时，不会把最大上下文配置成模型实际最大上下文，而是预留预定空间给回答，例如 128k 模型，可以配置 max_context=115000

系统提示词​

被放置在上下文数组的最前面，role 为 system，用于引导模型。

记忆轮数（仅简易模式）​

可以配置模型支持的记忆轮数，如果模型的超出上下文，系统会自动截断，尽可能保证不超模型上下文。

所以尽管配置 30 轮对话，实际运行时候，不一定会达到 30 轮。

引用模板 & 引用提示词​

进行知识库搜索后，你可以自定义组织检索结果构成的提示词，这个配置，仅工作流中 AI 对话节点可用。并且，只会在有引用知识库内容时才会生效。