AI服务配置

<< Click to Display Table of Contents >>

当前位置:  管理系统 > 系统设置 

AI服务配置

复制链接

1.概述

1.1 应用场景

AI服务配置用于配置大模型服务,用户配置并连接成功后,才可以使用智能SQL、智能问答Copilot、AI函数功能。

1.2 功能简介

AI服务配置功能允许用户无缝集成并配置外部AI大模型服务,以便在BI工具中直接使用智能SQL、智能问答Copilot和AI函数等高级功能。通过简单的配置流程,用户可以连接并定制AI服务,实现数据的智能化处理与分析。

2.功能说明

2.1 购买AI服务

首先,您需要访问大模型服务商官网(或后续支持的其他AI大模型服务商如Azure AI、百度文心一言、讯飞星火等)或者第三方代理,购买相应的AI服务。完成购买后,您将获得必要的许可信息和API密钥。

2.2 配置AI服务

通过【管理系统 > 系统设置 > AI服务配置】,可配置AI。具体配置界面如下图所示。

ai_config_zoom40

2.2.1 新增模型

本产品支持用户添加多个模型,通过“新增模型”按钮即可添加。点击后如下图,

ai_config01_zoom40

配置属性说明如下:

配置项

说明

模型连接名称

用户自定义连接名称

AI平台

AI大模型服务商,目前支持OpenAI,Azure OpenAI,Qwen,ZhipuAI,Yonghong(永洪提供的私有化模型)。未来还将开放更多选项。

API密钥

从AI大模型服务商获取许可后,将会获取到相应的密钥。如果通过代理连接,则使用代理提供的密钥。

API域名

大模型服务地址,如果是直连OpenAI,则是https://api.openai.com。请根据实际情况填写。

模型

具体模型,例如gpt-3.5-turbo-16k-0613。

严谨与想象

即temperature,调整模型回答时的创造性与准确性平衡,值域为[0-1]。建议参考大模型服务商的推荐设置。

最大Token数

设置模型回答的最大Token长度。为了获得更全面的回答,建议配置1024以上,但请注意不要超过模型说明中的最大限制。

测试连接:

配置完成后,点击“测试连接”按钮,确保所有设置正确无误且能够成功连接到AI服务。

保存连接:

测试成功后,点击“保存连接”按钮,完成模型添加。

ai_config02_zoom60

启用:是否启用模型,新增的模型连接默认启用。不启用时,使用该模型连接的功能将无法使用。

默认模型:为保证AI服务可用,请配置默认模型,未单独配置模型的服务功能将会使用默认模型。

说明:

有多个模型连接时,默认模型可以切换,但不可关闭。

请定期检查API密钥和API域名的有效性,以免因过期或变更而影响服务。

在使用AI功能时,请注意保护敏感信息和遵守相关法律法规。

2.2.2 服务配置

完成添加模型连接后,可通过服务配置为不同租户的服务功能设置不同的模型,以达到最佳效果。未配置的服务功能将会使用默认模型。

ai_config03_zoom60

用户分组:只能选择当前用户所管理的分组,通过选择分组为分组下的所有用户配置相关服务信息。在企业集成环境里,多租户体系通常借助分组机制得以实现。具体而言,每个租户都有责任为旗下的每一位用户精准指定分组。关于分组的参数名设定,可通过执行 “yh.user.use.scope=paramname” 这一配置指令完成。当此配置完成后,只需在单点登录接口处,将参数值(即组名)准确传入,就能完成关联配置。如此一来,隶属于该分组下的用户,在发起问答请求时,系统便会依据预先精心配置好的模型以及知识库,快速且准确地生成并返回相应的解答内容。

服务功能:产品中的AI相关的增强分析功能,包括SQLCopilot(即数据集中的SQL解释、优化建议、自然语言转SQL)、ChartCopilot(即智能问答Copilot)、DBCopilot(即查看报告中的问答Copilot)。

业务类型:

SQLCopilot业务类型包括:SQL解释、优化建议、自然语言转SQL。也可以选择“全部”统一配置。

ChartCopilot和DBCopilot的领域为“指标平台”中的文件夹(通过文件夹管理不同领域),可针对不同领域(例如销售、财务、人力等)选择不同的问答模型。目前此功能暂未开放,暂不支持设置。

模型连接名称:选择模型,如果模型未启用,则使用该服务时会提示模型不可用。

知识库:支持上传知识库,支持xlsx和csv两种格式。企业中的特殊定义和词汇可通过知识库增加,例如“高净值人群”,即为存款高于500万的用户。添加到知识库中后,便可以在问答中直接问“高净值人群”的相关信息。

说明:

可通过标题“知识库”右侧按钮下载知识库模块,根据模版进行填写。知识库文件中,建议为两列数据,且必须需以“keywords”、“knowledge”作为表头,如下图,

ai_config05_zoom80

提示词:如果企业对接的模型需要通过提示词做一些微调,可基于产品默认的提示词进行修改。可以点击下拉选项,选择自定义,点击编辑按钮即可编辑相应提示词。

ai_config04

ai_config06_zoom60

支持编辑角色、任务说明、规则、示例,技能详情、开始对话不可修改。

说明:

提示词不可随意修改,建议专业人员通过技术支持或售后服务详细了解后再修改。

调试提示词:供单个用户调试优化问答结果使用。调试提示词默认关闭,开启后可以编辑调试的提示词,在问答时会使用调试提示词执行,并且仅对当前开启的用户生效,不影响其他用户。完成调试后,可复制到提示词中进行修改,以对分组下的用户生效。

2.2.3 向量数据库配置

如果要使用ChartCopilot和DBCopilot服务,需要先配置向量数据库服务器。

1)向量数据库环境准备

在配置向量数据库前,需要先安装向量数据库,安装方法参考向量数据库安装和配置

2)连接向量数据库

连接配置如下。

vectordatabase01_zoom60

需要配置的属性和相关操作说明如下。

属性&操作

说明

地址

向量数据库服务器的IP和端口,如:192.168.20.237:19350。

认证方式

是否需要通过身份验证登录数据库。支持无身份认证、用户名密码认证、token认证。

测试连接

点击测试连接按钮,测试向量数据库服务器能否连接。

保存连接

保存当前的向量数据库服务器配置信息。