大家好,那么我们之前的话已经介绍了 diffi 的 话如何在离线环境里面去做部署, 企业基本上都是需要有加密的 http 去做访问,那么 diffi 如何从八零端口设置为四十三端口呢?那我们本次教程就去做这方面的一个介绍, 那它主要的话是分了四步,那第一步的话呢,它就是可以生成一个证书,那第二步的话就是要配置一下 dfi 的 那个环境变量。那第三副的话呢,也是在 dok 里面的话,也要配置对应的那个 配置信息,把那个八零端口给屏蔽了,然后只放了四十三的一个端口。那第四步的话呢是做 dok 的 啊,重启动作,那我们就回到 呃右边凸的一个环境里面,那这个环境我们是先是已经是搭建好了那个的啡,那么在这里面的话也是可以进行一个操作的,但是大家可以看到它这个的话是一个八零的一个端口,那我们现在的话就把它变成四十三的端口吧。 那首先第一步的话呢,我们在这里面就要去到啊 index 证书的一个界面,那我是把它放在了这里面, 可以看到现在的话是没有证书的,那我们现在的是创建证书,那证书的话呢,它我们可以看一下它的那个内容, 那内容的话呢就是要复制,其实主要是负责复制这条命令,那命令的话呢要注意一下这个蓝色这一部分,那蓝色这部分呢要换成本机的实际的 ip 地址,那我们看一下本机实际的 ip 地址是哪? 可以看到的话本机的 地址的话是这个幺三五,那我们的话是可以啊,我事先的话就已经是更新了,就是这个幺三五,这个我们只要是把这一段把它复制到这里面去, 右击复制,然后执行输入命令,它就可以进行执行,执行完之后的话我们可以看到这里面的话是已经呢生成了两个啊证书,然后我们要对它进行一个赋权,也就是这一款我们直接就复制就可以拿来用了。 ok, 然后另外的一个也是一样的。 好的,然后我们再看一下,那我们复制完之后的话呢,我们就可以进行一个验证,就使用这条命令进行一个验证。 ok, 它是可以已经设置好的,然后我们在这边的话呢再去执行这个。 ok, 那 这边的话证书这边就已经设置完成了,那设置完成之后的话呢,我们要对我们的呃 default 环境变量的话进行一个配置。 default 环境变量的话是这个,那么建议的话呢,在 设置之前更改之前,我们需要对这个环境变量的话进行一个备份,以便后面如果说操作失误的情况下,我们可以啊,就是回滚到之前的那个版本。 ok, 那 我们就进去这里面,那这里面的话呢,我们主要的话是要做这方面的一个配置 啊,这些信息他都是有的,我们主要的话是更新他这些出啊,或者是四十三这个端口,我们可以一个一个看一下,对我们一般来说的话是去找四十三的配置,四十三的配置,那么在这里面的话就可以看到,主要是要把这个 改成 two, 然后我们要还要对照一下还有没有其他的,比如说,呃,这个四十三有没有配置好啊?还有的话这个 espose 这个的话有没有配置?那下下面这些 dfi 这些它默认都已经是配置好的,我们就可以看下 espose 这个有没有配置好。 espose 可以 看到的话, espose 这边的话也是已经是配置好是四十三的了。 那么我们的话啊,八零端口,其实我们在 default 的 端口里面没有去把它屏蔽掉,原因的话是我们到时候会在这个 啊 dock 里面的话会屏蔽屏蔽掉这个八零的映色,所以的话哪怕说服务器里面开着,但是的话对外不开放这个八零端口的映色,那么也是没有问题的。 那我们的话就要看一下这些已经有没有一个配置了,这些空手啊, a p i u r l 这些,还有的话啊,这个, 这个啊, files url 这块,那这个的话呢,主要的话是做文件下的,比如说你生成了一个 excel 表,那么的话你可以在 diff 里面去把这个文件下载下来啊,或者是说在这里面的话呢,如果你没有做这方面的配置的话呢,哪怕你把,哪怕你把这个, 哪怕你把这个流程已经搭建好了,你在 publish 这一块的话呢,你点这个 run app 的 话呢,你也是访问不了的。 对,那我们现在的话就要开始去做刚才那几个 ip 地址的一个设置,我们还要去找那个 ctrl, ok, 在 这里面的话会有一个 api ui l 的 一个配置,那我们在这边的话就要对它进行一个配置。 好,那我们继续找下一个,下一个是 web 这一款,那就是这个一样的配置, ok, 下面那个 service api url 也是一样的, 还有那个 app app, web url and file 的 file, ok, 那 配置好之后的话呢?我们是保存,那保存完之后的话呢?我们的 呃 default 环境的变量已经是呃设置好了,那我们就要去设置 docker 的 那个配置,其实 docker 的 话呢,它主要是要把那个八零映色八零这个给取消掉,剩下的话是四四三这个,那我们其实就是要去搜索这个四四三这个关键的一个信息, 我们就这样子,当然我们的话提前的话也是要备份一下,备份完之后的话就可以进行一个操作了,去找到四十三, ok, 可以 看到就是这一款,那我们的话就会去到前面去更改,把这个给屏蔽掉。好,就留下四十三这个,那保存,那保存完之后的话呢, 那我们就可以进行 docker 的 重启了,因为你没有重启 docker 的 话呢啊,你在这个世上是没有响应的,所以我们要去对 docker 进行一个重启,我们要进行 docker to do docker compose dump。 好, 那我们可以看一下 to do docker compose。 ps, 可以 看到的话,现在的话是没有啊, docker 镜像的起啊,没有,没有起,没有启动的,那我们的话就通过这个命令 docker compose up, 启动 diffi 相关需要的多克镜像。 ok, 我 们再用这个命令的话去看一下,可以看到的话呢,这些这些对应的那个镜像服务的话呢,是已经是 up, 已经是起来的了,那起来之后的话呢,我们如果是访问这个地址,我们可以再访问一次, 可以看到的话,它现在的话是访问不了的,因为它是通过的话是一个啊,它通过的话是一个 s t d p, 就是 八零端口的方法,如果我们在这边的话可以加上 s t d p s, 那 在这里面的话呢就可以进行访问,当然它这边的话就会有一个提示,因为我们是通过 uni s 的 open s s l 的 话去生成的一个证书,所以它正常来说都会有这种证 啊,这种情况的企业可以自行去生成证书,然后去做替换就可以了,在我们那个 engines s l l 那 边的话去做一个替换就可以了,那我们在这边的话呢,就是啊接受这个风险,然后的话就可以去到 diff 的 页面,稍等一下, ok, 那 我们要重新登录一下。 好的,那现在的话我们是成功的是配置了四三的啊端口去做访问,然后的话这些也是正常可以访问的, 那我们可以试一下,比如说在这边的话,我是在我自己的虚拟机里面的话,是配置了一个比较小的一个模型去做演练演示的,那这个大家也可以看我之前的视频去 找到这个怎么通过欧拉玛的方式去部署这个啊?小啊小参数的模型,那这边的话就 publish, 我 在这边的话是乱一个 app, 那 这边的话也是可以正常的话进行一个访问,在这边我随便输入一个 hello ok, 可以 看到的话它也是正常能够响应的,所以的话整个链路的话通过四十三的方法的话都是已经打通了,那本期的教程就到此结束了,谢谢大家的观看,谢谢。
粉丝261获赞697

我在 defy 的 市场里面去搜一下 circle, 对, 这边有一个数据库查询,然后可以安装到你的你的平台上面。首先是在我们的工作室里面创建一个工作流,对,我们给它命名为 search 查询,我们选择用户输入,基本上就就 ok, 点击这个加号,然后在工具里面去找,找到我们刚才去安装的数据库查询,在右边我们要进行一个参数的配置, 对 circle 里面,比如说选中 my circle, 然后数据库地址的话看一下,大家需要去填一下这个这串数字,然后端口是默认是三三零六。 搜索查询语句,搜索查询语句的话,我们需要去在用户输入里面去填一下,我们需要增加一个变量段落,然后变量变量名称命名为 s 呃 query 吧,对, 对,你可以看到,然后你在你的 sql 查询语句里面去引用一下你的用户输入,最终呃输出的话,你可以选择 markdown 吧,然后我们需要去测试一下, 测试的时候我们需要去输输入那个 sql 查询语句,你的啊输入里面可以去查询对应的服务,对, 如果说服务正常运行的话,可以看到这样的。

在这里需要去自己去加一个 http 请求节点,然后其实里面可以看到 http 请求里面这个 api 这一块,其实这里面就是它的 method, 我 们选择 get 就 行,然后这里需要输入这个 api, 我们需要在这里这里面需需要输一个参数,对,选择输入 thirteen。 呃,需要设置的话,我们就在那个我们的输入里面去定义一下。 对,然后对这里引用一下,引用一下我们的输入变量去做一下测试。 对,可以看到就是,呃,在这个节点里面已经返回我们一些数据,结果属于这种 jason 格式,就对结果进行一个整处理,当然处理的话我更推荐大家去嗯,大模型节点就 ok, 嗯的内容按照对,然后就方便大家查看,重新测试一下。 ok, 其实已经测试成功了,最终你可以看在追踪里面看到我们每次执行的一个中间,中间的一个结果, 如果说你想扩展扩展你的应用的能力的话,你搜这个 api 里面也可以去看到这里面有一些它也是免费的,你需要去查看它的一个参数。

企业微信客服接入抵饭进行一个测试,现在我这个企业微信客服接入了抵饭,当我发一条消息以后,他会对接到我们的抵饭上,我们再来发一条 啊,这里发过来,然后他会把这个消息传到我们系统,我们系统对接抵饭,然后再给它返回来,然后我再来发一条,同样是接入抵饭进行回复, 哎,看这里,然后如果他想转人工呢?这里其实有一个误区,就是企业微信客服的 api 接入我们第三方系统以后呢,他 只要发过的消息,我这边就能实时的获取到,那么所以就没有说转人工一说,本身就是人工和 ai 都能看得到, 那如果想要转人工,也就也就意味着是我们的人工把在后台去回复啊,不让 ai 回复了,那不让 ai 回复了,需要我们人工把这个 ai 回复给它关掉, 把这个给它关掉,然后它再发消息呢,它就不经过 ai 回复了,那我们的人工实时看到了,那就直接进行回复就可以了, 那这是这么一种,还有就是, 呃,还有就是怎么提醒这个用户,有怎么提醒我们客服有用户要接接人工了呢?那我们可以这样,就比如说在我们的 define 里进行一个意图识别,这个意图识别判断它的这条语句是 用户想转人工的一个意图,那么我们的这个 def 里就发送通知到企业微信内部群里去,在我们企业微信内部群就能实时收到了,收到以后呢,我们再去回到我们的网页上进行一个回复,这是为这是就是目的,就是让用户来 啊,让客服来获取到这个用户转人工这个意图,因为我们的客服可能他不想 一直在后台看,是吧?如果他不想一直在后台看,那么只能在得饭里进行意图识别,识别完了然后发送通知让客服呢?收到这个通知,收到这个通知以后,客服再去登我们的网页,再去后台去回 啊。因为这个东西它接了 api 以后,所有的消息都会经过我们的系统啊,我们系统都能看到,以及我们系统都会去调到 ai 里去。没有转人工艺术,它不是说呃,发了消息之后只走机器人, 走完机器人之后他有一个转人工的意图,我们在人工才能看得到啊,不是那么那种常规的那种理,理解,需要理解的是这所有的消息都会发过来,那我们这边都能收的到,也就意味着我们这边都是实时的,都是人工, 人工都能看得到。如果我们想要获取到这个消息,他是为了转人工呢?那我们就加意图判断去判断,然后我们如不想让 ai 回复,我们可以在后台呢把这个 ai 回复给它关掉,那这样时候呢? ai 回复就关了, 也就是意味着就是正常情况下就是 ai 回复的有转人工意图,我们人工再去接管, 但是在我们后台呢,他所有消息都能看得到,他不是说在转人工之前的我们人工根本就看不到,或者是我们这里根本就没有这个凶,没有这个会没有这个访客,那不,不是的,他所有消息我们这边都能收到,都能看到这个访客。

define 如何对接企业的精细化系统?我们以项目管理的干线管理的系统为例,给大家做一个演示,假设这是一个内部的干线管理系统, 那么我们首先打开这个系统啊,这里是因为我部署在本地,打开这个系统,然后呢,先别急着登录,按下 f 十二。 好,大家哦,我这个是英文版的啊,大家这里会显示一个网络,通常默认是这个啊,呃,然后呢,你打开这个网络, 然后找到这里面有一个保留日期啊,保存 vlog, 点击之后再来进行登录,比如说我们在登录 好这里,你可以看到一个登录,对吧?好,先暂时不管,注意这里一定要打开啊。 好,然后再点我们要做的事情,比如说我们要查询这个公告,看到没,我点击这个公告之后,他又会出来另外一个, 这是个公告的查询。好,这里面我们要知道的就是这两个信息的数据啊,然后来写这个 define 啊,这个是我已经写好的。好,这个也是英文的,我改一下啊, 方便大家看啊。 ok, 现在改成中文的。好,那么点到这里面,首先我们 一个开始节点,那这里面就要输入用户名密码,对吧?然后因为我这是有多个项目的嘛,那我就选择这个 p 五这个项目啊,这里面是,如果你使用在这里面就知道啊,因为这里面多个项目。好,我这里选择 p 五这个项目 啊,然后呢,这个我们的思路是首先进行登录,然后呢提取 token, 然后呢查询,查询之后再把数据格式化,输出成一个表格,我们先演示给大家看一下, 输出成一个这样的表格,你可以下载下来啊, c, s, v 或者那个档,那大家可以看这个表格, 对吧?这个就和我们这里面显示的啊,只是显示方式不一样,内容是一样的啊。那么这里面 我们就一个一个节点来简单看一下。首先第一个开始节点啊,刚刚已经说了,那么第二个是登录节点,登录节点呢?我们直接用 post 的 命令,为什么是 post? 哎,在这里登录看到没有 post 啊?方法啊,拎 past 的 方法 好,然后填写相关的参数,这里面输出到下一个节点,提取 token 啊,那么提取 token 呢?我们这里写了一段代码啊,这个可以简单考出来给大家看一下, 就是提取这个 token 啊,好,提取这个 token 之后呢,这里会有输出三个变量,一个是 token, username 还有范围啊。 好,我们再来就是要查询这个公告了,查询这个公告这里用的方法是 get, 为什么是 get 呢?那我们看这里 这一个方法 get, 这个是它的地址,对不对?你快速的啊?阿曲啊,好,然后我们要格式化输出,对吧?同样啊,这里写了一小段代码,我们也考出来给大家看一下 啊,实际上就是对里面做了一点分析啊,字段做了一点分析,然后呢把它输出来啊,好,这里面 格式化了之后,最后就有一个输出啊,输出节点,输出节点,这里面我们输出来看到这个啊,表格,然后数量啊,然后汇总,大家可以看在这里啊, 那所以一运行就出来了,所以企业级的应用也没有大家想象的那么复杂,但关键你要知道这些它的接口啊。

大家好,底发如何使用本地大模型?那我们基于 omaha 为例来给大家演示一下,首先我们要在这里面找到 集成,然后选到 omaha, 看到吧,然后安装 这个稍微慢一点, 好,安装完了,安装完了之后,我们在本地来启动这个欧拉版,这个是我本地的模型啊,大家可以看到我已经累死在这里,那假设我启动这一个 编码四,量化的啊,这个版本直接启动啊,很快就启动了,对吧?然后呢,我们再回到你这个平台里面,奥拉玛的配置在这里啊,添加模型, 这里面我们选到该码四,然后十二 b u d, 对 吧?然后这个模型选择大模型, 然后这里这个地方要注意啊,这里面因为我们运行在 windows 下面啊,假设我,我现在是 windows 啊,如果你是另一个,属于稍微不同一点,这里面有一个 host dock 点 int 的, 然后选择幺幺四三四 啊,其他的就不用动了,直接添加就 ok 了。添加成功之后我们再回到工作室啊,假设我们这里有一个应用,打开这个应用,选到 奥拉玛模型,看到没?奥拉玛,对吧?这个代码是选择这个模型,然后它提示你有些部分参数没办法使用它,每个大模型的它的参数会不一样啊,我们暂时不管它。好,这样你就可以用了,我们可以测试一下, 输入我的名字,对吧?然后这里输入你好, 大家可以看到他就在调用,只是稍微啊看这个,首先输入一些这个他在思考的信息,这就是基于本地的大模型在运行, 对吧?他就输出来了。然后同样你可以把前面的啊,其他的应用啊,你添加啊这个知识库啊什么的都可以用。只是说要根据你, 比如说我这里添加知识库啊,然后重新开始 黄岛区有哪些出租车公司, 他就会基于这个啊编码,然后去查询 他就读这个知识库了吗?对不对?哎,你看他就可以列出来了, 对吧?所以这个本地大模型如果你呃,不是说很要求很高的,那么用本地大模型其实都是可以搞得定的啊。好,谢谢大家。