大家好,我是老徐,最近 comui 的 改动特别的大,版本的更新也非常的频繁,再加上最近也有很多很好的模型发布,所以我把我的 comui 也进行了一个升级,并且分享给大家。那接下来我给大家讲一下这个整合包包含的内容,以及如何在本地进行部署。 那 comui 最近的一个频繁更新,我觉得是闭源模型对它的一个冲击比较大,让它有非常大的危机感, 所以最近的康威亚的更新有一个方向,就是让大家使用起来更加简单,不管是之前发布的子机功能,还是最近这几天发布的一个 app 功能,都是奔着更简单的使用方法去的。节点式的模式虽然让我们打进工作流更加简单, 但是也让不熟悉康威亚的人觉得使用起来非常的方便,那改成这种 app 的 界面使用起来就非常方便了。 首先把整合包下载到本地,为了更方便大家使用,整合包和模型文件是分开的, 整合包的大小是十六 g, 解压之后大概是三十五 g, 不是 特别的大。这里的模型是全量的模型,就是目前我在本地使用的模型,大概是三百七十多个 g, 和整合包在一起接近就是四百 g, 这个是非常大的。 如果只是想使用二的 tx 二点三模型和 z m g turbo 模型,可以只下载这个模型包,只有六十多个 g, 加上整个包一起也就是一百 g 左右。整个包和模型文件下载到本地以后,需要用七 z 来解压整个包。 win 十一系统是直接自带七 z 的, 如果是 win 十的系统就安装一个七 z, 直接解压到当前文件夹, 不要解压到带有中文路径的文件夹里面去,那就像我这样,直接解压到当前文件夹进来之后,要保障这个 comforion 的 路径是纯英文的,这样就不会出错, 然后把模型包里面的 modus 放到这个 comforion 的 路径下面进来,就是这样的, 这样整个 comvi 就 已经下载好了。那为了大家更简单的使用,把常用的一些工具也直接内置进来了,这样就不需要大家再单独安装,也不需要再去配置这个环境变量, 真正的做到了解压即用。这里都是康维艾的启动命令,其中这个是 cpu 启动的,就是电脑没有显卡的就需要用这种,但是这个基本没人用,因为没有显卡的话,大部分的工作流都是没办法运行的。然后这个是一个正常的启动方式, 这一个是一个半精度的,速度会稍微快一点,但是在极少数的情况下可能会报错,但这种报错是不常见的,所以这个启动方式是我们用的最多的。 然后这里我是调整过的一个启动方式,因为我的整合包是安装了 xformus 加速的,但是有些工作流是不支持 xformus 的, 所以可以用这种来进行启动。我先把之前的关一下,重新启动一下, 大家可以看一下整个的这个启动过程都是非常丝滑的,所有的插件都是正常加载,整个过程中都是没有错误。 现在就进入了 comu 的 界面,二 t x 二点三模显,最低是八 g 显存就可以运行,如果显存是十六 g 以下的, 可以把这个模型换成 g g u f 的 模型,如果显存低于八 g 的, 我就不建议在本地部署,这个体验感是非常差的,只适合跑下图片。 那如果本地的配置不够,又想使用 comui 的, 或者说是想提高效率,就是同时运行几个 comui 的, 也可以到云端来使用。我把这个整行包也发布到呢应用智算上面,在上面搜索我的名字就可以找到这个整行包。直接点击部署, 这里的几种显卡都是可以选择的,然后内存要选择九十四 gb 的, 这样生成长视频的时候就不容易出错。直接点击部署大概需要一到两分钟进行初步化,初步化成功以后,这里就会出现 comu 的 入口, 这个时候还需要等待个一到两分钟,因为初次化这时电脑已经开机了,开机以后它还需要打开 comui, comui 的 启动时间大概就是两分钟。等待 comui 启动成功之后,就可以通过这个入口进入 comui 的 界面了, 这个跟我们在本地是一模一样的,我们可以对比看一下。这是本地的 comi, 这是元旦的 comi, 没有任何区别。元旦的服务器本质上就是我们在远程控制一台电脑,所以体验感是没有任何区别的。 最新的版本在左上角是可以切换成应用模式的,其实我觉得现在用子集已经让界面非常简单了, 现在可以把这个工作流构建成应用了,这里有说明,直接点击节点参数,将其添加为输入项。对于这个工作流来说,首先是需要输入图片的 图片输入,然后需要文字输入,是否关闭图片参考,也可以把它放进来, 然后宽度,高度,时长啊,其他的都不需要了,那这就是一个输入节点,然后点击下一步输入节点,就点击这个输出的结果也就是保存视频,然后下一步 现在就变成了这种应用界面了,这就非常简单,直接上传图片,然后输入题词是否开启,在这里有选择,然后设置宽度,高度,时长啊,直接点运行就可以。 然后简单的跟大家说一下这些工作流的使用。关于视频生成和自定义音频以及首尾帧,在我前面的视频里面已经有提过了,大家不清楚的也可以去看一下。 整体使用还是非常简单的,只需要上传图片或者声音,然后输入提示,点击运行就可以。这里是时长,宽度,高度,那帧率一般都是不变的,二十四帧的效果其实还是可以的, 万二点二的默认帧率是十六帧,稍微来说是比较低。这里的有些工作油如果是只下载了视频整个包的模型的话,他是用不了的,因为他的模型没有包含在里面。 如果下载的是完整版的模型包,那这些都是可以直接点击就使用的,但是原单的我是把模型都已经提前下载好了,对,都是可以直接使用的,相对来说在原单的使用就会更简单。 如果大家把模型下载之后,不知道怎么放置的,也可以参考左边的这个说明,这里是工作流里面每一个模型的放置路径,放置这个模型,然后 norris 放置这个模型,一对应的去放置就可以,那这条视频的内容就是这些。
粉丝3239获赞9164

你现在看到的这些视频全都是四零九零显卡运行 ltx 二点三大模型生成的。 你可曾在雪山上救过一只狐狸?你是那只白狐,我是那只酱板鸭的妹妹。 女士们,先生们,今天做客的嘉宾是当红榨子鸡、小龙虾。 现在我们来看一下 lts 二点三到底升级了哪些地方。第一,依旧开源,配合四零九零显卡就可以尽情的在自己的电脑上运行它。 第二,大幅度的提高了九比十六竖版视频的生成质量,因为我们的手机屏幕是九比十六竖版,所以对移动端的视频更加友好。 第三,画面更清晰,台词配音更准确,配乐和音效更好听。第四,更懂你写的提示词,无论你写的提示词多么的复杂,它都懂你。第五,视频文本渲染更准确。比如你想生成一个 logo 的 视频,它就能准确地把 logo 的 字母写到视频里。 comfui 第一时间就对 lts 二点三进行了支持。现在呢,我就带大家去搭建一下 lts 二点三的 comfui 工作流。在 runnyhub, 我 搭建了四个与 ltx 二点三相关的工作流,我们一个一个的来,先看第一个, 点击运行工作流,你就可以跟着我学起来了。整个工作流你看起来很复杂,但其实需要你配置的参数很少。 首先你要看这个节点,是个开关,开启表示纹身视频,关闭表示涂声视频很明显现在是开启状态,也就是纹身视频 现在来到工作流的左上角,其中 log in mid 节点我们不用管,因为现在选择的是纹身视频模式,我们只要看提示词就可以了。我在这里写的是标志性的电影制片厂的厂头,以航拍镜头扫过雄伟的雪山峰顶,刺破棉絮般的云层,开始 时值黄昏,天空渲染着身子与金色渐变等等等等。这里有一个站位符叫做 replace name, 我 用 test replace 节点负责把这个站位符找到,然后在下面输入你的电影工作室的名字,比如我写的是 emw studio test replace 节点就会把这个站位符替换成你输入的工作室名字了。 下面就是一些常规参数的设置了, length 表示视频总帧数,现在我们设置的视频帧率是二十四帧每秒,然后根据这个公式,总帧数等于二十四乘以秒数加一。因此我想生成八秒的视频,带入公式就能得到幺九三。 一般支持生成十秒以内的视频啊。当然,如果你的显存足够的大,你也可以尝试十五秒时长。 vs 和 hit 表示生成视频的宽和高, 其他参数不用动,包括模型加载,你就用默认的配置就可以了。点击运行,等待两分钟,你就能得到一段运镜效果还不错的 logo 展示视频了。 第二个 ltx 二点三,生成电影公司厂标视频工作流,其中文声视频开关,这里选择的是关闭状态,也就是说这是一个图声视频工作流。那么此时在 lud 编辑节点上传视频的手帧画面,作为视频的开头, 我设计了一款我们工作室的厂标,我直接上传到了这里,然后输入提示词,中景构图,开场画面精准呈现。这张金色厂标, 橘色短毛毛,穿着灰色针织衫,端坐中央,神情威严镇定啊等等等等,写的很详细,其他的参数跟刚才介绍的一模一样,我就没有改,直接点击生成,等待一会你就能得到一段特效相当不错的电影公司厂标视频了。 到这里你有没有发现我写的提示词都很复杂,因为 ltx 二点三这个模型对提示词的要求很严格,你写的提示词需要包含以下几点,生成出来的视频的效果才会好。第一,需要确定镜头的构图, 最好是使用电影术语进行描述你想要的风格。第二,描述视频氛围,比如视频光线、色彩风格以及你要表达的情感。 第三描述动作,将主角的动作按照时间顺序写出来,尽量的自然流畅。第四,确定运镜,说清楚镜头何时切换,包括镜头移动后的主角状态。 第五描述配音,请使用清晰的文案,描述出视频的环境,音、音乐、音频以及主角对话。对于主角对话,请将台词放在引号内,并注明你希望主角要使用的中文还是英文以及其他语言,还有口音等等等等。 讲了这么多,我相信大家已经蒙了,没关系,接下来我就来讲如何在康复 ui 中使用千万三点五来帮你写 ltx 二点三的提示词。现在来看第三个工作流, ltx 二点三配合千万三点五生成宠物播客视频。 整个工作流我只做了一处改变,就是把原来负责写提示词的节点直接删掉了,取而代之的是添加了一个千万三点五大模型节点。 首先我把 ltx 二点三大模型的提示词拷写规则给到了它,然后呢,我只需要把我想生成的剧情用大白话跟它讲一下就可以了,你看,我就是这么写的, 我想生成一个八秒时长的呃,具有皮克斯动画风格的宠物播客视频主持人是一个柯基犬,嘉宾是一个小龙虾。主持人先面对镜头介绍本期来的嘉宾 ladies and gentlemen, 今天做客的嘉宾是当哄炸子鸡小龙虾 现在确实很火啊小龙虾。然后镜头转到可爱的 q 版红色小龙虾,小龙虾面对镜头腼腆的微笑,示意你给我生成出中文提示词,只要最终的提示词结果到这里,大白话就说完了。 然后你看一下经过千万三点五处理之后给你写的标准提示词版本,尤其你来看一下他写的这个运镜镜头脚本,那叫一个专业,是不是写的特别的好,根本就不用再愁怎么去写好 ltx 二点三的提示词了, 其他的都不要动。你来看一下视频效果是不是特别的 q, 特别的可爱。 然后我们来看一下第四个工作流,使用 ltx 二点三配合千万三点五生成武打电影视频。在这里我把纹身视频的开关关掉了,然后在 log 隐秘之节点上传了一张武侠电影的配图。 紧接着我跟千万三点五说,将输入的图片作为起始帧,生成一个八秒的武侠电影片段。 男主和女主的口音是经典的武侠片里的中文配音,那种感觉。女主问,你可曾在雪山上救过一只狐狸?男主回复你是那只狐狸。 此时女主掏出一只特别大的酱板鸭指向男主,然后生气的回复道,我是那只酱板鸭的妹妹。 之后千万三点五就会把你的大白话写成一个很详细且符合 ltx 二点三大模型规则的提示词。再次感叹一下,写的是真好这个提示词,然后你再等个两分钟,就会得到一段对话效果特别棒的武打电影片段了。 最后我们总结一下啊,第一, ltx 二点三这个大模型开源,它可以部署在本地运行,配合四零九零显卡就能跑。第二,生成的视频效果和配音都很不错。 第三,使用千万三点五可以帮你写出很棒的提示词,且符合 ltx 二点三的规则。 最后,有个地方需要注意一下啊,他对中文的文字渲染能力还是不足的,需要继续提升。如果本期视频对你有所帮助,请点赞收藏,支持一下,这里是电磁波 studio, 我 们下期视频见!

哈喽,各位同学大家好,欢迎来到数字折叠,那我们之前的本地 ai 视频生成的课程用到的大模型都是万二点二, 但是万二点二的话呢,他就只能到二点二了,他有二点五,二点六也不会给大家本地开源使用了,是要去做一个线上的收费的。就在大家认为这个开源模型将要进入到一个停滞不前的阶段的时候, 咱们的 l t x 啊,这一家以色列的公司给大家开源了二点三的视频生成模型,那 这个模型相比较于万二点二,它有一个比较大的优势啊,它是可以音画同出的,也就是说我们可以出来一个完整的带有声音的 画面的视频,不用我们后期再去重新给它对口型做这个音频的一个合成了,非常的方便,也比较符合现在的一个 ai 的 视频生成的一个趋势吧。那么我们如何去使用它?对于电脑的要求是什么样子的?我们如何在本地成功的去部署它,那这节课我们就要给大家去讲了。 那首先我们来看一下啊,我使用这个 ltx 二点三制作的一个小效果吧, put your hands on the arm here open your legs not too much there you'll see why i like that very much do you want me back? ok, 那 大概就是这样的一个效果,我们可以看到它的分辨率是很高的啊,我在后期对它进行一个放大,但是我们一次就可以直出一二八零乘以七二零分辨率的视频, 并且的话呢,我们这个视频的帧数率是支持二十四帧或者二十五帧每秒的,它的时长也可以达到十秒甚至以上,对显存的要求也没有那么大,我使用的是 四零八零十六 g 的 显存,然后六十四 g 的 内存就可以跑这个效果了。那如果你的电脑比我还好,我相信它可以在一分钟之内就可以跑出一个五秒钟的视频。 如果你是十二 g 的 这个显卡的话,你可以试一下,因为我没有试过啊。那如果你的内存比较低的话,你也可以设置一个虚拟内存,这样子就会让我们的这个跑起来没有那么大的内存的压力。 那我们看完效果之后,我们来看一下怎么样一步一步的把这个效果给它复刻出来。那我们第一节课讲的就是工作流的部署, 如果你从来没有使用过 comui 的 话,你还需要先去下载我们的 comui, 然后再去给制作我们的 ltx 的 模型的工作流。 如果你不想去折腾啊,你不想一遍一遍的又配置环境,又要用这个代码去调配拍摄的各种模块,还要自己去下载工作流,安装插件,然后优化节点, 解决报错,这是所有的非程序员出身的人来去使用本地 ai 的 时候遇到的问题。那么我们数字折叠给大家提供了一套完整的开箱即用的软件,就是 comui 的 整合包,加上我们的这样一个 e f studio 的 工作流操作工具。如果你是我们输入折叠的会员的话,你可以用我们这个工具,如果你不是会员的话,你可以直接用我们的 comu i 自己去部署这个工作流。那么我们来看一下一步一步的一个操作过程。 首先的话呢,我们的 comui 整合包是可以在我们的网站上去下载的,我们首先可以进入到课程这个页面,在我们的课程页面里,我们点进来这个 ltx 二点三的课程的主页,在课程主页里面我们可以看到这边有一个这个配置链接, 首先第一步你就去点击这个 comui 的 整合包,把这个 comui 整合包下载下来,我们现在使用到的是这个零点一六点四的版本, 里边的环境是库达十三加拓十二点九,也就是说你首先要去升级你的这个显卡驱动,能够支持我们的库达十三,然后呢再去安装我们提供的库达十三点幺的这个库达驱动, 那么我们这个详细的部署的视频是在这里的,你可以到这里去下载部署一下,只不过我们这里边是十二点八,你只需要把我们的库达变成一个十三点一就可以了,如果你不是三维用户的话呢,那个侯蒂尼的安装你也可以自动的给忽略掉啊,就前期先去适配一下这个库达环境, 然后下一步的话就是安装我们的整合包,然后把它解压出来,放到指定的位置,就可以把这个软件打开了,下面给大家去看一下如何去打开咱们的这个软件啊?在你没有安装 cd 的 情况下呢,你进入到我们的 comfui 里面, 然后双击我们这个英伟达 gpu 的 bat 脚本命令,就可以把我们的 comfui 给启动起来了, 在启动的时候的话呢,大家可以再继续去下载第二个东西,就是我们的 d f studio, 我 把所有的工作流都配置好放到里面了,那这个 d f studio 的 下载链接的话,也可以直接去打开它 到这里去下载就行了。那它的一个部署的话呢,你可以看我这边这一个县城文学的课程, 这个课程上面的话呢,我们的第二节有一个部署的教程,你只要把这两个东西部署完,后面你就非常开心的去玩我们的 comu i 在 本地可以零成本的去制作各种 ai 的 一个效果了啊,这是我们的一个前期的部署, 如果你是老用户的话啊,你可能之前已经安装了我们的这一个数字折叠的 comui 整合包了,只不过你的整合包目前不是十六点四或者不是扩大幺三的系统,你就根据我们的下面这个部署教程去重新的升级一遍就可以了,你就不用再去安装其他的环境了,只需要去替换一下里面的这样的一个 is embedded, 还有我们的这个插件,还有我们的本体就可以了。那替换完之后,再把你老版本里面的你之前下载的囤积的一些大模型给它直接剪贴到我们新版本的模型文件夹里面去就可以了,这是一个比较方便,不用折腾环境的升级方式。 那现在我们看到 comui 已经打开了,那我们就直接进入到咱们的 df studio 里面去吧,我们打开我们的控制软件。 好的,现在这个控制软件我们就已经打开了啊。首先我们点击这个视频生成,里面我这边提供了有三个 l t x 二点三的工作流,分别是音画同出的图声视频,还有音画同出的文声视频, 在这个声音生成里面还有一个自定义音频的一个 l t x 二点三的图声视频的这个工作流,这三个工作流是我们要用到的, 我们今天先要给大家去讲的是这个 l t x 二点三图声视频,就这个咱们的工作流,那在去使用之前,你要下载 l t x 二点三的模型啊,我们可以直接点击查看介绍, 我们进入到这个介绍页面,我们可以看到这边有一个模型下载的链接,看到没有,你直接点击模型下载链接这边我就提供了我们的这个三个工作流共用的 一个模型,就一套模型系统吧,它的一个文件的路径我也给大家在这里梳理出来了,比如说在 models 里面,然后 different models 里面下载这一个可立普里面下载这一个 ve 下载这俩,是吧?还有放大模型,然后你就直接可以点击这个百度网盘啊,我们这个模型都是 开源的,免费分享的,在别的地方下也是可以的,没有关系的啊,那我们进入到这里面去之后的话呢,那我们就可以看到了啊,这个可立普文件夹,什么 different model 文件夹,给大家说一个技巧,我这个文件夹的名字啊,比如说可立普,就是在我们的这个 comui 的 model 文件夹里面,我们找到 model, 这里面也有一个可立普啊,你就放到同一个文件夹里面去就好了,就把它下载到这里面, 那相同的,就比如说是我们这个 latent app skill model, 那 你就找到我们 comui model 文件夹里面的相同的 latent app skill model 文件夹,然后把它给下载下来就可以了, 按照我的这个方式把这里面所有的模型下载下来,就可以使用它了。那我们首先的话点击使用该工作流,我们在使用的时候可以先创建一个工程,如果你有新的工程就直接打开就行了,比如说我们就放在我们的 l t x 二里面吧,然后这个名称的话,我们就叫做演示吧。 ok, 我 们创建一个演示的工作流,创建好之后呢,我们就选择这个图声视频的工作流,点击使用工作流就可以了。 然后我们可以先创建一个图像,那这个是我们默认的图像,那我就生成一个新的图像吧。比如说我们在工作流里面,我们选择另外一个工作流,图像生成的工作流,我们使用的是 z 妹子的这个纹身图,我们选择它就可以了。 然后我们这个图像我们创建一个古风女孩吧,一个穿着汉服的女生吧,这个的话是可以支持中文的,我们输入一个穿着古风汉服的中国女人 站在院子里,上半身特写, 就这样吧。然后我们的分辨率可以给到一二八零三七二零稍微小一点嘛。那我们这个保存路径的话,也可以放到我们自动创建的这个资产里面,你可以自己写一个文件夹,比如说叫做古风 这边的话呢,我们改变一下他的保存的前缀也行,让我们刷新一下历史记录,这个时候我们就可以执行了。那这个任意美指纹身图也是需要去部署模型的,我们之前已经部署过了,你可以看一下我之前的课程,我们点击一下执行就可以了。 好的,现在我们已经生成了,我们来看一下整个质量还是可以的啊,非常有这种古装剧的感觉。然后我把提示词的上半身特写去掉了啊,改成了面带微笑,因为只有上半身特写,他的面部没有那么完整, 那我就把它改一下,优化一下。那我们就可以点击一下标记啊,把这个图像给它标记出来,作为我们的一个图生视频的手帧图的使用用途。那下一步的话呢,我们就切换到 lts 二点三的图层视频工作流,把这个手帧图切换成为我们刚才的这个 mark 出来的图像就是它了。然后提词词应该怎么写呢?提词词其实是有一些要求的,那这个 l t s 二点三的这个提词词的格式,我们提供了一个反推工作流,就是说你把一些必要的条件给到它,把图像给到它, 它就能够给你一个适合 l t s 二点三出视频的这样的一个题词词啊。不是说你随便去写,可能随便去写出来的效果并没有那么好,那我们可以再去选择一个工作流,你看我们有了这个十六六软件之后,你就不用到处去部署工作流了,你就直接在这里面去选就行了。 那我们可以看一下,在文字生成里面有两个反推的工作流,另外一个是二点三反推的官方版, 这个是之前 lts 二的反推提词词,它的提词词是比较的完整,就是把画面也描述出来了。那这个是官方的 k z 流给到了一个提词词的反推方法,这个可能会更简洁一点,那我们就用这个官方版的,我们点击使用工作流, 如果你没有部署这个反推模型的话,你也可以查看介绍一下,看一下需要去下载什么模型。其实这个工作流里面所用到的那个模型跟我们二点三这个大模型是一样的,用到的是它里面的可立破模型,所以你就不用下载任何的模型了,直接点击使用就可以了。 那我们把刚才的那个图像给到他,就比如说这个图像,然后他的这个前置条件是有一定的格式的,比如说前面这一句是不用管的,就是让这个图像变成一个流畅的动作,然后这个主题你要改一下,动作你要改一下,场景你要改一下,如果自己改的话比较麻烦啊,你可以直接 ctrl 键加 c 键复制一下,然后我们可以进入到 excel gpt 里面去啊,那我们就进入到这里面来,然后把这个题词给到它,就是这个反推的格式,说修改一下这个这个内容 要求,然后我们就可以把下面的这些题目给到它,就是 subject 啊。这个主题是什么呢?一个女女人对着镜头打招呼, 然后再把我们下一个这个 action 再复制过来。说什么呢?说这个女人走到 镜头前,微笑着说,是吧?一日不见,如三秋兮, 这应该是一个文言文啊,就这样子,一日不见如三秋兮。 ok, 然后我们再去回车,然后这个盛世描述一下啊,盛世就是一个呃,古代的院落里, 这里就会触发他对环境或者声音的一些描述,然后点击给我们的这个大模型,他就可以把我们的题词给优化了,我们来看一下,他自动就去写了。 他给了两个版本啊,第一个版本的话他把台词也变成英文了。啊,这个我们要中文的,这个叫什么呀?呃,一日不见如三秋兮,我们复制一下,可以来去看一下啊, 粘贴是吧,让图像以流畅的运动变得生动起来啊。一个女人面对着镜头,然后微笑的说这个样子。好的,那我们就可以把这个反推的指令复制到我们的工作流里面去, ctrl 键加微键啊,如果大家觉得比较麻烦,可能更喜欢做在线的,但是我觉得,呃,如果你想要简单一键的东西可能就没有那么准确,如果你想要省钱,想要做的更专业,你还是要稍微的呃,用一些流程来去规划一下。 那这个最大制服就是说他反推出来有最大的一个反推提示词的长度啊,但是一般情况下是不会超过一零二四的,你就算给到一零二四,他可能反推到几百个就停止了啊。那我们这个路径也可以改一下, 他会给你一个提示词文档的,你后面可以发给别人,也可以自己去学习使用。那我们可以给到这个反推的文件夹里面去就可以了,这个就叫古风吧,然后我们就开始执行就可以了。 好的,我们现在已经反推完成了,我们可以看到这个提示词在我们的右边展示栏里面也展示出来了,我们可以直接 ctrl 键加 c 键,我们回到这个翻译软件里面来看一下, ok, 就 这样子的,你可以看到它又把我们这个中文给它翻译成英文了,这个我们到时候再翻译过来就可以了。 风格他先定义了,然后再定义动作。女人慢慢走向镜头,热情的微笑着,用舒缓的声音说,啊,什么什么柔和的中国传统音乐,然后与鸟儿的呃声音和远处的喷泉融为一体啊,就非常的详细吧。那我们就回到这个这边来, 然后呢我们就把咱们的这个题词给它粘贴过来,只不过你把这个他翻推出来的这个拼音再改一下啊,一日不见如三秋夕, 如三秋兮。好的,现在应该没有问题了,种子值可以随机一下啊。注意,这个是我们刚才那个音化同出的工作流,这个,这个是反推的工作流啊,他俩你不要弄混了啊,先去反推出提示词来,然后再给到我们的工作流, 然后时长五秒,五秒应该可以了,就默认五秒,帧率二十五帧每秒,然后宽度一二八零乘七二零。保存设置,这里就是你保存在我们的 alt put 里面的这个文件夹里面的。这个后面的文件夹和前缀啊,我们就叫做克拉斯演示吧, 这个不是一个绝对路径,大家注意啊,现在我们刷新一下工作流没有问题就开始执行了,那执行之前的话呢,建议大家可以到我们的 comui 里面啊,你可以去清理一下这个内存,清理一下缓存, 如果你再执行多个工作流之后,你再去执行新的工作流,它的内存来不及卸载,会造成这个 comu i 的 卡顿。建议大家可以多去点一下这里,然后保证我们的这个 gpu 还有我们的内存要干净一点,现在没问题之后,我们就开始点击执行,等待它的一个视频的生成吧。 ok, 那 我们这个已经生成了,我们来看一下啊,一日不见如三秋夕, 是不是还是可以的呀?而且我们可以发现啊,咱们的这个嘴型也能对上声音也是这种比较标准的普通话,美中不足的就是有字幕,这个字幕在中文的发音下是比较通常出现的,所以我们后面的课程当中用英文就不会有这个问题了 啊。再然后的话呢,我们接下来要做的这个效果,并不是说光用这个工作流,我们还会用到其他的工作流,像瑞米克斯呀, 像这个 client 啊等等的,所以我们接下来会利用这个大的 ltx 框架,然后再加入其他的辅助模型来去制作。那这节课的话呢,大家只要把它给部署上就可以了,那么我们也可以对它进行接下来的一个放大高清叉撑的处理,我们都会详细的去讲解的, 那下一节课我们再见。拜拜。

还在研究本地大语言模型怎么破甲破件吗?其实那些方法都没什么用,今天给大家直接介绍一个无限制的 本地大语言模型,这个是欧拉玛的官网里面的啊,这是其中的一个作者,我们直接去拉取它这个模型就可以了,注意它的尾缀啊, on sensor 的 这种啊。 好,那么如果你在这里面去搜索的话,他可能还有很多个这种昂森手的,包括那个加码的,或者说是千万的,我个人推荐用千万的,千万对中文的知识要更好一点,然后它里面有很多版本,二币、四币、九币,这个四币和九币哪怕你是没有显卡的, 在内存里面跑的也是可以很快速的。那具体怎么操作呢?比方说我想,因为我这里面我的这个里面已经拉取了,我拉取了一个四 b 的 一个九 b 的 纤维三点五,还有一个加码的一四 b, 呃,感觉都还还蛮好用的啊,我,我给大家演示一下。比方说我想拉取这个里面的这个二 b, 然后点到这个二 b 的 模型里面去, 它这个里面针对欧拉玛的拉取,它会有已经给你写好了命令提示。行啊,直接选中复制,然后 windows 加 r 键,打开 cmd command 命令行窗口,然后直接复制粘贴进去,就来到这里了,看到没有回车 好,它这个时候就开始拉取了呢,这是我的网速,这个时候它就开始拉取, 呃,这个取决于你的网速,而而且这个是不需要魔法的啊。当拉取完了之后,啊,我这个把这个停掉啊,我这我这把它停掉, 停掉。拉取完了之后,我们来到我们的欧拉玛里面,你就会多一个,刷新一下就会多一个,当然我这个就不拉取了,包括四币啊,九币啊, 在在我这台电脑上,我这个是一个六 g 显存的四零五零啊,哪怕你是核显的,没有显存的也可以,跑速度也还可以,你可以跟他任何交流啊,包括角色扮演呢,或者提问呢,任何特殊问题等等等等等等,大家都懂的, 不会有拒绝回答的情况。这个这个奥拉玛的客户端程序也是在这里下载啊,客户端的程序也是在这里下载, 下载完了之后,安装好了之后,你的属呃,那个系统右下角托盘上就会多多一个这个羊驼的图标啊,然后打开这个 open 就 可以打开它这个窗口啊,大概就是这样,具体的那个过程里面的聊天内容啊什么什么的, 呃,我就不去演示了,他的四 b 和九 b 作为简单的轻度聊天或者角色扮演等等等等之类的,或者仿写扩写一些小短文什么的都是没问题的啊,千万三点五的九 b 榜三说的啊,就这个好。

部署本地的 openclaw 已经可以剪视频了,大家都知道了吧, 这个让硅谷大佬每日一封的 openclaw 阿月,我呢也是拉到本地试了几天,现在就带大家把本地部署和接入飞书每一步都走明白。为了防止偶然性啊,我呢也是连续测试了四台电脑,确保每一步都可行,接下来你们只要跟着做就可以。点好关注收藏, 我这里依旧用的是 windows 系统来操作,因为 macos 系统呢,环境相对比较简单,不像 windows 这么复杂。首先呢,我们要确认好 windows 的 安装环境,安装的时候呢,全部都点 next, 一 直到完成即可,建议呢,不要去变更中间的安装路径。 呃,安装完成后呢,我们可以检查一下环境,我们在命令提示符的窗口输入这两个指令,如果输入指令后跳出版本号,那就说明安装已经成功了。这里提到的两个环境文件呢,我在文档里面也全部都准备好了。 好,接下来呢,我们就开始全区安装 oppo 卡使用管理员 c m d 指令输入,这个指令安装完毕后呢,再输入这一条指令, 好开始了。 ok, 这一步跳出来的呢是风险提示,我们直接选择 yes。 然后呢我们选择 quickstart, 这一步呢是选择大模型,我这里呢用的是千万,因为他是国内的,如果大家有惯用的呢,也可以自己进行勾选好,然后我们这里模型选择默认的即可。 之后呢会跳转到大模型的首页进行授权验证,大家验证通过就可以了。那通过后呢,这里也同样有一个选项,我们直接选第一个默认的模型。 ok, 下一步呢,这里可以看到很多的应用选项,这其实呢就是指令输入的终端,因为这些都是国外的,所以我们先不管,选最后一个,跳过,后面呢我会给大家介绍如何接入国内的飞书。 ok, 继续,这里会问你需要配置什么 skills? 呃,我们也跳过,没问题,因为这个不着急,后面都可以手动去配置的。 好,这个也不用管我们用不上,直接跳过。好,然后我们稍等一会,会自动弹出一个网页,然后你会发现这个网页是打不开的,没关系,我们这个时候呢,再运行一个 c m d 的 指令, 好,这就是欧奔 cloud 的 兑换框了,我们来尝试和他打个招呼, ok, 他 回复我了,那到这里呢,其实基本上就成功了,还是比较简单的啊。然后呢,我们再来尝试为大家接入一下飞书,很多小伙伴呢,在这一步呢,其实就被劝退了,因为怎么样都接入不了这里,大家看好我怎么操作。 首先呢,我们进入飞书的开放平台,我这里呢用的是个人版,我们来创建一个企业自建应用, 进到这个凭证与基础信息界面,把你的 app id 和密钥保存下来,这个很重要啊,后面会用到的。然后 我们添加一个机器人,再到权限管理这一步,为他添加一些权限。这里的权限列表呢,其实官方呢是有指导文件的,但是呢就藏的比较深,我呢也是给你们找出来,直接放到文档里面了,你们直接一键复制过来就 ok。 好,然后我们需要配置一下这个事件回调功能,在这里的订阅方式选择长链接这一步呢是必须的,而且是绕不开的,也是大家碰到卡点最多的一步,很多小伙伴呢在这里呢就是一直报错,好,不用担心,我呢,已经整理了一份非常长的傻瓜教程,大家直接照做就 ok 了。 然后选择以后呢,我们添加事件,然后添加搜索接收消息, ok, 然后我们就去点击创建应用,然后再发布就 ok 了。 好了,配置工作完成之后呢,我们就要开始给欧邦克劳接入飞速杀键了。由于 windows 的 系统环境问题呢,所以大家的电脑情况都不太一样,所以会出现不一样的报错问题。网上的很多视频呢,也没有把这个问题针对性的讲清楚,我自己呢也试了三到四台电脑来做尝试,都非常有挑战。 如果你手边也报错的话呢,不用担心,我这里想到了一个邪修的办法。好,那既然 oppo klo 可以 控制我的电脑,那为什么他不能自己安装飞出插件呢?我们来试试看吧,直接和他对话。呃,你自己安装一下飞出插件,然后呢,他就会开始疯狂的工作,并自行去验证安装环境和插件配置 啊。五分钟左右后呢,他就会告诉我,他工作完成了,需要我提供给到他飞出机器人的 app id 和密钥。这个呢,其实我们在上一步已经有了,我们直接复制给他,让他呢继续去工作。这里的工作过程当中呢,我们的机器人可能会下线几次,原因呢是他需要去重启网关, 如果呢,你感觉他下线太久的话呢,我们可以用 open cloud get away 这个指令重新把它呼出来。最后呢,他会要求你在飞车上和他对话进行测试,并为你排除最终的一些故障。 ok, 全部搞定,已经可以在飞车上正确回复我了,并且呢,刚才在外部的对话记录他也全部都记得, 呃,我们这里呢,再用手机给他发一条消息试试看。好,他也同样接受成功了。好了,这里欧本卡接入飞书的配置呢,就完全对接成功,基本上都是他自己完成的,我呢只是配合他提供了一些必要的信息, 妥妥的全能小助理。接下来我们来看看他能为我们做一些什么吧。比如呢,我现在想要订一张机票,我就让他帮我查询一下最便宜的航班,他立刻就给我列了具体的信息,包括航班号,价格以及其他的一些航班信息。不过这一步呢,是需要接入 api 的, 大家可以自行去网上找免费的接入就可以。 好,那现在过年了嘛,马上大家呢也会送礼嘛,那我就让他去浏览电商的页面。呃,不过这里呢,需要先安装一个 oppo club 官方的浏览器插件,我们直接从官方渠道进行安装就可以了。具体的步骤呢,已经放在文档里了,大家直接照做就可以。我让他给我打开。 ok, 成功,呃,然后我继续让他为我搜索燕窝。好,也成功了。 好,那我们现在在拿最近小伙伴在学习的 ai 的 线上作业丢给欧本克,看他能不能帮忙完成。 首先我们要让他找到作业的本地目录,并让他完成里面的题目。他立刻就找到了,并且迅速告诉我,完成了。啊,这速度还是真的蛮快的啊,但是呢,人呢,还是比较懒的。如果呢,你抄作业都不想抄啊?没事,直接让他把填完的东西返回给我。好,他已经做完了,我们来看看啊。 呃,代码呢?全部都完成了,不过呢,我也是看不懂啊。看懂的高手可以来说说他完成的这个准确率怎么样。 好了,那这次安装说明就先讲到这里了,关于 open cloud 的 更多能力,有时间呢我们可以再去测一下。好,那既然已经部署成功了,有兴趣的同学呢,也可以再去深度探索一下 啊。对了,现在呢,各大厂呢,也出了针对 open cloud 的 云端部署,我这个呢,也可以跟大家快速的分享一起。好,这里是阿月,希望我的视频能够帮助到你,让你更了解呀,我们下期再见。

兄弟们,本地部署欧拉玛加玛斯加 open club, 本季部署真正免费使用 open club, 实现龙虾自由,只需三步,安装环境,安装欧拉玛,启动 open club。 欧拉玛是一个本地模型运行器, 可以免费使用开元大模型,但是对电脑性能有一些要求,推荐最低配置三零六零八 g 显存以上,可以跑一个四 g 小 模型。老外电脑性能是六十四 g 内存四零九零显卡,二十四 g 显存跑七 b 模型,没有任何压力,我们来测试一下,你好,你是什么模型? 大概等待了十秒钟,速度虽然稍慢,但是完全免费。然后和老万一起安装一下所有软件,软件都给大家准备好了,在老万的 ai 工具箱直接领取,先全部解压,解压完成以后, 首先安装三个必备的环境,几乎任何 ai 软件都离不开这哥仨, git、 node 和 python。 我 们先来双击安装 git, 然后选择 windows 安装即可安装完成,按键盘上的 windows 加二, 输入 cmd, 然后输入 get 杠 v 查看 get 版本,如果正常输出了版本,说明 get 安装成功,然后再安装 python。 这里我们一定要勾选把 python 自动添加到环境变量, 否则要手动添加比较麻烦。然后选择 install, 同样在命令行输入 python 杠大写的 v, 正常输出版本,说明安装成功。也就是说我们电脑找到了这个环境,并且不同的环境查看版本命令,略微有一些差异。最后安装 node 一 路下一步安装完成以后,同样输入 node 暗微 输出版本安装成功,然后再输入一个 n p m 杠回,这是一个 node, 依赖管理器安装, node 就 会自带 n p m, 它可以通过网络帮我们自动安装一些依赖库,其实可以把它理解为一个 node 的 下载器,通过命令就可以自动帮我们下载一些程序和代码,然后安装欧拉 玛,双击下一步直接安装,安装完成以后双击打开欧拉玛,然后我们可以在这里直接下载,或者非常慢,所以老外已经把这个 本地模型下载好了,我们只需要在设置这里,然后配置一下老王给大家准备好的本地模型就行了。我们解下这个欧拉玛文件,这个欧拉玛下这就是配置文件 vlogos, 就是 本地模型原文件伽马七 b 模型大概九个 g 左右,所以我们在模型配置这里 找到奥拉玛这个文件夹,选择确定,然后修改一下上下文。我们要本地使用 oppo klo 的 话,推荐上下文是三十二到六十四 k, 然后选择保存,现在就可以测试一下模型了。你好,总结一下金马寺模型的优势,想象速度还是非常快的,开放性,卓越的性能,效率和部署比较灵活, 吞吐量比较大。总结,高性能可信了。然后我们使用 npm 安装一下 open collab, 复制这行命令,在 cmd 命令行中按右键粘贴命令回车。安装完 open collab 以后,回到欧拉玛,选择 lunch 复制,使用欧拉玛启动龙虾命令,再次打开 cmd 命令行,粘贴命令回车,然后选择 set up light, 先不配回车,龙虾启动完成。我们可以通过这条链接直接在浏览器中访问 open 可乐,选中按右键复制,然后粘贴到浏览器中。我们一定要注意啊,打开链接一定要带着这个 token, 这个 token 是 登录信息,如果没有这个 token, 我 们也能打开龙虾, 但是聊天的时候会提示没有权限。然后我们来测试一下你是什么模型?我是 gmail 四配置成功,帮我查看一下我的显卡配置,龙虾告诉我查到了我的显卡型号,四零九零没有问题,说明 ai 真的 调用了工具,查到了我的电脑信息。

今天给大家录制一期 ctrl e y 复制部署的教程, 下载这两个,一个是整合包,还有个是前端部署资源,还有就是我们的 c 盘至少五十 g b 这个解压软件啊。首先我们这个前端部署资源先没有把,先把这个整合包给它,打开 它这个就是 comfyui 的 整个包,就打开此电脑,点击一盘可以解压到一一盘里面啊,我直接把它拖过去就可以了。 找到一盘里面的前置部署资源,双击打开,我们先把这个先给它部署好,双击运行继续好。在安装好之后,我们单机这个单个组建, 输入 m s b c 好,找到 ms bc 之后往下滑,拖到最下面一个之后我们再输入 win, 它在有些电脑是 win 十,有些是 win 十一, 我们的话就选择 win 十一就可以,因为 win 十一它是可以向后兼容的。然后点击这个之后我们就点击安装就可以了。 嗯,有些已经安装好了显卡驱动的,可以点击右键打开 app, 在 这个驱动程序里面将它更换为这个,点击这个就行了,如果没有安装的重新安装下就可以了。 好,接下来是酷的安装,找到前置安装包,对,它这里面就有酷的安装,你电脑对应的版本是哪一个就双击哪个运行,我们直接一直点 ok 安装就行了。 这个文件我建议直接将它放在 c 盘里面,加安装的话会比较方便,因为它的路径是不能带有中文的,这对主播自己就已经直接将它已经放到 c 盘里面了。双击找到 c 盘 fm bin 第一个文件,将它的路径给它 复制下来好,复制下来之后打开环境 好,找到环境变量,控制好,找到环境变量控制的点这个环境变量, 找到这个 p a t h, 随后双击它,这里主播提前也布置好了,这里有将它给删除,重新布置一遍给大家看 看,点击新建截下来的粘贴就行了。好,粘贴好的之后点击确定,确定,确定好,接下来是 python 的 环境,你布置,首先 找到我们已经布置好了的, ctrl y 打开,找到 python 以后找到这个复制,随后打开设置,输入文件的页面,控制好,跟刚才一样, 找到这个 p a t h, 然后新建展览的位置粘贴, 粘贴好之后点切定,切定,切定好了,在酷达 windows 叉八的这个软件双击,可以直接在这个页面加载整个文件剪切,随后找到我们的 这个,在这个 took 里面直接把它粘贴替换目标文件, 这样的话我们整个康复 u i 前置环境就已经部署完毕了。好在我们所有的准备工作都做完之后,我们可以找到我们的康复 u i 在 那个启动, 在启动之前我们设置如果没有梯子的小伙伴,可以先将自己的灯先关掉,任何人的效底,只有找到版本管理, 将自己的版本更新到最新版本,点击切换确定,然后等待下载就可以了。

飞船即将起飞,请宇航员做好准备,收到开始检查,检查无物开始起飞。 飞船飞行中,请宇航员巡查飞船一号舱区域一切正常, 二号舱区域一切正常。 仪表盘显示四号舱未知故障,现在前往维修。 三号舱一切正常, 到达四号舱发现故障地点 检测不影响正常飞行。现在已经开始维修, 即将飞出大气层,请宇航员准备好。已维修完毕,飞船一切正常。 飞船开启加速前进。好的,现在开启加速飞行模式。 请宇航员选择飞行目的地,目的地月球,请立即前往。好的,现在前往月球。

大伙好啊,今个呢,我们聊一下如何在本地哈部署这个拉玛 c p p, 那 么它的作用是什么呢?各位,先说一下啊,它能让我们在本地哈运行啊这个语言类推理的大模型。 那么为什么要在本地部署呢?有几个情况哈?第一个呢,就是最近哈,呃,这个网上都说这个豆瓣要收费了啊,对吧?呃,收费之后呢,有一些功能,可能我们正常用的挺好,再用可能就要付费了,对吧?然后再有一个是什么呢? 就是我们如果在做项目的时候啊,比如说有一些东西涉密了,不方便在网上传,对吧?这个时候我们就需要在本地,是吧?构建自己的这个资源库,对吧?各位,那么这个时候我们就需要在本地有一个可以类似于像豆包啊,这个 deepsea 啊这种的服务类大模型,对吧?所以呢,今天我们聊一下如何在本地哈部署这个拉玛 c p p, 它呢实际的作用就是可以让我们在本地哈运行啊这个语言推理类的这个大模型,大家看啊,现在我已经部署好了,非常简单哈。那么再有一个情况是什么呢?各位,我们有一个自己的这么一个批量管理软件,是吧?目前有一个环节就是题词词的来源 目前很严重的依赖于我们外部的这个呃, ai 工具,对吧?现在呢,我们如果在本地已经构建了一个可以用来进行语言推理,生成对应任务的这么一个大模型之后呢,各位大家看啊,我们就可以把这个东西直接集成到这个平台当中,是吧?提 着此这一块,我们就最后一个环节就已经集成到这个行当中了,这个就是后续啊,就是大概是四点一之后是吧?呃,继续优化的一个功能,大家先知道这么个事就行了 啊,再有一个是什么呢?目前千万三点六是吧?这个三十五币出来了,然后呢,号称是一个能干活的大模型,对吧?各位,那么我们把它在本地运行来之后呢?第一可以构建自己的私有资源库是吧?更安全,第二呢效率更高,对吧?各位, 那么话说回来啊,怎么去部署这个拉玛 c p 啊,它其实就是一个能让我们运行这个语言推理类模型的这么一个工具啊。不大,我们首先来到这个 github 哈,这个网址,好吧,这个网址哈,然后来到这里之后,各位,简单的一种方式哈,我们找到右侧这个 release, 好 吧,找到这个 release, 然后往下翻哈,这里边有对应的版本,那我是 windows 系统,我们往下翻啊,这里边有一个 windows, 好 吧,在这里哈,各位,呃,我是酷达十二的,所以呢,我就找这个酷达十二哈, 找这个酷大十二,大家根据自己的情况啊,显卡情况去选择好吗?有很多这个类型,大家根据自己的情况选择就行了,那么我选择酷大十二,然后把它下载到本地之后,大家看好,我把它下载到本地之后进行解压,解压完了之后大家看进入到这个文件夹当中,这个就是项目下载之后的效果, 好吧,不大哈,大概是看一下啊,五百多兆,好吧,不大哈,然后呢,别着急启动,各位,我们启动的时候呢,可能要需要设置一下参数,怎么去办呢?大家看,进入到这个 lama 啊,解压之后的这个文件夹,然后注意新建一个文件,比如说我叫 start 啊,我已经有这个 start 了,那我就 start new, 新建一个文件,然后大家注意把这个后缀名啊,各位,把后缀名啊改成点 byte, 好吧,有些同学这个小那个小伙伴的电脑可能这个看不到后缀名,是吧?这个很简单,我们打开这个文件夹之后,这上面有一个查看,大家点击查看,点击显示后边有一个文件扩展名,就是文件后缀名,你把它点上之后就能看见了啊,也能修改了。那我们新建这么一个 bug 启动文件之后呢?大家看啊,我把我之前这个打开, 大家看在里边输入这么一句话啊,比如说这个是拉马,搜索这个拉马的这个文件啊, 调用谁呢?大家看啊,这里边有一个这个,好吧,拉玛告诉搜索点 e s e, 实际上就是调用它哈,然后后边杠杠 host 四个零好吗?它指的是开放远程调用,因为我们后期啊,各位,后期要把它集成到这个批量管理软件当中,我们需要通过这个软件远程去调用啊,这个拉玛 c p p 好 吗?各位,所以这个位置我们给它开放远程调用,后边 pos 端口八零八零,大家看啊,就这个端口,根据自己情况设置就行, 好吧,自己设置一个端口啊,然后后边杠杠 models 杠 d i r, 它指的是我们的大模型存放的文件夹地址好吗?比如说我存在 cf ui 的 这个 l l m 目录当中了,那我就找到哈这个 cf ui 找一下啊,找到 comui, 然后找到它的这个 models, 找到 l l m, 把这个上面地址复制一下,粘到这里边就行,好吗?这样呢,我们这个启动文件就配置完成了,很简单,对吧?各位?然后呢,大家看啊, 翻回头来,来到这个启动项,好吧,来到这个 lama 的 这个解压文件夹目录,找到我们刚才设置的这个 star 的 启动文件,好吧,里边的内容刚才展示过了啊,开放远程端口,设置模型存放的目录,然后前面是调用的这个 lama server, 然后双击一下 打开,双击完之后啊,这个老板就启动了,他默认的啊,启动端口啊,是刚才我们配置的那个八零八零,对吧?然后呢,我也,我之前已经启动过了,翻回头来,我们在网址上输入,幺二七点零 点零啊,多了一个点啊,幺七点零点零点一,然后冒号,英文的冒号八零八零,大家看,这样呢,我们就把这个网页打开了,大家看,其实他就是个小豆包哈,他的这个能力跟你选的大模型有关,那么我选的是千问三点六啊,目前号称能干活的大模型,好吧,一会说这个事啊,然后呢,我们点 第一次,我们可以点击加载一下这个模型,然后输入你好,是吧,他就进行推理了,然后给我们这个答案,这个模型确实能干活啊,各位,大家看啊,这个是我之前用这个千分三点六,然后拉拉本地部署的这个 呃软件哈,然后呢,生成了一个贪吃蛇的这么一个小游戏,里边大概七百多行代码,我就告诉给我生成一个网页版贪吃蛇啊,大家看,双击完之后,这个游戏还挺好玩的啊,效果还不错的啊,好吗? 好了,不解释啊,就是挺好玩的哈,然后千万三点六的模型在哪里下呢?大家看,我这里有一个网址,这是国内的网址哈,大家看, 根据大家的显存实际情况去下载对应版本就行了。那我是二十四 g 显存,所以呢,我下的是这个 q 四 k m 的 二十二 g, 好 吧,大家尽量啊,下载这个模型小于大家的这个显卡的显存,因为什么呢 啊,就算大点也没事啊,比如说你十六 g 显卡,然后你下个十八 g 的 模型,实际上也没事,它会把一半啊,它会把一部分资源放在内存当中啊,但是各位 用这种模型啊,大家看啊,这有一个 token 的 输出速度好吗?就是它运行,你可以把它理解为运行的效率啊,有一半资源在显存啊,在内存当中,这样会拖慢你的运行效率,但是它也能运行,就算你没有这个显存,纯靠 cpu, 它也能运行,就是奇慢啊。各位, 这种模型大家注意啊,还是注意下效率的,所以我们把这个模型都加载到显存当中,这样的运行效率是最高的啊,大家做这么个事就行了啊,尽可能的选择这个模型小于你的真实显存占用, 是吧,这个千分三点六,三十五 b a, 三 b 指的是三十五 b 的 参数,但是真啊,一次使用的时候只激活三 b, 对 吧,但是你也需要把这三十五 b 参数加载到显存当中啊,然后一次用里边的三 b, 对 吧,这样的效果是最快的。 好吧,各位大家说这么个事就行了啊,然后呢,其实呢,大家不止可以下载这个千问三点六号,也可以下载其他的推理大模型,放到对应的目录当中,是吧?在这里大家看啊,在这个位置我们是可以选模型的,我之前还有千问三点五号。 好吧,各位大家知道这句话啊,知道这么个事就行了,那么部署完,启动完之后,就可以跟它进行对话,然后完成任务了哈,然后呢,这个不是重点啊,因为我们刚才开放了 api 的 远程调用,对吧?大家看啊,就是以后怎么把它集成到这个软件当中呢?大家可以看一下啊, 现在我模型是加载的,我给大家演示一下啊,这里边我写了两个 api 啊,第一个是卸载模型,是吧? 就是我可以通过远程调用去控制这个软件加载或者卸载模型,大家看好好 success, 然后我们看一下显纯一下就下来了,这样呢,我们就完成了模型的卸载,对吧?然后下边这个是加载模型,大家看 是吧?加载成功之后,显示一下就上来了,对吧?证明这个远程调用是可以的,那么我们就可以通过远程调用的形式啊,把内容发送给这个软件,然后得到结果之后,是吧?然后我们把结果配合的使用到对应的软件当中去,是吧?就完成了调用。 好吧,这个只是一个初探啊,各位,这个只是个初探,大家学会安装,学会下载模型,然后把它启动起来就行。好吧,后续我们会有深入的这个使用教程啊。然后呢,视频当中说的一些使用细节,包括网址啊,包括这个启动文件怎么配置啊?大家可以来到主页哈,找到对应的视频,在视频下方大家可以查看一下。

我训练这个本地的大模型,终于快训练好了,看到没有,现在已经跑到七百九十九了,等跑到一千就训练好了。 原来这个训练过程是非常曲折的,我在本地第一次安上之后啊,他跑了一会就停了,跳出来了,没有发出来任何的错误通知 啊,没有提示,我就不知道到底是哪里出了问题,怀疑显卡显存不够,怀疑内存不够,最终看了看, 好像是内存不够,因为内存都超过三十二 g 了,但是我开的有虚拟内存,开了有七十多 g 啊,好像虚拟内存也被占满了,因为硬盘的容量,呃,就是被用完了, 我没有办法,我就在阿里云买了一个云的 gpu 服务器,用 l 二十这种, 他可以按小时计费,一个小时就收将近十五。昨天晚上我上传东西,又安装环境,安装了半点,我的充的一百块钱就花的剩了二三十了, 我才弄好了一半,我一看这个情况不行啊,我要弄好之后要花几百块钱,我不想弄了,我再尝试一下。在本地,我感觉本地优化一下,精简一下,应该可以跑通。于是今天上午我就在本地有反复的研究, 最终把这个训练工具给他阉割了一下。原本这个训练工具,他是边训练边生成一个 测试程序,就是生成一个测试视频,这个测试视频是用来验证你这个模型训练的可以不可以的。现在我做这个,把训练的时候同时生成测试视频这个模块给它阉割了, 我只训练好。训练好之后,我把训练好的模型放到我的 lara 目录里,我生视频的时候再验证,我不用在他训练的时候边训练边验证,这样我的资源占用就没有那么多了。现在才可以跑了, 我估计跑完之后就可以用了。等到跑到一千的时候,我把训练文件拷贝到 com 斐的 lara 目录,把这个节点加载进去, 我找一个提示词写进去,看生成的是不是我训练的数据。等一会吧,看能不能成功。

视频后期服务器这套新方案很能打个人工作室做视频后期加存储备份,四 k、 八 k, 剪辑本地渲染,还有多人协助?十到十五万预算配两台服务器主机,有没有一套方案能兼顾稳定性能、升级空间,还不浪费钱的?如果你也是影视后期行业,今天这个案例可以直接用来做参考。 前段时间有个叫飞哥的工作室老板找到我,他的团队不大,日常跑 p r a e, 达芬奇,主力减四 k, 偶尔接点八 k 粗减。他之前的工作站已经扛不住了,经常面临渲染卡死,导出慢,素材存不下,多人一访问就卡顿的问题。 他需要两台机器,一台是剪辑渲染工作站,一台是存储备份服务器,两台机器最好十万搞定,最高不能超过十五万。那这两台机器的预算该如何分配呢?社长的解题速度是,剪辑工作站拼性能, 存储服务器拼稳定,两条腿瘸一条都跑不快。那接下来我们就一起看看这两台机器最终敲定的方案是什么。先聊聊剪辑工作站,我给飞哥的第一版方案, cpu 上的现成撕裂者七九六零叉二十四和四十八,现成性能很不错,但报价一发过去,他马上跟我说,社长, 超了,超了,预算有点紧,能不能降一降?我说,那咱就降第二版,我给他换了 amd 现成撕裂者五九六五 g 单核最高可达四点五 g, 三 g 缓存一百二十八兆, 跑 p 二的时候十层以上四 k 多轨道素材,四十八线城能吃的干干净净,导出速度比十六核的 cpu 快 很多,跑 ae 的 时候多层特效合成,不卡顿不闪退,跑达芬奇的时候八 k 肉素材解码降噪,多解点调色。 cpu 利率很高,就算几个人同时用,也不会互相抢资源。你 可能会问,为什么不选更高端的七九六零叉或者七九八零叉?六十四盒确实强,但贵三万多,飞哥总预算十五万,这台机器要平衡,不能把钱全砸在一台上。二十四盒四十八,现成已经能覆盖飞哥团队的大部分后期场景了,性价比较高。 cpu 定好了主板我就给他选了技嘉 m c 六二 g 四零工作站主板。这个板子是 t r x 四零平台的十六家,三项供电,满载运行不掉帧。八通道 d d r 五内存插槽,七个 p c r e 四点零接口,双 m 点二高速接口,四个塞特接口,扩展性较好。 有什么作用呢?八通道 d d r 五能上大内存,跑大型工程不泡内存。 p c r e 四点零直连显卡,宽带够用。 p r 达芬奇实时预览几乎感觉不到延迟。双 m 点二能装高速固态 系统,软件秒开。关键是工作站主板主打稳定,七成,二十四小时开机渲染导出,运行非常稳定。内存我给他配了四根三十二 g e c c 内存组 成一百二十八 g 带 e c c 就 错。飞哥一开始觉得一百二十八 g 会不会太大?我跟他说,你以后四 k 素材对叠多人协助,内存小了就会卡顿,他听了没在纠结。在显卡上,飞哥一开始想上两张 a 四五零零二十 g, 我说没问题啊,四十 g 显存减四 k 够用了。接着他又纠结能不能上两张 pro。 四五零零三十二 g, 我 跟他说两张三十二 g 贵太多了,而且剪辑软件多卡并行收益很低,不如先上一张 pro 四五零零三十二 g, 后面有预算了再加。为啥我坚持推荐单张三十二 g 呢? 点击后期显存大小比 cpu 核心数更重要。三十二 g 大 显存能直接加载八 k 素材,多层特效,大幅减少显存溢出情况。两张二十 g 显卡看着显存大,但多卡调度有损耗,性价比反而不高。飞哥认可了这个方案。英伟达 pro 四五零零三十二 g 显卡, blackmagic 架构,三十二 g g ddr 七超大显存,带 e c c 纠错 跑 p r a e 四 k 实时预览 gpu 加速渲染,三十二 g 显存能一次性加载八 k 素材,基本不爆显存,跑达芬奇肉解码降噪光流法, gpu 加速效果很明显。 系统盘我选了希数 s n 八五零叉二 t p c i e 四点零读取,七千四百兆每秒装系统软件,常用工程,秒开秒加载,素材暂存,直接走存储服务器的万兆共享,不占用剪辑工作站的资源电源。上了长城,两千瓦白金全模组,未来双显卡加满载也不掉压。机箱用追风者,六幺四 pc 全塔支持 e a t x 主板,长显卡多硬盘散热风道合理。选择六幺四 pc 的 另一个原因是飞哥未来要上三个内置光驱,这个机箱可以支持 手机,工作站总价控制在五万以内。二十四核 cpu, 三十二 g 显卡,一百二十八 g 内存,飞哥工作室日常四 k, 偶尔八 k 初简,多人协助,大型渲染足够用了, 后期还能平滑升级 cpu, 显卡内存不浪费。再来说存储服务器,这台机器不看性能,看容量稳定可靠性,专门负责素材存储备份,万兆传输, cpu 够用就行。这台服务器硬盘是最不能省的,省数据安全得不偿失。在 cpu 和主板上,飞哥一开始打定主意要省钱,问我 社长存储服务器能不能用,洋垃圾,比如 e 五 v 四系列的二六九九或者叉九九主板便宜啊,我跟他说不建议,不是不能用,是做存储服务器稳定第一,数据丢了,盘掉了,运气不好,三天两头出小毛病,你修的时间比干活的时间还长,省那点钱不值当的。当然在可选的范围内,还是要能省则省。 所以最后存储服务器的 cpu, 我 给飞哥选了英特尔志强六幺三三处理器,二十盒四十线城锐屏,三点零 g 服务器级的,主打稳定低功耗,负责硬盘阵列管理, read 校验,万兆数据转发, 多人并发访问,四十线城足够用,就算十个人同时读写素材, cpu 覆盖也在百分之五十以内。主板选了技嘉 m u 七二服务器主板 c 六二幺平台,八通道 d d 二四内存插槽十个 p c i e 三点零双万兆网卡,八通道内存能提升硬盘读写缓存, 十个赛道接口可以轻松装八到十二块三点五寸硬盘,双万兆网卡可以保障和工作室多个终端共享不卡顿,实现七成二十四小时开机,随时共享高效备份 内存配了四根十六 g ddr, 四 e c c 合计六十四 g, 负责硬盘读写缓存, read 校验,多人病房访问,六十四 g 就 够用了,能有效提升硬盘读写速度。 下面就是硬盘,硬盘是核心部分,我一开始给他配的是西杰库郎纳斯专用硬盘,奈何飞哥预算撑不住,他希望在有限的预算里达到两百 t 左右的存储规模, 于是给它换成了八块细节库鱼二十四 t c m 二垂直机械盘,合计一百九十二 t, 专门存四 k 八 k 素材工程备份。 c m 二垂直盘,稳定性强,寿命比 s m 二叠瓦盘长好多,长期读写不掉数。 机箱预留了盘位,后期能再加四块,扩容到两百八十八 t, 这么大的存储空间够飞哥的团队用好久了。缓存盘用了三星 pm 九八三 a 三点八四 t u 二固态专 专门放热数据,常用素材共享文件读写速度比机械盘快的多,多人访问不拥堵。电源选了长城一千两百五十瓦白金熔于电源,八块硬盘满载不掉压。机箱用顶星 t 十服务器,机箱支持十二块硬盘热插拔设计, 后期扩容换硬盘,不用拆机箱。最终存储服务器总价控制在了七万两台,加起来十二万,基本上符合了飞哥的预算区间范围。剪辑服务器性能拉满, 主服务器稳定可靠,分工明确,不浪费。飞哥看完最后一版,配置也非常满意,做视频后期机器就是我们忠实的伙伴,把它配好,剩下的就可以安心创作了。如果你也在做视频创作相关的工作,收藏这条,下次有更新设备需求的时候翻出来看一眼, 能少踩一些坑。如果你也有相关的需求,正在纠结怎么配服务器或者是 ai 本地部署相关的需求,欢迎来找社长聊聊。

最近很火的这个 modbit 思域 ai 助手,今天就来给大家上本地部署,不用云服务,数据全掌控,刚开源就在 github 中,六万多人收藏它,一款能跑在你自己设备上的个人 ai 助手,不用依赖云服务,数据全在自己手里,安全感拉满。安装超简单, note 环境必须大于二十二版本。 复制第一个指令,打开终端粘贴安装,等待时间可能有点久,需要等待一下,这样就安装成功。复制第二段指令进行配置基本信息这里就进入了初识化的页面,我们进行放大,这里我们选择 yes, 默认选择的是 no, 小 伙伴们一定要认真查看它的提示信息。 选择完成回车,这里我们进行回车,选择快速配置,默认选中的就是这一步,让我们选择用什么 ai, 国内的千问 mini max 四点七都有,我这里选择的是 mini max, 选择最新模型 m, 二点一回车,这里需要输入我们的 key 进行配置即可输入完成直接回车这一步我是一直回车,我不知道其他模型有没有这个选项。到达了这一步,我们直接选择 skip for now。 接下来就是他问我们是否需要配置 skill, 这一步就直接选择 no, 这里就完成了选择不得杠, md 回车了,需要再按一下空格键这里等它加载完成就能进行访问了,这个就是页面的效果。安装成功的我们首先输入一个你好 测试,如果回复了就代表成功了,恭喜你安装电脑版贾维斯成功了,让他开发一个网站给我们看看,他主要的核心是操作电脑,我们可以手机访问这个网关运行起来的网站就可以进行 操作,这里开发完了,但是我们需要更加方便的看到这个文件,需要让他放到桌面中,刚才的文件地址我们去查看比较麻烦,你也可以让他手动打开进行查看。网站这里他转移到了桌面,我们查看我们电脑桌面是否有这个文件,我们进行查看效果就是这个页面,恭喜我们安装成功了。贾维斯, 后续我是用它进行制作了一个 ppt, 全程远程操作,我让它制作完成了,发送到客户邮箱中。我们来欣赏一下这个 ppt 的 效果。 ppt 整体来说比较简单,但是配上了 skills 效果应该会更好,感兴趣的小伙伴们可以去尝试一下,最后记得收藏,防止找不到。

安装 open club, 本地云端 api 调用三种方式,到底选哪一种?别着急,一分钟给你讲明白!本期介绍针对常规使用,仅尝鲜的话,之前几期已经聊过了。先说本地部署,数据不出门,隐私安全是最大的优势,但有一个关键前提,硬件配置得够。 现在模型参数越来越大,原版七 b 直接吃满十六 g 的 内存,七零 b、 幺二二 b 这些大模型就算做量化也得四十 g 内存起步,而且模型迭代速度快,你刚配的机器可能半年就跟不上节奏了。一句话,高配强烈建议上本地,低配慎重。 再说云部署,现在各个云厂商正全力推广,欲部署 oppo 可乐的云主机,精心准备了各个档次的扣丁 plan, 支持主流模型,开箱即用,不需要你自己搭环境, 最新模型也能直接跑,主打一个省心。最后是本地安装智能体模型,调用 apa, 这种对硬件要求很低,旧设备都可以跑。购买 tango 各种模型,即用按量付费,买算力,用多少付多少。这三种方式里, 全本地部署一次性硬件投入较高,但数据安全有保证。云部署、 api 调用这种方式,数据都要上传到云端, 隐私敏感的场景要注意,而且长期高频调用费用也会不断累积,要根据自己的使用场景和掏根套餐费用与本地部署做个计算对比。 聊到这里,相信你已经能清楚的知道自己该选哪种方式了,欢迎大家留言讨论,分享你的部署经验。关注我是大千,咱们下期见!

今天分享的这个工作流程是可以参考视频运镜,直接就生成出跟它一样的运镜, 这个比呃用运镜 rola 呃效果更精准。比方说我看这个视频, 他的应景效果我想要,那我直接把这个视频下载下来拿来当参考,最后通过这个图声视频就可以一键复刻他的应应景效果,大家可以看一下效果, 应景效果就一模一样,直接参考过过来,他只参考应景, 这个是通过一个 rola ic rola 引进的一个 rola 去生成的,等下我可以详细介绍它的使用方法。 首先介绍一下,我这边用的是段老银的在线进线,大家不嫌本地不熟,想即开即用就点开我的进线更新到最新版本就有这个工作流,这个工作流我是反在 这里边,这个 mt 叉二点三点开就是全套的,我现在用的就是在现金线 里边所有的工作流,你们点开也是一样的。然后这个工作流是放在这里边的,呃,因为我这里边是全套的,这里边的这个位置, 所以大家点开的时候第二排第四个,这个就是运用参考的一个工作。没有下期会介绍一个这种,呃,这个 多图升视频的一个节点,利用它就可以生成,呃,不同切换角度的一个, 就多张图片生成视频的一个效果,而且非常连贯,基本上就看不出来,而且这个控制比较方便,可以随意调整。 这个下期介绍。今天介绍的是这一个用镜像的好处,就是你看到我能用,你们也就能用,而且我这里边有非常多的工作没有, 今天只是介绍这一个而已,我现在用的就是在现景下,这里边不但有这一个 mt 叉二点三的,还有呃很多视频生成的,或者语音刻文的屏幕最强的语音刻文。美团的这个 mooncat 龙猫,呃,目前它声音刻文是最像的,比千万 tts 更像。 然后我这里边工作没有,还包含视频类、图像类、语音类三大类。视频类就是以往的一些视频生成工作类, 图像类就非常多,有上百种。工作类也是以往的,不过目前的话用外边的就够用了。语音类的也是以往的一些语音类的,语音编辑的一些工作类目前也是用外边的,这个就行,比如这个音乐生成或者 语音设计预设语音,这个比较完整。美团这个龙猫的声音课文主要是用来做声音课文,它非常强。 这个是在线镜像,所以大家可以不用部署,点开即开即用, 看着我的视频教程就直接可以使用了。如果想本地部署的人,可以点开我的笔记,点开导航上的 com 优爱教程,就会跳转到呃,工作流的位置一样的,跟镜像分着三档类,视频图片。语音。 视频类就非常多,每一个工作流都对应的一篇笔记,这个工作流是放在视频类里边,然后 t 叉二点三,这个跟工作流名称是一模一样,对应 他的笔记。点开下载设置,里边有安装教程,里边有所有的模型下载及截图,还有注视下载放置位置全部都有,这个就比较多嘛,这个适合本地下载的部署的人去使用。 然后底下是里边所有的工作流的一个截图,每个截图都是可以看清上面的参数,而且有简单的标注,你只需要操作这几步就可以生成了,其他就不用管了。 下在下面就是视频教程,每个工作流都有对应的一个视频教程,在最下面就是工作流下载笔记,就适合本地部署的人去使用吧。好吧,回到我们这一刻, 首先我这边标红色的,这个紫色就是你需要去做的,其他其实都不用管,紫色的就是设定尺寸,最长边 啊,比例他会自动说法,然后时长几秒,多少帧,这个注意要用竖的,宽的都可以,但是参考视频最好是横屏, 因为横屏的话他切成竖屏他也可以用,但是竖屏切不了横屏,所以最好用横屏去参考。我这里边有各种运镜的特效,比方说,呃,这种三百二十度旋转的,当然这个竖屏不适合 大家可以选这个横屏, 比如像这种跟随的箭头的一个特效的一个运镜,还有很多 像这个环绕的就是常用的一些运镜,我这里边都有,还有像这种有弹性的一个三 d 环绕的镜头,这也有, 还有这种,呃,稀奇苛刻变焦,就是背景后面一直延伸这种的,也有就是一些运镜的特效, 基本常用的就这些足够了,大家就不用去下载这个运镜的视频,直接在这里边选就可以了,因为你现在看到我有的,你们也就有,因为镜像都是一样的, 像这种跟随跟拍的,然后最后到人物特写等等。当然这个要呃你要参考的时候,他是根据他的描述,如果你想跳过他的描述,你可以在这边去设置,比如跳过多少帧, 然后有一个设置很重要,因为有时候可能这个视频很长,而我生成只有五秒,那你就是不用设置成一一帧,你就每五帧取一张图就可以了, 这样子他就会有点像快进,因为我们只需要他的运镜嘛,所以就不需要一针一针的取出来,我们只要五针取一针就可以了,就可以在这设置,如果你取一针的话,那你的 呃画面的运镜效果就只有一半,所以你可以把这个设置成五针, 每五针取一张就可以了,就可以完整的把这个运镜都复刻下来, 就是这个主要是控制它的运镜时长,有时候太长了,那你就把它调大一点,它就可以完整的把这个运镜的秒呃,秒数刚好匹配你这个秒数。 主要是设置这么一个东西,其他其实都不用设置,默认这个都是一个默认的,一个生成图声视频的一个工作流。这边有个重点,就是它利用的是一个爱惜的呃 lola 在 这里边, 然后通过这个 i c 落来了一个节点去控制,最后深层出来看这边对比照它的运镜效果就一模一样了, 这样子就比起你去用提示词,提示词其实完全控制不能那么精准的控制,所以,呃,这种方法视频参考是最有效的,而且最精准的去控制它的运行效果。 好了,这期就介绍到这,大家自己去玩吧。

养龙虾现在都很火,那怎么养养龙虾?首先我我们就要安装一个环境,安装环境我们首先要保证那个网络是通的,通过拼一下这个域名,如果出现这个提示就代表那个网络是通的, 网络通了之后,那我们就在执行这个命令去执行一键安装脚本,主要就是个这个脚本,如果你们网络不通的话,可以到评论区回复,我可以提供这个脚本给你们,直接在本地运行就可以。 这个脚本执行完之后他会自动去给你检测这个 node js, 如果不存在,他会给你直接安装上下面这些步骤,他是挺费时间的。 在这里看到执行完之后就可以看到这个龙虾已经安装成功了,安装成功了之后他会告诉你要执行这个命令,去打开一个面板, 他是通过一个面板去配置一些龙虾的技能,那我们复制这个命令之后回到命令行再执行这个命令, 我们执行命令之后看看,他会提示这个是策略问题,他是这个策略是限禁止了执行本地脚本,那我们通过这个命令来禁止这个限制。 执行这个命令之后他会有这个提示,那我们就选择个 a 全部就让他一次过解决所有的。 然后我们再运行这个命令,看一下龙虾的版本后能不能出来,能出来就代表是安装成功的,在这里就可以看到版本出来了,那我们再重新运行这个命令,去打开面板配置, 在这里直接选择四,然后我们通过一个快速开启去配置去完成一个面板的配置, 在这里他会教你选择使用什么大模型,这里一些常用的大模型他都会列出来,在这里 什么 open ai 呀,欧拉玛本地模型,还有 我们常用的 dc 模型都会在那,我们就选这个 dc 模型进去看看。在这里可以看到,如选择了大模型之后,他一般都会叫你配这一个 api, 那 api 一 般大模型的 api 都是要收费的, 所以养龙虾还是有成本的,大家要量力而行。那配置完 api 之后就来到这个通道, 这些通道我们可以现在暂时不配置,就可以直接先跳过, 跳过来这里在我们这些主要是技能,他这个技能现在他默认是有五十一个,那我们这些没可以跳过的配置先把它跳过,我们先把面板配置出来。 在这里来到这个地方他就会自动打开,有些防火墙,他会监控了一个些端口,安全性就直接允许就行了。然后他就自动会打开了一个面板,这个就是龙虾 面目。在这里就可以看到它这个对话框跟 deepsea 的 那些智能体聊天对话框是一样的,但是它上面还有多了很多功能,一些通道实力,还有定时任务。 这个龙蝎主要的功能就是一些技能,它现在 默认是提供了五十一个技能,想要知道怎么使用就自己去再研究研究,这就是龙虾的安装过程。

今天介绍一款免费免安装轻量的本地大模型部署工具, herdsman 牧马人本地推理引擎。打开首页是对话区域,在左上角切换模型区域。模型区域根据使用场景对模型进行了分类, 包括对话文、声图、虚拟人物、翻译、播客、 npu 等,每个模型都有对应的说明,并且根据你的硬件配置进行推荐。 小白用户就可以快速知道自己的硬件适合运行什么模型。模型一键下载下载好的模型一键启动,启动时可以选择上下文长度、开启思考模式以及高级参数。 模型启动后可以在侧边栏快速获取本地资源占用情况,随后切换应用界面,开始对模型进行拷打。部署多个模型时支持一键切换,接下来便可以进行对话了。 对话结束后可以查看 token 输入输出速度。在此我也做过牧马人对比 lm studio 的 测评,在同一台设备跑一样的模型,问一样的问题,详细结果大家看图。 当你以为本地模型只能简单对话,那就大错特错了。牧马人提供标准的 open ai 兼容接口和 antropic 接口,这意味着通过牧马人部署的本地模型,你可以接入第三方软件进行使用。在 flowy ipc, 你 可以一键切换本地模型, 便可以实现本地文件操作、搜索网页、查资料、发邮件等操作。接下来我也给大家实测一个场景,看看本地模型的效果如何。 我让他帮我收集东方财富过去一周的重点信息,并把这些信息制作成一个表格保存到我的本地。运行过程中我是能明显听到电脑的风扇在高速运转, 结果出来了,我们看看效果,告知了文件保存位置,做出了总结, 打开汇总表格。