大家好,最近发现一款完美适配 java 开发的一款 idea, 这种插件是带有 ai 能力的,然后它现在呢是有不限 talking, 它的名字叫 java ai, 我 们在这个 idea 的 这个插件市场里面去搜索这个 java ai 就 能安装,安装完成之后呢,你打开这个 java ai 这个插件, 它有一个模式叫做智能引导,那这个模式是干嘛呢?它会把你的需求啊分成五个步骤,比如说生成接口,然后生成表结构,然后的话还会给你生成前端页面,然后去编码, 那非常的爽。我们来看一下他怎么使用的,我们就用用一个非常简单的一个经典的例子啊,比如说做一个这样的图书馆的管理系统,我们输入我们的需求,要有登录功能,那我们选择好之后,我们就可以开始了,点击这个开始, 那么他第一步就是理解需求,然后他会对需求进行一个关键点的拆分了,然后的话他会去根据你的需求去整理出来,看有哪些核心的功能啊。这边就是他拆分出来的这个关键点啊, 那每一个关键点你都可以去修改,也可以去删除,你也可以添加他遗漏的这个关键点,他这边的话将需求已经拆解出九个关键点,那我们可以检查一下是不是有什么问题,如果没有问题,那么就我们就进行下一步, 那下一步的话就是会去设计这样的接口,那我们知道在开发当中,我们经常是接口新型,把接口定义好之后,然后各个小组就可以去配合去工作了。 然后这边的话他是整理出来有这么多接口啊,认证服务、图书信息管理,那基本上都是包含了,如果说这里有一个接口,你也是可以去添加这个加号,让他自己去描述啊。我们再进行下一步,那么下一步就是这个表结构的设计,那这一步是非常重要的。我们来看一下 他这边可以选择就是库里类型,有卖搜款,或者说这个其他的搜搜我之类的。 ok, 我 们看一下这个表的结构啊,这个是用户表, 然后这个是图书分类表、图书信息表、近月记录表啊,用户表,你看这里面有一个非常有意思的点,你看他这里面有几个字段啊,创建时间、 更新者更新时间,再看第二个表,创建时间、更新者更新时间,每个表这几个字段都是一样的,那么这几个字经常我们在开发中是要统一定义的,一般所以说他这个是好像是内置的提示词一样,就是每个表的这种 统一的字段都是一样的。我觉得他这个应该是针对这种经常用这种业务开发,可能专门做了优化过,所以说非常不错,非常非常的符合我们的开发规范。 那确实没问题,之后我们要点击全选,然后的话可以直接下一步,那你也可以去让他重新生成他这边的逻辑啊,就是每一个接口的一个具体的一个相当于是什么返回结果, 那这个其实非常有意思啊,这个其实是一个业务逻辑,这个逻辑的话我们要去确认是不是有什么问题,我们看一下它这八个接口的这个逻辑啊,我第一首先让我看的是这个返回结果 都是统一的 code message data 这种格式也是非常标准的,这种接口的返回值规范就是它自己其实是内置了很多很好的这种 java 的 这种开发规范非常不错, 那这边如果有问题的话,你可以进行调整或者进行删除,或者让他去重新去生成,没有问任何问题的话,他就进行到下一步,那么点击开始生成之后,他就会去进行一个原码的编辑。那么在这边的话,你可以去创建这个规则文件啊,就是我们 使用 ai 编程工具的时候,经常会定义一些全局规则或者项目的规则让你去遵守。比如说你的代码规范啊,或者说你的这个一些 团队的一个一个开发规范都可以写到这边去。那么他生成代码首先会遵循前面的这个开发逻辑呢,再到这个接口你的这个规则,然后去更好的去约束。所以他这边用户认证服务已经生成好了,我们大概看一下他这个代码的结构啊啊, ctrl 二层一个接口,登录的接口, 然后的话有这个实体,然后有这个数据库访问层,然后就业务逻辑层啊,是一个标准的一个三层架构。除了这个智能引导这个功能之外,还有一个非常有意思的功能是智能体,那么在这边选择智能绘画,然后在这个输入框里面有一个智能体, 那这边的话你也可以去自定义智能体那个这这个智能体的用法其实跟我们使用正常的这个 ai 编辑工具是一样的,我们可以去修改这样的一个啊代码,比如说我们要让它增加一个这种生成验证码的功能, 那我们就可以让它选中这个文件之后,让它增加一个验证码的功能,那么它这边就会去这个里面接口里面增加一个获取验证码的一个功能,就跟我们使用 ai 编辑工具是一样的, ok, 这边插件查看去修改。那么除了这个智能引导和智能体对话之外,那么它这边也内置了很多我们经常开发中用的这种工具啊。我们点开这个 ai 工具箱啊,这边有代码整洁,然后它安全修复。 那还有一些什么框架升级,比如说我们一些框架比较老了,这个还是非常有意思的,这个是我们在开发中可能经常会用到的。那这个插件呢?让我想起了很早以前我们去开发一些 java 代码的时候,一般会把表设计好之后呢, 然后的话去用一些工具去生成基础的这种增删改查,但是那种效果的话是不太好,因为它是固定死的。那么这个插件就是相当于那个功能的升级版,而且加了 ai 的 能力啊, 他应该是内置自己的一些模型,或者说他自己把很多这种 java 开发业务的这种提示词啊, 链接到这种模型里面去加强了这一块能力。那从这个插件里面一个智智能引导,还有一个叫做智能绘画的这个功能啊,特别像就是现有的 ai 编程工具,比如说智能引导跟我们用的这个 tree 啊,或者 code 的 它这个 快速的模式,或者说 solo 模式是非常像,这都是从一个需求,然后去拆解,然后去实现,然后去编码,然后去上线,这样一个整个过程都是通过一个需求去完成, 那么它也可以去设置这样的 m c p 啊、规则啊,还有这个记忆啊啊,非常非常有意思啊,一个插件里面竟然把一个 ai 编程工具的基本上方方面都包括了,非常非常不错,非常推荐大家去使用。
粉丝4.6万获赞24.0万

呃,大家好,今天给大家带来的是在 windows 上可以直接部署的一个无线拓客版的 open curl, 大家也可以看到这是我当前的一个拓客消耗的一个使用情况,基本是没有花钱的。然后这边其实也是前天就已经部署好了,最近部署好在用了,但可能 工作上比较忙,所以没有时间去更新旧使用工具以及去做那个教程的更新。 这边的话我先会先讲一下环境的一个要求,就或者硬件要求的一个情况啊,以及会讲一下那个啊将架构是怎么去实现的。 最后的话可能会讲一下啊,参数里面就这边是使用多款去部署的参数的一些啊,配置是如何去配置的?首先说一下那个环境的要求和那个硬件的要求,在使用那个本地部署的话,其实 如何做到那个无限拓展,其实就是用本地的那个显卡去做那个大模型的一个部署。嗯,本地模型呢,我这边是用的啊,千万的那个三点五九币的一个模型,然后使用的话是使用罗马的一个框架去做一个这个模型的部署。 嗯,这个模型的话是需要那个四点五到六 g 的 一个显存,所以这边建议是需要八 g 以上的一个显存的一个显卡才能去做到一个使用 啊,这边本地部署了是用那个啊 windows 去做部署的 v 十一去部署啊。其次给大家讲一下这个方案的架构是怎么实现的,因为 open core 它其实本身与 我们的 china 就是 频道去做那个通信的话,其实是依赖于公网的一个端口 webshop 的 这个协议端口来去实现的,所以本身是需要有那个公网的一个能力,这边在本地的公网的话,是通过去购买了一个阿里云的服务端, 呃,清江应用服务器部署了一个 mps 的 一个服务端来实现公网的一个端口转发,然后,呃将我们 windows 机器的一个端口进行 open code 这个幺八七八九的端口进行转发。 呃,首先的话就这边也大概说一下,就是本地都可部署了三个服务,对应的话就是这个是用做端口连接服务端并做端口转发以及转访问到对应的那个 open curl 的 一个 getaway 容器, 以及这边部署了一个参数的一个搜索引擎,用做 open curl 的 去做搜索,默认搜索不用那个,呃,默认的那个搜索引擎,因为那个还需要那个 api k 以及它也有每月的一个调用次数的一个上限。 呃,这边的话,呃对应的话是欧朗玛的话是部署到那个宿主机,也就是 windows 当前环境下去实现的。呃,可以大家可以在这边叫 这种方式直接去部署实现的,然后,嗯,这边端口是要改一下的,然后一会也会给大家看一下,就这边其实也对应你需要将那个环境变量去做一下修改,因为需要去实现跨域的一个访问配置, 这个的话是通过环境变量这边的话有一个叫欧拉玛的一个参数, 允许跨域的一个配置以及那个 host 的 绑定, host 需要修改一下,然后它才能对应去啊,让那个 open curl get away 去直接能访问到 啊。最后呢就给大家说一下整个方案中关于那个参数的一些配置以及需要注意的点吧,像简单的那个啊应用的安装我这边就不做介绍,像多壳的这些安装,大家选到 对应的进入官网,进入对应选对应的版本,直接下载,然后点点点的方式去安装就可以了。这饿了吗的话是也是通过那个 pro shop 直接用命令安装也行,通过那个下载那个离线包 安装包的方式来进行。点点点你是一路往下点就行了,用默认配置不需要去做外的一个配置。然后像那个注意一下,就是刚刚说的需要改一下那个 roma 的 那个监听端,监听地址加和端口,监端口可能不用变,就主要是监听地址要改成零点,零点零去 监听所有的那个地址以及的话啊,大家需要一个轻量应用服务器,这个的话就不局限于说阿里云,就各个厂商的都可以,大家自己看下哪个便宜点就可以,自己去购买就行了。主要用做部署那个 n p s 的 一个服务,这个服务的话,嗯 啊,这边也有对应的一个啊,文档说明就使用文档,这个是开源的,就大家可以用其他的软件去实现,也可以,就反正链路流程是通的啊。这边最后的话就给大家说一下整个配置啊,我这边打开一下, 就首先啊多个 compose 的 一个配置,是当前是这样子的一个配置,然后目录的话,我这边是分了三个一个目录啊,对应的话是这样子,首先第一个就 opencode 的 这个服务, 这个的话我们这边做端口映设,这个端口需要跟自己的那个启动命令对得上,启动命令的话是在这里面就这个多个 file, 这里面啊这个端口跟这个端口对应上就行了。 然后以及呃这边的话,大家新进一个 open color data 的 一个目录去保存,就做那个呃映设目录映设,然后以及方便本地去做直接修改。比如说这边当前的一些配置,可以直接那个在本地就直接去修改实现, 到时候直接重启一下容器,就能实现配置上的一些更新。然后这边的话以及第二个服务,就 npc 就客户端连接那个清凉饮用服务器用于转发端口的一个配置。这个的话,呃我我把这个包也直接放上来了,然后通过它让它直接实现多个 friend, 里面直接实现自己复制解压以及对应的安装执行去实现那个呃自动启动 以及打印日期。这个的话需要大家填一下,自己填一下这个啊,那个 k 跟搜物端口,这个的话大家参考这个在服务端去做配置就可以了。这边是 web 端管理里面 进入相应的 web 服务器里面可以去做那个查看到对应的那个 vk 以及搜我 ip 加端口,这个搜搜我的 ip 一 般就是你对应的尽量应用服务器的一个公网 ip, 这个大家自己根据自己的去做配置就可以了。 然后以及这边的话,呃这个这个是不需要去做任何修改的这个插入的一个配置, 然后这边的话,呃或者这个如果大家有需要的,可以那个关注我,那个我给大家新建一个,提供一个我们当前我当前在用的就尽量拥有服务器啊,在资源没达到上限啊,就我贷款没到上线之前应该大家都可以自己先用着,没什么关系, 先跑着用,然后这边的话整体的方案就这样子,其他基本没有什么特别需要注意的。

任何人只需二不加一句话,就能搭建 openclaw 私人 ai 助理和无限量 token。 今天咱们直接上干货,你在别的账号不可能看到的干货,很多人都买 openclaw 设备或这招人不熟 openclaw, 看到这个视频你有福了, 小白一看都会的方法,今天我免费分享给大家,看完记得点个赞。第一步,咱们先下载一个 ai 编辑器,安装到你的电脑,对普通用户比较推荐的是统一领码或者 free 网址,我打在了屏幕,务必手动输入网址去官网下载,不然普通用户容易中病毒, 切记。第二步,咱们下载一个开源大模型管理工具欧拉玛,网址我也打在屏幕和上面一样。到这里二步完成后,咱们再进行一句话的操作,这里以翠演示输入一句话,请帮我安装好最新版本的 open claw, 并将模型地址修改为我本地的欧拉玛管理的开源大模型,然后启动,并在我电脑桌面创建快捷启动按钮。整个过程请自己选择最优安装方式和配置,这样你就只需做一件事,等它安装完就可以丝滑的使用你的 open claw 了,你配置越高,使用越丝滑。

嗯,哈喽,大家好,今天给大家完善一下那个无限多功能的一个部署文档。呃,整个视频的话应该是不会对那个安装步骤去做具体的讲解,主要是讲解一下一些参数文档,以及一些具体的一些配置该如何去操作。 首先关于那个软件的安装,这边就不去做那个具体讲解了,大家按照默认配置去安装就可以了。 这边第二步的话,主要是那个欧莱曼的那个环境变量跨域的一个配置,大家按照那个具体的配置去设置就可以了。具体的话可以那个按住系统键打开搜索那个环境变量,你去配置一下,然后点这个环境变量, 再到这边点新建。新建呢,对应把这两个词去配置一下就可以了。我这边呢是已经配置过了就,呃,不做添加了,就你们到时候直接点确定就可以了。另外一个那个跨域配置也是一样的去添加,我这边是已经有添加过的,所以就去做配置了 这边,嗯,对,能看到是已经完成配置了,然后到时候点确定就行了。我这边已经配置好就不做配置了啊,记得重启那个配置完之后下重启一下沃尔玛的那个软件,大家在那个右下角自己找到自己的那个沃尔玛 退出一下,然后再同时那个启动一下就可以了。启动的话也是一样,这里在那个搜索一下就可以了。启动的话也是一样,这里在那个搜索一下就能距离启动, 然后这边自己安装好之后,最好是验证一下整个啊多克以及多克 compos 的 一个,以及最后饿了马的整个三个组建的一个正常安装,正常是都是没有报错的,大家可以自己去验证一下 啊,我这边那个当前版本是这样的,正常是能正常回显出具体版本才是对的。 然后这边的话,呃,还有一个就是验证一下那个本地奥拉玛的一个返回状态,可以自己刻一下,正常是会有一个返回一个 run 的 一个状态, 剩下就是第三第二步就是那个去拉这个千问三点五九 b 的 一个模型啊,我这边呢是已经拉取过了,就不去拉取了,大家自己可以提前再把这一步配置好,执行之后等他自己后台安装就可以了 啊。这边我这边是已经安装好,就那个不去做那个这一步跳过这一步了,然后 get 位的一个部署,因为啊中间有部署那个 npc 一个插件的一个搜索, 所以啊要部署多个服务,这边的话就用采用那个多个 compos 的 方式去做一个部署啊,相应的话大家自己在那个新建对应的一个文件,按照步骤去配置就可以了啊。这边是一个目录结构以及对应的这个 npc 的 一个客户端,大家到可以到那个 啊,给大家刚给他的官网去自己去下载就可以了啊,相应的那个啊, tokyo file 就 大家以及那个 open color 截图都在这个文部署文档里面,大家自己去啊复制粘贴一下就可以了。以及这边是接下来是一个那个啊, 多个那个 compose 页面的一个配色。这边的话,大家如果上面没有去做目录修改的,这边对应的那个挂载目录这些都是不要去偶尔修改的。嗯 嗯,这边大家自己去按照那个复制粘贴一下,以及那个要讲一下就是 open call 的 jason。 这里面主要是需要注意的是这个嫩 啊,这个 get 位的那个绑定模式需要改为任模式,指定为任模式,这样子,那个相应的我们的 windows 环境就那个才能访问上。大家同时也要配置一下跨域啊,也会提示相应的一个跨域报错,不被允许的一个报错。 嗯,大家到如果都把配置文件新建好之后到注意目录去直接那个啊,多个 compos build 就 好。 呃,这里让它自己 build 吧。然后这里可能要讲一下在那个拉取的过程当中,可能镜像的拉取会导致拉取失败的一个问题。这个大家可能要改一下那个,呃,多克尔的一个镜像站,镜像站的话我那个,呃 配置是在那个这里去直接去修改,修改完之后大家也是要重启一下。这个配置的话我也放到最底下了,大家自己去啊,对应添加下就行了,这个就不做另外那个说明了,另外那个去修改去验证了。 这边看一下最新的一个部署啊,这边先那个暂停一下吧,一会到后面啊,部署完了之后我再给大家那个继续补充那个截图 啊。这边的话最终就是也是啊,它重新构建完也已经运行起来了,大家可以执行那个 logx 的 命令去查看一下对应的一个日制 啊,这边可以看到啊,它是已经 get 位的,是已经正常跑起来了。然后这边的话前面是一个关于那个餐具的一个服务报错,这个呃是预期内的,就不用管它,可以忽略就行。 嗯,然后大家啊,因为就可以直接去访问这个 web 控制台了,应该是能正常啊,这个的话是没有触感,大家可能需要去对应网关里面去查,初步化一下。 呃,怎么去出实话呢?大家呃都可认识一下,然后找到这一个用 ec 杠 it 执行,找到这个 open call get 位的这个容器 id, 就 这个,然后 bash 进入容器之后执行这个命令 get 位获取一个图层, ok, 这就是呃最新的一个图层,大家把这个后面这一段复制一下,或者把一整个 url 这边直接那个 ctrl 访问就可以了。这现在最后一个是啊授权的一个问题,这个授权的命令的话啊,是刚我这边也是放到那个啊,配着多颗那个药物里面去 有给到的,大家去对应的也是在容器里面去执行这个 list 的 命令,然后去授权一下,那这个就是我们刚刚的一个机器,这个时间也对得上是 just now。 呃,完成授权之后,大家就可以查那个查看具体的,再重新刷新一下。对,这边的话最新就已经更新进来了 啊,这边也说一下,就最新的一个啊版本就啊是有些金融升级的内容比较多,所以这边都还没还没验证,所以大家啊可以自己去验证一下啊,整个步骤的话只是修改一下配置文档里面多个 file 的 这一部分 版本,我这边之前没有验证过,所以就改成那个我之前部署的一个版本,指定成最新的啊,之前的一个版本,大家可以自己去修改一下就可以了,以及这边当前啊可以测试一下一个啊,我这边的话是 没有没有再去做 wifi 软,比如说查一下今日天深圳天气, 看一下一个响应的一个情况,他是不是能正常去返回一个结果。接下来就是关于那个,呃搜索引擎的一个配置,大家,呃可以看到我这边刚刚去搜索一下,但是没办法直接搜索到那个天气的,需要大家去修改一下这个啊 memory 的一个配置,以及对应修改那个 agent 里面去添加对应的一个配置,这边啊 memory 的 就直接新建一个,这个文档也是默认是不存在的。我们这边的话啊也已经新建上来了,大家可以自己去添加就可以了。然后以及关于那个 agent 的 一个添加 啊,稍等一下,就直接再找到一个具体的行里面去添加这个提示词 就可以了。稍等一下,嗯,对,嗯,复制一下这一段, 嗯,随便找个 ask 的 一个地方, 找个地方粘贴一下就可以了,保存一下。还需要去啊,去安装一下这个 skill 啊,再使用那个 open color 的 open 那 个 color 哈的一个命令去 c i 命令直接去安装。 嗯,这边能看到它也是对应安装成功了,安装成功之后我们那个重启一下,在这里面重启的话也是可以的。 ok, 重启完之后大家就可以来这里面去验证一下这个最新的一个啊查询效果了 啊,这边前面的话用那个查询今日天气,它是默认掉的那个 weather 的 一个天气啊,进来去查询的啊, 查询其他的一些内容,大家你像比如说查询今日金价你自己就能看得到啊,那个 openclock 它是其实是独取到我们那个 agent 的 一个配置,对应的那个 mirror 的 一个配置啊,优先使用这个插件来去查询。你看这边的话,当前就可以使用插件来查询到啊,一个最新的一个啊价格了, 这个的话整体使用上就基本是 ok 了,那到这的话基本是已经通了,具体的话就看大家怎么去调一下龙虾了, 后面可能也会分享一些那个龙虾的一些具体的一些相关使用场景,或者有用的一些技巧。最后的话就是关于这个部署文档,大家如果有需要的话关注我私信一下我就可以了。

赶紧薅羊毛,英伟达免费送无线头肯免费用缤米 k 二点五, mini max m 二点五,流量无上限。一个视频教会你怎么免费注册领取,怎么接入锅锅捞小龙虾,使用干货两分钟,先收藏后观看,总共分为三步,第一步,我们先访问英伟达的官网,接受 我们的 qq 音箱 autolok 邮箱,点击下一步, 点击进去,点输入我们的密码,选择我们的验证模糊,点击创建。去邮箱,接受我们的验证码,粘贴验证码,点击确定,点击下一步, 这里随便取个名称,点击创建账号。第二步,获取免费 ipikey, 这里需要认证过后拿到我们的 ipkey, 这里点击 wordify, 这里就需要我们填写我们的手机号,加八六,一定要加上八六点深扣子, 输入我们的短信验证码,点击 word。 好, 这下我们就成功注册,接下来我们去得到 a p i t 我 们选择我们需要的模型, 这里选择 mini max 二点五,选择右上角的 vioq, 点击 jerry 的 api key, 生成我们一个秘钥,我们需要保存 api key model 备用。第三步,接入我们的小龙虾,我们打开 opencloud, 点击 ai 与代理,点击 model, 点击添加 entry。 划到最后,我们看你这个名字,取一个名称, 选择 open api competition, 输入我们的 api key, 打开我们开关,输入 base url, 然后添加, 选择我们的 open api complete id, 名称就是我们的模型名称,点击添加,这里要选择 text 好, 名称选择好,点击保存,这儿点击 open, 打开我们的接收文件。我们可以搜索 primary, 在 models 中添加和我一样的内容,然后再更改 primary 为我们的新节点名称, ctrl s 保存关闭,重启我们的 get, 选择我们新加的模型,询问它。 如果这个视频帮助了大家,请点赞收藏,关注我,多一个程序员男朋友点赞收藏。

兄弟们,今天给大家推荐一个开源神器,能给龙虾提供永久免费的大模型 api 无限 token。 用过龙虾的兄弟们肯定知道 token 有 多贵,话不多说,先展示一下效果,这个是我安装的 openclock 启动控制面板,这个就是龙虾的聊天页面,这个是我本地服务的大模型 api, 名字是自定义的, 我已经设置成默认大模型了。左边这个是我安装的微信插件 clubbot, 这个插件只是能让你在微信列表里面有一个聊天框,类似于文件传输助手,需要注意安装,这个需要更新到最新版本微信, 我们先测试一下。哎呀,报错了,这是因为我设置的这个 api 现在还是个空壳子,接下来我将给这个空壳子赋予灵魂。这就要用到一个开源神器,它能将网页版大模型 封装成龙虾可用的 api 接口,我这里已经安装过了,我现在启动服务,这时会自动出来一个浏览器,打开了网页版大模型,这个浏览器千万不要关掉,因为我们在龙虾里面对话, 实际上还是借用这个网页版大模型进行思考,这个网页上的大模型可以设置成任意大模型。 我们再来龙虾里面测试一下,看,左边浏览器已经在自动操作网页了,大模型输出的结果也会反馈到龙虾的对话框中,整个过程就实现了将网页版大模型 封装本地大模型服务了,龙虾只需要调用 api 接口即可永久免费无限偷看,谢谢大家!

为什么好像很多人都做本地大模型,那用什么硬件跑本地大模型,搭建什么模型,以及为什么公司需要它,其实根本不清楚,那今天我来简单讲一下。首先本地大模型我们主推因为达安卡和 max studio 这两种解决方案,这 两价格上也差不多,要如何去选呢?如果你一人公司老板,那么 studio 这个又可以当电脑,是个非常强大的一个性能的慢系统,两万多价位的 m r ultra 六十四 g 系列,内存带宽八百 gb 每秒, 我拉的对比表大家可以看一下 m 二和 m 三以及 m 四, m 二和 m 三 ultra 系列的内存宽带只相差不到百分之五,而 m 四 max 宽带速度只有他们的三分之二。像类似于 open cloud 这样的机器人的话, studio 的 回复速度各方面肯定是没有 n 卡快的。但是如果你和我一样对这个性能要求极高,那你可以考虑一下英伟达的这套解决方案。就拿这个五零九零 d v 二来说的话,像电商行业每天要处理大量的数据报表需要处理, 比如说帮你看十个到一百张表,这么多的数据, studio 基本上要一分钟直接给你数据,这个差距就非常的大了。 如果你还考虑企业并发或者是更多的用户同时去使用的话,那用 n 卡是你基本上不用考虑的一个选择。但是 max studio 它就可以跑这种 mini max 这种非常大的模型,像我们平时电商以及律所这种客户非常非常多。那么我们平时装的什么模型呢? 我们装了很多的,比如说千万三点六三五 b 的 这二七 b 的 m o e 模型千万三点五,二七 b 这个是氮四模型。然后再就是比如说 g m 的 二十六 b 也是一个氮四模型。 对于电商行业的朋友来说, erp 就是 电商的命脉嘛,接入 erp, 比方说你到底卖出了多少?你的成本是多少?那么你的利润是多少?哪哪个 sku 的 产品是卖的最多的?哪个给你创造更多的价值?然后包括比如说今年双十一或者双十二啊,哪个可能会成为爆品,哪个趋势会更好?那么这些 ai 全部都会给你答案。 当然决定权最后还是在你,但是它能给你一个非常好的方向。如果你是一个老板,也是一个管理者,那么你可以在深思熟虑之后,再去思考是否要配置到模型。

谷歌终于坐不住了,正式卷开源市场, jm 四的效果到底如何呢? jm 四的发布啊,真的有可能让我们实现头很自由。这期视频呢,老张给大家简要介绍一下 jm 四怎么安装到本地,以及如何搭配到我们的 open klo 大 龙虾上, 附带所有的安装步骤啊,大家可以一起来体验一下。后续呢,老张也会根据测评效果给大家接着发视频,这期是我们完整的部署流程,老张重点给大家简单聊一下,就是为什么 jm 四的发布啊,会让大家感觉谷歌真的开始卷起来了呢? 首先第一点,他和目前谷歌的 jimmy 三用的是相同的技术基座啊,所以说他的能力是毋庸置疑的。第二点就是商业自由,你直接部署下来做什么都是可以的,都是允许的。然后第三个就是支持多模态,无论是文本、图像甚至小规模的视频音频, 他都可以直接支持。第四点就是结合前段时间爆火的 open klo, 他 可以直接在本地对接 open klo 以及对接 klo 的 code, 实现本地的偷根无线化。这是老张给大家总结的四点,为什么詹姆斯的发布会让大家感觉,哎,可能真的要进入到一个新的纪元, 然后呢,他所发布的这四款模型呢?老张给大家做了一张图片啊,大家可以到时候把它截下来。第一个模型一二 b 的, 他本身是用于手机或者边缘设备八 g 显存, 然后最高端的三十一 b, 他 所对应的旗舰版本呢,是对应的是二十四 g 加,所以大家根据你的需求来进行对应的模型选择。老张这次视频呢给大家来看一下三十一 b 的 这款模型的安装, 然后关于本地的安装部署啊,其实非常简单,任何开源模型,其实我们只需要让他和欧拉玛就是那个小羊驼结合到一起就可以了,然后找到你符合要求的版本。安装成功之后啊,欧拉玛现在已经有了一个完整的应用端了,所以大家可以直接在这个位置和他进行对话交流。 那我们想要下载 jm 四到你本地的电脑上,我们可以使用它的官方指令,会告诉我们直接怎么样去进行 jm 四的对应安装,像老张想安这个三十一 b 的 对吧?我们就把它拿过来, 把它直接这有一个 c l i 命令行安装方式,把这个东西直接复制在你的开始菜单中,单机右键选择运行输入 cmd, 直接把刚才指令粘贴过来,这儿的时间会很长,因为它有二十个 g 的 大小,我们直接稍作等待 安装成功之后,我们也可以直接回到它的客户端中,在模型选项上找到我们安装好的詹姆斯冒号三十一币, 然后可以直接进行对话。老张他处理一个较为复杂的提示词,我们让他看一下当前显存的内存消耗, 咱们拿这个 ai 慢距的提示词来测试啊,这个提示词非常的长,我们看一下他读取提示词的能力,以及他的这个显卡的性能消耗,我们看一下啊,这个显存直接拉满的,达到了百分之九十四的占比, 而且这个响应速度还是非常快的,只需十一点七秒啊,就把整体的业务流程给我们直接补齐了,而且呢按照需求给我们进行了对应的提问,要什么样的慢距效果,所以说以目前的测试反应来看呢,他的这个响应速度起码要比之前的很多大模型要好的多, 所以接下来我们自己来尝试一下对话类的工具,可能大家都不是很需要的,我们能不能把它接入到我们的 open clone, 丢到我们的龙虾里,让它们俩来进行联动的。然后这期视频呢,老张顺便给大家提一下,就是最新版的 open clone 的 部署流程 啊,咱们可以快速的去过一下一些重点的细节,因为之前老张发过很多期的部署视频一块的呢,因为它本身啊, wsl 它是相当于在 windows 系统上安装一个 linux 的 独立系统, 这样的话呢,就直接相当于在你电脑上安装了一个独立的存储空间,它所谓叫做沙盒安全,而且运行起来呢是不会有任何的兼容性的对应问题的,因为 windows 中啊,它的权限呐,路径等经常会报错。所以说我们这 期视频重点教大家怎么用 wsl 进行 win opencl 的 部署安装,这样的话, windows 和 wsl 的 安装您都了解之后之后学起来就非常方便了。 然后接下来呢,老张给大家简单的介绍一下在 wsl 中如何安装我们的 openclaw, 因为之前呢,咱们介绍过太多次了,很多兄弟留言说老张就别介绍怎么安装了,然后我们就给大家简单说一下注意事 项。首先第一呢,你想在 wsl 上安装 openclaw 的 话,第一点你得先在你的 windows 系统下把 wsl 安装一下,当然很多电脑老张发现其实都是自带的, 怎么检查是否自带呢?咱们可以直接输入 wsl 空格杠杠威森,如果弹出定的版本号,证明 wsl 电脑已经安装了,如果没有弹出的话,使用安装指令 wsl 空格 insert 直接安装即可。然后紧接着按照老张给你提供的指令复制粘贴就可以了。先安装你的优班图, 安装之后进行一下更新。安装完优班图之后啊,在这选择这个倒三角,找到优班图系统,就可以直接进入到你的优班图系统当中。 在你安装过程中啊,它会让你设置一个用户名和密码,到时候可能需要做一步密码验证。在优班图系统中,注意是优班图系统中运行这些环境指令,分别安装 python 三,安装一个压缩包工具,方便安装一个 node 点 ps, 然后再安装一个 get 工具。 如果说为了检测每一步安装是否成功的话,你可以分别输入,比如 note 杠 v、 npm 杠 v, 包括 get 杠 v, 在 这检测我们对应的这个版本。如果都能弹出版本号,证明你三项安装都是成功的,这是配置 openclo 的 基本的内容要求。 然后紧接着我们把基本环境配置好的兄弟,你还需要在这个位置安装一下这个欧拉玛。 这老张要重点说一下,说老张我不在本地都已经下载好欧拉玛了吗?为什么在优班图里还需要再配置一下?其实我们优班图中是可以调用本地的欧拉玛的,但是很多兄弟在调用过程中分别给老张留言说说调用时无论是 ip 地址找不到,还是 ip 的 动态变化,导致每次都需要重新连接,重新配置。 所以说最简单的方式就是把欧拉玛在你的优班图系统中再次的安装一遍。其实安装非常简单,只需要把第一步的安装指令复制过去,直接在这个位置直接粘贴即可。安装成功的检测方式很简单,你就输入欧拉玛, 如果他不报错还给我们对应的选项,是咱们是进行对话呀,还是怎么样的证明你的安装就是成功的? ctrl c 直接退出。 所以说欧拉玛安装之后,紧接着就是把我们的模型在当前的优班图中跑起来。老张刚才给大家测试的是 jm 四三十一 b 模型,我们直接输入指令欧拉玛空格 run, 然后你的模型效果直接回车,第一次时他会直接进行对应的模型下载。如果说你现在只想用 open klo 来调用欧拉玛的这个占四的话,可以在我们的本地电脑上把之前咱们那个桌面端给他 删掉,如果说你不你想两端都使用的话,就可以直接在这个位置进行使用了,然后发一个你好看一下响应速度, 嗯,响应速度是非常快的,所以接下来我们把这个家伙欧拉玛的詹姆士直接部署给我们的 openclo, 在 这怎么中止对话,摁一下 ctrl c, 再摁一下 ctrl d 啊,就可以直接进行中止对话了啊,所以说大家可以直接的把它退出来, 退出来之后我们在这儿部署一下 openclo。 关于 openclo 的 安装呢,官网推荐是使用 c o r l 这种安装方法,但是老张发现很多兄弟在使用这种安装方式时呢, 出现了这个网络问题,导致下载出现卡顿,如果说 c u i l 的 方法报错的话,直接使用 n p m 安装也是完全可以的,安装完之后直接输入 open klo 空格杠 v 来输出最新的 open klo 的 对应版本啊,这就是老张跟大家说的一些建议啊,大家按照这个要求去做就行了。 然后接下来我们进入到配置,直接是直接输入它的配置指令回车,选择 yes, 然后选择快速开始就可以,我们直接配置一下模型, 然后选择更新,这选择谁呢?选择这个欧拉玛啊,然后选择默认的这个 ul, 选择本地模型,让他去给我找一下咱们本地有哪些模型,稍作等待 好,选择当前的这个模型,咱们四三十一币,然后配置我们的聊天软件啊,这个老张之前讲过太多太多次了,现在呢,他又支持了很多,包括 qq 之类的,大家有需要的话可以按照之前老张的教程再来一遍,我们先跳过 打开之后啊,就可以直接对话。但是如果说善于观察的兄弟们也发现了,老张呢把这个使用模型呢换成了这个一四 b 的 模型,不是那个三十一 b 的, 因为三十一 b 呢,老张在测试的时候也好,或者在一些使用时候也好,他有的时候会出现这个连接超时的问题,也是 oppo klo 更新到最新版本出现了一个能启动问题, 这个呢,老张现在还没有特别好的解决方案,所以说我先用一次必得给大家进行演示,发一个,你好,我们来测试一下他的响应速度啊,还是比较快的。 然后接下来呢,我们再把之前的那个慢句的提示词发送过来,我们来看一下他能不能更好的帮我们去进行慢句提示词的对应理解,以及对应的相关反馈。 嗯,其实我们看到啊,他反馈的这个结果呢,和三十一 b 相比啊,真的是有一定差距的,但是呢,确实也是另一方面实现了我们所谓的叫偷根自由。 大家呢也可以后续啊,去测试一下怎么让本地如果你的显卡够用的话,把这个大模型给它跑起来。然后老张呢也会及时给大家更新,无论是在评论区中还是视频中教大家如何使用。我是程学老张,定期分享 ai 好 用知识,希望大家多多关注。

macbook air 五二十四 gb 内存跑 google gemma 四二十六 b 就 跑在本地总参数两百六十亿,激活参数仅三十八亿,每次推理只调用小部分效果,拥有 dance 两百六十 b 的 推理深度,但跑起来像个小模型,用云端 api, 每个月账单我看的心慌,用本地模型都更无限, 多少次对话都行,不限速不封顶不算钱。 jammer 四二十六 b 的 能力边界实测下来这几个场景, jammer 四二十六 b 表现不错,代码生成,代码 review 技术文档拷写,问题解答 作为日常辅助工具,这个能力区间覆盖了我百分之八十的使用场景和 cloud code 的 配合。本地 jammer 负责推理和理解 cloud code, 通过丰富的插件来赋则执行和操作两个工具叠加之后的工作流。 一,让 jammer 分 析需求,给出方案思路。二, cloud code 生成或修改代码,这个循环不依赖任何网络条件, 在任何地方随时可以进入工作状态。 macbook airm 五二十是 gb 跑 jammer 四二十六 b 不是 勉强能用的,勉强是稳定可用的,可用 token, 无限数据本地离线可用。这三个优势结合起来,不是云端不够好,是本地真的更自由。

现在很多人都在提本地大模型,但大家其实都很模糊,为什么要做本地大模型?用什么硬件才能运行?该搭建哪些模型?公司到底有必要部署它吗?今天我就用通俗的话给大家简单讲明白。首先要明确本地大模型目前主流的解决方案有两种,因为达安卡和 max studio 核心区别在于适配场景该怎么选呢?如果是一人公司的老板, max studio 会更合适,它既能当日常办公电脑,又搭载了性能极强的 max 系统。比如两万多价位的 m 二 ultra, 六十四 g 版本,内存宽带能达到八百 gb 每秒,完全能满足单人使用需求。我特意整理了一份对比表,大家可以参考一下。 m 二 ultra 和 m 三 ultra 系列的内存宽带都是一样的,而 m 四 max 的 宽带速度只有前两者的三分之二。像 open class 这类智能机器人,在 max studio 上的响应速度肯定比不上英伟达恩卡,但如果你的性能需求极高,那英伟达的解决方案会更贴合。就拿五零九零 d v 二来说,像电商行业每天要处理大量数据报表,比如一次性解析十到一百张报表, max studio 大 概需要一分钟才能给出结果,而英伟达恩卡二十秒就能完成,这个速度差距非常明显。另外,要是你需要考虑企业疾病发,或 者有多个用户同时使用,那英伟达安卡几乎是不二之选。不过 max studio 也有优势,同价位里它可以运行更大的模型,适合电商、律所这类客户量庞大的行业。再说说我们平时常用的模型,种类其实不少,比如千万三点六三五 b a 三 b 的 mo e 模型,还有千万三点五二七 b 这种单词模型,都是我们部署的比较多的, 适配不同行业的需求。对电商行业的朋友来说, erp 系统就是核心命脉。把本地大模型接入 erp 后,它能帮你清晰统计卖出了多少货,成本多少、利润多少,哪个 sku 销量最高,能创造更多价值。甚至像今年六幺八、双十一, 哪些产品可能成为爆品,行业趋势如何, ai 都会给出精准分析和方向。当然,最终的决策还是在你手里,但它能帮你规避盲目判断,提供更科学的参考。所以,如果你是企业老板、管理者,不妨多花点时间,深思熟虑,再决定是否配置本地大模型,毕竟它能真正帮企业解决实际问题,提升效率。

opencurry, 俗称大龙虾,作为二零二六年最火的 ai ai 卷框架,凭借强大的自动化啊执行能力成为开发者标配,随着使用频次提升, tok 消耗成本居高不下,成为开发者 和中小企业核心痛点。那如何来解决这一问题呢?我们也可以通过在本地部署欧莱玛大模型,结合开源的 core x 来实现本地化。接下来我们就一步步演示整个的操作过程。首先我们打开饿了么的官网,在这里我们可以看到安装的脚本,点击复制,然后我们到搜索框里面输入 power, 选择以管理员身份运行, 看到命令窗口和右键将刚刚的代码复制进来,按回车, 这时沃尔玛就会从官网去当下载沃尔玛的安装文件进行安装,我们耐心等待就可以了。 经过一段时间等待以后呢,奥拉玛已经安装完成了。安装完成奥拉玛以后呢,下一步我们去做安装一个模型,这里呢,我们以千万三点五为例,回到奥拉玛的官网,这边选择模型,这边搜索千万 啊,请问三点五这边有不同模型的大小啊,根据自己的显卡型号啊选存的大小,嗯,去选择就可以了。我们这里为了演示,所以我们选择最小的模型,零点八 b 的 点击,然后这里会有一行的命令复制,回到 hello 的 命令行,右键粘贴需要回车, 这时候皇冠会去加载轻微三点五的模型,因为他有六点六个 g, 所以 我们需要等待一段时间。模型的安装完成,这里我们可以简单测试一下, 大家会先思考回答,也就是说明书,到这一步,奥数和清问都已经部署完成了,下一步我们要去做的是去部署 pro x。 打开 corex 的 git 网站,我们可以拉到下方来,可以看到它当前版本是 v 零点三点八,呃,我们以按照 windows 为例,我们下载 这个 corex, 零点三,零点三点八, windows x 六十四的,我们下载这个点击下载就可以了, 因为我之前已经下载过了,所以我就直接安装桌面上点击运行,下载完还点击运行 corex, 安装完成,这边运行就好了。 corex 启动以后呢,会进入一个欢迎使用界面,我们根据提示往下配置即可, 这里我们选择下一步,下一步他会去检查 gmail 的 版本以及 open curl 的 包的版本。现在我们用的是最新的二零二六年四月九号的版本啊,网关端口他是一八七八九啊。我们点选择下一步, 这一步呢?我们选择模型,模型我们是本地模型,所以我们选择奥拉玛,然后端口是这一个模型的 id, 模型的 id, 我 们通过跑过去的命令奥拉玛 list, 我 们可以看到模型的 id 是 这一个,我们复制下来, 来到这边印贴,印贴以后这边有一个 a p i 的 必要,这边显示是不需要,因为我们使用是本地模型,所以就不会消耗到 token 了。选择保存,保存完后下一步 再会安装必要的一些内容。安装完成,配置完成,然后开始使用。

还在为昂贵的 a p i 账单焦虑,忍受极高的网络延迟?今天这期视频手把手教会你在 vs code 里装上 gem 四,不花一分钱零延迟,实现真正的无限 token 自由。前几天谷歌开源了多模态的 gem 四家族,那么大家可以来看一下,这是最新的跑分图表 加八四,它全系直接杀入了图标左上角的最具吸引力象限。特别是二十六 b 这个混合专家模型,用极少的激活参数量打出个月级碾压的智商分数和 i 成绩。这意味着你不需要搬一台服务器回家,用家用电脑就能享受顶级的 ai 算力。 那么我根据官方发布的数据,给大家整理了一份最全的防踩坑硬件指南,大家可以对号入座并截屏。 那么只要你的硬件设备有五 g 到八 g 的 内存,就能轻松玩转轻量款的 e 二 b 和 e 四 b。 那 么如果你有十八 g 以上的内存,就可以像我一样直接上今天主角二十六 b, 体验顶级的 mo e 专家架构。 要是你的电脑有着二十八 g 甚至更大的超大内存,那最顶配的三十一 b 性能怪兽也是没问题的。那么搞懂了配置,选好个模型,我们直接开干。首先我们来到 jama 四的官网, 然后选择阅读文档,点击阅读文档后,我们会来到这个页面,来到该页面中,我们可以从左侧侧边栏转 jama 的 部分, 通过下拉的方式找到欧拉玛,我们选择欧拉玛来到对应的页面。那么第一步我们需要来到欧拉玛的官网去进行欧拉玛的下载,下载好后,我们找到电脑终端,在终端中输入该内容, 我们按下回车键,在这里会显示欧拉玛的版本后,这也提示我们欧拉玛已经下载并安装正确。接下来我们按照提示继续输入 欧拉玛铺 jama 四,那么默认他会给我们安装 jama 四 e 四 b 参数的模型。那么如果你希望他给你安装其他比如说二十六 b 或者三十一 b 的 模型,那么你可以在 jama 四的后续添加对应的版本号。 在你的终端中输入欧拉玛铺 jama 四的指令,按下回车后,他便会帮我们安装好 jama 四 e 四 b 的 模型。 像二十六 b 和三十一 b 这种超过十几个 g 的, 大家伙下也需要一段时间。大家记得把系统中的自动休眠关掉,那么盯着进度条走完,看到终端里弹出对话,光你的本地引擎就准备就绪了。 打开奥拉玛,当我们打开奥拉玛,在模型切换选项中,我们向下滑,就可以找到我们最新的伽马四系列模型。比如说在这里我就可以选择伽马四二十六 b 参数模型。 那么接下来是今天的核心,把本地算力接入 b s code。 通常大家会装一些第三方的开源插件,那么在这里我推荐大家去使用 github coopilot chat 啊,它是可以直接绑定到我们欧拉玛中的。 我们可以在侧边栏插件中找到 github coopilot chat, 选择并进行安装。安装后,我们会在右侧看到我们的聊天部分,我们可以进行登录, 然后我们打开 escode, 我 们可以在模型这边自动选择模型,这里找到其他模型,其他模型我们可以选择管理模型,在管理模型页面,我们可以选择添加模型来自欧拉玛。 接下来我们按下回车键,我们会找到目前我们已有的多个模型 选择。将左侧的小眼睛开启,接下来关掉,我们就可以看到我们通过欧拉玛部署的伽马四系列模型并进行使用。当你成功把本计算例连上 vs code 后, 还要解除模型上下文的封印。很多小伙伴刚装好让 ai 读一个稍微大点的前端项目,写着写着突然开始胡言乱语,或者直接报错罢工。这不是你的电脑性能不行,而是欧拉玛默认给所有模型的上下文长度丝丝卡在了二零四八个头。肯,那么我们花五秒钟给他做一个脱绒手术, 打开终端,复制这段指令下回车键。这段代码的意思是我们以 jm 四二十六 b 为底座, 强行把他的记忆容量拓展到三二七六八个 token, 也就是让他一口气能记住将近两三万行代码。 那么大功告成。现在你的 ai 已经拥有了过目不忘的超长记忆,哪怕是复杂的项目丢给他也可以化身为你的大局架构师。那么我在 vs code 里给他提需求,让他去给我制作一个马里奥的游戏,我们来看一下他在这里所达到的效果, 我们可以看到达到效果还是不错的。那么接下来第二个测试,我们来看一下它的多模态视觉推理能力。那么既然 jam 四支持多模态, 我们上一个略微有一点难度的,我这里有一张在野外拍摄的复杂的动物脚印,我们让它识别一下是什么动物,请你帮我看一下这是什么动物的脚印,这是我在四川甘孜发现的, 那么这展示了 r 六 b 惊人的逻辑推理能力,它不仅认出了我们动物,这是雪豹的脚印,还通过脚印的物理特征完成了深度的逻辑推理,那么这才是真正的多模态的能力。那么如果我们换成一次 b, 让它去处理相同的工作,我们来看一下达到的效果。 我们依然上传对应的图片输入,请你帮我分析一下这是什么动物的脚印, 这是我在四川甘孜发现的。我们可以看到 e 四 b 给我们回答的结果就没有那么准确了。那么总体而言,从 e 二 b 到三十一 b, 从下载 到我们利用 copilot chat 的 本地绑定,这就是我这几天折腾 jama 四总结的全部干货。有了这套工作流,你以后就可以在处理相对简单或基础的任务工作时,再也不用担心 api 额度耗尽了。 如果这期视频帮到了你,请一定要给我点个大大的赞!如果有不懂的配置问题,随时在评论区问我,我是 tim, 我 们下期再见!

哎呀,终于淘垦自由了,我真是服了,一晚上给我干了六千万淘垦,你说养个小龙虾能破产啊,不过现在好了,一分钱不用花了,全部欧拉玛本地部署啊,就用谷歌最新的 jumbo, 号称三十一币击败了三百九十七币的那个变态模型啊,本地跑,买小龙虾是真香啊, 欧拉玛现在有桌面版了,你把它安装好,打开以后啊,你看一个本地的 ai 聊天窗口对吧,这里有各种大模型,云端的也有啊,本地的也有,你就根据你自己的显卡性能选,我就用这个 gmail 二十六 b 这个吧,你选中它啊,跟他说句话你好, 然后它就开始自动下载了啊,非常简单啊,这就是你的这个本地大模型,都是免费的,淘款随便用啊。你要说显卡性能不行的话啊,你可以选云端模型,比如这个 mini max, 你 看它后边带 cloud 的 啊,都是云端模型,而且都有免费额度,能薅羊毛 给你们看一下吧啊,在这个设置里点 manage 管理啊,这里你就能看到你已经消耗的免费额度有多少,它每小时都会重置啊,你就又能得到新的免费额度,跑小熊任务肯定是够用的啊。然后怎么给这个小龙虾用啊?还是打开欧拉玛,在这个 lunch 这个菜单里 啊,这么多的应用都能支持。第一个就是咱小龙虾的啊,你就直接把这个命令你放到命令行里运行就行,根据提示选择你欧拉玛里的模型啊,就就这么一步,我选这个 mini max 吧,然后后边直接就回车就可以了。好啊,打开小龙虾问一下你是哪个模型? 没问题啊,是欧拉玛的 mini max, 然后咱飞书再操控一下,打开淘宝, ok, 搞定。这不就 talk 自由了吗?你找谁说理去啊?

使用 openglue 呢,如何让每一个 token 都花在刀刃上?先问一个问题啊,就是你用 openglue 一个月花了多少钱?有的人可能花了六百美金,有的人呢,花二十美金,但是他们干的活有可能是差不多的。差距在哪里啊? 差距就在于你有没有让每一个 token 呢,都花在这个刀刃上。今天这条视频,我把社区里面验证过的是, token 就是省钱的方法呢,全部浓缩成三部,看完你立刻就能用。我们先说一个真实案例啊, reddit 上呢,有一个老哥跑了一个自动化新闻分析的 agent, 他 以为呢,每天的消耗呢,是很低的,结果呢,外部 a p i 返回了一个异常数据, agent 开始无限循环重试,结果一觉醒来,账单已经 一万两千八百四十七美金。所以 opencube 的 透视消耗呢,有一个最大的坑,就是上下文累积。你每发的一条信息,它会把之前所有的当前的筛选的对话历史,系统提示工具定义,还有 skill 的 定义,全部重新发一遍。注意啊,这里面系统提示词可不是说几句话或者几段话的。这种事我之前有个视频详细讲过 opencube 的 五大配置文件,那里面也提到了,就是我们每次对话开始呢,这五个文件呢,全部内容 都会加载到系统提示词里面,包括这个 agent, m d, sun m d, u s m d, heartbeat m d 以及 open clue 点 jason 这五大文件。 现在你对话一百轮之后,光 token 输入呢,就是两万多 token, 一个月下来几百美金就这么烧掉了,那我们要省钱怎么破呢?三步走啊!第一步,做模型的分层,不要用大炮打蚊子。 open clue 二零二六年最近的一个重要更新,就是支持了 自适应的模型路由。简单说呢,就是我简单的任务呢,我用便宜的模型,然后复杂任务呢,我才上贵的。给大家一个社区验证过的五层方案啊。第一个就是心跳检测,简单分类这些,用 gemna flash 这个模型,一百万 token 才一毛钱。第二个呢,你做日常分析讨论,用 kimi k 二点五或者是 deepsea v 三六毛钱,一百万 token 呢,不到一块钱。第三个,你做内容创作,内容创作呢,对表达是有要求的,那你上 cloudsonet 这个模型啊。第四就是最难的决策,采用 cloud operas。 那 从开源社区的反馈来看,用户呢,就靠这一招,月份呢,就可以从八十七美金降到二十七美金,省了百分之七十。 第二步啊,砍掉隐形的浪费。三个最容易忽略的 token 黑洞。第一个呢,就是 send 点 m d 文件太长了,很多人写了这个两三千字的系统提示,每次调用都要重新发,我们要把它砍到三百字以内,这样历省百分之三十到百分之五十, 怎么来压缩呢?首先,你得懂 sao m d 的 构成,可以看我往期的这个视频,或者看我们的蓝皮书。第二呢,有可能你没有开 prompt capture 的 提示词缓存功能,能够把重复内容的费用呢,降低百分之九十,通过 catch retention 这个参数可以一行配置的。是呢,很多人却不知道。第三个,心跳任务用了贵模型,那 open cool 呢?这个心跳任务呢,是每半个小时它就要触发一次的,如果你用的是 opengool, 那 一个月光心跳,那就得烧几十美金。 所以我们要把心跳模型呢,单独设成着 hico 或者更便宜的模型,这笔钱呢,你就省下来了。那还有一步呢,就是设安全网,防止翻车。大家要记住这个三道防线啊。第一个就是 opencloud 的 层面,设置,单独的请求上线,每小时上线和每天的上线。第二呢,还可以在 api 平台层面来设置,比如说 osmic 或者 openai, 或者第三方的中转,比如说 apprutor, 他 们在后台你都可以设置使用的上限的限制的。再一个呢,就是支付层面,用预付费的账户可以充多少呢?用多少,不要透支。前面讲的那个一晚上烧了一万二的脑壳呢,就是因为这些防线呢,他一道都没有做啊。 所以最后我们总结一下,第一个模型分层,第二个砍掉浪费,第三个设好防线,这三步做完,社区的平均数据呢,是这样的,月费呢,能够从六百美金降到 五十美金左右,不是省一点,而是省下了一个数量级。 opencube 的 核心理念是让 ai 帮你干活,帮你赚钱,但前提是呢,你得管好成本对吧,这样你才有利润,虽然它有收入,但是呢,你成本太高,可能你利润没有了,所以呢,只有你的 r o i 大 于百分之百,那这个 token 呢, 挖的才值, ok。 以上这些完整的配置方案和踩坑的清单,都更新在了一百八十九页的 open clue 蓝皮书的最新版本里面。如果这条视频呢,对你有用,可以点赞收藏,我们下个视频呢,继续聊,当然最重要的就是你看完得马上用起来。

谷歌终于坐不住了,正式卷开源市场, jm 四的效果到底如何呢? jm 四的发布啊,真的有可能让我们实现头很自由。这期视频呢,老张给大家简要介绍一下 jm 四怎么安装到本地,以及如何搭配到我们的 open klo 大 龙虾上, 附带所有的安装步骤啊,大家可以一起来体验一下。后续呢,老张也会根据测评效果给大家接着发视频,这期是我们完整的部署流程,老张重点给大家简单聊一下,就是为什么 jm 四的发布啊,会让大家感觉谷歌真的开始卷起来了呢? 首先第一点,他和目前谷歌的 jimmy 三用的是相同的技术基座啊,所以说他的能力是毋庸置疑的。第二点就是商业自由,你直接部署下来做什么都是可以的,都是允许的。然后第三个就是支持多模态,无论是文本、图像甚至小规模的视频音频, 他都可以直接支持。第四点就是结合前段时间爆火的 open klo, 他 可以直接在本地对接 open klo 以及对接 klo 的 code, 实现本地的偷根无线化。这是老张给大家总结的四点,为什么詹姆斯的发布会让大家感觉,哎,可能真的要进入到一个新的纪元, 然后呢,他所发布的这四款模型呢?老张给大家做了一张图片啊,大家可以到时候把它截下来。第一个模型一二 b 的, 他本身是用于手机或者边缘设备八 g 显存, 然后最高端的三十一 b, 他 所对应的旗舰版本呢,是对应的是二十四 g 加,所以大家根据你的需求来进行对应的模型选择。老张这次视频呢给大家来看一下三十一 b 的 这款模型的安装, 然后关于本地的安装部署啊,其实非常简单,任何开源模型,其实我们只需要让他和欧拉玛就是那个小羊驼结合到一起就可以了, 我们可以去一下欧拉玛,之前没有安装欧拉玛的兄弟们也不用担心,直接去他官网安装即可。一个羊驼啊,现在已经开始玩龙虾了,但是这个不,这个是我们,我们首先 现在官方已经开始逐渐的把羊驼和龙虾结合到一起了,我们直接选择对应的登录的,然后找到你符合要求的版本,直接安装到您的电脑上就可以。安装成功之后啊,欧拉玛现在已经有了一个完整的应用端了,所以大家可以直接在这个位置和他进行对话交流。 那我们想要下载詹姆四到你本地的电脑上,我们可以使用它的官方指令找到官网的 model 选项,然后这有一个詹姆四,我们进入,他会告诉我们直接怎么样去进行詹姆四的对应安装,像老张想安这个三十一 b 的 对吧?我们就把它拿过来, 把它直接这有一个 c l i 命令行安装方式,把这个东西直接复制在你的开始菜单中,单机右键选择运行,输入 cmd, 直接把刚才指令粘贴过来,这儿的时间会很长,因为它有二十个 g 的 大小,我们直接稍作等待 安装成功之后,我们也可以直接回到它的客户端中,在模型选项上找到我们安装好的詹姆斯冒号三十一币, 然后可以直接进行对话,老张他处理一个较为复杂的提示词,我们让他看一下当前显存的内存消耗, 咱们拿这个 ai 慢距的提示词来测试啊,这个提示词非常的长,我们看一下他读取提示词的能力,以及他的这个显卡的性能消耗。我们看一下啊,这个显存直接拉满的达到了百分之九十四的占比, 而且这个响应速度还是非常快的,只需十一点七秒啊,就把整体的业务流程给我们直接补齐了,而且呢按照需求给我们进行了对应的提问,要什么样的慢剧效果,所以说以目前的测试反应来看呢,他的这个响应速度起码要比之前的很多大模型要好的多, 所以接下来我们自己来尝试一下对话类的工具,可能大家都不是很需要的,我们能不能把它接入到我们的 open klo, 接入到我们的龙虾里,让他们俩来进行联动的。然后这期视频呢,老张顺便给大家提一下,就是最新版的 open klo 的 部署流程 啊,咱们可以快速的去过一下一些重点的细节,因为之前老张发过很多期的部署视频,咱们可以去到时候去看一下。只不过这期视频呢,我想给大家来讲解一下这个 wsl 的 这个部署优势。 很多兄弟看老张之前视频都是用 note 直接下载安装的,但是为什么老张最后给大家又转回到了 wsl 这一块了呢?因为它本身啊, wsl 它是相当于在 windows 系统上安装一个 linux 的 独立系统, 这样的话呢,就直接相当于在你电脑上安装了一个独立的存储空间,它所谓叫做沙盒安全,而且运行起来呢,是不会有任何的兼容性的对应问题的,因为 windows 中啊,它的权限呐,路径等经常会报错。所以说我们这 期视频重点教大家怎么用 wsl 进行 win opencl 的 部署安装,这样的话, windows 和 wsl 的 安装您都了解之后,之后学起来就非常方便了。 然后接下来呢,老张给大家简单的介绍一下在 wsl 中如何安装我们的 openclaw, 因为之前呢,咱们介绍过太多次了,很多兄弟留言说老张就别介绍怎么安装了,然后我们就给大家简单说一下注意事 项。首先第一呢,你想在 wsl 上安装 openclaw 的 话,第一点,你得先在你的 windows 系统下把 wsl 安装一下。当然很多电脑老张发现其实都是自带的, 怎么检查是否自带呢?咱们可以直接输入 wsl 空格,杠杠威森,如果弹出定的版本号证明 wsl 电脑已经安装了,如果没有弹出的话,使用安装指令, wsl 空格 insert 直接安装即可。然后紧接着按照老张给你提供的指令复制粘贴就可以了。先安装你的优班 图,安装之后啊,在这选择这个倒三角,找到优班图系统,就可以直接进入到你的优班图系统当中。 在你安装过程中啊,它会让你设置一个用户名和密码,到时候可能需要做一步密码验证。在优班图系统中,注意是优班图系统中运行这些环境指令,分别安装 python 三、安装一个压缩包工具,方便安装一个 note 点 gs, 然后再安装一个 get 工具。 如果说为了检测每一步安装是否成功的话,你可以分别输入,比如 note 杠 v、 npm 杠 v, 包括 get 杠 v, 在 这检测我们对应的这个版本,如果都能弹出版本号,证明你三项安装都是成功的,这是配置 openclo 的 基本的内容要求。 然后紧接着我们把基本环境配置好的兄弟,你还需要在这个位置安装一下这个欧拉玛。 这老张要重点说一下,比如说老张我不在本地都已经下载好欧拉玛了吗?为什么在优班图里还需要再配置一下?其实我们优班图中是可以调用本地的欧拉玛的,但是很多兄弟在调用过程中分别给老张留言说说调用时无论是 ip 地址找不到,还是 ip 的 动态变化,导致每次都需要重新连接,重新配置。 所以说最简单的方式就是把欧拉玛在你的优班图系统中再次的安装一遍。其实安装非常简单,只需要把第一步的安装指令复制过去,直接在这个位置直接粘贴即可。安装成功的检测方式很简单,你就输入欧拉玛, 如果他不报错,还给我们对应的选项,是咱们是进行对话呀,还是怎么样的证明你的安装就是成功的, ctrl c 直接退出。 所以说欧拉玛安装之后,紧接着就是把我们的模型在当前的优班途中跑起来。老张刚才给大家测试的是 g m 四三十一 b 模型,我们直接输入指令欧拉玛空格 run, 然后你的模型效果直接回车,第一次时他会直接进行对应的模型下载。 如果说你现在只想用 openclo 来调用欧拉玛的这个占四的话,可以在我们的本地电脑上把之前咱们那个桌面端给它删掉,如果说你不,你想两端都使用的话,就可以直接在这个位置进行使用了,然后发一个你好看一下响应速度, 响应速度是非常快的,所以接下来我们把这个家伙欧拉玛的詹姆斯直接部署给我们的 openclo, 在 这怎么中止对话,摁一下 ctrl c, 再摁一下 ctrl d 啊,就可以直接进行中止对话了啊,所以说大家可以直接的把它退出来, 退出来之后我们在这部署一下 openclo。 关于 openclo 的 安装呢,官网推荐是使用 col 这种安装方法,但是老张发现很多兄弟在使用这种安装方式时呢, 出现了这个网络问题,导致下载出现卡顿,如果说 col 的 方法报错的话,直接使用 npm 安装也是完全可以的,安装完之后直接输入 open klo 空格杠 v 来输出最新的 open klo 的 对应版本啊,这就是老张跟大家说的一些建议啊,大家按照这个要求去做就行了。 然后接下来我们进入到配置,直接使直接输入它的配置指令回车,选择 yes, 然后选择快速开始就可以,我们直接配置一下模型, 然后选择更新,这选择谁呢?选择这个欧拉玛啊,然后选择默认的这个 ul, 选择本地模型,让他去给我找一下咱们本地有哪些模型,稍作等待 好,选择当前的这个模型, gm 四三十一 b, 然后配置我们的聊天软件啊,这个老张之前讲过太多太多次了,现在呢,他又支持了很多,包括 qq 之类的,大家有需要的话可以按照之前老张的教程再来一遍,我们先跳过 打开之后啊,就可以直接对话了。但是如果说善于观察的兄弟们也发现了,老张呢,把这个使用模型呢换成了这个一四 b 的 模型,不是那个三十一 b 的, 因为三十一 b 呢,老张在测试的时候也好,或者在一些使用时候也好,他有的时候会出现这个连接超时的问题,也是 open klo 更新到最新版本出现了一个能启动问题, 这个呢,老张现在还没有特别好的解决方案,所以说我先用 e s b 的 给大家进行演示,发一个。你好,我们来测试一下他的响应速度啊,还是比较快的。 然后接下来呢,我们再把之前的那个慢句的提示词发送过来,我们来看一下他能不能更好的帮我们去进行慢句提示词的对应理解,以及对应的相关反馈。 嗯,其实我们看到啊,他反馈的这个结果呢,和三十一 b 相比啊,真的是有一定差距的,但是呢,确实也是另一方面实现了我们所谓的叫偷根自由。 大家呢也可以后续啊,去测试一下怎么让本地如果你的显卡够用的话,把这个大模型给它跑起来,然后老张呢也会及时给大家更新啊,无论是在评论区中还是视频中,教大家如何使用,我是程学老张,定期分享 ai 好 用知识,希望大家多多关注。