粉丝2.3万获赞5.9万

大家好,我是根古,告诉大家一个好消息,本地大模型的玩家春晚来了,欧拉玛 v 二点零正式上线,支持吉米莱四,这次最大的更新提升就是速度,内存优化后加载接近快百分之五十,基本做到回车即响应,本地推理体验直接起飞,而且支持超大的上下文, 写代码,读长文更稳更准,做任务也不卡,性能直接拉满。别再去用云端了,赶紧升级把 gmail 是 跑在自己的电脑上吧。给大家讲一下如何更新啊。首先第一步要更新你的欧拉玛,这个直接就在这个 set 里面,可以直接去更新啊,如果你不是最新的话,它这里会显示 update。 第二的话,进入这个欧拉玛官网, 把这个欧拉玛万吉米兰四的二十六 b 这样一个模型输到这个终端命令。行,我现在正在下载,现在网速挺慢的,可能要下载个两小时左右,大概是十七 b 下完了以后,在你这个欧拉玛这里就能出这个模型啊,在这个这个 new chat 里面就会出现这个吉米兰四啊,当然你不需要去切啊。第二步的话,你会用欧拉玛这个命令把它浪起来,对吧?欧拉玛欧拉玛浪起这个欧拉玛 launch 这个 open cloud, 然后你把这个当你下完了以后,这里会多出一个集美的四啊,你把它选上去就可以用了啊。今天晚上我会体验一波,明天会把这个体验效果给大家分享一下。

朋友们,你敢相信吗?一个 openclock 的 安装居然需要五百块钱,而且即便如此还是排起了长队,这小龙虾现在到底是有多火啊, 不过今天来了一个直接掀桌的,它就是质朴昨天新鲜出炉的 autoclock。 这个 autoclock 的 本质呢,就是帮你把 openclock 的 一系列安装啊,配置的流程全部帮你封装好了,所以你只需要下载安装一下啊,就跟你在电脑上安装其他的软件一样,没有任何区别。 接下来我就想问,还有谁用不上 oppo 卡的吗?今天我们就来好好的看一下,这个智普的 autoplan 使用起来到底是有多么简单方便。首先安装就真的跟你在电脑上安装其他的软件一样,你只需要到这个官方的下载页面点一下下载按钮, 然后呢双击开始安装就好了。像我这边是 mac 的 话,我只需要把这个图标拖到这个文件夹里面, ok, 就 安装好了。好,打开这个 autoplan 啊,这边 有一个登录页面,我们用手机号登录一下,那进来以后呢,就可以看到这样的一个界面啊,这个就是你跟 opencloud 的 对话的界面,而且在这边它还自动的帮你对接好了。智普专门为 opencloud 定制的一个大模型,叫做 pony alpha two, 新用户登录是会赠送一些免费的积分的,所以你立刻就可以开始使用了,完全不需要你在乌漆嘛黑的密令行里面去配置什么模型啊,输入什么 key 啊等等之类的,甚至还不需要做任何的充值啊,免费直接上手。好,我们跟他打声招呼啊,你好, 可以看到它这边有回复。好,当然如果你想用别的模型的话,在这边也是可以配置的。在这个设置页面这里的 models and api, 这里可以配置你想要的任何模型啊,像国内的 deepsea, mini max, kimia 等等,这些都是支持的。然后如果你想要接入 open ai, 这些模型也是可以的,选择这里的 custom, 然后只要符合 open ai 或者是 entropin 协议的模型,你 都可以使用。这一点我觉得还是必须要给字谱点个赞的啊,虽然说这个 autoplay 是 字谱开发的,但是呢,他也没有强制你必须用字谱的模型,哈哈,好,接下来我们来演示一下让他来对接飞书,那方法是只需要点这里的按钮就好了。 ok, 我 们点一下,然后可以看到他自己在走一系列的接入飞书的流程。 大家看,我的手是没有动的啊,是他自己在做这一系列的操作,直到最后的审核环节啊,这个审核环节我们还是得自己来做, 审核完了以后呢,我们就可以立刻开始来使用了。好,我们给他发个消息,好,可以看到他正确的回复了,然后让他给我们创建一个飞速文档,可以看到他也顺利的完成了这个自动对接。飞速的功能,我觉得真的是太小白友好了。 而且更强大的是他这边还自带了一系列的 skills 啊,覆盖了内容创作、办公代码和营销金融等等高频场景。 在这里可以看到啊,将近有一百个 skills, 所有这些 skills 要么是可以直接使用,要么是你只需要点一下这里的添加按钮,就可以自动的帮你安装配置,好像这里的 obsidian skill, 你 添加好了以后呢,就可以用来搜索和管理你的 obsidian 笔记了,你根本不需要做自己去配置啊,安装啊等等这些麻烦的事情。 当然网上几乎所有的其他的 skill, 这个 autoscale 嘛,对吧?像这个公众号文章搜索的 skill, 我们直接扔给他,然后跟他说帮我安装一下这个 skill。 ok, 很 快它就安装好了,然后我们就可以用它来全网搜索公众号文章了。还有一个非常大的亮点是 openclaw, 它自带了一个改进版的 browser agent, 相对于 openclaw 自带的那个浏览器,它能够稳定地完成多步骤跨页面的浏览器执行操作,来实现长链路的自动化任务。 ok, 以上就是我对 openclaw, 它本质上就是 openclaw, 所以 你在网上看到的所有其他的 openclaw 的 玩法 在 autoclave 里面也都是可行的。只不过是说它把 openclaw 的 上手难度彻底降到了零啊,所以特别适合那些没有技术背景的朋友,或者是不想自己折腾各种麻烦的问题的。 所以如果你之前一直听说 openclaw 怎么怎么样,但是呢,自己搞不起来啊,非常推荐去试一下这个 autoclave。 好, 那我们这个视频就到这里,觉得有用可以点赞关注一下,我是川哥,我们下期见,拜拜!

大家好,本期内容我来分享如何在本地部署谷歌新开源的多模态 ai 模型代码四,我会分享命令行和格式化界面两种安装方案,零基础也能轻松搞定。 最后我还会教你如何修改部署的路径,彻底解决大模型占用 c 盘的问题。本地部署的优势就是你的数据可以完全保存在自己的电脑上,隐私安全有保障,而且支持模型微调, 可以打造专属的 ai 助手。但是他也是有缺点的,就是我们需要稍微懂一些技术,还有就是硬件的支撑,如果电脑配置高,自己可以部署折腾一下。有了本期视频,就算你不懂技术,跟着视频操作也可以部署成功。 本期演示我只分享入门版本,主要就是参考部署的方法和流程。接下来我手把手带大家用欧拉玛一键部署。 首先我们先来了解一下 jam 四到底是什么,它是谷歌新发布的开源多模态的 ai 模型,与 jimmy nay 是 同源的。 简单来说,谷歌就是把自家的 ai 技术打包成了一个免费开源的版本,让每个人都能用上。它的能力是非常全面的,支持文本交互、图像识别、音频处理,还能生成代码, 基本上覆盖了所有的 ai 应用场景。下面我们再来看一下它的核心优势。核心优势它有三个,第一个就是多模态能力,文本、图像、音频代码,一个模型全部搞定。 第二个就是完全免费,它没有会员订阅,没有暗次收费,可以随便的去使用,甚至用它去开发商业化的产品。第三个就是比较重要的隐私安全保障,本地部署模式下,所有的数据处理都在自己的设备上完成, 敏感信息不会上传到云端,这是三大核心优势,就是在我们安装之前,需要我们了解一下这个安装环境。首先系统兼容性 demo, 四是支持 mac os、 linux、 windows 三大主流操作系统,基本上覆盖了绝大多数的用户。 然后就是内存要求,如果你的电脑小于三十二 gb, 推荐安装四 b 版本,自己安装体验折腾一下就可以。如果你的内存达到或超过了三十二 gb, 那 就可以选择二十六 g 或三十一 g 的 版本。 在这里有一个小提醒,就是如果是 mac 电脑 m 系列的芯片,它的显存和内存是合二为一的,大家直接看内存就可以。如果大家不是 mac 电脑,比如 windows 或者 linux, 那 么就优先看显存,显存不够再看内存,这是关于这个配置的查看。像这个本地部署也非常简单,仅需两个步骤即可完成。第一个就是安装欧拉玛,这个欧拉玛就可以理解为是本地大模型的一个容器, 它是装大模型的,有了它才可以运行。第二步就是我们容器安装好之后,我们需要给它把模型放进去,就是部署模型,两个步骤即可搞定。下面我们直接进入实操环节,我们来一起看一下部署的全部流程。 在这里第一步我们就先要有这个欧拉玛,他是一个大模型的容器,就是我们打开之后选择右上角的 download, 这时候我们就需要选择匹配自己系统的版本,在这里我这是 windows, 然后我们选择 download for windows, 在这里选择 download for windows 之后就会弹出窗口,我们选择路径直接保存就可以,当下载好之后,然后我们就安装即可,安装好之后打开就是这样的主界面,这个是我之前安装的版本,部署着一个一点五 b 的 zip, 然后下一步就需要我们去选择大模型,我们还来到刚刚乌拉玛的这个界面,在这里我们选择左上角的 models, 然 然后在这里我们可以看到该马四,然后我们选择进来,它提供了好多个版本,在这里我就选择一个入门的版本,主要就是演示安装的流程,比如我们选择 e 二 b, 然后我们选择,这时候我们就看到了这个安装命令,选择右边的这个两个方框,然后选择 copy, 然后下一步 我们就按键盘上的 windows 加 r 键,这时候出现运行窗口,然后在这里面输入 cmd, 然后直接回车, 回车之后就出现了这个命令窗口,然后我们刚刚复制了直接鼠标的右键,可以看一下,这个命令就粘贴过来了,然后我们直接 回车好了,这时候它就开始部署到本地了,在这里我们需要等待一段时间,好可以看一下出现了 success 这个提示,就证明安装成功了。现在我们在这里可以直接和它对话,比如我们输入你好当前什么模型,然后我们发送 可以看一下,他现在回复我们了,我是一个大语言模型,我叫 jama 四,这时候我们就在本地已经部署成功了, 然后我们再回到欧拉玛的客户端,在这里在这个对话窗口右下角这里,这里可以选择模型,然后我们找到刚刚部署到本地的 jama 模型好了,这时候就切换好了。同样在这里我们也可以直接和他对话,比如我们输入你好,然后发送, 这时候他就回复我们了,你好,很高兴和你交流,请问有什么帮助到你的?到这里我们就已经部署成功了。前面我们分享的是使用命令行 c l i 模式去部署,其实还有一个简变的方法, 在这里我们还可以选择模型后面对应的这个按钮,也是可以直接部署的,这个是非常方便的。好,最后我再分享一个大家比较关心的问题,就是我如何设置这个本地模型的一个部署路径, 在这里我们也不用去改环境变量了,这个客户端是直接支持的,我们选择左上角的设置,然后在这里选择这个 model location, 在 这里我们就可以去设置模型的一个保存路径,在这里大家自己设置就可以,是非常方便的。 好,下面我这里演示的是上传了一张图片,就让他识别这张图片,我们一起来看一下他给我们的结果,好了可以看一下,我们给了他一张图片,我们问他这是张什么图片,他给我们的回复, 这是一张符号或者是图标,然后他还分析了主要包含的元素,还有用途预测等等,能够精准的识别内容,并生成详细的描述, 表现还是可以的。好了,现在我们本地部署成功了,然后刚刚我们也做了一个功能测试,第一个就是我们和他对话,就是文字处理,第二个测试的就是这个图像识别,他也是可以精准识别的, 他虽然是多模态的,但是目前我们用的这个容器不支持多模态的输入,我们暂未测试音频和视频的识别。好,最后我再补充两个细节,就是第一个欧拉玛的拓展性他是非常强的,除了可以部署这个 demo 四, 还支持比如通用签问或者是 deepsafe 等众多的开源模型,部署方法也是完全一样的,一条命令就能去部署。第二个就是本地部署的真正价值不仅仅是隐私保护,更重要的是支持模型微调, 可以用自己的数据去训练模型,打造一个完全专属的 ai 助手。好了,这就是我们本地部署的所有内容,大家感兴趣的可以自己折腾一下,探索更多的玩法。好了,我们本期内容分享就到这里,可以留下你的想法,我们下期再见。

教学视频确实没什么人看啊,但是我们做事呢,还是要有始有终的,今天我们继续来讲一下如何将 ai 龙虾绑定到飞书,这样我们就可以通过手机随时和 ai 龙虾对话,给他下达各种任务了。 首先我们需要下载并安装一个飞书,然后打开飞书,进入飞书的开发者后台,这里呢,我们要创建一个飞书机器人,我们首先点击创建企业自荐应用,然后给应用取名字,添加描述,选择一个图标应用能力这里呢,我们就选择机器人。 选择完成后啊,一定要记得创建并发布应用,因为只有发布后才能使用创建,发布后会有一个版本号,我们这里填写一点零点零, 发布完成后,我们就可以在凭证与基础信息这里看到应用凭证包括 app id 和 app 密码,这两个信息非常关键,是后续与 open 可乐绑定时要用到的。 创建完成后,我们就可以与 open 可乐进行绑定了,我们输入绑定 app 的 指令,然后它会提示让我们选择对应的 app, 我 们选择飞书,接着它会要求我们输入对应的 id 和密码,我们输入即可。 绑定完成后,我们还需要在飞书开发者后台进行配置。在事件与回调这里,我们选择使用长连接接收事件,然后选择添加事件,选择接收消息这个功能, 并将其添加到我们的事件中,这样飞出机器人才能被授予录取和接收消息的权限,从而正常的与 oppo 可乐进行消息联通, 确认开通权限后创建新版本并发布,发布时要输入新的版本号输入,然后输入更新说明,最后点击发布即可。整个操作过程中,如果有遇到不懂的地方,我们都可以随时询问豆包,不懂代码也没关系。 然后我们可以先与飞书机器人进行一次对话,我们输入你好,它会回复一串代码,我们将这串代码复制到 open colle 中并提交,这时它会显示我们的飞书账号已绑定。 将飞书账号绑定到 oppo 可乐后,系统会显示绑定成功。此时我们可以尝试与飞书机器人进行对话,如果能够正常对话,就说明已经绑定成功了。 oppo 可乐绑定机器人也很简单,我们直接问他如何与飞书机器人绑定,他会告诉我们如何操作。 我们先回到飞书去创建一个飞书机器人,创建成功后给机器人添加对应的权限,添加完全限后发布应用, 接着进行 id 和密码的匹配,匹配完成后,在时间配置中选择长连接,并添加接受消息的权限,然后继续发布新版本。 在飞书中找到我们的机器人后,点击对话,他会给出对应的匹配代码,我们将其输入到 auto 可乐中, auto 可乐就会提示配对成功,然后我们就可以在飞书中直接与机器人对话了。 阿卡拉配对也是类似的流程,首先进入飞书的开发者后台,创建企业自建应用,然后创建飞书机器人,添加权限就在阿卡拉的页面选择消息渠道,在消息渠道这里选择关联已有机器人, 然后把对应的 id 和密码填进去,点击确认,这时阿卡洛就会自动进行配置,我们耐心等待即可。配置完成之后,我们回到机器人页面,继续选择事件与回调,然后选择长连接添加接受消息事件,接着发布。新版本 发布后我们就可以与它进行对话了,它会给我们一串代码,我们选择飞书配对,然后把对应的匹配码输入进去, 这时飞书就会提示配对成功,我们就可以通过飞书与阿克拉进行进正常对话了。好,以上就是今天的龙虾绑定飞书教程,感谢大家的观看,我们下期再见!

大家好,我是 cool 的智能助理小酷。是不是很多人遇到这样的问题,部署大模型的时候只能支持一个并发和一个模型。今天我们就以 olema 为例,跟大家分享下如何进行并发和多模型部署。 首先进入欧拉玛官网,欧拉玛又又又升级了,来到他的 github 仓库,现在的版本已经是零点幺点三四了, 我们看一下版本介绍。首先是一些常规的新模型支持,但是这个不是我们今天看的重点,往下拉有一个改进了并发与多模型加载的参数设置,这次是对他进行了优化和完善,之前在零点幺点三三版本的时候 就有了,不过还存在一些问题,这个新版本我试了下,已经没啥问题了,所以分享给大家。接下来我们就来演示下并发与非并发的区别。先按照之前的方式启动奥拉玛服务, 输入 olama serve 就可以启动 olama 服务,启动成功了。接着我们看下在哭 admin 中怎么调用。 打开 cool 官网, cool 是一个全站的开发框架,点击插件市场,再点击 ai 插件,可以看到有个 olama 插件,可以很方便的调用 olama 服务,点击下载到本地, 然后来到哭 admin 后台的扩展管理后端插件,选择安装欧拉玛插件,安装完成 成之后,点击配置,做一些模型和地址的配置。来到 cool 后端,我这边已经写好了一段调用 olama 的代码,写了个简单的方法,模拟同时调用 olama 服务。接着我们触发接口执行代码, 使用 postman 模拟调用 api 接口,可以看到服务是一个个串行方式返回的,这样的服务就很不友好,需要等待其他人响应完毕。 接着我们修改参数,让 aluma 可以支持并发修改参数的方式之一是修改其环境变量, 可以看到这边有我 我们开头说的两个环境变量,如果没有这两个变量可以直接添加,修改完成之后保存。注意这个时候需要关闭终端重新打开,重新打开我们设置的环境变量才能生效。 打开之后再次启动 olama 服务, 我们再次尝试调用 api 接口,可以看到这次已经可以交替返回结果了,证明已经可以并发调用 olama 服务了。 olama 还是一个很方便的工具,大家可以多来了解下它,如果有什么新动向,我也会第一时间跟大家分享,点赞加关注哦!

一键部署龙虾来了,不得不说各大公司真的太迅速了。智普今天正式上线的奥特克隆,我们下载安装后可以在本地电脑上一键部署龙虾。智普是提供了一定的免费额度给用户体验龙虾的能力。 奥特克隆可以直接接入任何的模型 a p i, 不 过看版本号啊,还只是内测的代号,正式版本近期就会发布,按照这个进度,我认为不会太久,希望对你有帮助。

打开浏览器访问澳龙官网, 点击下载安装到电脑,等待安装完成运行即可 打开,出现登录界面,输入要登录使用的手机号,输入手机验证码后登录,登录成功可以与龙虾直接对话。搭建完成, 先打开飞书应用平台, 没有飞书用户的同学先右上角注册,拥有账号后点击开发者后台,点击创建企业自应用,自定义填写名称描述和应用图标, 点击创建, 创建后点击机器添加, 点击权限管理开通权限, 在搜索框里输入 em, 注意是英文冒号, 把这些消息相关的权限都添加上,点击确认开通权限。接着点击上方的创建版本,自定义填版本号更新说明, 点击保存发布版本。 机器人创建完成,回到 auto call, 点击偏好设置,点击 i m 频道添加频道,快速添加飞书机器人, 再回到飞书开放平台,点击凭证与基础信息, 把 a p p id 和 a p p cquard 复制粘贴放在对应的非书信息上,最后点击保存参数,会看到成功接入的相关提示。点击完成, 回到飞书开放平台,点击事件与回调,在事件配制定乐方式,选择长连接保存,再点击添加事件搜索接收消息, 点击添加。 最后我们点创建版本 发布更新一次,注意版本号更新, 最后保存确认发布即可 发布成功。在飞书上打开应用就可以和龙虾聊天了。 龙虾模型我推荐用智普最新的 g l m 五 turbo 模型,这是一款面向 open core 场景深度优化的龙虾专属模型,能聊天,能干活, 工具调用更稳,任务推进更强,响应速度更快,更适合 skill 调用、定时任务、持续执行等真实工作流,能够更出色的应对 open core 中的典型乃至高级应用场景。 官方还推出了专属的龙虾套餐,可以尝试体验使用。欢迎点赞、收藏、转发,我们下期再见!

刚发布三天的谷歌街挖四家欧莱玛最新王炸组合,彻底解决大模型部署难的问题!普通人不用敲代码就能一键搞定,电脑手机都能装,既能写文案改代码算难题,还能分析长文档,拆解短视频脚本全能又好用,关键是本地离线用,还能无限免费商用!打瓜教程安装包都给你们打包好了!首先在视频右下角的分享图标里点 点击复制分享链接,然后打开这个可以在正规应用商城下载的蓝色工具,打开后允许粘贴,就会弹出这个口令弹窗,如果没有就点击这里,然后输入不吃饺子。打开后找到软件资源里的这个文件,右下角保存后下载就可以啦!关注我,每天分享宝藏资源!