大家好,我是成风,今天给大家分享一个冷知识,部署 cloud code 原来也是可以作弊的,众所周知呢, cloud code 是 一个国外的 a 阵, 你在使用的时候,你要是没有网络环境,肯定是举步维艰,一步一卡。现在好了,我给大家找了一个帮手,他就是科室,我们可以让科室帮我们直接部署 cloud code 到 北京,全程呢只需跟他进行多轮的对话可以,而且新用户这个免费的这个额度完全够你来支撑我们。 点赞关注下一期,给大家来一期小白也能迅速上手的改编视频。
粉丝108获赞321

嗯,大家好,今天呢主要去部署一样东西叫做量化丁格,这个东西呢就是我们人工智能和量化工具的一个相结合, 一个 ai 自主分析,自主去买股票,然后自己去看股票,分析股票,然后同时还能给你的钉钉,不是给你钉钉给你的短信,还有邮箱可以发送一个短信,让你该告诉你该买还是该卖,它是怎么进行的,还有实时反馈,它都是有的。然后废话不多说,咱们就开始, 然后呢第一点,首先呢咱们去输入这个网址啊,然后去下载这个,下载这个代码,代码点击下载这压缩包 就会弹出来,然后你下载好之后存到你的本地就好了,本地的一个目录下。然后呢咱们再按照这个教程一步一步来,我教大家如何去看。然后首先呢咱们直接从这个位置来看, 安装一次次设置这块,直接来看第一步呢,它首先有环境,叫 docker 和 docker compose, 也就是我们所说的这个东西, 大家可以输一个叫 docker 的 des, 呃, desktop 这个软件你可以下载下来,然后用你相关的一些程序配置就可以了。然后下一个就是 get, get 这个大家可以在网上直接搜啊,也是可以下载下来的。 get 也是个工具吧,就是 g i t 稍等一下,有点卡, 下载好之后呢,它的更像是一个就是提交的一个东西,其实咱们不用 get 也是可以做到的啊, get 第一步就相当于是克隆仓库,但是咱们刚刚下载那个位置就就是干了这个第一个事了。第二个事就是咱们解压, 解压之后呢把它呢,比如说我,我在 e 盘上把它解压成这个一级目录,进来之后就是这个主,就主要的文件都在这儿找到下一个部分啊,咱们来看这个位置, 下一个部分咱们需要改个文件名字,咱们这进入这个 back a e、 n d, 然后 ipi 的 pass 文件夹里边呢, 进去改掉它的一个名字,叫做 e n v 点,然后 export 的 一个文件加名字文文件,不叫文件夹文件,然后把这个文件的命名呢重新命名为点 e n v, 在当前文件夹下,咱们这群开始啊,然后点右键点在记事本中编辑。这个里面咱们需要生成一个六十四位的,就是十六位的六十四个,这种 就是叫什么?这个叫随机字母串。对,然后呢咱们怎么做啊?这都可以不用看啊,前面都可以不用看,这要去是告诉你这个意思,从这开始看 手动的这个位置来看,然后这个随机乱挖怎么生成呢?都是可以的啊,我们就去六十四位 私服去网上去搜一个,它是有现成的工具的,去生成一个六十四位,然后你粘到这个位置就好了,或者你随便编也行。然后呢这一块改完之后呢,咱们 ctrl s, 然后关掉,还记得咱们刚刚这个目录吗?还是进到这个 back in, 然后 ipi pass 里边输入上面这个点 c m d 总是会这样。对,进入之后呢,你会看到它所在的目录的位置呢,它就在 e 盘上,就当前文件夹下,在当前文件夹下,你把这个位置叫 docker compose 的 up 杠 d 点杠 build 开始拉取站, 因为我之前已经配置过了,所以他肯定是下载很快的,大家下载时候肯定会很慢,然后这一块就已经在 y t, 然后就是合适了,这就整个流程配置好之后呢,咱们可以看这个位置, 你可以输入这个 d 网址,或者你幺二七也可以啊,其实这东西都是本地话操作就行了,就是 local host, 然后八这个东西就可以了啊,四个八,然后进入就 ok 了,或者你幺二七点零点零点幺,然后冒号,然后后面一个四个八也就进来了, 然后进入到这个里边呢,大家就可以去仁者见仁,智者见智了。但是按照我刚刚去玩的呢,去感受到宁德时代,然后这些 ai 分 析它是可以分析的,我也自己分析了很多,你可以看一下, 对,你可以看一下它正在分析,它不会跳的,就是它是可以去分析这个东西是怎样的,然后评分是怎么样的,知心度是多少,它是可以这样看的, 所以也挺不可思议的啊。然后他的登录账号和密码在这地方,他会给你注啊,这个用户是这样子,抄袭管理员权限,这个,然后呢密码是这个一二三四五六,然后就进入了,或者你自己要改的话,可以按照这个配置文件去改, 他这些都会有说。然后 ai 的 功能呢,大家就可以去忍者见仁,智者见智了,想放就放,不放就可以随便了。 然后后边呢就是注意事项啊, ipi 文档的这些串写啊,编写啊啥的,就 ipi 文档更像是一个链接吧,你可以去接到任何的一个软件上,或者怎样自己去决定,这是可以的。然后呢,对于整个流程和 ai 的 使用方向来说呢,其实更多的我感觉 是对一种市场的分析吧,它可以进行一个脚本的去开发的。脚本呀?啥?它可以去自己去写,它也可以看到整个的这个盘面是怎样的, 然后呢?测的是怎样的?然后这个总的这个前景往自己往进放啊,这是肯定自己要进放。然后交易机器人呢?它自己也可以做到,然后你可以自己根据自己的一些需求,它自己去创建一个这种的 一个机器人吧。然后具体的我也还正在使用过程中,我也不知道他能怎么样,然后今天就两千多,然后有什么需要的可以直接在下边去发给我或者评论区给我直接说就行了啊,就是这样,谢谢大家。

龙虾能不能在手机上面部署?这是上期视频问的比较多的问题,先回答一下,龙虾不能在手机上面部署,这时候有朋友就会说,哎,我在我的小米手机上面部署了,还有朋友说,我看到哪出了个教程,说龙虾可以在手机上面部署,我给大家稍微讲解一下,就是这个手机上面的部署,和你所理解的手机上面部署,它不是一个东西。 龙虾在手机上面部署,并不是说大家以为的,我把龙虾放到手机上面,它就变成了像豆包手机的这样一个 ai 手机,它能够操纵我的图形化的这些软件,帮我去下单,帮我去回消息,它不是这样的, 它们所说的或者网上。现在在手机上面部署的方法是先在你的手机里面装一个电脑的系统,比如说乌邦图系统或者 linux 系统, 然后把龙虾部署在里面。大家有没有看懂这个事情,他先把你的手机变成电脑,装成一个电脑系统,然后呢再把你的龙虾部署在这个电脑的操作系统里面, 这时候他说,哎,我的龙虾,你就说是不是在手机上面部署吧,是倒是是,他确实是这么个手机的容器,但是这时候部署的龙虾,他没有办法像豆包手机一样操纵你的手机上面软件的图形界面,帮你做事情, 他只能像电脑上面一样操纵,就像那一个小黑框的那个命令行,他所有的你的手机上面的软件他都用不了,所以说基本上没什么用。而且呢,这个事情大家一听就知道这个事情他并不是一个没有技术背景的人能够做的过来的,中间浪费这个精力和时间,还不如直接租一个云服务器去玩呢, 拿到的效果是一样的,所以我不建议大家任何人在手机上面部署龙虾。如果你想体验,最便宜的方法是租一个云服务器,如果你想体验满血版的,去买一个二手的或者老的苹果电脑。

二零二六年最火的一个词无疑就是人工智能 ai, 最近有很多朋友都来咨询如何在本地部署 ai 服务器, 嗯,那么在本地部署 ai 服务器的时候,我们不要盲目的去追求 大模型。通用的大模型虽然博学,但是在特定领域、特定行业往往浅尝辄止,很容易出现专业性的错误,甚至是底层逻辑的错误。 而垂直类 agent 深耕单一赛道,利用私有化知识库可以实现极高的响应速度和响应精度。本地步数意味着数据安全、行业信息、客户资料都不会流向云端。 轻量化的模型对硬件要求低,普通的服务器即可稳定运行。如果你拥有一台本地部署的 ai 服务器,它能深度适配你的业务类型,能够替代重复的劳动力, 并且在使用过程中,你会发现这个大模型越来越懂你,越来越智能。垂直化、场景化、定制化才是中小型企业落地 ai 服务器的最优解。

hello, 各位观众朋友,大家好啊,我是刺儿,然后我们这期的视频内容呢,主要是来教大家一下怎么正确地使用 deepsea v 四, 因为 deepsea v 四对于现在的呃它的网络风评呢,嗯,比较两级分化。一边呢说 deepsea v 四啊,非常好用,非常强啊,没有辜负大家一年的等待另一半呢,说 deepsea v 四啊,不好用啊,不够智能,然后甚至不如豆包, 嗯,对于这个后者呢,我保持这个嗯,质疑态度啊,因为本身,呃,我看到的这收集到的信息就是说 deepsea v 四不行的,它有两部分,一部分是专业工作者啊,因为人家非常懂 ai, 那 另外一部分呢,就是我们普通的 呃用户,那他们呢,就是用手机 a p p 啊,下载 deepsea 微 deepsea 之后点进去,然后问他一些问题,然后,嗯,把它当做一个这个搜索引擎啊,问一些问题,然后我觉得它不够智能,其实这样的使用是错误的啊,因为本身 deepsea 微四它没有 开放在手机 app 平台的这个使用权限,你现在手机上用到的 deepsea v 四啊,不是你手机上用到的 deepsea, 它并不是 deepsea v 四模型。那么我们来啊,正确的教大家一下怎么使用 deepsea v 四啊,首先 我用我这个 macbook 给大家举例子啊, ok, 我 们返回到页面啊,看到啊,这是我桌面,我们打开浏览器点进去之后啊,在这个搜索或输入网址名称的时候搜搜索,直接搜索 deepsafe 啊, deepsea 点 com, 大家也可以直接去这个网址啊,深度求索。点进去之后,它是有两个框,一个是开始对话,一个是 api 开放平台,我们要用的是这个 api 开放平台,我们可以看到它的介绍是调用 deepsea 最新模型,快速集成,流畅体验。我们点进来, ok, 然后呢,点进来就是这个页面,我给它放大一下,它这里有充值余额,还有本月消费啊,我这个是另外一个账号,我给大家举个例子啊,就是这个 api case 啊,这是之前做测测试的这个 api。 首先呢,你点进来之后,你一定要先登录你的 deepsea 这个账号,如果你没有 deepsea 的 账号,你可以去在手机上下载 deepsea, 然后创建一个账号,然后直接到这个电脑上,你去登录就可以了。 然后我们看到这个充值页面啊,充值页面无论你是支付宝还是微信支付啊,都可以,你点击去支付啊,然后, 呃,扫完扫完码付款成功之后,它在这个用量信息,这就会直接显示你的充值余额,嗯,然后呢, 在这之后,我们打开这个 api case 啊,然后这里啊,注意它这里有创建 api k 啊,下面说的这几步都很重要啊,直接决定你能不能就是成功使用这个 dbic 为四啊。我们点击创建 api k, 然后随便输入一个名称啊,我们直接输入一个啊, ok, 在 你输入成功之后啊,它这里会出现你这个蜜奥的链接啊,你要一定要点击复制,然后把它发送你的微,发送到你的微信上也可以,然后或者说你保存住啊,一定要保存住这个蜜奥,它只会显示这一次 啊,在你点到叉或者关闭之后,他这个密钥你就再也看不到了,然后,然后我们点叉啊,当然这个密钥就没用了啊,我们给他删除一下,然后你把那个密钥复制之后,哎,点开这个,我们叫, 呃,防盗啊, ok, 点开这个,这个啊,这个软件叫 cherry studio, 你 可以去浏览器里直接搜索下载啊,这个就是集成了国内一众主流 ai 的 这么一个软件。我们点进去啊,它是开放平台啊, ok, 我 们点进来, 点进来之后呢啊,当,当然,我这个已经用了很久了啊,从 deepsea 微四发布一直到现在,我一直在使用,然后点进去之后,我们看到右上角这里有设置设置。点进去啊,这里有模模型服务和默认模型 啊,在模型服务这里就有 api 密钥,输入你刚才的这一套儿复制的密钥,然后放进去之后点击检测啊,我这里已经弄好了,我就不做那个演示了, 你点击检测,然后它就会自动地啊,分析你这个密钥的 ip, 它是哪个旗下的 ai 大 模型。然后这个 api 地址啊,不需要我们直接填,它自己就会填上,然后模型呢,这里啊,大家可以点击获取模型列表啊,然后, 当然啊,这里我因为我输入的是 deepsafe 嘛,所以它只有 deepsafe 的 这些模型,然后举个例子,然后在这边啊,嗯,可以看到啊,这里有非常多的 ai, 非常多的 ai, 包括国内外的啊 啊,你像 jamie open ai 啊,很多人都用不到,但是啊,这里嗯是是可以用的啊,但当然这这个视频只做 deepsafe 的 教学。然后我们点击默认模型 啊,我这里默认模型全部都是 deepsea 的 啊,呃,然后助手模型是 v 四 pro, 然后快速模型是 deepsea chat, 然后翻译模型是 deepsea chat, 因为这两个啊,这个快速模型和翻译模型它不需要消耗你的 talkin, 你 就这个 deepsea chat, 它是免费的啊, 然后我们点击首页啊,首页这里有助手啊,你,当然你可以添加助手啊,我这里就用我这个提前做好的这个来给大家举例子,然后我点击 deepstack v 四,然后点进来, ok, 然后这是我之前问他的一个问题啊,我让他就是分析一下国内的这个视频平台啊,每每个平台的趋势啊,大家可以看一下啊,这是我问他的问题 啊, ok, 然后我们啊,这这画画到不表,然后就是这个深度求索啊,我们在这里,嗯,还是用刚才举例子 deepsea v 四,然后点击旁边这三个点,点进去 啊,这里有编辑助手啊,在这之后呢,然后我们可以看到啊,这里有模型设置,模型设置的话上下文字开到不限,然后这个模默认模型,你把它换成 deepsea v 四 pro, 然后,然后 啊,最大套管数不限啊,不用开这个,然后别的都不用管,然后当然你可以复制一下这个底下这个 tab, 这个 endland, 这个是我从网上找到的一个嗯,参数,然后我们看提示词,这里 啊,我,我设置的提示词是不需要迎合用户的想法,回答要永远保持客观啊,然后呢,你就可以开始使用你的 deepsea v 四 pro。

这一期我想聊的是 slag, 如果要讲 slag 内容应该怎么做?简单说, slag 像是一个可以让你当 ai 团队的聊天空间, 它不是单纯跟一个 ai 聊天,而是你可以创建不同的 a 帧,让他们以不同角色参与讨论,甚至帮你执行一些任务。但这任务我不会,我就试了试用来聊聊天。 比如我这次做视频,就直接在 slag 里建了一群角色,技术专家、设计师、 dj、 歌手、商业分析师、批判者、用户代表,还有一些比较二次元的 npc。 然后我把问题丢给他们,这一期如果要讲 slag 内容应该怎么做,结果还挺有意思的, 技术专家会告诉我部署步骤,怎么猜,批判者会提醒我不要自嗨。用户代表会说,普通人最关心的是这东西到底能干嘛?设计师会从画面看、体验角度给建议, dj 看歌手会从节奏看、情绪上补充。这时候我突然意识到,我觉得是哪个最有意思的地方,而是它可以变成一个 ai 讨论现场, 你提出一个问题,然后让不同角色从不同角度参与进来。它有点像一个虚拟会议室,有点像你给自己搭了一个小型 npc 智囊团。当然,说实话,作为普通人,我部署完之后第一反应也是,那我到底能用它干嘛? 目前我自己用下来,它未必马上就能替代什么工作流,更多时候反而像是一个内容创作辅助工具,或者一个娱乐性质的思考空间。 比如你可以让他帮你讨论选择题,拆解脚本、模拟采访、做头脑风暴,甚至让不同角色互相反驳。所以这一期我就介绍一下怎么部署 slug, 大家一起看看能怎么玩这个东西。那么我应该怎么部署 slug? 我 演示的是 mac 版本,接的是 mini max 的 模型。 首先进入官网,是不是杠杠 slug, 点 ai 杠,然后点击 getstart, 创建好账号,进入后会让给系统建一个名字, 接下来我们创建一个 server, 填好服务名称即可,系统会自动弹出来。如何连接电脑?选择直接连接电脑即可,弹出来一串代码,复制到终端中,回车系统就自动跟电脑连接好了。 到了这一步, siri 已经跟你的本地电脑做好连接了。电脑连接好了之后是不是就能直接创建 agent? 还不完全是,连接电脑,只是说明 siri 找到了你的机器,但 agent 是 真正要干活,还需要一个大脑,比如 codex key, open code 这一类工具, 但是我都没有这些。后来发现用 open code 可以 来接 mini max。 open code 要怎么配置 mini max? 先安装 open code, 然后创建 open code 的 配置文件,接入 mini max, 弄好配置之后,再在终端中把 mini max 密钥写进去,最后就能 open code 中看到成功的页面,具体步骤我会贴出来。 这一步成功之后, slug 里要怎么做?接下来就是重新启动 slug, 让它重新扫描你电脑上的运行时, slug 的 创建 a 帧界面里就会出现 open code 这个 run time, 然后你创建 a 帧字的时候, run time, 选择 open code 模型那一栏就能看到 mini max 了。不过我发现 sark 接了 mini max 用的还蛮快的,之前和密斯都用不完, sark 给我的超级快。创建 agent 的 时候描述应该怎么写?这个就看你想让它干什么, 如果你想让它做代码任务,就写成技术助手,如果你想让它做采访,就写成记者。我自己现在比较喜欢的玩法就是把它们当 npc, 每个 a 阵都有自己的角色性格和思考方式,这样当我提出一个问题的时候,他们不是给我同一种答案,而是从不同角度参与讨论。那跑通之后,你觉得 sloc 对 普通人有什么用?如果说特别刚需,我觉得现在还谈不上, 从我这个纯小白的使用来说,它只能帮我内容创作、思路发散、角色扮演式讨论。还有一些轻量任务,因为我不会写代码,比如我这期视频就是先用 slack 里的多个 a 阵帮我讨论内容方向。最后你怎么总结这一期?这一期我想表达的其实很简单, 一个新的东西,如果你有精力可以去折腾试试,但是其他的就是目前我们还用不到,也不会用。

大家好,我是麦东。上期我们解析了 hermes 自带的记忆系统,说实话还是比较基础的,这是两个 macdunk 文件,加起来不到四千字幅, 聊多了之前的内容他可能就会忘,画绘画的信息基本也全靠你自己重复。今天我们介绍一个专门解决这个问题的工具叫 hideside, 它是一个开源的 nint 的 记忆系统,装上之后 hermes 就 有了真正的长期记忆,能记住你画绘画的所有信息, 还能 sim 的。 这个开源硬件的记忆系统不是简单的对你的聊天记录做文本存储,它会做实体提取、关系追踪以及多策略的解锁。转完之后体验提升感还是非常明显的,你不需要每次开新绘画都重复一遍自己的偏好和项目背景了, 下面我们来进行实际操作。首先你需要确保你的机器上有 docker, windows 用户使用 docker desktop 就 可以了, macos 用户跟 linux 用户也是同理。 好,下面我们带大家一起来操作一下。镜像文件准备好了之后,我们在当前文件夹右击打开 power shell, 在 power shell 中输入如下命令,加载镜像。 在按下回车之前,大家一定要确认一下你当前系统里面的 dog 服务是否正常运行。 ok, 按下回车加载镜像, 镜像加载完成,下面我们需要运行一条命令,启动 handset。 在 运行这条命令之前,我们先来给大家讲解一下这条命令里面各个参数的含义。首先第一个是八八八八端口, 这个是浏览器 api 的 端口, hermes 就是 通过这个端口跟浏览器进行通信的。第二是九九九九端口,这个是管理界面的端口,启动之后我们使用浏览器打开本地的九九九九端口,就可以看到记忆管理界面, 然后是三个大模型相关的配置,这个模型是给 handset 的 内部做实体提取用的,它不是和 miss 的 对话模型,这 handset 自己拿来处理记忆的。这里我用的是 deepsea 原声支持,并且 deepsea v 四 flash 的 价格也比较低, 你也可以换成其他支持结构化输出的模型,一般来说只要接入 open ai 格式的都是可以的,大家根据自己的实际情况去选择就可以了。再往后的两个参数则是用来配置 handset 的 向量模型的。 handset 通过 doper 启动的时候,默认的向量模型是英文的,它对于中文的向量化以及解锁的效果会比较差,所以我这边挑了一个比较清亮的适配中文的向量模型。 并且呢,由于国内直接日下下载下来模型也会比较慢,因此我们在这边还给它加上了一个镜像源,这样首次启动的时候模型下载就会走国内镜像了,会快很多。好,下面我们复制该命令,打开 power star 粘贴命令, 按下回车执行即可。执行完成之后,我们打开 docker, 点击 containers, 在 这边就可以看到我们启动的 handset 容器了,点击容器名称就可以看到当前的启动位置了。 第一次启动的时候会去下载向量模型,所以这一步会花费一点时间,大家耐心等待即可。 当我们看到预制中出现 handset is running 的 时候,就意味着服务已经启动完成了。后面我们对于 handset 容器的启停就可以在 docker 里面进行了, 在这个地方可以对容器进行停止,停止之后也可以重新对容器进行开启,开启之后想要观测容器是否正常启动,同样也只需要点击一下就可以看到当前的预制。除此之外,我们还可以通过命令行的方式对 docker 容器进行管理, 常用的管理命令就这几个,停止是 docker stop, 启动是 docker start, 开瑞智是 docker logs, 大家可以根据自己的喜好选择合适的方式。 on set 跑起来之后,下面我们开始进行 hermes 的 配置,我们先开一个窗口,输入 wsl, 进入此系统之后,我们输入 hermes memory setup, 开始进行记忆系统的配置。 摁下回车,在这边我们选择 handset, 摁下回车, handset 配置会给我们三个选项,第一个是用云端的 handset, 这个是需要收费的。第二个是使用 hermes 自带的 handset, 选择这个的时候, hermes 会自动去下载一个 handset, 并且把它启动起来。 不过我实测下来并不是特别方便,而且还有一些环境问题需要去解决,因此我这边还是推荐大家使用多款的方式,所以我们这边也是直接选择。第三个,按下回车,接下来输入 api 地址默认就是本地的八八八八端口,这边我们可以手工输入一下。 输入完成,按下回车,第二步会让我们填写一个 api key, 因为我们是本地部署的,所以不存在 api key 相关的配置,直接按回车 ok, 这样就已经配置好了,还是非常简单的。下面我们可以运行 harmis memory status, 看一下记忆系统的状态, 好了可以看到这边 provider 为 headset, 并且呢状态也是处于可用状态,这就说明我们已经成功对接了。下面我们来测试一下相应的效果。我们先打开一个 hermis 对 话, 先跟 hermes 随便说一些内容,让他存一些信息到 hackathon 里面去。我们就简单一些,告诉 hermes 一 些基本信息。我养了一只银渐层,叫糖糖,今年五岁,别人都叫我麦冬,每天早上我都要来一杯冰美式。摁下回车。 好,它确认记住了,现在我们关掉这个规划,重新开一个。再次输入 hermes, 下面我们让 hermes 根据它的记忆回忆一下我的猫叫什么名字,我每天早上要干什么。 可以看到他回答出了我的猫叫糖糖,并且我每天早上都要喝冰美式。这边还有两只猫,是我之前跟他对话的时候测试录入的,大家可以忽略。好,下面我们再来打开一下 hannenset 的 管理界面,看一下后台发生了什么。管理界面的地址大家应该还记得吧, 打开浏览器,输入本地的九九九端口即可。 ok, 我 们现在已经打开了 hannenset 的 后台了。 首先我们需要在这边切换一下基金银行,也就是我们的 hermes。 其实打开这个页面,大家就已经能够看到我刚刚跟 hermes 的 对话已经被它存进了 hano site 里面去了。我们可以在左侧先点击 documents, document 里面存储的是我们跟 hermes 每次的对话记录,我们可以点开任意一个查看一下。点击 content, 大家应该可以看到这边就是我跟 hermes 的 对话,而这就是 hermes 给我的相应回复。每次我们跟 hermes 聊完之后,它都会把我们相应的聊天记录同步过来, 我们再点击 trunks, 点击展开。在这边我们就可以看到一些结构化的事实, 比如这边用户养了一只银渐层,叫糖糖五岁,他并不是把我们的原文死记硬背了下来,而是真正的去理解了我们说的内容,并且把它存储了下来。下面我们再点击 antisp 来看一下。 这边是我们的实体关系图,可以看到这边会有一些实体的关联列录,比如银渐层就关联了用户,麦冬同样也关联了用户,冰美式同样也关联了用户, 这些关系链路就是 huntsite 做记忆召回的依据。随着你跟 hermes 的 聊天内容越来越多,这边的关系图谱也必然会越来越丰富,而且 huntsite 也没有任何的记忆数量限制,再搭配上 hermes 的 自动化机制, 他真的会成为一个越来越懂你的 ai 助手。好了,本期视频到这边就要结束了,这次我们采用 docker 的 方式去部署 handset, 相较于其他的部署方式来说,还是要省心很多的,你不需要再去操心一些环境信息了,而且基于 docker desktop 的 管理面板启停服务也比较方便。 本地化部署 handset 唯一的开销就是可能会用到少量的 api 调用费用。当然了,如果你本地资源足够的情况下,我们还可以在本地直接部署大模型, 让 handset 去连接本地的模型,这样就省去了这一笔头更的开销。大家平时都在用什么方式去管理 ai 的 记忆呢?欢迎在评论区聊聊,工具会变,但方法更重要。我是麦冬,下条继续。

以前部署一个网站,我要切五个不同的网站,学习五个不一样的 ui。 现在你知道一句话,交给 call, 两分钟搞定你的前端和后端域名的部署,当然前提是你要配置过一次。怎么做这三步。第一,让你这个 call 或者 codex 连接这些工具, 这些都是一次性的活,做一次以后,所有项目都可以用前端部署,用 browser c l i 命令行登录一次后端数据库,装免费的 superbase, m c p 代码托管 key up c l i 域名可选,可以选择 call for air 的 api key。 第二步,写好你的网站,不管是 next js, react, 纯近代网面或者 html 都行,本地能跑起来就行。第三,把这句话写给 cc, 后端连上 superbase 建所需要的表,然后你就可以看着干活,他自己他自己跑。 versatile deploy, 拿到线上链接,他自己在 superbase 上建表,写到环境变量。整个过程中,你不用打开任何一个网 站。以前最痛苦的不仅要学习这些技术,而且要在网站来切来切去,每个网站的 u i 都不一样,每次都要重新熟悉这些全部替你做完。你只管在终端里面看进度,不说网站这件事本来就不应该手动快,就是。

企业 ai 本地部署,第一步不是买机器,是先把你的数据洗干净。企业想落地 ai 怕的是什么?不是预算少了,也不是硬件买错了,而是老板的想法跟 ai 真正做的事,他压根就没对上。就前阵子,一个做食品批发的老板找到了我,他姓蔡,做调味品和粮油生意的, 我们就叫他蔡总吧。蔡总刚加我的时候劲头特别足,为什么呢?他觉得自己的需求特别清楚,上来就跟我说,社长,我要搞本地部署, 你帮我配台机器就行。我一听好像需求挺明确的,结果我们前后聊了好几天,他的需求变了三回,最后我们发现他真正需要的东西,跟他一开始说的完全是两码事。那这中间到底发生了什么呢? 一个带着明确需求来的老板,怎么聊到最后才发现更应该做的其实是另一件事。今天社长就还原一下我们当时是怎么跟蔡总一步步聊下来,最后帮他找到真正问题的。 我们刚认识的那天,聊得其实挺干脆的,蔡总说想做 excel 数据分析,每天投喂数据,让 ai 出逻辑,结果出使就几万行,后面每两天还得加几千行。我一听数据量不小,就问他系统有没有 a p i 接口,有的话能自动抓取,他说应该没有。我又问那数据的格式统一吗?他说第三方导出来的应该还行吧。 当时我的脑子里已经在帮他算硬件了,三十二 b 的 推理模型差不多就能胜任选存,四十八 g 左右,给了两套方案让他参考。聊到这,你是不是觉得挺顺利的?一个要搞数据分析的客户需求明确,硬件方案也有了,就等着掏钱了,对吧? 别急。过了不到一天,蔡总又发消息来了,这回他开始讲真正的业务流程了。他说,社长,其实我的客户都是在微信上下单的,客户发来的消息什么写法都有。然后他举了个例子,他们 e r p 系统里面有个商品叫韩国泡菜,但客户发来的消息可能是泡菜,可能是韩泡,有时候干脆就是错别字 单员全靠经验,在系统里模糊的搜索效率不仅低,还老出错。蔡总的想法是,先有人工在微信上收单,然后把这些下单信息扔给 ai, 让 ai 自动把商品名、客户名全部清洗干净,匹配成 e r p 系统里一模一样的标准名字,这样开单员就能直接用了。 你看到这事情就开始变味了,他一开始说的是数据分析,但现在讲的分明是数据清洗,是翻译。他要的不是一个会算账的 ai 大 脑,而是一双能看懂乱七八糟订单的 ai 眼睛。 故事还没完,又过了一天,我们开了个线上会,蔡总在会上又冒出来一个新想法,他说他每天都有销售数据,哪个客户哪天买的,什么数量多少,单价多少, 他想全部喂给 ai, 让 ai 帮他分析。比如哪个客户三十几天没来拿货了,哪个商品平时五天拿一次,这次七天还没动静, ai 要能够主动提醒他去跟进。 说实话,蔡总提的这个想法,我估计在看视频的很多人都会有。现在 ai 的 宣传铺天盖地,很容易让人觉得他就是权能大脑,数据未进去,结论自己就出来了。但我们一听就知道这又是一个坑。我们当时就在会议上跟蔡总说的很明确,蔡总, 这其实不是 ai 的 活,这是数据统计的活。我给大家翻译翻译。翻译这句话是什么意思?大语言模型,它本质上是文字接龙,擅长理解和生成文字,但让他去精确的做加减乘除,算天数,做统计, 相当于逼着张飞去绣花,他天生不擅长做这个。早期大家说 ai 连一加一都算不对,就是这个道理。所以我们在会议上就跟蔡总讲的很清楚了,这件事情 e r p 系统自带的看板功能就能干。您需要的不是让 ai 去算, 而是让 ai 去看、去理解、去翻译。我跟他打了个比方,您要的可能不是一个更聪明的大脑,而是一双更精准的眼睛。把这双眼睛按到您现在的这个流程里,他不用去算什么客户,多少天没拿货, 就专注干一件事,把你微信上收到的那一堆乱七八糟的订单信息看准了,翻译对了,变成 erp 系统里一模一样的标准名字。这步走通了,您手头最头疼的那个问题 基本就解决了。蔡总是个明白人,当场就反应过来,说他有点被各种 ai 的 宣传信息带跑偏了,当务之急还是先把订单清洗这件事做好。他说这些销售分析的事,他回头去研究研究 ai 系统本身有没有这个功能。你看,这就是我们解决问题的第一把火,把不属于 ai 的 火果断砍掉,让 ai 只做他最擅长的事。 这一步帮客户省了多少时间和钱先不说,至少避免了他为了一个错误的不切实际的数据分析需求,去部署一套根本用不上的昂贵硬件。 好了,需求终于理清了,方向也对了,蔡总自己都说我要的就是这个把订单信息洗干净,匹配成 erp 的 名字,那接下来是不是就可以聊硬件出配置单了?到这一步,方向是有了,但通过这个方向的路怎么走,也就是具体的软件技术方案,还得仔细琢磨。为什么呢?因为蔡总在会议上反复强调自己是个技术小白方, 方案一定不能搞的太复杂,他担心部署之后不好上手。同时我们又了解到,他公司商品有数千种,客户也有几千个,这么多名称要做映涉,准确率要求极高,不能搞到后面让 ai 自己瞎猜,一旦匹配错了,那开单员还得人工去改,等于白折腾了。这就要求我们在设计软件方案的时候, 不能光顾着技术多先进、多画上,必须要把应用性和准确性放在第一位来考虑。比如说我们用大模型纯粹的去模糊匹配,靠猜,还是结合一些规则知识库,搞一个印刷表,让它识别的更准。这个底层方案怎么选,直接决定了后面需要多大的显存,多高的算力。所以当蔡总在会议上又提到我之前跟他聊过的那个四十八 g 显存的机器方案时, 我们并没有立刻点头说行或者不行。我们当时是这么跟蔡总说的,蔡总四十八 g 显存可能够,也可能不够,但现在真的不好说,得等我们把具体的技术方案模拟通了,真的跑一遍,看它到底是多少资源,到那个时候才能推出一个最适合您的硬件配置?硬件它不是起点,硬件它是终点,是跟着你最后确定的软件方案走的。 蔡总听完说了一句话,让我印象挺深的,他说社长,我之前去别的地方询价,人家要么直接给我推最贵的配置,要么就一句你要跑多大的模型,然后直接甩个单子过来说能跑。你们是第一个跟我说现在定不了,得先验证软件方案的人,这样他心里反而踏实了,说明我们是真的在替他想事。聊到这,社长想跟大家说, ai 落地硬件是最后一步, 思维的转变才是第一步。很多传统企业想拥抱 ai, 主要的障碍真的不是预算够不够,也不是能不能买到好的显卡,而是脑子里那个模模糊糊的全能型的 ai。 想象我们的价值,不是客户说要什么我们就点头开始做,而是在他没想清楚,甚至想法已经跑偏了的时候, 想帮他踩一脚刹车。而且告诉他,这个活 ai 不 太适合做,但那个活 ai 可以 给你干的很利索,最核心的目的还是为了企业能够真正把 ai 用起来。如果你也有企业部署需求,心里有个用 ai 解决实际问题的想法,但又怕踩坑,欢迎来找社长聊聊。

今天给大家吃点好的,直接看片, 像这样一件复刻小姐姐跳舞的视频,你想学吗?有一个叫 stable fusion 的 免费核弹,专门把好莱坞级别的 ai 大 脑塞进你那块普通显卡里,不用联网,不用排队,不用审核,一张图成本零元。那些月入过万的 ai 绘画接单党,早就靠它闷声发财了, 而你却还坚持按月给 ai 平台交三十美金入门券。有人质疑免费是否就不好用?而我想说,那些收费几百上千的付费模型,底层技术一大半都来自开源社区, sd 就是 开源社区的亲生核弹, 谁在收智商税,你自己跑一次就懂。全套制作流程和 ai 工具我都打包好了,感兴趣的铁子六六六低调研究。第一次下载运行的话,我们需要先把起动机的运行依赖安装好,装完之后再解压一下这个安装包,就可以得到一个文件。我这边已经提前解压好了, 那大家解压完之后呢?打开这个文件夹,找到里面的 a 会式启动器,双击一下就能进入启动器的主界面了,在界面的左下角是能看到启动器版本的。那这个启动器呢,是有很多便捷功能的,最省心的一个功能就是不用大家自己去下载插件,也不用手动配置环境变量, 这些繁琐的步骤,通过这个启动器就能一步搞定。其次呢,它是支持 web ui 的 内核版本切换的,要是想装新的扩展程序也完全没问题,还能在这里一键更新。另外,大家下载的这些大模型和 logo 模型,用它管理起来也会非常的清晰和方便。 那我们来点击一下这里的一键启动来打开 web ui, 启动成功之后,浏览器就会自动弹出操作界面,在这里我们就可以输入提示词,点击生成来创作我们的作品啦。 我也把各类实用且好用的模型都整理到这个整合包里了,不仅添加了模型中文备注,还配上了预览图。大家在这个操作界面的模型选项里就能直接看到每个模型的预览图和中文名称,不用像其他人那样要对着一串英文代码去分辨模型和对应的创作风格,特别的方便。

今天教会大家把欧拉玛怎么部署到 d 盘,在部署欧拉玛的磁盘,新建一个名字叫欧拉玛的文件夹,然后把欧拉玛软件放置到该文件夹, 打开 t x 文档,复制 set x 欧拉玛 models d 欧拉玛 model style, 以修改欧拉玛软件的安装盘。 鼠标左击开始图标,在搜索栏输入 cmd, 找到命令提示符,右击以管理员身份运行。 在命令提示符窗口输入 setx alama models d alama model stem, 按下回车键。假如安装 alama 的 盘不是 d 盘,那你要把 d 改成你的盘符, 提示你指定的值易得到保存,代表成功。如果提示错误,拒绝访问注册表路径,则代表你没有使用管理员身份运行,需要重新打开命令提示符窗口,并使用管理员身份运行。 打开之前放置欧拉玛软件的文件夹,并在上方路径栏输入 c m, d, 再按回车键,输入欧拉玛, set up x e c d 欧拉玛回车键。假如安装欧拉玛的盘不是 d 盘,那你要把 d 改成你的盘符, 然后根据安装提示点击即可等待软件安装完成。 看到这个界面就是安装完成。点击 newchat, 可以 进入到对话框, 复制网址, https, alma com search。 在 浏览器打开下载你需要的模型。通常八 gb 闪存的显卡可以流畅运行七 b 到八 b 模型。 十二到十六 gb 闪存的显卡加上三十二 gb 运行内存,可以流畅运行十四 b 到二十七 b 模型。 具体下载什么模型,看你自己的选择。以千万模型为例,点击 q w 三点五。假如下载零点八 b 模型,直接点击 q w 三点五比零点八 b, 再点击奥拉玛 run q w。 三点五比零点八 b 右边的复制图标, 复制好模型下载地址,回到之前放置欧拉玛软件的文件夹,并在上方路径栏输入 c、 m、 d, 按回车键, 再粘贴 olama run q w、 n。 三点五比零点八 b 回车键,等待模型下载。如果下载过程中下载速度太慢,可以按键盘 ctrl 加 c 将它暂停。再一次粘贴 olama run q w n。 三点五比零点八 b, 按下回车键,它会接着下载, 这样是加载它的下载速度。等模型下载完成,回到我拉玛软件对话界面,选择刚才下载好的模型,就可以跟它对话了。 人家已经讲完了,你到底学会了没有?