腾讯龙虾怎么建立本地模型

很多朋友呢在下载完龙虾之后，非常关心的一个问题，我是不是可以用一些免费的模型，然后去让龙虾进行使用，那这样的话我就可以不花钱了。之前我也给大家介绍了一些免费的厂商，提供了一些免费模型，但是那些免费模型呢，他是会限定一些额度的， 那就会有很多朋友问说，我本地部署模型是不是 ok 的？ 那怎么让龙虾去连接本地的部署的模型呢？那这期视频呢，我们就来看一看怎么实现。首先呢在本地模型部署有一个非常牛的软件，就叫这个欧拉玛， 这个软件呢我们可以下载之后，它可以去帮我们去下载对应的一些我们想部署的模型，并且呢在它软件里面可以进行一个启动， 这样的话就不需要我们自己去找对应的模型资源，然后进行一个模型文件下载，然后再去启动对应的模型，所以说这个软件呢非常的方便。那这个欧娜玛的一个安装呢，我们这个地方直接就是给大家提供了下载链接， 就进入到欧娜玛点 com 这个地方，然后点击对应系统的一个下载方式，比如说你是 windows 就 直接点，然后下载完了之后直接安装就可以了。那安装完了之后它是一个什么效果呢？主要是有两个地方，首先呢 安装完之后它有一个文件夹，文件夹里面呢它会有一个 app 的 入口，可以把对应的 app 打开，打开之后呢我们就可以在这个地方跟它进行一个对话，可以看一下它所支持的一些模型，比如说 gpt， 然后 deep sync， 千问的，然后 mini max， 还有一些什么拉玛，然后本期我们就以千问的这个模型给大家进行一个讲解，看对应的龙虾怎么去连接。那我这个地方呢，已经把千问和拉玛的这个模型已经下载下来了， 所以说可以看到如果没有下载的话，他这个地方会有一个下载按钮，然后如果已经下载好的这个地方是没有下载按钮的，大家到时候可以下载一下，一会也给大家说一下怎么去进行一个下载。然后我这个地方就可以跟他在这种格式化的页面进行一个对话，问他你是谁， 那可以看到它现在因为它是一个 think 模型，就是它会思考，然后思考完了之后它会进一个回话，可以看到它的一个速度，在本地的一个部署模型速度还是比较快，当然了这个也是看你本地机器的一个性能，那我当前的这个机器呢，是一个五零八零的显卡，所以说它的一个效率还是比较高的。 然后除了这种方式之外呢，我们还有就是控制台的这种方式，就在这个地方我在文档里面给大家写好了， 就是我们可以在 power shell 里面去执行欧拉玛瑙，千问八 b 就 这个模型， 八 b 这个模型如果我们执行了之后，你本地如果没有去下载对应的这个模型，他会先去当 load 的 把对应这个模型给你下载下来，如果已经下载完了之后，他会直接去启动对应这个模型，那你在这个地方也是可以跟他对话的，你问他是谁， 然后进行一个 syncing， syncing 完之后输出对应一个结果，可以看到还是比较丝滑的，那本地模型呢？已经部署成功了，接下来我们就是要让我们的龙虾接入到这个本地模型。接入本地模型呢，其实也比较简单，那这个地方呢，我给大家介绍的是通过修改 opencloud 的 配置文件， 它里面有一个 open cloud， 点 json， 去把里面对应的一个内容进行一个修改，然后我们先按照上面这个步骤去打开 open cloud， 它对应了一个文件位置，我们就可以先去这个地方，然后 按照我命令执行就行了。先 cd 到点 opencloud， 然后进来之后呢执行这个 start 点，打开对应的一个文件夹，打开之后这个地方会有一个 opencloud 的 json 文件，然后编辑给它，在记事本里面编辑就 ok 了。 那我们可以看到之前呢我们这个地方，因为我是豆包的模型，所以说这个地方会有一个豆包模型的配置，那还有一个 agent， 就是 这个与我们对话的这个 agent， 它对应的模型使用的是什么？可以看到这个地方使用的是豆包， 那我们想去使用本地的欧拉玛模型，其实只需要修改三个地方就可以。首先第一个地方就是我们需要在猫豆子这个里面把我这一段给它拷贝进去， 找一下猫豆，然后与豆包进行一个平行位置， 然后把它删掉，加一个逗号，一定是一个英文逗号，然后加完之后我简单说一下它对应的一个内容，首先它是请求的 url 是 什么？就是本地的 logohost， 然后端口，然后 v e 接口 这个 appk 的 话，实际上它是因为本地模型是不需要这个 appk 验证的，所以说你这个地方随便写就 ok 了，跟我这个一样就可以。然后这个地方模型的话你就是用自己的，我们刚才不是下载的是千万八 币吗？所以说这个地方就是千万三八币。然后配置完这个之后，我们还需要去修改 agent 的 它所使用的模型。首先我们需要在底下去把欧拉玛对应的这个模型添加到它可用的模型列表， 在这个地方添加进去。 ok， 添加完了之后我们还需要替换一下，就是这个地方把这个 primary 给替换成我们下面的这个好的保存完了之后呢，我们这个地方的配置就结束了，就直接可以回到命令行执行一下， 我们把这个地方给关掉，关掉之后执行 open cloud get away。 这个因为我们是命令行之前启动的，所以说我们直接关掉之后呢，就相当于对应的龙虾已经结束了，那我直接执行它重启就好了。但是如果大家是 没有在这个地方直接关闭，它是后台执行的，那大家是需要执行 open cloud get away restart。 大家一定要记住这个点，我们直接启动 可以看到这个地方他有 agent， model 是 欧拉玛的千问三八 b， 那 说明我们这个地方配的还是没有问题的。我们来到龙虾这个地方给他对话一下， 那这个呢？是我之前问他的这个模型使用的是什么，那现在呢？我在问他说你现在的模型是什么？你当前使用的模型是什么？ 那可以看到它现在已经告诉我说使用的模型是千问，然后它是通用实验室自主研发的超大规模语言模型， 所以说我们现在就已经切换成功了，这样呢，大家就可以拿龙虾去玩本地的模型了，也就不需要花你一分钱了。但是这个地方大家要注意，一定你的机器性能相对来说会好一点，那这个模型的速度运转会更快一点。然后如果你机器性能非常好的话，因为我这个地方配置的是八 b 的 模型， 八 b 呢代表是它的一个参数量，那三十 b 呢？像这种大参数量的，它的一个效果一定是要比我八 b 的 这个模型的效果会好一点。如果你的机器性能非常卓越的话，那你去下载三十 b 的 这个模型， 当然它需要很大的这种资源，所以说当它运转的时候，它对应的这个思考或者它的一个能力也是要比我八 b 的 强的。所以说这个地方看大家一个机器情况。

用 mac mini 部署本地算力，能实现分逼不花的养龙虾吗？养龙虾最大成本就是 token 消耗的费用，也就是算力的费用。现在最简单养龙虾的方式就是接入阿里云，腾讯云或者火山云这种云上的大模型， 你每次使用都会消耗算力，所以你就要为此持续的付 token 的 费用，所以你如果使用频繁，一个月花个大几千，这是系统平常的。 另外一个所谓分逼不花的养龙虾的方式就是买一个硬件，在自己的硬件里边部署一个千万 kimi 或者 deepsea 这样的 开源大模型。所以为了省下 token 的 费用，我花了将近四千块钱买了这个 mac mini。 经过尝试想分逼不花的使用本地蒜粒养龙虾基本没戏。下面我说说原因。我现在用 呃本地部署的是一个千万三点五九十亿参数的这样的一个大模型，这个算是能力比较低的一个模型了，但是要想让这个模型发挥最大的能力，都需要十八 gb 的 现存，而我这个盖板的 mac mini 最大的调动现存也就只只有十三个 gb。 好在我现在用的奥拉玛这个工具，它可以压缩这个模型，所以勉强可以跑千分三点五。但是因为算力不够，你现在问他随便一个问题， 他真的是要等到地老天荒才能给你回答。这是我在奥拉玛里边问的问题，我刚才问了他一下上海的天气，这是一个指向性非常明确，就是一个简单搜索回答这样一个问题，在奥拉玛里边我 问了一下至少一分钟，有时候更长的时间才能给你答案。那如果你问他一个开放性的问题，或者是其他的一些需要逻辑整理的问题，时间就更长了，所以这根本没法用，所以最后我的龙虾还是接入了这个云 才能用。那么问题就来了，如果我都已经接入云了，就完全没有必要为此再新的投入硬件了。 因为在云上部署龙虾对于电脑配置要求很低，基本普通的笔记本或台式机都是可以运行的，所以这个 mac mini 基本算是为 ai 交了一笔学费了。那后面跟大家也会分享一下什么样的硬件才能运行本地 ai 大 模型。

你看，我只是在微信里发了一句指令，电脑端的龙虾工作室直接开始运转，原本正在健身的龙虾立马开始干活，读文件、分类、重命名，全都自己完成，最后把整理好的结果发给我。这可不是什么养成系游戏，而是腾讯出品的养成系小龙虾。 qq 六 是基于原生 oppo 可乐极简封装的本地虾。那他和其他的小龙虾有什么区别呢？我觉得核心就三个点，开箱即用，微信直连，能说会干。首先是开箱即用，不用配环境，不用写命令，只要下载安装，就能让龙虾开始上赶干活，还支持自定义模型，而且现在每天都能免费领头，啃 零成本就能开始养虾。不仅如此， qq 可乐还能扫码绑定微信官方的龙虾插件 cloud bot， 就 类似于龙虾版的文件传输助手，在微信把这个龙虾对话框置顶，手机发句话，就能给电脑上的龙虾下任务，还能在 qq 管家这个小程序上统一收发管理传输文件。当然，除了微信，也能绑定 qq、 企微、飞出、钉钉等平台，使用感受都很丝滑。 这个能力就相当于把龙虾搬到了我们每天都在用的聊天入口里，随时都能调动它开始干活。就拿我的日常工作流程来说， 我会让 qq 可乐每天固定时间抓 ai、 科技类的信息，然后给我筛选出三个可以用的内容。创作选择题。这个任务只需要设置一次，后面每天他就会自己跑，结果直接发回到微信，你不用再去翻资讯删内容，他会直接教给你一份工作成果。有了选择题之后，接着让他根据选择题调用指定的视频模型， 直接给我生成相关的视频素材。再让他把视频存在电脑桌面的新文件夹里，按照类型把文案资料、视频素材全部整理进去，再给我生成一个项目清单，并把结果同步到我的微信 cloud bot， 整个过程不需要我盯着电脑，它能够全程自主规划并完成任务。除此之外，还有一些有意思的特色玩法，比如侧边栏这个灵感广场， 相当于我们的养虾灵感仓库，日常的办公、学习、娱乐都有对应的玩法参考。就比如这个创业点子可行验证的玩法，我想做一个旅行规划工具，把具体的想法输入进去，他很快就验证了这个想法，然后给出了一个完整的执行方案，直接用模板就能立刻让龙虾上手干活。 还有视频开头我展示的那个像素风龙虾工作室，又给我们的养虾过程增加了可释放乐趣，我们可以直观的看到龙虾在工作室的各种活动， 再补养虾还真挺有趣的。看着他在屏幕前忙前忙后的把活干完，那种甩手当掌柜的爽感，真的是谁用谁知道。 不过大家可能也会担心，这么高的权限交给 ai， 万一他手滑把我电脑里的私人文件删除了怎么办？而针对这个问题， qq 给出的解法是直接内置了一个龙虾管家安全杀虾。你可以理解成给这只虾单独准备了一间隔离房，开启之后，他的所有操作都只能在这个空间里进行， 不会乱改系统里的东西。说到底，养虾这件事，其实就给自己多了一种分担工作的方式，你不一定非要用它做很复杂的事，但那些原本很碎很重复，还挺消耗精力的流程慢慢是可以交出去一部分的。 像我们这种做内容的，就让他帮忙选择题，找资料，整理素材。再比如，家长可以让他每天帮孩子整理学习资料，做一份简单的知识总结。做投资的，可以让他定时定盘，整理资讯，筛选关键信号。 qq 龙虾有持续记忆的能力， 越用就会越懂我们，所以你会发现，每个人都可以根据自己的需求，养一只属于自己的虾。如果你也想给自己找一个能说会干的龙虾，那不妨下载一个 qq 来体验体验吧！

小伙伴们大家好，今天感冒了，声音有点奇怪，最近聊了好多期腾讯的小龙虾。 coldbody 和 workbody， 其实是一个产品的两个版本，好多粉丝跟我说用它完成了不少以前不敢想的事，后面我可能也会请他们来分享各行各业的案例， 但也有不少人说根本什么都做不出来。今天我刚刷到一个做三 d 打印的博主，特别典型，他让 coldbody 帮他建一个三 d 打印用的汽车模型，结果搞了一坨像肥皂一样的东西，他就录视频说产品太差。 我今天就以这个为例，还原一下我是怎么用 codebody 从踩同样的坑到最终做出来，再把整个流程沉淀成一个可费用的 skill 的。 先说那个博主的核心问题，他跟 codebody 说了一句，给我设计一个铃木维特拉汽车的三 d 打印模型，并把 s t l 文件发给我，然后 codebody 就 开始干活了。 我也是一样这样操作的。酷狗八的会怎么干？他不是三 d 建模师，他是程序员，他的本能反应是找一个可以用代码驱动的建模工具。我这边选 open s c a d 开源的 三 d 建模软件，纯代码写模型，不用鼠标拖来拖去，这个选择有没有问题呢？理论上没有， open s c a d 确实能做三 d 打印模型，业内也有人用它做机械零件。酷狗八 d 很先是很认真的做了一份工作，计划从车身到轮毂、车窗、灯组、保险杠，一路排下来，像模像样的。自己上网搜了维特拉的各种细节尺寸，还生成了几张 ai 参考效果图。 接下来就是写代码，核心思路就是画三十图的轮廓，然后把这三个轮廓各自拉伸成三 d 实体，然后用波尔计算去交集。理论上交集的部分就应该是车身的形状了。听起来挺合理的，结果一渲染出来，我都 起效了哈。三个二 d 轮廓本身就很抽象，侧面像条鱼，顶面像个棺材板，前面像半个鸡蛋。三个一交集出来的东西确实像块肥皂，轮，轮子还是横着的。这就类似那个博主看到的东西，到这步为止呢。那个博主说的是对的，确实做不出来，但问题是那个博主停了，他下了个结论，走了， 我没走，扣对不对？还不死心，继续在这个肥皂上加轮毂，加后视镜加天线，结果更离谱了，所以一定要变形。失败的大巴 问题不是 code body 不 行，是这条路不通。 open s c d 的 中交交集法本质上就很难做出光滑曲面，这个汽车的曲面需要的是 nervous 或者吸粉曲面。 open s c d 连这个概念都不支持，那它做汽车就像用 excel 画油画，工具选错了， 那正确的工具是什么呢？其实有两条路，第一条是用 m c p 接管专业建模软件，现在已经有 blender m c p 这种项目了。就是，哎，通过 m c p 协议去操纵 blender 这种专业三 d 软件，用自然语言指挥它建模画图 啊。如果你追求的是精确的参数建模，那像机械零件，工业设计，这肯定能实现。但我没走这条路。为什么？因为我 做了一个经验判断，三 d 打印的车模土生，三 d 一 般就够了。你想三 d 打印出来东西本身就有曾玩巴掌大的车模，你用 blender 轻雕细琢，和土生三 d 两分钟出来的模型打印出来，肉眼根本没区别，投入产出比 完全不在一个量级。所以我选了第二条路，直接调腾讯会员三 d 的 api。 会员三 d 有 个功能，叫土生三 d， 你 给他一张图片，他给你生成一个完整的三 d 模型。 而且这个 api 现在有免费使用额度，我直接把 api key 贴给 codebody。 当然过程也不是一帆风顺，图片、 传餐的格式、文件解压之类的坑还是有一些的。但好在 codebody 踩完坑能立刻改代码重试，整个调试在对话里就闭环了，不用我自己去折腾，我也不会。搞定 api 之后呢，它先生成了一张维特拉的参考图，红车身、黑车顶的四分之三视角提交给会员三 d。 两分钟以后，模型就下来了。 这个火山、大灯轮、后视镜这些细节都很清楚，有些地方因为角度问题有些误解，所以我就让他重新生成了一遍，换了张银色侧面的效果图做参考图第二版，整体更匀称，细节也更到位。从那个肥皂块到这个完整的车模呢，核心区别就一个，换了条路径。 那这一步其实也可以交差了，但我多做了一步，把整个流程沉淀成了一个 codebody 的 skill 技能包。那什么是 skill 呢？可以理解为一个经验包啊。把我踩过的所有坑，写好的所有脚本，总结的所有注意事项打包成一个可附用的模块。下次再做任何物体的三 d 打印模型， codebody 就 可以自动加载这个 skill， 不 会重新踩坑，也不用每次再把生图、接口、地址、 api 这些重新配给它。 所有的东西呢，跟具体的车型就无关了，你给他一张椅子，他也能生成三 d 打印模型。为了验证呢，我当场又做了一个我家的这个标志，五零零八，从生成参考图到最终拿到 s t r 文件，全程是给我自动执行，不到十分钟， 最后还让库德贝里做了一个对比，网页单页面的这个腹部流滚动，五个版本一次排开，每个版本都能三 d 交互浏览，都有对照图可以展开看。所以回到开头，聊几个我觉得很重要的事。 那个博主的问题呢，不是 codebody 不 行，是它的用法不对接。这个案例呢，我想总结几条用 agent 的 心得。第一呢，有了 agent， 人不是没价值了，你让他反复去尝试收 token， 他 大概率早晚能给你做出来。小龙虾就是这个逻辑，但实践成本和 token 成本会非常高。 而我在这个过程中做了什么呢？我看了一眼 open cad 渲染出来的轨道，立刻就知道这条路有问题，不尔交集，做不出来。为什么？我知道？因为我二十年前学建筑的时候学过画画几何，熟悉三 d 建模，了解三 d 打印和图上三 d 的 基本逻辑和术语，看得出来问题在哪。一句话把方向纠正了， 所以对人的要求变了，不是要你技能全面，什么都会做，而是你要有通俗性的了解，知道这个领域大概有哪些工具，哪些路径，哪些坑。你不用亲手写代码，但你得看得懂方向对不对。 你的认知决定了天花板 a 阵子的效率，决定了完成速度。第二，遇到问题别问我，问 code buddy。 这段时间好多朋友用 code buddy， 遇到问题会来问我，说实话，我给的答复基本都一样，你把问我的这段话直接发给 code buddy， 不是 敷衍你吧？他是一个对话式的工具，你跟他说这里报错了，这个效果不对，换个方案他能理解，而且他比我懂的多啊，很多时候你觉得他不行，其实就是你没跟他说清楚。 第三，是把 ai 当成一个新来的同事，这个这个很重要，他能力很强，学东西很快，但他是新来的，他不知道你工作的具体细节，所以一开始你要有耐心得花时间跟他磨合。 但一旦他学会了一件事沉淀成 skill， 下次再做同样的事，他就非常高效了。就像这次，第一辆折腾一个多小时，第二辆十分钟就搞定了。而且一定要从简单的事做起。 我见过很多人有两种心态，简单的事觉得用不着他，我自己干，复杂的事觉得跟他说清楚太麻烦，还不如自己做。这两种想法加在一起，你就永远有理由不用他。 但如果你从简单的事干起呢？先了解他的能力、边界和脾气，慢慢加满，你会发现他能接触的事越来越多。说到底，那个博主如果不是看一眼就走，而多说一句换个方法，结果可能完全不一样了。也欢迎大家分享自己用 what 的 角度看懂未来的方向。

好多人说安装这个龙虾很麻烦，不知道怎么安装，其实这个龙虾安装不麻烦的，它主要在网上，它分有两种形式吗？第一种就是一键部署，也就是说你可能要给一些费用，然后呢你在那个浏览页里面直接下载，然后呢一键部署到电脑上，这种呢它是 便捷版的，他这种也是要收一点费用。然后呢第二种那种呃呃不需要费用的那一种，呃布置在电脑上的那一种是需要魔法的，也就是说你们该懂什么魔法，他才能说在呃 稳地上来运行。然后第三种很多人说那我用国内的呃布置，其实布置这些都很简单，相当于就是说 你把这个龙呃龙虾复制到电脑上很简单，但是他其实什么都不懂的，但是你想让他懂事，一个让他能调用这些大模型，他是需要收费的，一个他需要消耗那个 top， 消耗那个 top 的 话对不对？ 那你就是需要去用大模型，比如说豆包的 dsp 的 对不对？还有千万的对不对？等等这些，那你用这些你也是需要，你也是需要呃一些费用的。那 可以建议大家可以说去选什么阿里云啊，这些东西千万，阿里云千万嘛，对不对？大家可以去选一个，然后呢布置。但是现在其实我也懂，大家不想花钱，就想来玩一下这个小龙虾到底是怎么样，其实也很简单，我给大家看我电脑实操一下，大家看我的电脑这个， 对，我这个也是龙虾的，但是他可能说没有说呃没有调，没有没有教学过他什么，但是呢我这个他是有什么呢？第一个他是有起码有 三千万的，那个不肯，也就是那个使用的这个，这个叫什么呢？也就说你们可以在这里看这个叫国家超预算互联网曙光智慧的这个对，你们可以点进去，然后这里会有这里就会有，你们可以自己用， 对不对？他这里都有，你们可以在上面，这里对不对？在上面来选，而且重点还有什么呢？你们看 我这里起码有个十百千万，十万，百万，千万，也就说他送三千万的图腾对不对？可以用，而且你看我请求量，我已经花了多少个十百千万，十万百万，最少花费了三百万，但是呢我请求总共请求了一百二十八次，但是呢这里你看我还有那么多， 现在他这个是免费的，你们可以拿来玩，所以说前期大家可以说先不花钱的，可以不用花钱，我也是在网上看一个博主，他呃教小白这么使用这些，我也我也 自己去尝试了，还挺不错。这你们想玩龙虾的可以先尝试用这个来玩先可以说先不用付费对不对？如果说你们真的想在 本地部署啊，这种你们可以说去搞个大模型来对不对？如果说你们觉得部署在电脑上不好，那你们可以说是去买个云服务器，阿里云、腾讯云这些都可以用的，买一个低配版的就就可以了， 直接步骤并不难的，不需要去给任何人付费，一定不要给任何人付费，网上就有那些博主分享，大家一定要多去看，多学习，干就完，兄弟们。

紧急消息啊，微信已经可以接入小龙虾了，就在十分钟之前，微信正式推出了微信版的 club box 插件，支持接入 open club 大家 大家通过简单的几步啊，有手就能做，就接下来可以体验养虾的乐趣了。下来我赶紧去教一下大家怎么上手操作啊。首先把你的滤芯版本一定要更新到最新，目前最新的是八点零点七零，如果没有更新的话，先去更新， 然后点右下角我的找到设置，再找到插件，哎，你就可以看到最新的 cloud 插件，如果你更新完了没有发现的话，就退出去重新再打开一下。好，第二步，但你需要运行 opencloud 的 电脑上面去输入这个指令，然后它就会自动去搞插件，那安装完了之后它会给你弹出一个码。 第三步，你扫码来连接你的绿泡泡，点开按钮扫一扫，接下来它就会自动安装，安装完成之后它就会显示成功。那么接下来的话，你就可以去挑逗你的小龙虾了，你可以给他去发消息，测试命令他干什么，他就会像一个正常的对话的人类一样， 会显示对方正在输入啊。然后接下来的话你们就可以互动起来了，那你去试一下吧，你现在装成功了吗？你正在拿它干什么？评论一下，带你探讨学习。更多的问题关注老铁高德讲解。

这两天大家刷短视频，估计经常看到有人在搞大模型本地部署，甚至还有人说自己在养龙虾。听起来玄乎，其实道理很简单，到底什么是本地部署？说白了， 就是把大模型从网页端搬到你的电脑或手机里，它不再只是一个只会聊天的窗口，而是拿到了你的授权的钥匙，能直接调动你本地的文件和工具。它能帮你汇总凌乱的表格，盯着机票的价格，甚至像个私人秘书一样，每天定时给你推送 精确的行业新闻。那养龙虾又是怎么回事？其实这就是在养你的智能体，你可以把它想象成初级版的贾维斯，刚部署完的时候，他可能还有点笨，但随着他学习了你本地的数据，加上你给他配置的各种 skills， 他 会越来越懂你的习惯。 为什么说他能翻倍提高效率？因为你给他下了一个简单的指令，这个智能体在后台可能会为了完成任务，自动拆解步骤，调用成百上千次模型运算。 你只需要动动嘴，剩下的脏活累活，他自己就就在后台跑完了。这就是我最近在折腾的事。如果你也想让电脑里住进一个贾维斯，本地部署就是第一步。

很多朋友问我，想装这个爆火的 open club 小 龙虾到底从哪下手？其实真的没有那么复杂，今天我就把压箱级的这个保姆级教程交给你们，我总结成了五步，听好了， 学会这一招，省下几千块的代装费。第一步，咱就是要先解决这个房子问题，就直接去腾讯买个入门级的服务器就可以。好，我们点这 入门级服务器，一个月也就三五十块钱的事儿啊，一杯咖啡就能解决。看，这是 open club， 买完之后系统就会直接帮你把基础环境配置好，咱们直接就跳到下一步。第二步呢，咱们就是去准备龙虾的粮食，你可以去 kimi 或者 deepsea 这样的平台 创建一个属于自己的 api token， 先充个十块二十块钱，咱们测试一下，主打一个低成本跑通全部流程。第三步就是喂食，回到咱们的服务器后台，把刚才拿到的 kimi 或者 deepsea 算力，咱们填到这里面。这一步就算把小龙虾的脑子给激活了。 关键的第四步来了，以前把龙虾装进飞书得折腾半天，代码现在简化了十倍，这是我上午刚发现的骚操作，大家请看，你只要勾选飞书，系统会自动帮你，我扫进去看着哎点一下，快速去配置， 然后前往授权，系统会自动帮你搞定所有复杂的连接，就这一个小动作，起码省掉你三个小时的排坑时间。最后一步，也就是说去打开你的飞书就可以直接用了，你可以像跟真人说话一样，给他下指令，让他帮你查资料，写方案，跑流程。 很多人关心这个成本，其实服务器不贵，贵的是粮食，用的是用的少，一个月几十块，用的很，几百几千都有可能，但这个产出绝对值。最后我要叮嘱一句啊， 如果你刚装好，千万别着急追求完美，先把它当成一个 ai 实习生，咱们一边用一边调，你会发现它进化的比你想象中还要快。如果说你实操过程中哪里卡住了，我这里有完整的操作， s o p 一 站式帮你解决。

hello， 大家好，上期视频发布完之后呢，反响非常的热烈啊，特别开心大家能在评论区积极的互动交流。 技术本身没有好坏之分，只是适配的适用环境各不相同，只要用对合适的地方足够好用就可以了。本期视频呢，咱们就细致的讲解 i m studio 完整的使用方法， 同时呢教大家借助这款软件把本地大模型成功的发布成线上可用的本地服务，之后再用小轮下 apple clone 来配置接入， 顺利的调用运行本地的模型。这款软件整体使用起来十分的友好，上手难度很低。 眼前出现的就是软件的开始启动页面，我们直接点击开始进入，页面会自动给我们推荐一款模型，这里我们直接挑我推荐，后续再自行挑选自己需要使用的模型即可。 随后我们打开软件内部的开发者模式，现在就正式进入到了模型的操作的主页面当中。我们还可以点击左下角的设置选项，更换软件使用的语言， 切换成简体中文。不过在实际日常使用过程中呢，软件大部分功能界面依旧还是以英文显示为主，大家按照自己的使用习惯选择就可以了，我平时还是喜欢使用英文界面操作。 接下来我们看一下左侧栏目里的 c 他 们分类下的两大板块。首先先来查看 helloworld 的 硬件设置板块，在硬件设置页面当中呢，软件已经自动侦测到我设备里的独立显卡，并且识别出对应的互联讯讯行协议，我们直接将这个功能开启。 第一个选项是设置，让模型全程只在显卡显存当中运行，一旦开启这个选项，要是电脑显卡显存容量不足，就很容易出现程序卡顿甚至崩溃的宕机的情况， 所以这个选项我们一定要关闭，我们只需要开启第二个选项，把部分运行缓存放置到显卡显存当中，依次来提升模型整体的运行执行效率。这里给大家说明一下本机硬件配置。运行内存一共三十二 g， 显卡显存为六 g， 大家一定要记住这个六 g 的 显存数值。设置完硬件板块之后，我们再进入了 ron time 运行环境板块，在运行环境页面里，我们直接选定库达运行协议，目前软件内一共只有这三类运行协议可供选择，我们直接选择这一款就可以了。 下方拓展运行组建，那可是英伟达独立显卡专属的配套文件页面还有相关运行的配置文件， 要是想更新版本能手动操作，咱现在下的是最新版本，暂时不用更新，懂者软件用久了运行不正常了再来这更新就好。设置弄好直接关闭设置页面， 我们重新回到左侧功能菜单栏，页面底最底端就是模型搜索查找功能，我们直接将这个功能打开，打开之后呢，页面会自动弹出各类热门模型推荐。 今天我们着重给大家讲解谷歌的伽马四系列模型，这款模行为一四 b 版本，整体内存大小约在六点三三 g， 经过 i m 四六的软件压缩优化之后呢，六 g 显存的显卡完全能够平稳承载运行，我们直接选择下载这款模型就可以了。 在模型下载界面当中，大家能够清晰的看到三个不同功能的分类选项，第一个选项代表模型具备深度的逻辑思考能力，第二个选项支持各类的实用工具调用功能。最后一个选项可以实现图片、图像内容的输入识别。 这三类功能全部集齐也是目前全新版本模型的主流优势。大家直接勾选进行下载 页面当中除了 e 四 b 版本之外，还有个 e 二 b 版本模型可以选择。 e 二 b 版本整体体积更小，内存仅为四点四一 g b， 对 于我这款六 g 显存的显卡来说，这款模型适配度会更高一些，不过它的模型参数相对更少，实际运行表现和使用效果会略微逊色一点。 清楚了了解这两款不同版本模型的区别之后呢，我们接下来正式进行模型的载录操作。 点击页面上方的下拉选项菜单，就能看到当前可选用的模型列表。我们直接打开手动自主选择模型参数的开关，随后选中已经下载完成的模型，并开始载录。进入模型载录页面之后，我们把展示进阶详细设置的功能页面打开， 同时把相关参数记录设置功能开启保存。完成这一步操作，我们就可以开始进行各项精细化的参数调配工作了。 我们部署搭建本地 ai 模型，最主要的用途就是对接小龙虾 a 阵的来使用。首先第一个硬性要求，对话上下文长度最低要设置到十六 k， 也就是幺六三八四数值，不过我经过多次实际使用测试，发现这个数值依旧不太够用，所以大家直接设置成了三十二 k， 也就是三二七六八， 使用体验会舒适的很多。接下来调整 cpu 层级，卸载相关参数，软件的默认数值为二十八，这个二十八代表模型运行到第二十八层数据内容之后，后续剩余的模型参数以及相关运行数据都会转交到 cpu 当中进行运行处理。 我们如果把这个层级数值不断调高，就会加大显卡 gpu 的 资源占用量。按照当下设备设置情况，我们把数值调整到三十层左右最为合适，能够有效的提升 ai 智能回复的整体响应效率。 cpu 的 缓存空间大小直接拉满，调到最大，日常使用体验会更好。最后找到这个 kv 缓存相关设置选项，直接将这个功能开启，下方的 fresh attention 的 功能选项我们切记要开启，这样能够让本地模型的整体运行反应更加的稳定和顺畅。 所有参数全部调试完毕，我们点击确认载录模型，等待模型加载完成。模型载录完成之后，大家打开电脑自带的任务管理器，点击进入性能查看页面，在页面当中找到 gpu 显卡选项，向下滑动查看详细数据，可以清晰看到本机显卡总内存为六 gb， 当前实际占用内存为五点一 gb， 剩余还有将近九百兆 b 的 内存空间，能够又流出充足的余量用来完成后续内容输入和数据的处理工作，整体运行状态完全可以正常使用。 模型成功载入运行之后，我们再次进入左侧的开发者模式页面，这个页面当中找到 server setting 的 服务器设置选项，并点击进入。进入服务器设置界面，我们把本地局网内提供模型服务的功能开关打开， 开启这项功能之后，同意局域网内的所有设备都能够顺利的连接调稳这台设备。搭建好的本地 ai 模型服务。成功开启本地服务之后，页面上方会显示服务器的端口，软件默认端口数值是一二三四，大家有修改需求可以自行的调整更改。 紧接着把页面显示的模型 id 完整的记录保存下来， 再把本地服务器访问地址一并记录好，我们直接复制保存这两正好两项关键信息。到这里，整套完整的本地模型服务搭建部署工作就全部完成了。接下来我们正式进入小龙虾 open clone 程序当中进行对接配置。 现在正式进入小龙虾程序安装的配置环节，我们先把电脑终端窗口打开，在终端当中输入 open klo 的 启动指令，成功输入指令之后进入程序的配置页面。 成功进入对应的页面之后，我们按下 yes 确认键，正式进入参数的设置板块，我们直接选择快速设置模式，进入模型挑选设置页面， 随后向下滑动页面，找到 customerpricer 自定义本地模型选项，这一选项就是专门用来对接配置本地部署模型的专属通道。 我们点击进入对应的配置界面，先把之前在 imcc 软件当中提前复制好的本地服务访问链接调取出来， 反正年期填写到对应的输入栏当中，填写完成之后，页面会提示输入 api 的 密钥，我们直接按下确定键即可。由于我们搭建的是本地私人的模型服务，没有设置专属的 api 密钥，所以这一栏大家随意输入内容确认就行。 完成密钥填写之后，我们统一选择了 open ai 通用的兼容协议，紧接着把提前记录好的模型 id 准确地输入进来去填写完毕之后，小龙虾程序会自动进行网络联通测检测，等待检测成功之后， into point id 输入栏目当中， 我们直接填写和模型 id 一 模一样的内容就可以了。至于模型别名这一栏，大家不需要额外填写任何内容。 全部配置流程完成之后，我们打开网页端进入小龙虾程序主界面，能够正常顺利的加载出主页面内容，就代表本地模型和小龙虾已经成功完成连接的对接。 这期视频实操内容非常多，从 i m studio 安装、显卡参数调优、模型选型部署，再到本地服务发布，全程对接 iphone klo 小 龙虾智能体每一步都给大家讲的特别细致，手把手带大家落地， 整套都是可以直接照搬套用的干货教程，大家千万别嫌麻烦，认真的跟着操作一遍，就能彻底的掌握本地 ai 智能体的部署方法。觉得这期内容实用的话，一定要点赞收藏转发，方便以后随时回看附用， 还没有点关注的朋友记得点点关注，不然后期更新更更高级的玩法，进阶调优的教程你很容易就刷不到了，咱们下期继续解锁更多本地 ai 智能体搭建的硬核干货，精彩内容持续更新！

最近这只龙虾是不是刷爆了你的朋友圈？先别琢磨是蒜蓉还是麻辣啊，这可不是吃的，它是一款能直接住进你电脑里的 ai 私人助理 open claw。 因为图标是一只红色的龙虾，所以大家亲切地称它为龙虾。 他最近有多火？有人在腾讯大厦的门口排队等着安装，还有人靠上门安装几天就赚了二十六万。但我必须提醒您，这东西很香，但也烫嘴。 先简单说清楚，龙虾到底是什么？咱们平时用的 ai 基本都是你问，他答只动嘴不动手。但龙虾既动嘴又动手，你说帮我订个餐厅，整理电脑桌面，处理文件，他都能自动执行。 可问题也来了，你让他干活，就得给他一把最高权限的钥匙。这意味着他能看你的所有文件，翻你的相册，动你的所有资料。 这不，前一阵就有人让他帮忙整理邮件，结果他直接批量删除了。最后没办法，只能拔电源，物理关机。 这哪是助理啊，这分明啊，就是一个执行力超强的熊孩子！还有，这个也是要花钱的，软件是可以免费安装，但 ai 干活他要消耗算力，就像车免费给你了，但油你得自己花钱加。 那咱们普通网友到底能不能安装啊？能装，但没那么简单，可能懂技术的人很快就能搞定咱，咱不懂的人，折腾一晚上可能都跑不起来。这也是为什么有人愿意花几百上千找人上门安装。 其实大家要明白一个道理， open club 确实代表了未来 ai 从只动嘴真正走向会动手， 但他现在可能还有些智能，能干事也可能添麻烦。这不，前两天工信部还发出提醒，配置不当极易造成信息泄露。 所以真想尝鲜拿台旧电脑不重要的账号先试试水。银行卡密码、私密文件，这千万别让他碰。科技最好，安全第一。

现在我来手把手教学，在 mark 上部署龙虾，并且接入微信。首先我们打开 openid code， 我 们在 codex 输入本地部署 open code， 这里 codex 是 有额度的，免费版的，使用 gpt 五点四来部署，完全够用。我这里是 plus， 这里我们来找一下要部署模型的 api， 这里以 deepseek 为例， 我们打开 deepseek 官网，打开 api 开放平台，这里是我前几天跑的，所使用的费用正常充够五十，可以跑个五天左右使用。二 e 模型这里打开 a p i t 创建 app， 或者这个 a p codex， codex 会直接配置好你想要的模型，这里推荐二 e 模型， 这里你可以跟他说生成网页版，我这里略过 复制这个网站，在浏览器打开， 这样子就可以了，可以直接使用了。 现在我教你们把欧本 club 接入微信， 我们在微信的设置找到插件，点进去有一个微信 club， 把里面的链接复制给欧本 club， 它就会帮你接入微信， 这里只需你等待一会， codex 跑一下，配置这里加速一下。 ok， 到这里 codex 会生成一个微信的二维码，扫这个二维码， 扫这个二维码就可以接入微信了， 过一会叫 codex 测试 一下。 ok， 这样子你的龙虾也可以在微信上跑起来了， 这里你就可以打开微信跟龙虾聊天了。

先说结论，如果你想在 mac 电脑上构建一个本地的纹身图 skill， 我 推荐 mflex 这个新的推理框架。大家好，这期视频主要介绍如何在本地构建一个纹身图 skill， 在 mac 电脑上使用本地模型来生成图片。目前主流的推理框架有两种，一种是它跟 face 推出的 diffusers 采用 python 代码构建，适合简单的工作流。第二个是 comui， 可以 通过可识化解点构建复杂的工作流，属于全能型框架。但今天我想介绍第三种选择， m flex。 这是一个开源的支持 m l x 格 格式模型的图片推理框架，它最大的优点在于无需额外编写复杂的本地代码，只需一条指令就能调用本地模型生成图片，非常适合封装成 skill。 一 句话总结， diffusers 是 cool， comfui 是 工具， m flex 是 接口。目前 m flex 支持主流的 m l x 生态模型，包括 ze mage box、 two c d v r two、 千问 image。 由于我使用的设备是 mac studio m r ultra， 六四 g 内存并不算大，考虑到我还会同时加载一个本地的大语言模型，比如千问三点六三十五 b a 三 b 四比特模型。 因此我会选择占用内存更少的更轻量化、八比特量化模型。相比于其他模型，它是一个六 b 的 轻量化纹身图，模型 速度快，体量小，画质和真实感表现优异，在 liblib 等图片网站上也有很多匹配的 rawr 风格模型 提供下载，非常适合我的需求。当然，如果你的硬件设备内存更多，算力更强，或者你只是在本地运行图片生成工作流，那么更好的选择是千万引妹系列以及 flex 二系列模型， 它们的品质更高，理解能力更强。 m flex 推理框架最大的优势在于它的调用方式极其简单，本质上就是一条命令，所有参数都是显示的，它天然就是一个函数调用接口， 因此无需额外的编辑代码，搭建本地 server， m flex 可以 非常方便地集成在 skill 中。我选择的模型是第三方出品的 m l x 格式的量化版本 z image turbo。 六 b m l x q 八、利用纹身图模型生成封面或者海报最重要的是构建一套可以附用的 prompt 架构，特别是带有文字的海报图。 带文字的图片本质上不是画图，而是设计，所以 prompt 必须结构化。这里推荐六层 prompt 架构，即质量层、 风格层、主体层、构图层、文字排版层、约束层。在设计纹身图 skill 时，可以根据这个架构来设计并编写对应的视力 prompt， 这样 agent 就 知道如何去构建一个统一风格的 prompt， 从而能够稳定地生成 希望的封面海报。比如我这里给女主和男主设定了固定的角色形象，包括衣服样式、颜色、发型等，生成的图片基本上就能保持角色的一致性。最后总结一下，如果你希望在 mac 电脑上构建本地纹身图 skill， mflex 推理框架是最佳选择。它支持苹果 m l x 格式的模型，并且不用自己构建复杂的后端代码，一条命令就能生成图片，非常适合构建本地的纹身图 skill。 关注我 ai， 分享时尚技巧，我们下期见！

折腾龙虾的小伙伴，不要再用本地部署的大模型了，效果真的不太大。我知道大家想部署本地的大语言模型，主要是想使用免费的 talkin， 但是我这张四零七零 s 显卡十二 gb 的 显存，前前后后大概使用了六七个大模型，但是效果真的是不太怎么好如嗯，如果说你是通过这个欧拉玛直接使用大模型的话，还能够对大入流，但是放在小龙虾上面 真的不住呃，不尽人意。所以说我还是建议大家，如果说你的显卡型号比较低的话，还是使用直接使用调用这个 api， 效果是真的不错，就像换了一个人似的，这个人工智能 一下就像有了灵魂一样。所以说我还是建议大家，如果说配置不怎么高的话，还是直接使用呃， api。

我的天呐，现在还有人在买那个 cobalt 跟那个小龙虾的那个 u 盘啊啊， 我现在目前就告诉你，怎么样能获得一只免费的龙虾，安装到你的电脑还是安装 安装到你自己的 u 盘，其实很简单，你只要通过国内的一个模型叫 workbody， 那 还有不管是 workbody 还是任何一个国内的一些模型，它都 ok 的。 我们只要做到一点，就是你只要下达指令，跟他讲 你给我下载呃的 cloudcool 或者是 opencool， 就是 这些小龙虾，小龙虾还有哈姆斯，你都可以自己到下到本地去， 你只要跟他讲他给你下到本地，你如果说或者是你自己想要想要方便的话，对吧？那你自己下到本地之后，你在先没有安装，你直接通过这个直接通过这个安装的包直接拖到这个拖到这个 u 盘， 你叫他直接拿安装包直接放到桌面就行了，你再拿桌面放到 u 盘，或者是你跟可乐的口啊，你或者你跟那个沃克巴蒂直接讲一下，你说你拿，你拿这个文件包之后，你再给我装到这个 u 盘里面去就行了，他就会给你，全部给，全部给，你给可以搞定。 那你看我的这个，我的这个 workbody 就是 这样子，你看像我的 clockclock 跟 hans， 他 就是这样给我搞定的，其实没有那么，没有那么复杂，也没有那么 呃，那就是你不要不要一一一股脑地听的那个线上说，哎呀，免费安装或者免费部署，你直接让他帮你搞定就行了。

你们说等三六零 pro 出来了，电脑同时安装三六零 pro 和腾讯的 qq 会怎么样？ qq 呢？我是昨天拿到了内测邀请码，然后试用了一下，说一下自己的一个使用感受。首先第一个就是它部署真的很简单，有数就行， 所以它大大降低了普通人使用龙虾的一个门槛，但是它目前还只支持 mac 系统， windows 系统暂不支持。第二个就是内置的 kimi 啊， deepsea 啊， mini max 大 模型，都是免费使用的，不仅可以直接连接微信，随时随地远程让 ai 干活，同时它还支持五千加的一个 skills。 第三个就是这个 skills 生态最近不是很混乱吗？所以呢，腾讯也推出了一个面向国内的 skillhop 技能社区，然后这个技能社区呢，已经聚合了来自官方生态的一点三万多个 skills。 所以以后你安装 skills 真的 特别简单，因为你安装的时候，它就直接给了你信息，你只需要复制粘贴到 qq 里面就行了。 第四个就是这个安全疑虑了，所以腾讯也做了一个 ai 安全生态，主打一个全面。所以最后呢，就看这个推出来的一个反响了。然后大模型厂家以及云服务商，我相信他们也终于看到了大模型的一个落地商机了。

部署本地小龙虾的三种方式，一是去官网下载小龙虾，自己电脑装个开源大模型，不消耗托克，就用自己电脑显卡算力养龙虾。 缺点对技术要求很高，对电脑显卡要求也很高，优点就是省钱。二是去官网下载小龙虾，用云端的大模型，不消耗自己电脑显卡算力。但是要问云厂商买托克，优点就是对电脑配置没要求，技术要求相对低一点，更低一点。缺点就是相对第一个花费更高一点， 数据安全性差一点是直接去云厂商买台云电脑，云电脑可以自带小龙虾。优点就是非常方便，傻瓜化操作，小白也能玩。缺点就是花费比第二点贵，但是操作比第二点更简单。关注我讲小学生都能听得懂的 ai。

腾讯变天了，一个九九年的新人，凭什么逼的马化腾凌晨两点发朋友圈带货呢？这就是最近震惊圈内的腾讯芭莎夺敌这部真实职场版爽剧的女主啊，是张淑玉， 入职呢没多久，拉了几个同事在边缘部门偷偷搞了个叫 qcloud 的 小工具，结果内测一周，几百万的用户涌入，用户直接爆了。 紧跟着，内部资源啊，全部涌了上来，甚至让马总凌晨两点狂发朋友圈，一口气啊，带了十几只虾，老马为什么这么兴奋呢？因为啊，腾讯太怕输了。 在 ai 大 模型的上半场，魂元和元宝被阿里字节压着打，十亿红包都没留住人。就在老马发愁的时候呢，这只龙虾让他看到了一根救命稻草。 ai 的 下半场不在聊天框，而在你的微信和桌面上。 老马一句话，十一万腾讯人呢？闻风而动。短短半个月，内部啊，杀出了八只养虾团队，九九年新人呢，敏捷的 qq 主打一键安装，野蛮生长， 老兵带队的 work buddy， 坚持百分之百自言，此刻安全。看懂了吗？腾讯现在的策略啊，叫纳德拉式转型。 汤道生在腾讯云上海峰会上提了个极硬的词， hony 工程。简单说，模型是发动机，但好不好用呢，得看脚手架。 腾讯现在不选模型参数了，它在选工具调用卷，长期记忆卷，工作流。老马赌的不是这只虾能活多久，而是赌去中心化的 a 政生态。它要让每一个微信小程序都能直接指挥 ai 干活。关注我，我是陈凡，带你了解更多能落地的 ai 商业玩法。