如何做U盘龙虾跑本地模型
粉丝198获赞846
相关视频
03:15查看AI文稿AI文稿永久免费无限量，电脑小白也能装一行命令都不要！哈喽啊，我是王玉，今天给大家带来可能是史上最简单的本地大模型加本地龙虾的部署方案，可以永久告别偷啃叫力，享受免费无限量的 ai 能力， 一次安装终身使用，不依赖云端 a p i， 不 再有掏坑的焦虑，月度限额的烦恼，所有的数据都保存在你本地的电脑上，聊天记录代码片段都不会上传云端，超级安全，还支持多渠道，微信、 qq、 飞书都可以随时随地的用，性能也很强。 这次我会集成最新的千万三点六三十五 b， 这个模型性能堪比主流的付费 ai 产品，完全免费运行在你的显卡上，而且安装过程不需要你懂代码，不需要命令行，不需要你安装什么 wsl 那 些东西， 只需要安装两个图形化的软件，点一点鼠标就能搞定，而且有什么新模型、新插件，新的 skill 都可以装，都可以更新，你需要准备什么？硬件方面推荐十六 gb 以上显存的显卡，当然你没有这么好的显卡也没关系，你下载一个小一点的模型也行。 软件的话，第一步，安装这个 lm studio， 不 会安装的话，可以参考我之前做的本地安装 jma 四的那期视频。 第二步，安装这个 workbody， 这个 workbody 现在是可以接入本地模型的，所以我们直接安装它就可以直接使用这个龙虾的能力了。 ok， 来具体看一下怎么配置这个 lm studio。 第一步，首先是你把这个模型下载好， 然后加载到这个 lm studio 里面，可以看到这个著名的洗车问题三十五 b 的 这个 moe 模型是没问题的， ok， 然后看一下本地 server 的 配置，点这个图标，进到 local server 的 配置页面， 我们看到这里有一行字就是代表我们的 server 已经起起来了，这个地址就是我们的 api server 地址，我们把这个地址 copy 一下，然后到配置 workbody 的 页面，我们点这个图标，然后进到设置页面，点这个模型， 然后进到编辑模型页面，我们提供商选这个 custom 接口地址，粘贴我们刚刚复制的地址，最后加上一个 v e 这个 apikey， 如果你配了的话就填你配的 apikey， 如果你没配，那你就随便填一个模型名称的话就随便填，也可以高级配置。我们这个模型是支持工具调用，也支持图片输入，还支持推理的，所以这三个都可以勾上上下文大小，根据你加载模型的上下文大小填就可以， 然后来看一下实际的使用效果。其实本期视频的这个 ppt 风格的网页就是我让这个千万三点六三十五 b 加 word 八 d 来做的，可以看到这边我让他做一个介绍本地安装小龙虾的短视频， 他帮我写好了短视频文案，包括一个 ppt 风格的网页，有六页的 ppt， 内置了一些动画效果，包括右边的原点导航，还有图片点击放大的效果， 包括需要哪些截图，他也给我列出来了。永久免费无限量电脑小白也能装一行迷你都不要，是不是非常的 nice， nice！ 觉得有用的话记得点赞关注，拜拜。
566wycode_cn
13:42查看AI文稿AI文稿最近这种视频特别火，我刷到了好多，但是我看完之后想问一件事，就是装个本地模型而已，怎么搞的跟登月一样？说真的就是我已经半年多没自己在电脑里装过任何东西了，装东西跑模型这件事本来就不应该是人干的， 今天我会做五件事，看完你可能就能明白，普通人也能让詹蒂克 ai 给自己打工， 而起点就是 mars 来，我们让一个 ai 帮我装另一个 ai。 本地导模型现在也还挺火的，就是因为它有隐私、离线、免费这些很好的特点。听着挺香的， 但是你真要自己动手的话，普通人其实面前会有两道坎，第一道就是装欧拉玛， 里面涉及命令行，环境变量，还要改路径等等，关这一步可能就劝退了百分之七十的人。第二道的话就是装完不知道选什么样的模型，一个千问系列可能就十几个版本， b 站教程的话可能都是我装了十四 b 的 模型，他装了三十二 b 的 模型，可是你这一台电脑就是到底能跑啥，别人是没有办法帮你说清楚的。所以就是我打开 mars， 我 让他在终端帮我装欧拉玛。 他没有直接装，而是先冒出了一句，就是说这类活其实更适合派给 app agent， 所以 的话他自己换了个更合适的 agent， 这就是 os 层级 agent 跟普通聊天机器人的区别就是他知道什么活该丢给谁干。 接着的话就是 app agent 接手，它加载了一个叫 mac desktop op 的 skill 去开始安装，中间其实有报错，但是它没有停，自己读了一下安装脚本， 发现需要苏豆权限，然后他选择了用自己的方式绕过去。装完之后我接着问，就是千问三点六有哪些版本，我的电脑适合装什么样的版本？他一边查官网一边把我的电脑摸了一遍，他看到我的电脑是 m 四 pro 二十四 g 的 内存。 查完之后的话，他又自己补了一句，就是说让我查一下有没有更小的模型。这个细节我其实特别喜欢，就是他不是被动的应答，而是替你多想了一步。最后的话是替我装上了千万三点六二十七 b 的 模型，整个过程我一行命令都没有，枪 你看就是，这才是二零二六年用电脑用 ai 的 正确姿势，就是以前我们得自己去学怎么装，需要去学电脑里的就是各种复杂的术语和操作方式， 你用本地模型的话，你需要查哪个版本能在你的电脑里跑？现在所有这些事情都可以交给 ai， 省了非常多的麻烦。装 ai 这件事，或者说理解你电脑这件事， ai 其实会比你要懂很多，然后等一等，下一件事会更离谱。 本地模型装好了，但 angelic ai 真正爽的地方其实还在后面。我让 mars 装一下我前段时间开源的女娲 skill， 她看了一眼说这是为 cloud code 写的 skill， 我 没法直接跑。 那紧接着就是他又跟着补了一句，说我可以帮你做一个 mars 四适配的版本， 然后几十秒的时间，他用 python 自己写了一个版本，工具印刷流程简化都做了。这点我觉得还挺难得的，他知道自己能干什么，不能干什么，然后适配完成之后的话，我就告诉他来帮我蒸馏一下巴菲特。 然后在这个任务下， marvis 启动了一组调研 agent， 分 头去读他的著作，股东性历年的访谈，别人对他的评价，决策案例、时间线，甚至连就是他二零二五年年底卸任 ceo 都给我整理出来了。我手机放下去倒了杯水，他们就替我读完了几十万字。出来的结果就是五个心智模型加八条决策启发式、护城河、安全编辑能力圈所有者视角、市场先声，这才是巴菲特，就是真正的脑子。 说实话，这一年我已经在用这套策略了，就是平时做产品决策的时候问一下乔布斯，选择投资赛道的时候问问芒格，写完文章的话会请保罗格勒姆帮我省一遍，现在加上巴菲特。 呃，你完全可以问他就是该不该长期持有英伟达。然后我的真实问题是，三十五岁无房无车，每月一万块，闲钱的话应该怎么投资 达菲特视角的回答上来就一句，就是，你最大的资产不是那一万块钱，是你的时间，你至少有二十年的富力跑道。然后给我算了一笔账，就是每月一万块，二十年下来两百四十万会变成五百三十万到五百九十万。 这就是被装进我电脑的巴菲特给我的回答。当然刚才那个试配过程是因为这是我自己的 skill。 其实 mars 内置了技能 广场，就是大多数 skill， 你 完全可以直接在这里去进行探索发现的，比如我做的蒸馏任何人的女娲 skill， 以及他已经蒸馏出的蛮格费曼等等，这些 skill 其实你一键就能安装了， 然后下一件事的话，我要去咖啡馆做了。我现在不在家，但我家里那台电脑在帮我打工。一边是 mars 的 安卓 app， 一 边是微信里的 cloud bot， 想用哪个就用哪个，不用打开电脑，不用远程桌面，喝一杯咖啡的时间， 电脑做完了，结果可以出现在我的微信里，这就是 agent 该干的事。我最近收到一份培训合同，让对方想让我尽快签约。以前我得逐条通读，划出付款、违约、知识产权那些坑，但我自己其实都不专业， 可能半个小时起步也查不出什么东西。这次的话我直接扔给 marvis， 让他帮我省一下这份合同，找出对我不利的条款 几十秒，他给我分了两档，就是高风险和中风险，知识产权全归甲方违约金，对方是百分之五，我是百分之两百。付款拖到六十天以后，一条条全都给我标出来了， 最后还顺手给我写了三条谈判建议。这种活就是以前都得是你有个律师朋友，或者你公司有个法务才能去做，而现在有马律师的话，他可以自己把这些雷区都扫一遍。 这事换成 excel 也是一样的，就是以前得写公式画图，自己想分析的策略，现在一句话也能完全能够完成。然后再看一下桌面啊，就是我现在有一大堆乱七八糟的文件，我可以一句话就把它归类完毕。 打工人不该被这些就是没有意义的事情，浪费时间。我觉得这才是 marvis 对 打工这两个字的承诺。然后我们前面干完了四件事，现在还剩一件是可以给 marvis 上一些强度的，接下来 我会在十分钟内让 marvis 做五件事的挑战，一件一件来跑，看他具体能跑完几件。 我现在让 mars 来帮我们安装一下，就是 codex， 这个是 open ai 推出的类似 clotcode 的 一个 angelic ai 工具，然后现在很多人会觉得这个工具可能比 clotcode 更好用，因为它能有 gbt emoji 二的这种图片生成的能力，以 及它的产品更新迭代很快。然后我们在它做的同时，其实你也可以去新建别的任务，然后我让它用费曼 skill 给我简要 解释下。呃，量子力学，而这里的话就是费曼的这个解释，它已经调用，就是费曼的 skill 去解释清楚了。 然后我这里就不详细读他的这个表达了，但是你大致可以看出他的解释的 程度是属于非常容易理解的。他用了这个光的这个比喻，然后去说了就是 一个光子在不同的情况下会有什么样的表现，我觉得这个讲法确实非常的费曼。然后我的第三个任务的话是调用花书比赛，让他来帮我，就是给我已经写好的一篇文章，去制作一下公众号的头图。 ok， 接下来我们来看一下我们的第四个任务。我的第四个任务的话就是我的桌面其实有太多的截图、视频文件夹以及各种不同的信息了，我希望麻利斯来帮我整理一下， 我让他来帮我整理一下桌面文件，然后要求也很简单，就是帮我把所有的文件都放到合适的文件夹里， 然后他说了，就是这是一个需要文件系统操作和智能归类的任务，所以他派给了专业的就是文件管理的 agent， 而这个 agent 的 话他又根据规则加载了 file organizer 的 skill， 然后来帮我尝试去执行这个任务。 最后的话就是我们这里需要用微信来连一下这个 mars， 用微信的 cloud bot。 其实你在这里就是点开手机这个图标之后，会出现左右两个就是连接的方式，然后如果是微信的话，你就扫右边的这个码就可以了， 然后你在手机上点击继续连接，就发现就是已经连接完成了。 ok， 这里发现就是我们已经看到了三个不同的这个风格的头图设计，我觉得，哎，第三个这个版本还挺不错的，那我就用 c 版本吧， 所以头图设计这块他也已经完成了。然后这里的这个任务的话， 呃，是手机可以和那个 mars 去进行对话，而这种手机的对话的话，你在电脑上是没有办法操作的，你可以来手机去发送相应的要求。然后我举了一个就是日常我们很有可能会需要的一个场景，就在外面你可能需要身份证的一些 照片，然后我提的在手机里提出的要求就是把我的身份证照片的国徽页面发给我， 然后现在电脑接收到就是手机的这个要求之后，它就在呃里面去找这个照片了，然后它再验证就是相关的这个内容。 我们回头再看一下 codex 安装的怎么样了，现在它好像是在重新找 npm 包的那个位置，然后再尝试通过完整路径的 npm 去安装 codex， 并且去找到了国内镜像加速的这个方式， 然后这里提到已经安装成功了，他要验证一下，然后右侧的话，如果你展开可以看到就是他的整个安装过程还挺精彩的，就是通过了好多不同的这个步骤，他遇其实在这个过程中遇到了不少问题， 但面对各种各样不同的问题，他都通过自己的方式去进行解决，然后最后安装成功了。然后如果是我们普通人来处理这个的话，你可能被中间的任何一个问题可能就已经卡倒，这就是我想说的，就是专替个 ai， 你 应该让 ai 来操作你的电脑去帮你解决这些 技术上的难题，而不是把这个难题交给自己。然后后面的话就是，哎，对，这里可以看到就是他找到了三个不同的这个页面，问我需要哪一个，我可以在这里直接进行选择，然后发过去就没有问题了。当然就是这个任务其实你也可以在就是你的 手机上去做相应的操作。 ok， 这个任务也已经完成，所以最终的话我们唯一还在等待的任务是这个，呃，桌面的那个信息的这个整理，其他四个任务全都已经完成， 而这个任务进度现在也已经到百分之二十五了，他是先给我提供了这个就是搬运的这个 清单，就是告诉我他计划怎么搬运我的这些内容。 ok， 他 这里说一百多个文件都已经执行完成了，我们看一下我们的桌面到底是什么样的，哎，我们桌面其实已经完全被整理好了，所以我们交给我们的 mars 的 五个任务，他都在十分钟内看起来完全完成了， 这就是 mars 他 能做到的事情。而这个过程中我做了什么呢？我喝了口咖啡，我开头说的那句话就是，装东西这件事本来就不该是人看的，今天这五件没有 一件是我自己干的，这就是 ajaxai 该有的样子，对我来说就是 marvis 不是 又一个对话式的 ai 助手，它是普通人用上 ajaxai 具有执行能力的 ai 的 起点。真的可以了，你完全可以让 ai 来帮你打工。 marvis 现在 windows、 mac 安卓版本都已经有了，然后你也可以在微信里直接去掉 cloud boot， 去连接 marvis 视频中提到的相关资源和使用方式。我也整理了一份文稿，如果你需要的话，可以在评论区回复 marvis 获取。
90花叔
02:22查看AI文稿AI文稿由于小龙虾消耗托肯太贵，我要零成本运行，一块四零九零，显卡带不起来。由于 deepsea 模型太大，现在对电脑改装公司电脑装了一只龙虾，这个龙虾只能运行三十 b 的 deepsea 模型，七十 b 的 时候运行特别特别缓慢，我从医院偷偷跑出来了， 换上正常的衣服，对我的电脑进行改装。大家看一下电脑本身，这台电脑是一个 i 九十二代的，一个 cpu 和一个四零九零的显卡，但是七四 b 的 模型运行不动， 把这个三零九零和这个四零九零准备放在一起去运行，这个电源是两千瓦的电源，应该可以带动吧。然后由于这是原来插了一个采集卡，把这个口给占了，那只能用一个延长线 延长出来，但是这个机箱又小了，再换机箱也麻烦，我就到了电焊铺，搞了一只三角铁，还有奇奇怪怪的配件，我看能不能把它给装一下。我的初步想法是这样， 就初步想法往上一放，哎，这头我一固定，这头一固定，我这样一插，理论来讲应该是正常的， 但是这也有个危险性，这个铁渣子一旦掉到主板上，一通电就直接短路了，就说这是个，这是个风险性极高的货，哎呦哎，借的东西不行，装不进去炖了 哦，现在有个问题，这个还转不了，对啊，这个转的时候铁渣子都掉显卡里面了，现在遇到难题了，因为你看到这个铁渣子一旦掉到这个主板里面，就会，就会短路，所以现在必须把它退掉。 开始讲戏了啊，只有他固定下来，只有这个固定下来才能把这个固定下来。如果，如果说从这个孔转，你看 如果从这个孔钻钻进去，会导致这个显卡必须下移，如果显卡下移的话，这个线，这个线是插不进去的，你从这穿他一个孔， 他撑不住啊？他要往下压的呀？你看他一个孔，你现在穿这，他往下压的，他变成这样了，我看对不对？
66泡面诗人
00:18
00:27查看AI文稿AI文稿小白，马上可以上手的小龙虾来了！不会操作安装的别担心，这款神器小龙虾 u 盘，它不用你复制代码操作，直接插上，选择大模型后就能使用。 完成后直接启动进入界面，然后等候片刻，马上你的 ai 小 助理就来了，开启对话和基本操作，赶紧也养一只吧！
00:41查看AI文稿AI文稿如果你也想在办公室本地部署龙虾，但是又没有时间，不妨试一下我们这款本地部署 u 盘，一键安装龙虾，还不跟着我们镜头，先插入 u 盘，之后打开龙虾。介介绍一下我们的功能， 有聊天工具，一键接入微信微处，非常方便，很适合新手新手小白还有技能管理 都是我们直接配备好的，直接打开就能使用。首页启动龙虾都是一键启动，偷偷抢单边单机打开龙虾，直接打开我们网页游玩的小龙虾，直接给他发信息，现在我们的龙虾就已经部署好，非常简单，非常方便。
02:18查看AI文稿AI文稿小龙虾 u 盘真的可以代替人工吗？我发现从某鱼到抖音啊，这个东西现在特别的火，不用安装，不挑配置，插上电脑就能自动干，牛逼，甚至很多人把它包装成 ai 员工，提高效率进行一个二次升单。 小龙虾也是 open call 智能停 u 盘，他因为信息差，已经让很多人为此赚了学费。这个视频跟大家说一下，他们是怎么样把这么一个免费的开源软件打包进十几块的 u 盘，标个几百块进行售卖的。那好，先说一下成本， 小龙虾它本身就是一个免费的开源软件，网上有各种教程，普通人花半个小时去抖音啊，找点教程学一下，自己就可以安装好了，一分钱不用花，你花两三百块钱买到的其实就是打包的免费。这个脚本的普通 u 盘 原本就是一个 u 盘的钱，然后他们其实最主要的卖点就是即插即用，免安装，适配各种电脑。你要知道 openclock 对 于电脑环境、端口、系统权限它是固定的，那 u 盘的版本它是强行打包的便携版，它很难做到稳定兼容，你换一台电脑，它很容易报错，无法运行， 甚至提示 u 盘无法正常的使用。所以很多人买回去就会发现了，在家里可以用，换到公司的这个电脑是不可以用的。 市面上多数针对 u 盘都是卖家提供的公共密钥，你所有的对话文件数据都会先经过这个第三方服务器中转，你的隐私数据在人家那边自己是没有安全保障的，如果 u 盘还被设置了这个数据上传啊，行为记录，那个人数据的安全隐患就会存在更大的隐患，而且我发现很多卖这个 u 盘的 还会用 ai 员工自动完成任务，提升工作效率作为噱头二次升单。但是有两个致命的问题，他们是绝对不会告诉你的。第一个就是不可能存在完全无人操作的自动化效果，躺挂机就可以躺断的， 因为这个东西本来就是不现实的，自己什么都不做，一挂机就可以吗？不可能的。第二个就是 u 盘，你送的只是一点点的免费体验 额度，顶多用了个几天，等你这个后续算力用完了，那你还得找这个卖家去充这个算力，而算力的定价权就是他们定的呀，他可以今天五十，下个月就一百吧。我不否认小龙虾 ai 本身，但是把小龙虾包装进 u 盘去误导消费者，这个用了这个 u 盘就可以免费帮你干活，躺着 赚钱，这根本就是个骗局。你真的要想用的话，记住三个话，第一个就是自己去官方部署免费教程，十几分钟搞定的。第二个用自己的 a p i 密钥，不要用卖家的公共密钥。然后也欢迎大家进我的粉丝群来投稿更多的新的骗局，我是阿好，下期再见。
50hellow阿豪
00:59查看AI文稿AI文稿其实养小龙虾的过程就是让他从动口到动手的过程。你的 oppo 可乐如果还在一问一答，那就太浪费了。我配置的这套本地 ai 智能器，现在已经可以帮你干活了。把文档表格丢到知识库里，他就能自己理解总结。 我让他把订单里退款项单独列出来，做成表格，不一会就能做出来放到桌面。只要权限给够，他不光能帮你盯盘，还能帮你盯住竞品上新账号数据，自动帮你抓取网络热点， 能接入公司 erp 系统，帮你盯住进销存。电商公司可以让他分析往年销量，哪款 sku 销量最高，哪些品处于亏损状态，产品详情、 客服话术他都能做成企业私有知识库，还能帮你生成商品主图视频。像我给客户搭的这套 n 卡方案，二十四 g 显存的五零九零，用来跑千位三点六二十七 b 的 氮素模型， 虽然没有六十四 g 的 m r ultra 跑道模型大，但是带宽大，速度是迈克的几倍。我会把 a 镜头和通用 skel 设置好，教你怎么训练自己的 ai 智能体。
15Ai智研社
00:39
00:29查看AI文稿AI文稿鑫哥为什么不直接卖课，而是先做了一个龙虾 u 盘？因为有很多普通人不是缺课程，他们缺的是一个真正能跑起来的入口。你看再多的 ai 视频，如果自己的电脑里一次都没用起来，还是停留在看热闹。龙虾 u 盘四点零，把前面复杂的安装和配置 尽量封装好了，常规情况下一分钟左右就能完成基础配置，六十个技能已经给大家预装好了，我们希望你买回去不是看热闹，而是真正的开始用 ai 了，别只看 ai 的 热闹，先让自己用起来。
