粉丝1855获赞1295
相关视频
13:52查看AI文稿AI文稿大家好，我是航灾，今天呢我准备给大家介绍一下在迈克迷你上如何来安装欧拉玛，欧拉玛就是最简单的尝试本地大模型的方法之一了啊， 有了欧拉玛呢，我们就可以创建一个本地的大模型，和他进行一些简单的聊天呢，或者是给其他程序啊提供一个免费的 api， 如果你的本地设备足够强大的话呢，你甚至可以给龙虾 open club 啊提供一个靠谱的大圆模型，不过这是一个未来的梦想啊，不知道大家有多少人的设备满足这个需求。 然后呢我们就来开始今天具体的内容。首先呢我们来看一下文档啊，在好用载当中，我们直接左侧这里啊就有一个五三零欧拉玛的安装和使用，我们点击一下， 然后我们点击网盘分享，然后我们继续向下啊，这个里面呢一共三个文件啊，其中呢一个是文档，一会我们说接下来的两个文件呢，是我给大家下载好的客户端啊，一个是 d m g， 也就是 max 上使用的，一个是 ex， 这个呢就是 windows 上使用的啊。然后呢我们来看一下文档， 文档当中呢一共有三部分内容啊，第一部分呢就是欧拉玛的官网，第二部分呢是我们一些具体要使用的内容，第三个呢就是我好用在的官网，大家爱学学用就可以了。然后呢我们先说一下欧拉玛的官网，欧拉玛的官网呢，一共有两个啊，一个呢是它真正的官网，另外一个呢是它 github 的 官网， 我们可以一起来看一下啊，至于命令呢，一会用到的时候一起说，这里呢就是欧拉玛的 github 官网，如果需要什么内容呢，可以直接到 release 这里面来下载啊， 不过我们一般呢直接使用欧拉玛点 com 这个官网就足够了。这个官网当中呢，右上角这里就是登录的，也就是下载点击一下 这个里面呢就可以选择是 mac os 或者是 windows， 然后点击下面的登录的，就可以下载你对应系统的客户端了。我这里呢给大家演示一下 mac 系统当中客户端如何来使用啊。在 mac 系统当中，我们直接双击这个欧拉玛，点 app 直接投入到这个应用文件夹里面就可以了。 好的，这样就可以了啊，接下来呢，我们在应用程序当中找到欧拉玛，然后进行点击，这里就是欧拉玛啊，我们双击 第一次运行的时候呢，它会提醒你一下啊，是从互联网下载的，问你是否要打开，我们直接选择打开，现在呢我们就已经进入到了欧拉玛的主界面啊， 然后呢我给大家说一下它的初步设置和使用。首先呢我们先来设置一下啊，因为只有一步设置非常简单，我们直接上滑啊到最上面的菜单栏，然后呢点击一下欧拉玛这个图标，这是一个小羊驼嘛，然后点击 setting， 也就是设置 这个里面呢，只有一项啊，需要打开，也就是说把欧拉玛暴露到局网，这样的话局网其他设备才能够正常的访问欧拉玛， 比如说你的 windows 系统啊，你的丽江系统啊，如果你想使用这台设备的欧拉玛开通的服务，那么你要把后面那个开关啊，直接点击打开一下，下方刚才也看到了出了一个 c 五，这样呢就已经成功了啊，然后还有一个我们再说一下啊，底部这里还有一个上下文长度，默认呢是四 k， 比如龙虾 open 可乐啊，他就要求一定要十六 k 起步，所以说如果你之后有其他程序需要更大的上下文，你需要在这里呢进行一下调节，只有这么两个选项啊，需要说一下，别的呢就没有了。然后我们把这里啊直接关闭一下， 在接下来使用呢也非常简单啊，在这里你可以选择具体的模型，比如说我们点击一下啊，默认的是这个 g m 三啊， 我们可以不用，我们可以向下选择，比如说啊，我们这里选择一个千万三四币，我们点击一下，然后这里呢你随便打一个字，比如说这里呢打一个你好，然后一回车，如果没有这个模型的话，它就会自动进行下载了，我们稍微等待一下，等待它下载完毕就可以了， 大家可以看到现在这个模型呢就已经下载完毕啊，同时呢他也给出了答复，接下来呢你就可以直接跟你的本地大模型进行对话了，比如说呢，这里我们可以问他啊，你都有什么功能，然后直接回测一下， 因为它是一个思考大模型嘛，它首先呢会进行思考，在思考之后呢才会给你形成一个输出的答案啊，我们还是要稍等一下， 现在呢他就开始进行正式的输出了啊，我们还是要继续等一下。好的，现在呢就已经输出完毕了，这个呢就是你跟本地大模型的一个交流过程啊， 所以说总体使用上啊还是很简单的，接下来呢我再给大家演示一下，你现在已经搭建好了，但是其他的程序如何来使用呢？我们这里呢就以 cherry studio 啊来给大家做一下演示。我们打开 cherry studio 以后呢，这里就有欧拉玛，我们点击欧拉玛之后啊， 我给大家简单的说一下如何来设置啊。首先呢你要填写一下 api 地址，这个 api 地址呢就是你的欧拉玛运行的设备，我这个设备的地址呢就是三幺点二二二，后面的部分呢不要变啊，后面是端口号，再加上一个路径杠为一， 这个呢就是它的一个完整地址，我在文档当中呢也有写。再接下来呢我们就可以添加一个大模型，选择添加，然后呢这里要求你输入模型 id， 我 们看一下这个模型 id 是 多少啊？模型 id 呢就是千问三冒号四 b， 然后我们这里手动输入一下啊，千问三冒号四 b， 然后我们点击添加模型，再接下来呢我们选择检测来看一下效果啊，点击，然后这里默认呢就是千问三冒号四 b 啊，我们点击确定 可以看到连接成功，也就说到这里呢，我们的 cherry studio 啊，已经可以使用我们本地大模型了啊，比如说我们点击这个助手， 然后在最上面这里啊，我们选择一下，这个呢就是我们自己本地的欧拉妈妈，然后就是纤维三四 b， 我 们选择一下，在接下来呢，你就在这里输入聊天信息就可以了，比如说这里啊，你同样输入你好，然后回车可以看到它，同样呢是正常的调用了这个本地大模型， 还是开始思考，然后给你答复，没有什么区别啊，跟刚才我们直接使用欧拉玛本身的客户端呢，效果差不多。好的，这里呢开始答复了，可以看到这个思考模型啊，耗时非常多，二十四点三秒， 到这里呢我们就已经知道如何来安装和使用欧拉玛，同时呢如何和其他的软件来进行对接。整体的使用呢，其实是非常简单的，不过我们如果使用这个存储页面的话啊，它的功能呢还是比较少，但是如果我们使用命令行的话，能管理的内容，同时呢也可以看到更多详细的信息啊， 所以我还是推荐大家学习一些基本的命令行命令啊，这样使用起来呢会更方便。然后呢我们就来看一下啊，命令行都有哪些命令？我这里呢给大家列出了几个常用的命令啊， 前面呢都是奥拉玛这个开头，然后后面第二个呢就是具体的参数，比如说第一个奥拉玛历史，就是列出目前所有已经下载的大模型。第二个呢库就是我们要去拉取某一个大模型啊， 第三个 run 呢就是我们要运行这个大模型，所以说大家如果看头三条命令，如果你之前用刀刃用的比较多的话，你会发现啊，这个命令呢除了前面变成了欧拉玛以外，剩下的部分呢基本都是一样的啊，整体呢还是很好记的。 然后这里呢多加了一个这个沃 boss， 它就可以看更详细的内容，一会呢我给大家演示一下啊。最后呢这有一个 r m， 也就是删除，前面呢我们要说一下如何来进行删除， 然后呢前面我们进行的 run， 也就是运行，后面这里呢我们说了一下如何退出啊，接下来呢我就给大家一点一点的演示一下啊， 首先呢我们这里打开一个终端啊，接下来呢我们就可以一条一条的运行命令了，比如说啊，首先我们看一下欧拉玛 list， 我 们直接复制，然后呢在这里右键粘贴，然后回车 可以看到现在这里面呢我们就有了一个大模型，就是我们刚才下载的千万三四 b， 所以 说如果你使用终端的话啊，你刚才跟别的软件进行对接呢，你都不用手敲这个模型了啊，因为有一些模型啊，它的名称还是比较长的，所以说你直接可以复制一下，直接滑动一下啊，然后就直接复制了，或者是你再右键一下都可以啊，它就直接复制了， 然后到你的软件当中直接粘贴就可以了，这样用起来呢比较方便。这个呢就是历史的作用啊，就可以看到你现在里面有多少个大模型了。然后第二个呢就是铺，它就是用来拉取大模型的，具体拉取的大模型名称呢，就是后面这个啊，但这个名称怎么来的呢？我给大家说一下， 我们打开欧拉玛的官网，然后第二个啊就是 models， 这个就是模型啊，我们点击一下，现在呢我们就来到了模型这个页面，里面呢，就列出了目前所有热度比较高的模型啊，当然你也可以在上面进行搜索，比如说那你直接搜索千问， 可以看到千万所有的模型呢就都列出来了啊，比如说我们选择一下这个千万三点五啊，我们点击一下，然后这里就写了啊，欧拉玛瑙，然后千万三点五，你直接复制，然后在终端中粘贴就可以了。当然啊，如果我们想要别的模型的话，也可以， 因为这里我们向下滑动一下就可以看到啊。如果你刚才直接选择欧拉玛瑙切问三点五默认的呢，它就拉取的是这个九 b 的 模型，因为这个呢是 latest 的， 如果你后面不加这个模型大小的话，默认拉取的就是这个啊。我这里呢给大家说一下我使用的 mac mini 它的使用情况。 mac mini 呢，最多是能跑到十四 b 的 模型，大概跑到十抽根左右吧。十四 b 以下的模型呢，一般都可以跑九 b 呢，是一个相对比较适合的模型。不过如果你跑 open cola 那 种需要十六 k 上下文的，你就跑不了九 b 了，就只能跑四 b 啊，因为上下文呢，同时要消耗一部分内存， 所以说这种最适合的九 b 呢，如果再加上十六 k 的 上下文，它所需要的内存呢就比较大了。我曾经直接把麦克迷你啊直接给跑死机了，它自动重启了啊，在我之前使用麦克迷你的时候，我几乎就没有听到过它的风扇的转动啊， 但是自从我测试 ai 开始啊，麦克迷你风扇呢就会经常听到了，也就是说 ai 啊，对于它的性能压榨呢，还是很严重的。 所以说，如果你需要一个大的上下文，你就只能跑到三点五四 b 了。如果你只使用默认的四 k 上下文，那么你是可以使用到九 b 的 啊，当然如果你不需要很大的上下文，同时你也能够忍受速度的话，你其实呢是可以跑到十四 b 的， 比如说前面有那个 coder 十四 b 嘛，可以跑一下，没问题的， 我们这里呢就以切问三点五四 b 为例啊，给大家看一下，我们直接点击一下后面的复制，然后呢我们回到终端里面来啊，我们直接输入欧拉玛，然后铺，然后直接右键粘贴，然后直接会撤， 稍微等一下呢，他就可以直接去下载了啊，而且这个和刀客一样，刀客我们也可以先铺，然后再 run， 但是如果我们直接 run 的 话，刀客里面如果这个镜像没有，他会先去下载，然后就直接运行了 欧拉玛。同样啊，你可以直接运行欧拉玛 run， 这样的话，如果里面没有这个模型的话，他就会直接先去下载，然后呢就会自动运行了啊，我们稍微等一下可以看到啊，你用命令行下载的话，速度是要比刚才用的那个客户端啊下载速度要快的多，所以说我建议大家啊，尽量呢是用命令行来下载。 好的，这里呢就下载完毕了啊，我们稍微等一下，这个速度是要比刚才的客户端要下载快非常多啊，然后这里我们就可以执行下一条命令啊，就是欧拉玛瑙了，我们直接到这里面来啊，直接复制一下欧拉玛瑙，然后同样啊这个模型的名称，切问三点五四 b 邮件粘贴，然后回车 出现这个符号呢，我们同样啊可以开始跟他正常的对话了，比如说这里同样啊，我们输入你好回车， 同样呢这里又开始正常的输出了啊，没有什么区别，但是这次的速度呢，可以看到啊，快很多。然后如果我们想退出的话啊，就是底部，这里就是给大家说了， 你可以用两种方式来退出，一种呢是 ctrl 加 d， 一 种呢是杠 e x i t， 我 们这里输入一下啊，杠 e x i t， 然后回车，现在呢我们就重新回到命令行终端了，这是第一种方式啊，然后我再给大家说一下啊，你后面加上这个沃 boss 有 什么区别啊？这个是详细的意思，我们直接把这条命令再一起复制一下， 实际上就是在刚才的欧拉玛 run 后面啊，多加了一个参数而已。我们同样啊右键粘贴，然后回车，然后这里呢我多说一句，你都能做什么？然后回车， 这里呢它就开始正常输出了，然后我们稍微等一下啊，可以看到啊，上面就是它的思考过程，下面这里呢就是它具体的输出过程啊，整体的速度呢还是比较快的， 如果你加了 woobos， 在 最后这里呢就可以给你一个整体的输出啊，第一行呢就是它总共的消耗的时间，一共呢花了三十九秒， 然后呢这里有一个加载的时间，也就是把模型加载到内存里面去啊，一共呢是一百一十七毫秒，在下方呢这是一个提示词的数量，也就是刚才我给他发的提示词啊，当然一般里面还包括一些系统提示词，所以说呢，它一共是十三个桃痕啊。 再接下来呢这些提示词的处理，一共花了二百六十五毫秒，再接下来呢，提示词的处理速度是四十九 tock， 接下来呢，就是输出的部分了啊，输出的部分呢，一共输出了六百四十八 tock， 花了三十八秒，相当于呢，每秒是十六点七七的 tock， 大家经常关注的呢，其实是最后这个啊，也就是每秒能输出多少 tock。 所以 说，如果你习惯之后呢命令行的话，你就能看到很多更加详细的信息，而且你习惯之后呢命令行和图形界面那个差距并不大。 而且最主要的是啊，如果我们一般使用本地大模型的话，一般也不会用它这个客户端也不会用这个命令行啊，因为都是我们要通过其他的程序来进行调用。这部分呢，主要是用来检查一些信息啊，比如说某一个大模型，它是否速度足够快啊， 这一次呢，我们直接摁 ctrl 加 d 啊，同样也是直接退出了。有的同学可能会问，你为什么用 mac 来演示，你为什么不用 windows 来演示呢？ 就是因为我 mac 这个核显啊，本身还算是可以跑，大模型呢，还是能跑的动的啊。如果我用 windows 的 核显来跑的话，我那个是十一代的 a u c， 它的核显啊，也就只能跑动二 b 的 模型，而且速度呢，还挺慢啊。 所以说，如果你还想用 n s 来跑的话，如果你没有一个好的显卡的话呢，那个速度啊，就会更慢了。如果大模型太小的话，智商实在是太低，我觉得四 b 啊已经是底线了。 再向下我觉得只能在手机上回答一些简单的问题，还可以，在电脑上呢，已经不适合了，欧拉玛呢是一个入门的好程序，但是它并不是 mac 上使用最好的一个程序啊。后面呢，我还会给大家介绍其他的程序，如果你对这方面内容比较感兴趣的话啊，可以持续关注 上面这里呢，也已经把所有的命令都介绍完了。最后这里呢，就是刚才给大家提过的啊，你需要在其他程序上调用的时候需要写的地址，你只需要把里面的 ip 换成你自己设备的 ip 就 可以了。 好的，这就是本期视频的全部内容，如果你觉得这期视频对你有帮助的话，欢迎点赞评论转发，一键三连，当然也别忘了关注我们，下次见！
112好用斋
02:25查看AI文稿AI文稿最近啊， mac mini m 四又火了，就是因为那个从 cloud bot 改名为 mod bot， 最终啊，又命名为 open cloud 的 ai 工具。现在很多人啊，都想搞一台全天二十四小时待命的个人贾维斯。 确实啊， mac mini m 四啊，本身就很强，但是如果你真想用它来搭建本地 ai， 有 几点啊，你真的要注意。首先啊，想跑 ai 模型的话，那些对话记忆 只是酷训练数据这些在使用的过程中啊，持续产生的数据，确实是个存储黑洞，两百五十六 g 啊，根本不够，五百一十二 g 啊，想跑训练久了可能也有点费劲，但如果直接上大内存的版本， 这个价格啊，都会再买几台 mac mini 啊。我的省钱方案是啊， mac mini 啊，就入手盖板就行了，之后直接外接个固态硬盘来扩容。另外，想要模型加载快，数据供给顺畅的话，外接硬盘的传输速度也很重要。 本地读写速度啊，也是 ai 本地推理训练效率的关键。这么看来啊，想要搭建一个真正的个人假维斯，光有 mac mini m 四还不够，你得给他配一个传输速度快，传 输空间大的硬盘盒，至少十 g 二十 g 起的传输速度，再加上几 tb 的 传输空间，才能真正发挥 mac mini m 四的实力。 前段时间啊，我按照这些需求啊，到处找了一圈，最后锁定了阿卡西丝的 m 零零二 pro。 前面说了，咱们搭建个人假维斯最怕什么，就是存不够，刚好他这里有两个硬盘位，可以塞两块最大八 tb 的 固态硬盘， 直接就是十六 tb。 十六 tb 放在那 ai 模型啊，随便装知识库呢，随便建训练数据啊，随便存空间啊，直接管够。然后是速度啊，这个才是我选它的核心原因，开个锐的零模式啊，直接飙到四十 g， 你 们想啊，跑 ai 的 时候 图形要加载，训练数据呢要读取，检查点呢要保存，这些操作全都要从硬盘里拿数据， gpu 的 算力再强啊，但硬盘速度太慢，性能啊，直接拉跨。有了四十 g 的 速度，训练数据读取嗖嗖的。最后是散热和防尘，这很多人啊，可能没注意到要二十四小时开机，跑 ai 这些啊，真的很关键。 m 零零二 pro 是 一比一开模的，铝合金设计，完美搭配苹果美学，这就像给 mac mini 啊穿上了一层散热机甲，一眼看过去啊，像不像 mac pro， 颜值和格调直接拉满，加上上下全开孔，热量直接散出去，我挂一整周啊，摸上去啊，也不怎么热。而且啊，不止是硬盘盒，前面三个 a 口啊，可以接移动硬盘和 u 盘， 后面两个 d p 口啊，支持双四 k 显示，顶部还有 s d 和 tf 卡槽，相机拍的素材啊，直接导一盒多用。总结一下， mac mini m 四啊，是个好东西，但想当真正的 ai 服务器，存储容量和传输速度啊是关键！正在搭建 ai， 想让 mac mini m 四啊存储和速度飞起的朋友阿卡西四的 m 零零二 pro 啊，赶紧试一试！
2514陈阿装
06:36查看AI文稿AI文稿先说结论，我选择的是千万三点五三十五 b a 三 b 四位量化模型。大家好，今天这期视频我们来解决一个非常关键的问题，当你买了一台 max studio 后，到底应该怎么选择模型？怎么选择推理框架？ 下面介绍三种最主流的模型格式。官方模型格式通常是官方发布在哈根 space 上的模型，采用 pad 加 gpu 训练完成， 这个是最原始的模型格式，特点是精度最高、最完整，适合训练，但不适合推理，并且非常吃显存， 不适合直接在本地使用。一句话，这个是用来训练的，不是用来直接跑的。第二种是 g g u f 格式，这是目前最流行的本地推理格式，它的特点是模型经过量化，兼容性很强，可以在 n 卡 a 卡 mac 电脑上都能运行。 第三种是 m l x 格式，这是 mac 电脑的专属格式，它的特点是专门为 mac 电脑设计， 利用 mate gpu 内存统一调度，在 mac 电脑上性能比其他两个格式更快。再来介绍一下模型的分类， dos 模型和 mo 一 模型。 dos 模型就是稠密模型，意思是每一次推理所有的参数都会参与计算，因此速度会相对比较慢一些，大约三十五 to 每秒。 m o e 模型全称是混合专家模型，特点是每次激活一小部分参数，因此它在本地设备运行时速度会非常快，大约可以达到七十多个每秒。 mac 电脑上常用的大约模型推理框架软件有三个， 分别是 o m l m studio、 o m l x。 这里推理性能最好的就是 m o m l x， 专门用来推理 mx 格式的模型，比另外两个推理软件要快很多，所以在 mac 环境下可以无脑选用。我在哈根菲斯上下载了下面这几个模型，官方版本的千万三点五二十七 b 四比特， 千万三点五三十五 b a 三 b 四比特。千万三点五三十五 b a 三 b 八比特 还有第三方的蒸馏模型。利用 cloud 四点六蒸馏的两个模型，由于进行了针对 os 的 蒸馏， 其推理思考能力应该会更强一些。但是这两个模型不能直接通过参数来关闭 sync 模式，所以每次调用时都会 消耗很长时间在思考。有时候在做简单任务的时候会有一些繁琐，所以在处理简单任务的时候，我会选择官方版本的模型并关闭 sync 模式，这样更快一些。再看一下四位和八位比特以及输入 token 与占用内存的关系。通常在 open craw 或者 cloud code 中，调用 agent 完成任务时都会有很长的上下文，因此输入 token 都会很长，这会影响内存的占用。 通过这两个表我们可以看出， token 越多，占用的内存也就越多。考虑到还需要加载纹身图的图像模型，所以必须控制模型的量化位数，因此最终我选择千万三点五三十五 b a 三 b 四比特模型 或者对应的帧流模型。下面我来实操一下在 max studio 中如何使用 o m l x 这个软件来调用模型。好，我们现在通过远程来登录这个 max studio， 你 可以在这里 点击双击 o m l x， 它就会出现在右上角这个 toolbox， 这里点击右右键就可以 chat chat with， 而且这里就可以直接跟他聊天。当然我们可以看一下左下角有个后台管理，这里有一些可以设置的地方，比如说它当你加载了一个模型之后，你就可以直接通过这些啊， a p i 的 a p i 和 cloud a p i 也可以通过这个命令行直接将它集成到 cloud code 里面，或者 codex open code 和 open cloud， 这都支持。第二个就是模型的管理，我下载这六个 也可以从 facebook 上直接下载，也支持了摩达社区，这里有一个全局的设置，比如这里设置了一个 a p i 的 密钥，设置模型的下载目录或者加载目录。这里有一个地方需要注意一下， 我下载的这个千万三点五的模型是上下文支持两百五十六 k， 所以 这里一定要填这个东西，因为它默认的那个最大上下文窗口大概只有三十二 k， 如果这里不改的话就会报错，所以这个 一定得把它改过来，改成呃你的模型最大支持的那个数。再就是这个模型的设置，比如说关闭这个 thinking 模式，你在这里要把这个添加一个 enable thinking 这个参数，把它设置为 force， 而且最好是强制的， 就可以保存。你下次再调用这个模型，它就不会开始那个 thinking 模式。但是对这两个蒸馏的模型，你关了这个也没用，内部始终是把那个 thinking 模式打开的，所以如果你不想用这个 thinking 的 话，你就用这个官方的把这个参数给关掉。 如果你想用 sync 模式的话，可以考虑用这两个推理的蒸馏过的模型，这里是日制分析，日制可以看一下它的调用，这里是这个性能精准测试， 可以来用来测试你下载的模型的精准。比如我们来测一下这个稠密模型，千万三点五二十七 b 四 b 的 比特的这个模型，看看速度怎么样啊？这里跑完了一次这个稠密模型的基本测试， 可以看到它基本上它的速度是在三十一点八 to， 每秒并发的话可以达到四十， 我们再跑一个 m o e 格式，这也是斯比特的这个跑完了，这个是比较快的，它可以达到七十八 to， 每在本地 使用这个 m o e 来跑这个 agent 应该速度是够的。 ok， 今天就讲到这，下期就讲一下如何在 max studio 上运行这个纹身图模型。好，下期见，关注我 ai， 分享时尚技巧，我们下期见。
937AI躺平养龙虾🦞
02:18查看AI文稿AI文稿云端 ai 托盘太贵，这节课教你本地部署 ai 大 模型，零成本使用纤维三点五，彻底告别托盘焦虑。我们这里会使用 o m l x 来运行大模型， 点击这里，请直接到下载页找到最新正式版本，未来稳定期间请不要找标注 dv 的 版本，找到后点击 s s， 根据操作系统版本下载。安装方法非常简单，直接拖拽过来即可。安装完成后直接运行，初次打开会弹出提示页面端口和其他的保持默认，点击启动服务， 提示成功后再点击。打开管理面板，在顶部的菜单中也可以实现这些操作。管理面板打开后接着安装模型，在顶部菜单，点击模型下载器页面，打开后用最快的速度点击摩塔社区，这是因为打开这个页面后会自动联网查找模型，但是由于网络不通问题，可能会导致页面卡死， 我们快速切换到摩塔社区，让它来不及联网就不会卡住了。点击模型下载器旁边的设置按钮，修改镜像地址为 h f mirror 点 com， 点击保存按钮，现在可以切换回来了，在搜索框里搜索千问三点五九 b mx 杠 speed 这个模型，这个模型的性能对一些常规需求已经非常足够了，运行起来大概占用六 g 左右内存，最低配置十六 g 内存的 bug， mini m 四都可以流畅运行。找到后点击下载按钮，因为我这里已经装过了，就不重复下载了，等待下载完成后会自动安装。再设置 模型，设置里可以看到已安装的模型，点击最右边的设置按钮图标，这里推荐设置聊天模板参数，点击添加设置 enable sync 值为 force， 不 然每次聊天呢，它都会思考很久。其他设置大家根据自己的电脑配置来调整，完成后点击保存，点击就绪按钮 会变成已加载状态，模型已经运行起来了，点击导航栏的聊天按钮，确认下顶部选择了正确的模型。现在啊，可以直接发消息给他， ai 会马上进行回复。 回到仪表盘里可以看到 tok 统计信息。总结下，在 mark m 系列芯片上，可以使用 o m x 来运行本地 ai 大 模型，彻底告别 tok 焦虑。低配置的 mac 电脑推荐使用纤维三点五杠九 b， 这个模型只占据六 g 左右内存， 而且性能足够使用，完全可以用来驱动 open core 文字版内容请看课程讲英文档。下节课我们继续学习 open core 的 安装，并对接上这节课所部署的本地 ai 大 模型。
516刘东-长乐未央
04:48查看AI文稿AI文稿先说结论，当然是 mac studio， 卖掉你还在用的 mac mini， 赶紧换成 mac studio！ 大家都想用龙虾来搞钱，但第一步就做错了， 不要用云主机，不要用 mac mini， 那 只是模型产生给你挖的坑。今天我就来分析一下，应该选择什么样的主机来养龙虾。如果你的目标跟我一样，要求龙虾能自动写文章、自动抷图、自动剪辑视频、自动写代码、自动完成金融交易， 那你要的就是一个可以完全自动化的 ai 助理。很多人都会问一个问题，既然有云端服务器，为什么还要花钱买本地设备？一句话，为了省钱、省 token、 省成本， 提高效率。你可以这样理理解，如果你所有事情都用云端模型，那你每一步都在消耗 token， 每一步都在付钱。而复杂的 agent 任务，每时每刻都在消耗大量 token。 举个例子，如果每天生成十个文案，两百个图片， 二十条语音，或者上万行代码，一个月下来几百到三千美金都是正常的。其实更合理的架构应该是这样的，本地模型负责百分之八十的工作，尤其是简单任务，文案初稿、 数据抓取、图片生成、语音生成、视频剪辑。这些都有非常好用且免费的专用模型，完全不需要使用云端模型。而云端大模型负责百分之二十的复杂推理工作，高质量输出，最终润色。关键策， 一句话总结，本地模型负责干活，云端模型负责动脑。你买的不是电脑，是 tok 工厂。对于我来讲，本地设备至少需要满足三个需求，一， 可以跑一个本地的大语言模型。二，可以跑一个纹身图模型，可以帮我生成各种图片。三、可以跑一个语音生成模型，生成各种角色的配音， 实际运行起来至少需要六十四 g 的 内存。在市面上你可以买到的有六十四 g 内存的 mac 电脑，大概有这四种配置， m 四 pro、 m 四 max、 m 二 ultra 和 m 三 ultra。 这里有一个误区，很多人以为大圆模型推理速度只取决于 gpu 算力，实际不完全是这样。 大语言模型推理是一个内存带框驱动型任务，因此最需要看中的实际是内存带框，而不完全是 gpu 的 性能。 以千万三点五这个模型为例，其 token 速度在 max studio 上可以达到七十 token 每秒，而在 m 四 max 上就达不到。 虽然 m 四 max 的 gpu 性能已经超越 m 二 ultra， 但 m 四 max 的 内存只有五百 g， 而 m 二 ultra 的 内存内存是八百 g 每秒。七十 token 的 速度完全可以满足本地的 a 警工作。 当然，由于它的上下文窗口完成复杂决策任务，还是需要云端大模型图像生成的速度，这个与 gpu 的 性能相关。如果你希望加快图，就需要选择 gpu 核素多、性能强的设备， 内存一定是越大越好，如果内存不够，生成图片的时候就会变慢，主要原因就是内存溢出引发 swap， 本质上就是硬拿硬盘当内存使 导致速度变慢。所以如果你资金充裕，也可以买五十六 g 甚至一百二十八 g 的 设备。 目前市面上最有性价比的机器配置就是 m r 二九六十四，内存是八百 g t p u， 性能也不弱。 而最新的 m 三 ultra 六四 g 价格偏贵， m 五 ultra 预计要等到六月份苹果才会推出，因此我上手了这个 m 二 ultra 六四 g， 后续我也会以这个设备作为主机，进行各种模型的配置和评测， 最终搭建一套完整的可以帮我赚钱的 ai 助理。目前我本地的模型方案是，大元模型选择千位三点五三十五， b 深图模型选择 z evatable 语音生成模型选择千万 tds 基本上就是千万全家桶。下一期呢，我开始实操这几个本地模型，然后从零到一，建一个自动生成文案、图片、视频的 ai 系统。关注我 ai， 分享实战技巧，我们下期见。
1.6万AI躺平养龙虾🦞
01:11查看AI文稿AI文稿当一款只有三百一十亿参数的模型跃级，斩杀比自己大二十倍的对手时，你还不重新审视规模至上的铁律吗？谷歌深夜甩出 jam 四全系开源模型，四个尺寸 app 二点零协议，从手机到单卡工作站全覆盖。 最炸的是三幺 b dance 数学 am 二零二六达百分之八十九点二，比前代暴涨六十八个百分点，直接挤进开源榜单前三排，他前面的体量都是他的数倍。二十六 b m 更夸张，推理时只激活三十八亿，参数 l 却冲到一千四百四十一，速度与智能兼得。上一代 jam 三在这组数据面前，几乎被打成了计量单位，编程、多语言推理、智能体任务全线断层式碾压，甚至连上下文一百二十八 k 的 精准解锁三十一币都拿下百分之六十六点四，而前代只有百分之十三点五。 更狠的是， e 二 b 和 e 四 b 两款端侧模型已经在手机和树莓派上跑通，延迟接近零。谷歌这次还彻底放手 apache 二点零协议商用修改分发全自由。 parking fee ceo 说，这是巨大的里程碑，但对你而言，更关键的问题是，当一台 mac mini 就 能跑。当三十一 b 能打千亿模型， 你下一步的 ai 应用准备用它做什么？评论区聊聊你最想用 jam 四干的项目。
77江学机器人
05:22查看AI文稿AI文稿五个月前，我开始认真尝试一套组合，用 ipad 作为 mac mini 的 唯一显示器，让 mac mini 在 没有传统显示器的情况下工作。今天这条视频我会做两件事，第一，完整教你如何让 ipad 成为 mac mini 的 唯一显示器。第二，分享我连续使用一段时间之后，这套方案真实的优点、缺点，以及我最终的判断。 欢迎来到小博五指画，我是你的五指画学习与 ipad 生产力向导。接下来在二零二六年，我会用一整年的时间系统讲清楚 ipad 五指画，学习 ipad 如何替代电脑， 以及 ipad 在 创作和效率上的完整用法。如果你对这些内容感兴趣，记得加个关注。好，我们先从最重要也最成熟的部分开始。第一步，让 ipad 成为 mac mini 的 显示器，在 ipad 上打开 app store， 下载完成后启动它。然后我们去 mac mini 做准备， 在 mac mini 上打开浏览器，进入 em display 的 官网下载 mac 端客户端，下载完成后按正常流程安装。安装完成之后，进入 mac os 的 系统设置，先进入通用，找到登录像，把 em display 添加进去，确保它可以正常运行。接下来进入隐私与安全性，找到屏幕与系统音频录制，勾选 em display， 然后在同一个页面里找到辅助功能，同样勾选 em display。 这三步非常关键，如果少任何一步，后面都可能无法正常显示画面。但这个时候我们会发现另一个问题， mac mini 关机重启之后，需要盲打键盘解锁才能在 ipad 上显示画面。所以我们还需要回到 mac 系统设置的隐私与安全，关闭文件保险箱， 再来到用户和群组这里，选择自动登录的身份，输入密码即可。现在我们开始连接。先启动 mac mini， 用一根 usb c 线建议使用 ipad 自带的充电线即可。一端连接 mac mini， 另一端连接 ipad。 在 ipad 上打开 em display， 几秒钟之后，你会看到 macos 的 完整桌面出现在 ipad 上。我们可以在 ipad 屏幕右上角的 em display 图标这里修改设置，比如设置不同的分辨率以适应 ipad 屏幕尺寸， 还可以设置帧率。当然我们应该选择六十帧，还可以在片号设置这里选择登录时自动启动以及自动更新软件。现在我们验证基本使用体验， 打开 fender， 打开 safari， 滚动网页，拖动窗口切换应用，你会发现整个体验是连续稳定的，而不是那种断断续续的远程控制感。接下来我们验证触控操作， 用手指打开应用，用手指在网页中滚动，你会发现 micros 在 ipad 上是可以被触控操作的。虽然这不是 micros 原声触控，但在实际使用中，它确实给你一种触屏版 micros 的 体验。 接下来是输入方式，如果你不想额外带鼠标和键盘，最省事的方式是给 ipad 装一个键盘保护壳。无论是妙控键盘还是第三方键盘都可以。当 ipad 固定好之后，你就得到了一种非常像笔记本的使用形态， 左手键盘输入，右手触控板操作，必要时直接触屏。不过需要注意的是， ipad 键盘和触控板有的时候只适用于 ipad os 系统，容易出现误操作。要更好的体验，最好用外界键盘和鼠标来连接 mac mini。 到这里，教程部分就完成了， 接下来我说一下连续使用这套方案之后，我最真实的体验，第一个明显的优点是性能余量。在同样的剪辑和多任务场景下， mac mini 明显更从容，即便把 ipad 作为唯一显示器，也不影响性能。第二个优点是系统完整性，你用的是完整 micro s， 不是 远程控制，原来的工作流几乎不用改。 第三个优点是 ipad 的 独立性。当你不需要 micro s， 只要拔掉线， ipad 立刻回到 ipad 的 s， 这是 macbook 外接显示器做不到的。 但接下来必须说一下缺点。第一个缺点是准备成本更高，你需要带 mac mini ipad 线材，可能还需要支架、键盘、鼠标。如果你追求随手打开就能用， macbook 依然更省心。 第二个缺点是启动电路更长， macbook 是 先盖就能用，而这套方案需要供电连接，打开应用步骤更多。第三个缺点是对桌面的依赖，它更适合咖啡厅、酒店桌面这种场景， 而不适合站着用或者空间非常狭小的环境。第四个缺点，没有内置电池，因此我们只能在有插座的地方才能使用它，无法满足随处可用的要求。 第五个缺点，显示延迟较高帧率，无法满足长时间办公需求或专业设计。现在说一下很多人关心的点，移动电源供电我尝试过，但没有作为长期方案。 在实际使用过程中，噪音和稳定性让我不安心，所以我选择退货，停止了这条路线。我不是说移动电源供电不可行，而是说如果你想把它当成主力方案，你必须做大量验证，稳定性确认前不建议照抄。 最后，回到最核心的问题， mac mini 加 ipad 能不能替代 macbook？ 对 我来说不能完全代替，但它也不需要替代。 macbook 更像一台随时随地最省心的工具，而 mac mini 加 ipad 更像一套性能更强的移动桌面。 如果你已经有 ipad， 如果你大多数时间在固定地点办公，只是偶尔移动。如果你更在意性能和系统稳定性，那这套方案非常值得你去尝试。 但如果你每天通勤，如果你讨厌线材和搭建，如果你追求一体化体验，那你应该直接选 macbook。 五个月之后，我依然会用 ipad 作为 mac mini 的 唯一显示器， 但我不会把移动电源供电当做长期主力方案。它不是 macbook， 但如果要给它个名字，我更愿意叫它 macpad。 如果你已经尝试过类似方案，或者你有更稳定的供电方案，欢迎在评论区分享你的经验。如果你对我视频中展示的配件感兴趣，可以在下方找到链接。如果你觉得有帮助，记得关注我，我们下期再见。
4780小博无纸化
10:02查看AI文稿AI文稿啊，今天我们讲一下在 mac mini 上去安装虚拟机完了以后去运行 windows 系统，因为我的这个是 m 系列芯片的， m 系列芯片的话，它是装不了呃， windows 系统的，只能在虚拟机里面去运行，现在我给大家讲一下。 首先呢在电脑上安装一个这个 utm 的 一个虚拟机，在这个虚拟机里面呢，然后呢我们就需要去下载一个，下载一个 windows 版的系统，像这种 win 十一建架构，必须是必须是这个啥？必须是这个 a r m 架构的，你看啊， a r m 六十四，六十四位的系统。然后呢把它下载好了以后， 我们在这个虚拟机里面单机，在这我已经有一个虚拟，有有一个 windows 系统了，我是下来的话，我们就在这只是在这点添加，然后呢选虚拟化，虚拟化以后在这选 windows， 选了以后呢在这里去翻倍它的内存，我的呢是十六 g 的 内存，所以说是我给他分一个四 g 的 内存过去。 cpu 核心呢也可以去选，选两盒，四盒都可以啊，都可以也可以 也可以默认啊。然后呢选继续，继续完了以后呢，我们在这里就要找到 windows 我 们下载的那个系统，然后点击浏览，在下载下载栏里面去找，找到这个我们把它拉拉开一点，嗯，找到这个，你看啊， 企业版 windows 啊， chinese。 然后呢是 arm， 六十四位 arm 架构的，把它添加了以后选择打开，打开了以后，现在就等于从它开始安装了， 把这个系统就选中了，选中完成以后我们点继续，继续的话，这个下来是指定它的存储，如果你的 mac mini 是 内存比较大的话，你可以去给他扩一下，可以把它往大的放一放，如果说内存比较小的话，我的是二五六的，所以说我就给他一个六十四 g 的 内存就够了。 好，然后呢接着我们点下一步继续这样呢，在这个 windows 系统里面，我们可以把这个名称给它改一下啊，添一下，你看这样就好了，然后点击存储，点击存储以后 在初运行的时候，点击运行的时候先先要编辑，在编辑里面的话会有一个最主要的，其他的都无所谓，主要的是一个这个网络的设置，网络设置的话他有共享网络，也有调节， 调节的话就是这个系统安装好了后就比较独立，它可以通过外网去访问，通过呃 to disk， 通过这些呃软件去访问，一般的话就是做成调节就比较合适。然后呢网口的话可以选择有两种，第一种呢是 啊有线连接，第二种呢是 wifi 连接，一般的话都会选择更稳定的比特网连接，其他的都不用动，然后点击存储。这样好了以后 最重要的一点就是在运行的时候，我们在这个第二个系统上面单机右键点运行的时候，当它开始出现字幕的时候，出现这个下面是进度框，在上面显示 n k 的 时候，我们点一个回车， 这样的话它就会选择从本地的那个系统去安装了。本地的系统去安装了好， 稍等一下他就开始安装了，这下的教程呢，剩下的东西呢都是很简单的，就按照激活系统的方式去去做就行了。然后呢一直到最后 到最后他始终安装完成了以后啊，我已经安装过了，我就不需要再安装了，然后我给大家说的就是一个过程， 然后呢这再重要的就是关机的时候，或者是让他停止运行的时候，我们一定要在这个 utm 这个讯息机里面去关闭他，去关闭他点击停止，然后呢停止这样的话他就关闭了啊， 现在呢我把它删掉，这个是我给大家做的示范的一个点，一个系统啊，现在呢我们就是用我自己现在已经装好的这个系统，然后在这单机右键运行啊，他现在就是一个 正常的一个开机界面，我们看很快的，等他开机了以后，应该也就是个十秒到十五秒的样子，他就正常就开机了。 嗯，然后呢你可以去我这个有密码，输入密码啊，输入密码 啊，登进去 好了，现在就到我的这个系统界面了。第一步登进去了以后，我们先要在文件管理器里面，然后点击此电脑找见这个 utm crystal two 这个安装包，这个安装包呢就是 把它的这个屏幕大小，包括呃分辨率跟 windows 跟跟 mac mini 的 这个桌面去做一个平衡，只要你装了它以后，你的界面放大或者是缩小，然后呢就会基本上去正常。好，我们现在我们再安装一次，这个可以多次安装 点下一步 agree， 我 同意啊，然后呢它就会自动去安装，安装完了以后就是它的屏幕，你在这个点击放大的时候，它的屏幕会是一个全屏，而且呢画质分辨率会更清晰一点。 你看我们我已经安装过了，我这个最大化，最小化的话它这个屏幕都是没问题的， 最大化也是一样的。嗯，它也会跟着呃 mac mini 的 主界面主屏幕去运行啊，现在已经安装完成了，如果说安装完了以后还是有点问题，我们就需要 在那个哪，在那个虚拟机里面，在那个在这个虚拟机里面，我们去把它单机右键停止完了以后，关闭了以后再点击运行就好了 啊，现在就登到我们的虚拟机里面了。虚拟机里面呢有什么作用呢？一个呢是有很多人用不惯 mac mini， mac mini 的 系统，然后呢需要安装。二一个呢就是在这个 mac mini 的 系统里面，我们去安装一个 windows 系统了以后，我们有些人会跑一些网易云之类的东西，比方说我现在就在跑啊，然后呢 这样就等于我们一个人有了两台电脑，闲置的时候用这个网信去跑一跑，呃， 跑一跑数据，或者是跑一跑业务，去挣点零用钱，零花钱闲置呢。剩下呢就是基本上用这个电脑用这个 windows 系统可以去做一些其他的。呃， mac mini 觉得做不了的事情。嗯，这样就比较 比较方便，也比较顺畅。我们就可以有两个系统。这个系统呢是我从官网下载的一个呢是官网下载，他呢是目前是没有激活的状态 目前是没有激活的状态。他不不存在一些，但是呢都能正常用啊，就是有一些特殊的功能可能是体现不了，像我的电脑呀，网络呀啥的放不到界面上来， 然后呢其他的一些应用基本上都是没有问题的。嗯，都是正常使用，都是正常使用。嗯，那没有，因为没有激活，但是呢不影响使用。嗯，我们也可以激活，可以不激活， 这样的话它的网络连接就很正常，它的网络连接会给他分配一个独立的 ip， 会给他分布一个独立的 ip， 你看它的 ip 是 点一点五，而我的 mac 的 mac mini 的 ip 呢，它是 点一点二，这样就它也就是等于有了一个双 ip。 同样的话，在外网里面我们也可以通过，比方说在 mac mini 里面我们可以通过 to disk， to disk 就 可以找见，就可以找见。 呃，只要我在这个，只要我在这个 windows 系统里面去安装了 todays， 安装了 todays 登录，登录了我的账号以后，我们在在 mac 的 界面上就可以看到 我的虚拟机里面的这个 windows 系统的这个 todays， 我 们就可以直接用到这里，也可以在 不在局域网的情况下，在外面，在其他地方的时候，也可以通过 todays 远程去访问到我们 mac mini 里面的虚拟机里面的 windows 系统的一个 呃资料或者是东西，也可以远程直接访问到 mac mini， 通过 mac mini 再进去，再进到这个 windows 系统里面去查找资料，或者是做一些东西。这样好了，好，这一期就讲完了。
02:19查看AI文稿AI文稿家人们，现在谁不想把大模型放本地用？隐私拉满还不卡壳？但面对欧拉玛和 lm studio 这俩热门工具，是不是挑花眼了？别慌，今天咱用大白话唠唠这俩到底咋选，包你一听就懂！先给大家来个素兰版，想自己折腾定制到极致， 隐私选欧拉玛，纯新手想无脑上手，尤其是用 mac 的 朋友，闭眼充 lm studio 就 对了。咱先说说开源这块，这 可是核心差别。柏拉玛是完全开源的，代码全透明，就像拿到了无删减的配方，懂点开发的朋友能随便改随便定制，对数据隐私要求高的保子选它准没错。 而 lm studio 是 半开源客户端闭源，但核心工具开源，主打一个开箱即用，不用你懂代码，小白也能轻松拿捏。再看模型选择，俩工具各有千秋，欧拉玛的官方模型库更新贼快，新模型一出来基本都能找到，选择 多到挑不过来。 l m studio 的 模型广场更贴心，能根据你电脑内存智能推模型，还会明说能不能塞进 g p u， 特省心。尤其是 mac 用户，它能自动适配 m， 一 到 m 五芯片推理 直接拉满，这波适配真的太香了！这里插个小提醒，装模型别贪大，大小别超电脑内存的一半，八 g 内存就选四 g 以内的，不然电脑卡到哭。别问我怎么知道的， windows 用户最好整个独立显卡， mac 就 选 m 系列芯片，体验感 直接翻倍。最后说说大家最关心的使用体验，新手重点看这块考拉玛管理模型有点麻烦。三、模型改设置的找储存路径，纯纯的技术党，操作 萌圈。但 l m studio 就 太友好了，全图形化界面，在我的模型库里点几下，三模型全命名 全搞定，还能直接调模型参数，想平衡精度和速度，划几下鼠标就完事。主打一个简单直观。其实说到底俩工具没有谁好谁坏，就是个头其所好。开发者爱折腾的技术党选欧拉玛准没错，纯新手 mac 用户 l m studio 就是 你的。 实在拿不定主意的俩都下了试试，反正总有一款适合你，赶紧去解锁本地大模型的快乐吧。
31懂AI的引路哥
02:30查看AI文稿AI文稿mac 跑本地模型之前一直很尴尬，装了奥拉玛跑个小模型还行，大一点的慢的受不了，玩两下就吃亏了。最近我在做一个 r g 项目，需要大量跑测试，重新研究了一下，发现情况变了。 先说我的场景，我再开发一个 iig 项目，到了测试阶段，测的是流程请求能不能正确流转，各模块能不能串起来。不关心模型输出质量，但需要大量反复自动化的执行，用 api 跑烧钱还有限额，本地模型是最合适的选择，但之前的体验让我觉得不靠谱。 我去调研优化方案，发现问题出在推理后端。欧拉玛之前的推理引擎没有针对苹果芯片的统一内存做优化，苹果自己的 m l x 框架快两到三倍，但欧拉玛不支持。 那直接用 m l x 的 方案呢？社区的推理服务端有严重的稳定性问题，内存会无限增长，最后触发系统级崩溃。不是进程挂，是整机重启。 github 上有多个 e 秀记录了这些问题， 所以第一轮结论是绕开奥拉玛，换一个用 m l x 后端但更稳定的工具 l m studio。 但我不放心。单一信息员又做了一轮调研，这次发现了一个关键信息，奥拉玛刚发布了零点一九版本，原升级成了苹果的 m l x 框架，专门针对苹果芯片做了加速，目前优先适配了 q n 三点五的三十五 b 模型，后续会扩展更多。 这就改变了判断。不是欧了吗？不行，是之前的版本没有针对 mac 优化。而且欧了吗是我项目里已有的基础设施开源，不需要引入新依赖。切回欧了吗？ mac mini m 四 pro 六十四 g 内存跑千万三点五的三十五 b 模型提示词，处理速度每秒八十七个 token 生成速度，每秒二十五个 token， 一个完整的 r a g 测试回答，大概十到十五秒出来，不限量不花钱随便跑。对我的场景来说完全够用。 本地模型不是用来替代 api 的， 它给你一个不心疼的实验环境，跑测试，试流程，验证想法错了就重来，不用算成本。这个场景和本地模型刚好匹配， 想试的话一条命令就能跑。这个模型是混合专家架构，三十五 b 参数，但只激活三 b， 量化后大约二十三 g， 六十四 g 内存随便泡，三十二 g 也能泡，二十四 g 勉强能泡，但别同时开太多东西。十六 g 建议换九 b 的 版本。关注工具人研究所，我们下期见。
312工具人研究Hive
06:57查看AI文稿AI文稿哎，我最近老是听到大家在聊，说想在自己的 mac mini 上跑一个本地 ai， 听起来是挺酷的，对吧？可真要自己动手，好像第一步就不知道该怎么办了。我看来看去，就两个名字最常见，一个叫欧拉玛，一个叫 lm studio， 所以，到底该选哪个啊？哈哈，这绝对是大家最关心的问题。这么说吧，如果你是专业的开发者，那可能还有的聊，但如果你跟大多数人一样是个新手，就是想简单快速的体验一下拥有私人 ai 的 感觉，那答案其实非常非常明确， 今天咱们就把这事彻底讲清楚，帮你直接上手。好，我们今天的路线图是这样的，首先帮你搞定这个选择题，告诉你为什么我们觉得其中一个工具对新手来说更友好。 然后呢，我们会手把手带你把它装好跑起来。最后，也是最酷的部分，我们会用真实的数据给你看看，在最新的 mac mini 上，你这个私人 ai 助理到底能跑多快。 行，那咱们就直奔主题吧，奥拉玛和 lm studio， 它俩最根本的区别到底在哪？ 嗯，你可以这么想，这就像开车的两种模式啊。奥拉玛呢，它就像开一台手动挡的车，对于老司机来说，那叫一个动力强劲，操控感十足，对吧？但前提是你得会踩离合，会挂挡，这个对应的就是敲命。行， 那 l m studio 呢？它就是自动挡，你坐进去点几下按钮，车就走了。它用一个特别漂亮的图形界面，把所有复杂的东西都给你藏起来了。 所以啊，对于刚上手的人来说，这个体验简直是天壤之别。你看这张对比表，一下子就清楚了，欧拉玛这边从安装到使用，全都要跟命令行打交道，这对于开发者来说非常高效。 但 l m studio 完全是另一个路子，它把所有你需要的功能都做成了一个可适化的软件，你想找模型、下载模型、跟模型聊天，全都在这个软件里，点点鼠标就搞定了，根本不用碰那个黑乎乎的代码窗口。 所以说，圈内基本上的共识就是，如果你对敲代码没那么熟，那 l m studio 绝对是门槛儿最低、最容易上手的那条路。 没错，它就是帮你扫清了那个最大的障碍，那个让很多人想尝试本地 ai， 但最后又放弃的初始障碍。好了，既然选择已经明确，那最关键的一步来了，咱们直接上手，看看怎么让它跑起来。 ok， 理论部分结束，现在正式进入实操环节，你只要跟着我们一步步来，几分钟之后你就能拥有第一个完全属于你自己的本地 ai 了。好的，四步搞定！听起来很简单，那我们先从第一步找模型开始。 你打开 l n studio 这个软件之后啊，主界面上就能看到搜索框，这里就像一个巨大的 ai 模型超市，它连接的是全球最大的模型社区 hugging face， 你 想找什么模型，直接搜就行。 但重点来了，如果你用的是 mac， 一定要记住一个关键词，就是找模型名字旁边带 m l x 这个小标签的。 m l x 听起来像个代号，这是干嘛的？哈哈，你可以把它理解成苹果官方给麦克开的专属快车道，它是一个专门为苹果 m 系列芯片设计的机器学习框架。 简单说，只有用了带 m、 l、 x 标签的模型，你的麦克才能火力全开，发挥出最强的性能，这可是咱们的秘密武器啊！ 剪辑一个模型之后，你还会看到一堆文件，名字里带着 q 四、 q 八之类的。这个叫量化，说白了就是给模型瘦身，让它跑得更快。一般来说，数字越小跑得越快，但精度会稍微低一点。 对于 mac mini 来说，想要速度和效果平衡，选一个名字里带 q 四的，比如 q 四 underscore k underscore m， 是 一个非常不错的开始。 哇，这个提醒真的太重要了，我完全能想象的到，要是我自己弄，肯定会卡在这一步，然后抓狂，最后直接放弃了。这绝对是新手最容易遇到的坑。 这个软件默认会开启一个保护模式，怕模型太大把你的电脑内存撑爆。但说实话，现在很多好用的模型都挺大的，所以咱们得手动去设置里把这个模型加载保护给关掉，这样他才能顺利加载 好。一切准备就绪，模型也下载好了，设置也改了，那他跑起来到底有多快呢？光说没用，我们直接上数据。 我们先来看看刚才说的量化到底有多大影响。这个 token 你 可以简单理解成 ai 每秒中能吐出多少个字。 我们用一个很主流的七十亿参数模型来测，你看速度优先的 q 四版本，每秒能生成二十个 token， 这个速度你跟他聊天会感觉非常流畅。但我们如果换成精度更高的 q 八版本，速度就调到十二了，虽然也能用，但你能明显感觉到他在思考，回复会慢半拍 等等，这里面还有讲究，我以为我们刚才选了那个 m l x 文件就已经是最佳选择了。选 m l x 只是第一步，但这一步事关重要。为了让你看到差距有多大，我们接下来就做一个对比测试。 在同一台 mac 上，我们跑一个通用的 g g u f 格式模型，再跑一个咱们刚才说的专门为苹果优化的 m l x 格式模型，看看速度差了多少。 结果来了，你看这个图，简直是碾压式的。在同样的硬件上， m l x 优化过的模型速度直接飙升了超过百分之四十，在某些任务上，这个速度差距甚至能达到一倍。 所以说，如果你用着麦克却没有用 m l x 模型，那就等于你这台电脑的 ai 性能白白浪费了一大半。 哇，这个对比也太震撼了，所以今天咱们的重点就很明确了，第一，新手入门首选 l m studio， 因为它最简单。 第二，只要你用的是 mac， 下载模型的时候一定要认准 m l x 这个标签总结的非常到位。现在你的桌面上已经有了一个强大的、完全私密的，而且还是免费的 ai 助手，最关键的是，它已经为你的 mac 做了最完美的优化。 那么现在唯一的问题就是，有了这么一个强大的私人 ai， 你 第一个想让他帮助你做点什么，创造点什么呢？好好享受吧！感谢各位的收看，关注我，每天一分钟用 ai 提升工作效率！
11AI效率工具
01:41查看AI文稿AI文稿你买 mac mini 干什么呀？买 macbook 呀，得多花一千块钱。如果你现在正在考虑是不是要买一台 mac mini 用来玩 open cloud， 先说一下结论啊，非常不建议买 mac mini， 有 那钱你直接上 macbook， 因为你的第一台苹果设备必须得是 macbook。 现在 mac mini 的 价格被炒得有点高了，在京东上国不完以后 你也得三千八百多。但是吧，你多加一千多块钱，你能买一个 macbook air 总共才五千出头，多花这一千块钱可治老鼻子了。 你买一个 mac mini， 你 不得配键盘，不得配鼠标，不得配显示器啊。而且如果你配的不是苹果的， 那跟 mac mini 一 起用起来非常的蹩手，根本没有办法跟苹果的全家总 pk。 而且你买了 macbook， 它不就是相当于一个 mac mini 呢？你把它合上，它就是一个 mac mini。 但是你 mac mini， 你 打开它不是一个 macbook 呀。你想想，你跟你的朋友坐在咖啡馆里边喝着新冰乐，前边摆着一个 macbook， 多牛逼呀，多装十三呢，对吧？但是如果你买一个 mac mini， 你 试试，你用一个车圈人的话术就是说， mac mini 有 的我都有啊， 我有的 mac mini 不 一定有啊。那么总有人问了，那什么情况下买 mac mini 呢？除非你已经有了一个 macbook。
1132伟仔玩AI
02:15查看AI文稿AI文稿果然啊，这 cloud 爆火啊，成功的把 mac mini 又卖爆了，从各大电商平台百亿补贴价，到回归原价，再到直接断货啊，用了不到五天的时间，现在有些配置官网发货要排三到四周，二手市场的准心机卖的比官网还贵啊，有人一口气买了十二排祖籍群， 每次有一个新概念出来，第一波赚到钱永远是卖铲子的。大部分人呢，先抢设备，然后再想用来干嘛？我现在朋友圈已经有人看你在刷 mac mini 是 ai 时代的船票，好像你玩牌几天就要被这个时代甩下去了。但你买完之后呢？机器大概率是在桌上吃灰啊， 你克拉的 boss 呢？配置教程都可能没有看完。所以蜂窝这个东西啊，说白了就是怕错过，怕错过呢，你就要先占坑，先占坑就要推高价格，价格一涨就更坐实了。这玩意真的火， 自我实现的预言啊，每次都是零。话又说回来啊，这个 mac mini 确实有它被选中的道理。这个跑 a i a 阵的需要的是啥？稳定？低功耗？ 一直开着不关机？抛开云浮气不谈，本地设备里 mac mini 几乎算是版本答案。待机功耗六到七瓦，电费几乎不用算零噪音，统一的内存架构，跑本地小模型的效率 比同价位的 pc 要高出一截。一个四千五百块钱的东西，能当你全年无休的数字员工？更狠的是这台设备呢，还能顺带手干点别的，像低聘项目，就是那些去中英化算力网络让你贡献设备换取一些奖励。一台二十四小时不关机的 mac mini， 白天能帮你干活，晚上能帮你挂机赚钱。 这个双重回本的逻辑一出来啊，市场直接报复性扫货， mac mini 被炒起来啊。其实揭露了趋势，就是当软件越来越便宜， ai 工具呢， 甚至都卷到免费，但是那些能稳定跑这些软件的硬件反而会变贵。以前买电脑呢，是为了用，现在买电脑呢，是为了让他替你干活。 说设备呢，不再是单一的消费品，而是生产资料了，这个呢，是个信号。接下来呢，可能所有能二十四小时稳定运行且低功耗的本地设备都要被重新定价。所以 mac mini 被卖断货，不是因为它变强了，而是 ai agent 让它的价值被重新发现了。
1720向南（AI策略落地）
03:25查看AI文稿AI文稿mac mini 扩容的终极方案还是这个，更换内置硬盘。这是我八个月前的扩容方案，阿卡西斯雷电四硬盘盒，加上三星九九零 pro， 速度很快，也很稳定。但随着时间的推移，这个尿袋在我面前越来越不顺眼了， 它不仅占用了桌面空间，还占用了一个最重要的雷电四接口，导致我在插满两个显示器之后无法再连接其他的雷电设备了。而且你还要随时注意防止它掉盘。所以我做了一个决定，不玩关掉带了，直接更换 mac mini 的 内置硬盘。 这个是刚入手的 mac mini 专用的扩容硬盘，容量是一体，卖家说它采用的是十寸半工艺，肉眼看不出来啊。颗粒是闪迪和东芝随机发货。虽然现在硬盘都涨价了，但和苹果官网的一体容量相比，这个九百三的价格性价比有四五层楼那么高了。接下来准备换硬盘， 首先需要用刀片把底部盖板翘起来，它其实是卡住的，记得要用力，不要怕把它搞坏。盖板翘起来之后，注意电源按键的排线，不要拉断了。这里有六颗内六角螺丝，一般的螺丝刀搞不定它，你需要专用的螺丝刀。 我用的是吉利电动迷你 p， 两档扭力可调，还有照明灯，三十个磁吸头。麦克迷你这个螺丝用的是 s 二 t 四型号的批头，开二档扭力就能很轻松的拧下螺丝了。拧下的螺丝可以放在螺丝收纳盒里面，弄丢了就很 难找了。在揭开这一层时啊，一定要小心，不要拉断天线、排线、散热风扇有四颗螺丝，拧下下面的两个螺丝后，上面的两个螺丝和前面的不一样，需要更换 s 二 t 三批头，四颗螺丝全都拧下之后，风扇就能拿下来了，同样要注意风扇的排线，这时候我们就能看到硬盘了，硬盘上只有一颗螺丝，和前面 都不一样，需要更换 s 二 t 八 h 皮头。你像这个螺丝后，可以用几米电动迷你套装里的圆头镊子把硬盘夹起来。这里有个小 tips， 拿硬盘的时候一定要记住硬盘安装的方向，因为苹果的硬盘正反面都能插，不过最好还是和原装的安装方向一致。我买了这块扩容硬盘，在外观电路上和苹果原装硬盘几 乎没有区别，厚度也是差不多的。看到卖家说的十层板应该是真的，我甚至有点怀疑这个硬盘就是苹果原装的硬盘。小版回收之后依然是换皮头，拧松上螺丝，拧 中间层的六颗螺丝，然后盖上盖板，这里和开始一样，盖的时候一定要用力。其实给那个迷你换一盘非常的简单，有一套顺手的工具，基本上就是有手就行啊。 几米电动迷你皮套装也非常给力，披头收纳盒也是磁吸的，可以把皮头吸住，也不容易脱落，看起来就非常整齐。而且它还是一个弹起式设计，这样有点像火箭发射架，两层三十个皮头，拿取很方便。还有一个充电底座，随手拿起就能用，放下就能充电，不管你什么时候用它都有电，非常省心。 换完硬盘之后就是装系统了，首先下载 apple configurator 软件，再找一根支持 usb 三点零协议以上的 type c 线或者是雷电线， 插在 mac mini 中间这个有闪电标识的雷电口上，另一头插在另一台 mac 电脑上。没有 mac 电脑的用 windows 装虚拟机也可以 长按开机键十秒钟，再插上 mac mini 的 电源线。当 apple configurator 软件里面出现 d f u 三个字的时候，就说明连接成功了。接下来把提前下载好的系统包拖进来，在弹出的窗口上选择恢复，等待恢复完成就 ok 了。开机时如果你有苹果的无线键盘，鼠标需要重新开关一下就能连上电脑了。如果没有，就找一个有线键盘插上，不然可能进 去系统。因为我之前的系统是装在外挂硬盘上的，所以我只需要在开机的时候插上外挂硬盘就来直接把原来的系统无损的迁移到新硬盘里面，迁移完成之后和原来没有任何区别。这个体验有点像换新 iphone 十，导入旧 iphone 数据之后，感觉就像没换手机一样啊。硬盘容量成功扩容到一 t， 在 系统里看 盘信息显示是苹果的原装硬盘，有点奇怪啊。跑分测试写入速度两千九百七十五，独具速度两千九百一十八，比苹果原装的二百五十六 g 快 很多啊。接下来就是考验它的稳定性了，采用内置扩容方案之后，桌面变得更加整洁干净了，也不用担心外观尿袋吊盘的问题了。
531画鱼Tech
