粉丝1.3万获赞50.4万


先说结论,当然是 mac studio, 卖掉你还在用的 mac mini, 赶紧换成 mac studio! 大家都想用龙虾来搞钱,但第一步就做错了, 不要用云主机,不要用 mac mini, 那 只是模型产生给你挖的坑。今天我就来分析一下,应该选择什么样的主机来养龙虾。如果你的目标跟我一样,要求龙虾能自动写文章、自动抷图、自动剪辑视频、自动写代码、自动完成金融交易, 那你要的就是一个可以完全自动化的 ai 助理。很多人都会问一个问题,既然有云端服务器,为什么还要花钱买本地设备?一句话,为了省钱、省 token、 省成本, 提高效率。你可以这样理理解,如果你所有事情都用云端模型,那你每一步都在消耗 token, 每一步都在付钱。而复杂的 agent 任务,每时每刻都在消耗大量 token。 举个例子,如果每天生成十个文案,两百个图片, 二十条语音,或者上万行代码,一个月下来几百到三千美金都是正常的。其实更合理的架构应该是这样的,本地模型负责百分之八十的工作,尤其是简单任务,文案初稿、 数据抓取、图片生成、语音生成、视频剪辑。这些都有非常好用且免费的专用模型,完全不需要使用云端模型。而云端大模型负责百分之二十的复杂推理工作,高质量输出,最终润色。关键策, 一句话总结,本地模型负责干活,云端模型负责动脑。你买的不是电脑,是 tok 工厂。对于我来讲,本地设备至少需要满足三个需求,一, 可以跑一个本地的大语言模型。二,可以跑一个纹身图模型,可以帮我生成各种图片。三、可以跑一个语音生成模型,生成各种角色的配音, 实际运行起来至少需要六十四 g 的 内存。在市面上你可以买到的有六十四 g 内存的 mac 电脑,大概有这四种配置, m 四 pro、 m 四 max、 m 二 ultra 和 m 三 ultra。 这里有一个误区,很多人以为大圆模型推理速度只取决于 gpu 算力,实际不完全是这样。 大语言模型推理是一个内存带框驱动型任务,因此最需要看中的实际是内存带框,而不完全是 gpu 的 性能。 以千万三点五这个模型为例,其 token 速度在 max studio 上可以达到七十 token 每秒,而在 m 四 max 上就达不到。 虽然 m 四 max 的 gpu 性能已经超越 m 二 ultra, 但 m 四 max 的 内存只有五百 g, 而 m 二 ultra 的 内存内存是八百 g 每秒。七十 token 的 速度完全可以满足本地的 a 警工作。 当然,由于它的上下文窗口完成复杂决策任务,还是需要云端大模型图像生成的速度,这个与 gpu 的 性能相关。如果你希望加快图,就需要选择 gpu 核素多、性能强的设备, 内存一定是越大越好,如果内存不够,生成图片的时候就会变慢,主要原因就是内存溢出引发 swap, 本质上就是硬拿硬盘当内存使 导致速度变慢。所以如果你资金充裕,也可以买五十六 g 甚至一百二十八 g 的 设备。 目前市面上最有性价比的机器配置就是 m r 二九六十四,内存是八百 g t p u, 性能也不弱。 而最新的 m 三 ultra 六四 g 价格偏贵, m 五 ultra 预计要等到六月份苹果才会推出,因此我上手了这个 m 二 ultra 六四 g, 后续我也会以这个设备作为主机,进行各种模型的配置和评测, 最终搭建一套完整的可以帮我赚钱的 ai 助理。目前我本地的模型方案是,大元模型选择千位三点五三十五, b 深图模型选择 z evatable 语音生成模型选择千万 tds 基本上就是千万全家桶。下一期呢,我开始实操这几个本地模型,然后从零到一,建一个自动生成文案、图片、视频的 ai 系统。关注我 ai, 分享实战技巧,我们下期见。


上一条视频,我说我那个五百一十二 g 统一内存的 max studio 现在能卖十几万,大家说不信啊,不信挂,一百万都行,有人买才算呢。哎,好,看一下这个一年时间看能不能翻一倍。现在这个电脑卖了,我们去买一台二手的宝马三系,不过分。没问题没问题, m 三 out, 三十二 c 的 cpu, 八十 c 的 gpu, 五百一十二 g 的 统一内存,两 tb 的 硬盘。这个东西呢,已经绝版了, 所以说价格特别特别高,高到我难以相信。你今天问我的时候我还在想,我说这个电脑你卖掉不要亏钱吗?因为在我们印象里哪有买电脑挣钱的,我问你的时候你还不知道他的,我真不知道这个电脑竟然能涨这么多,因为确实太贵了,超出了正常我们的认知范畴。是的,你跟我说这个电脑竟然有人给你出到了十一万, 我赶紧查了一下朋友圈,不得了啊,原来真的有,并且这段时间涨得很疯。想不明白啊,哪怕是显卡也没有升值到这种程度。这个确实太太夸张了,这一款应该都是大公司买,买过去跑这个 ai 什么推演散利的应该是。哦,是的,这些 ai 公司又特别有钱,对吧?人家 有的是钱,只要你有货,我就敢出价。现在这个电脑卖了,我们去买一台二手的宝马三系,不过分。没问题没问题,来,大家看一下,先打十一万啊,一会零头再转,哈哈哈,还有还有还有高手。对啊,看到没有,瑞哥直接给我打了十一万,说后边还有,我看还有 还有是怎么个意思?就是你不是问到了价格是十一万吗?哦,我在你问到的这个基础上再给你加钱,懂了吧?老板大气,老板大气。确实,他来之前问我打算多少钱卖,我说我不懂这个,我相信你,你说多少钱就多少钱。所以 的确啊,我在收钱前一刻,我还不知道他会给我打多少钱,就纯粹就开盲盒了。大家以后买手机,买电脑找瑞哥, 我从做抖音以来,我基本上所有的这种东西基本上都是找瑞哥买,我从来不问价,只要瑞哥给我,我就相信这一定是这个价格没有问题,包括买,包括卖都是找瑞哥。大家认准瑞哥这个广告打的太坚强了,太硬了,太硬了。 ok, 你 呢?一台宝马三系 这个保值率,哦,不,这个升值率堪比黄金啊。苹果基本上从未有过什么产品能在一年内二手物品比新一价格再翻了个倍。你拿错了啊,有俩长得一样,哈哈哈。

不久前有人把五台 mac 连起来跑 ai, 结果速度反而暴跌百分之九十一。那为什么现在他又组了个新集群?因为苹果悄悄给 mac 加了个新功能。这次的配置是四台满配 m 三 ultra max studio 代号 max 了,每台机器都配了五百一十二 gb 统一内存。 注意,这是 gpu 能直接用的显存,整个集群总共两 tb 内存,三百二十个 gpu 核心。对比他上次用的 m 二 max 集群,这次机器少一台,内存总量却大了六点四倍。 连接方式也升级了,从雷电四换成雷电五,带宽翻倍。这一套本地 ai 集群总花费五万美元,要是在 nvdia 平台搭出同等显存的配置,大概需要二十六块 h, 一 百 成本直接飙到七十八万美元以上。不过,上次集群失败的核心问题是网络带宽瓶颈,真正的瓶颈其实是延迟。 这次苹果用一个软件更新,改变了 r d m a 技术, 全称是远程直接内存访问。在启动 r d m a 前, mac 间通信走的是传统 tcp ip 网络协议站,延迟有三百微秒, r d m a。 能绕过 cpu 和操作系统,让一台机器的 gpu 直接读写另一台的内存。 这一下把延迟从三百微秒直接砍到了三微秒,性能提升了一百倍。过去的疾群模式叫管线并行,所有机器能同时处理 ai 模型的每一层,比 这种模式下设备间的数据交换量巨大,对低延迟的要求也较为苛刻。正是 r d m a 解决了这个延迟问题。旧方法跑拉玛三,速度只有每秒四点七个 token, 新方法下同样模型直接飙到十五点四个 token, 每秒 速度快了三倍,即使是跑小模型,集群的速度也比单机快了一倍多。那么更大的模型表现如何?博主尝试在集群上同时运行 kimi k 二和 deepsea 两个大模型。 可以看到,两组模型同时占用了每台机器近三百 gb 的 内存。 kimi k 二是个万亿参数模型,光是加载就吃掉了每台机器百分之三十五的内存。在这种压力下,它写代码的速度依然能达到每秒二十八个 token。 同时运行的另一个模型 deepsea 也能维持每秒二十六个 token 的 生成速度。 这个结果说明,本地 ai 集群的时代或许真的回来了。如果你有这样一套设备,你会用它来做什么?

才是真正的性价比之王呢,两台同为苹果的十六 mac pro, 一台是搭载爱九芯片,一台是搭载 m 一 pro 芯片,毕竟现在爱九顶配的话,官方的价格只要一点三五 w 左右,而搭载 m 一芯片的中配就要一点八九 w, 这可相差了好几。 今天呢,我们只是站在一个修图师的角度对两台机子进行简单的测试。第一个测试,我们模拟一整套照片,三百零八张,大概十五个 giw 原始照片,直接拖到 m 一型片的电脑里面,我们看一下速度,好的开始计时,我们看多久, 非常的快,已经打开,同时呢非常的丝滑,好,同样把这个照片拖到艾灸芯片的麦克风 啊,非常的快,打开了,打开连着的速度是感觉不出来,我感觉他稍快一丁点。测试一下两台机的 a r 算法,同样是 ctrl 的一个主体选择,然后我们将背景压按,将草地还原来快速的完成我们的工作。这个环节 看到艾灸芯片秒杀我们的 m 一啊,我们的 m 一是没办法选中的,但艾灸选的非常的好,其实明显的差距,包括我们也试了主体也是选不中的,但这个问题呢,可以解决,但是比较繁琐,我们下期分享这个小测试的话,就是同为幺零八零 p 半个小时的视频呢,导出的工程文件。 呃,这个领域的话, m 一实在是太快了,这,这个是没办法比了啊。这个 m 一的话已经倒完了,大家可以看到上面已经可以播放,但我们下面的话只足足卖了百分之三十左右啊。这个领域我觉得艾灸是没办法跟 m 一 polo 这个芯片去比了,更不要说是 max 这个芯片, 那么第五个小测试就是温度啊,这是 m 一芯片, m 一 polo 芯片啊,基本上是没有什么温度的啊。然后我们再看看这个艾灸,我们贴近一点啊,按一下, ok, 已经报警啊,显示不出来,抬高才能够显示出来啊,所以呢,艾灸的发热量比 m 一大的很, 照片处理了两台,基本上是差不多的啊,然后那 i 九的话兼容性会更好,那么视频的话,这个 m 一 polo 确实是快了很多, 但是呢,我们 i 九有一 t 的容量,而且呢,官方只要一点三多,便宜了五六千。那如果是花一点八九去买这个 polo 或者更贵的 max, 那我可能选他才是真正的天花板,下期见。

这一台电脑三万块,这一台电脑二十五万块,他们的性能差距有多大?我来告诉你,麦克斯丢丢我已经用了一周了,让我总结这台主机的话,只有一个词,灭霸来了。本来我是向苹果定制了六十四核图形处理器的麦克斯丢丢,等待的时间实在是太长了,刚好我在重庆直营店看到有高配的库存, 今天的人告诉我,这是重庆唯一一台麦克斯丢丢,当机立断,我就拿下了。咱们来看性能和工号对比。几个奔驰五的跑分对比中,多和两万三千多分,比二十八和智强处理器的麦克 pro 提升了百分之五十, mapro 芯片提升了百分之一百四,单核性能提升不大。 gpu 的跑分测试中,麦克 pro 离挨打就差一点点了,比 mao 串强百分之四十七。 因为这台 mac pro 加装了 w 六八零零 x 显卡,这块单显卡的价值就是两万一先天奔驰。而二十三的跑分测试中,多和两万四千多分,迈克 pro 两万六千多分,性能比较接近。为什么在几个奔驰里跑 跑分差距那么大, cd 奔驰跑分差距却不大?这有可能是 cd 奔驰二十三没有适配艾米凹槽的原因,但也不排除这个喷气太侧重于 m 一。总体来说,艾米凹槽是由两颗 me max 拼接而成, 融合怪 boss 的性能相当强悍。好不好用呢自己知道,我用电脑的工作就是视频剪辑, maotra 可以提供流畅的剪辑服务。麦克 pro 我不打算用了,我要和他说再见了。不知道哪个好心人会看上他,娶她回家。处理器缝合技术其实英特尔和按摩店也都搞过,最后搞出来东西个个都翻车。 简单的说就是两个胖子吃双份的饭,干一个胖子的活。不仅工号高,性能也拉跨,那么 mao 闯是怎么实现百分之百性能翻倍的呢?在 max 芯片的发布之初, 苹果就在这个芯片上留有一个高速接口, mapro 是没有的,他就是 ouchr。 复信技术你可千万不要看这薄薄的接口,他能承载二点五 tp 每秒的通讯贷款。 比如说我们用的五 g 网络理论下载极限速度是二点五 g 每秒,奥斯尔风险是他的一千倍,是 pca 四点零差十六的八十倍。硬盘的读写速度还是没能打过麦克 pro, 麦克 pro 能达到七点五 g 每秒的读取速度和六点二 g 的写入速度。当然这台麦克 pro 是开了外挂的,我装了一个 pciem 二正脸,用起来的速度那是真的快。 当其他的厂商都在使劲的造卡车提升自己的装载量时,而苹果就在造高铁,不仅速度快,装载量也不是卡车能比的。 号方面, ma 是领先了一大截。 mao 耍处理器的待机公号只有四点五瓦,笔记本用的 mapro 待机公号只有一点九瓦,而二十八和的至强处理器待机工号要二十七瓦多,如果算上待机总工号, migpro 直接上了一百三十瓦工号。 脑开机是要干活的。我相机测试了看网络四 k 视频的工号, cd 奔驰跑分时的工号,还有 fcpx 剪辑视频的工号。 mac pro 最高时能达到三百 七十瓦的工号,这不是电脑虎是什么? ma 芯片要比二十八盒的樱桃芯片低百分之七十到八十的工号,不仅做到了工号低,性能还猛。处理器温度控制方面,笔记本要差一些,其实 ma 芯片的温度也很高,在跑 cne 奔驰 r 二十三时, ma pro 笔记本飙到了九十多度风扇才开始工作,基本上日常使用风扇都处于静默状态。 max studio 和麦克 pro 都有强大的散热系统, me altar 也只有六十二度,二十八和志强处理器达到了八十八度,而且是有那么强大的散热系统的加持下,处理器的温度还是没压住。我在想啊,如果 mic pro 要是没有这些散热装置,二十八和志强处理器冒烟也很正常。两款麦克斯丢丢我肯定建议你选择 maol 耍芯片 技能翻倍,内存贷款翻倍,视频处理能力翻倍。如果你的工作是与视频处理相关、图形处理相关、音乐相关、代码相关,那么 amy 凹槽会是你的生产力。打游戏的话,这台电脑就算了。