查看AI文稿
🎷老汉吹🎷
🎷老汉吹🎷

粉丝339获赞1.1万

相关视频

  • MacStudioM3Ultra96G本地部署大模型测试 想自建本地AI、不想被云端token扣费、在意数据隐私的朋友,这期实测真的太有用了✨
很多人好奇Mac Studio M3 Ultra 96G到底能不能稳定跑主流开源大模型?日常办公、内容创作、代码调试、资料整理的真实体验如何?
这次直接拉满顶配实测环境👇
测试设备:MacStudio M3 Ultra|96G统一内存 + 1TB固态
全程基于 Hermes 智能体框架 进行本地调用调度
一次性实测目前市面上热度最高、实用性最强的三大系列本地模型:
✅ Gemma4 系列(谷歌新款开源模型,综合能力强劲)
✅ GLM 系列(适配中文场景,问答、逻辑、文案更贴合国内使用)
✅ Qwen3 通义千问3系列(当下最全能的本地开源模型,办公、代码、长文本都能打)
不同于简单跑跑分、空测参数,本次视频完全模拟真实工作场景:
日常文案撰写、长文本总结梳理、代码问题排查、逻辑推理问答、批量资料处理等高频需求,全部实景压力测试📊
帮大家真实对比:
▪️ 三款模型在Mac Studio上的运行流畅度
▪️ 响应速度、上下文承载能力、稳定性差异
▪️ 不同工作场景下,到底该选 Gemma4 / GLM / Qwen3 哪一个
▪️ 96G大内存对本地大模型部署的真实提升到底在哪里
如果你正在观望:
要不要入手Mac Studio做本地AI工作站、新手如何选本地大模型、多模型怎么搭配工作、Hermes框架实际好不好用
这条实测视频可以给你完整的参考依据,避开部署踩坑和选型纠结✅
想看具体帧率、推理速度、场景对比、模型适配细节,直接看视频全程干货~ 
#本地大模型 #macstudio #hermes #openclaw  #本地AI
    40:54
    MacStudioM3Ultra96G本地部署大模型测试 想自建本地AI、不想被云端token扣费、在意数据隐私的朋友,这期实测真的太有用了✨
    很多人好奇Mac Studio M3 Ultra 96G到底能不能稳定跑主流开源大模型?日常办公、内容创作、代码调试、资料整理的真实体验如何?
    这次直接拉满顶配实测环境👇
    测试设备:MacStudio M3 Ultra|96G统一内存 + 1TB固态
    全程基于 Hermes 智能体框架 进行本地调用调度
    一次性实测目前市面上热度最高、实用性最强的三大系列本地模型:
    ✅ Gemma4 系列(谷歌新款开源模型,综合能力强劲)
    ✅ GLM 系列(适配中文场景,问答、逻辑、文案更贴合国内使用)
    ✅ Qwen3 通义千问3系列(当下最全能的本地开源模型,办公、代码、长文本都能打)
    不同于简单跑跑分、空测参数,本次视频完全模拟真实工作场景:
    日常文案撰写、长文本总结梳理、代码问题排查、逻辑推理问答、批量资料处理等高频需求,全部实景压力测试📊
    帮大家真实对比:
    ▪️ 三款模型在Mac Studio上的运行流畅度
    ▪️ 响应速度、上下文承载能力、稳定性差异
    ▪️ 不同工作场景下,到底该选 Gemma4 / GLM / Qwen3 哪一个
    ▪️ 96G大内存对本地大模型部署的真实提升到底在哪里
    如果你正在观望:
    要不要入手Mac Studio做本地AI工作站、新手如何选本地大模型、多模型怎么搭配工作、Hermes框架实际好不好用
    这条实测视频可以给你完整的参考依据,避开部署踩坑和选型纠结✅
    想看具体帧率、推理速度、场景对比、模型适配细节,直接看视频全程干货~
    #本地大模型 #macstudio #hermes #openclaw #本地AI
    查看AI文稿
    1371Physco
  • oMLX新版速度提升50%体感加和TensorFold对比 结论是现在Mac端还没有一个推理引擎可以秒杀全场 #M5Ultra #MacStudio  #oMLX #tensorfold
    05:33
    查看AI文稿
  • 8160亿参数大模型,2台Mac就能跑 Meta 的 8160 亿参数大模型,已经可以在两台 Mac Studio 上本地运行。官方双机方案每台需要 512GB 统一内存。
讲清三个问题:
1. 为什么只激活部分专家,内存仍然不能省掉全部权重?
2. 约 25 token/s 到底在什么条件下测出?
3. 自家产品加功能与对外提供模型 API,许可条件有什么区别?
#大模型  #本地部署  #MacStudio  #AI开发  #MuseSparkOpen
    01:38
    查看AI文稿
  • Mac Studio 到手!跑本地 AI,踩坑 MLX 模型 纠结很久放弃 X86 独显主机,选 Mac Studio 24 小时常驻开机。 笔记本内存太小,跑虚拟机、本地大模型顶不住。 踩坑:无 MLX 模型在苹果上很慢,换成 MLX 版本速度起飞,实测 BGP 选路原则响应很快。 心动的已婚兄弟,记得先申请老婆审批😂 #MacStudio #本地大模型部署 #Ollama #零基础学ai #大模型
    01:27
    查看AI文稿
  • M5 Ultra 本地大模型怎么选 Mac Studio M5 Ultra 跑本地大模型,已经完全可用了。 
这一期不聊「能不能跑」,只聊三件更值钱的事,5 分钟讲完。 
① 统一内存 ≠ 可用内存
两百五十六 G 是标称值,实测 Metal 给 GPU 的硬顶只有两百二十二点七 G。
最容易算错的一条:权重文件一百零五点四 G,载入内存根本不是这个数 ——
加上预测头、嵌入层和缓冲对齐,得按一百四十二点三 G 留。 
② 速度不是引擎的固有属性
同一个模型、同一台机器,换框架、换上下文长度、有没有命中前缀缓存,
读数能差出六点八倍(四十 → 二百七十二 token/s)。
所以「哪个引擎最快」不成立,要看你的活儿是什么。 
③ 模型不用换,先换引擎;内存不用赌,先算预算 
5 分钟里讲完:
· 96GB / 256GB / 512GB 三档的 GPU 可用预算,各配哪一组模型
· 四个推理引擎:oMLX / TensorFold / MTPLX / Splash
· 四个模型 × 两个框架的冷启动读数(同一台机器) 
口径(看结论前先看这段):
单机、单次、单样本;temperature=0 贪心,取冷启动读数;速度只代表中文技术说明类内容;
失败案例全部保留(幻觉 2 例 / 重复输出 1 例 / 加法漏算 1 例);
未实测项均已标注「公开数据」或「推算」。 #MacStudio #本地大模型 #端侧AI #AI测评 #程序员
    04:53
    M5 Ultra 本地大模型怎么选 Mac Studio M5 Ultra 跑本地大模型,已经完全可用了。
    这一期不聊「能不能跑」,只聊三件更值钱的事,5 分钟讲完。
    ① 统一内存 ≠ 可用内存
    两百五十六 G 是标称值,实测 Metal 给 GPU 的硬顶只有两百二十二点七 G。
    最容易算错的一条:权重文件一百零五点四 G,载入内存根本不是这个数 ——
    加上预测头、嵌入层和缓冲对齐,得按一百四十二点三 G 留。
    ② 速度不是引擎的固有属性
    同一个模型、同一台机器,换框架、换上下文长度、有没有命中前缀缓存,
    读数能差出六点八倍(四十 → 二百七十二 token/s)。
    所以「哪个引擎最快」不成立,要看你的活儿是什么。
    ③ 模型不用换,先换引擎;内存不用赌,先算预算
    5 分钟里讲完:
    · 96GB / 256GB / 512GB 三档的 GPU 可用预算,各配哪一组模型
    · 四个推理引擎:oMLX / TensorFold / MTPLX / Splash
    · 四个模型 × 两个框架的冷启动读数(同一台机器)
    口径(看结论前先看这段):
    单机、单次、单样本;temperature=0 贪心,取冷启动读数;速度只代表中文技术说明类内容;
    失败案例全部保留(幻觉 2 例 / 重复输出 1 例 / 加法漏算 1 例);
    未实测项均已标注「公开数据」或「推算」。 #MacStudio #本地大模型 #端侧AI #AI测评 #程序员
    查看AI文稿
  • 你的Mac能跑多大AI模型?从9B到70B,一次讲清。 Mac统一内存该怎么选?从MacBook Air、Pro到mini、Studio,讲清不同配置适合评估哪些本地模型,以及容量、带宽和散热的区别。评论区留下你的机型、芯片、内存和使用任务。#ai本地部署  #企业AI落地  #macbook #mac #大模型
    04:15
    查看AI文稿
  • Mac Studio 深度体验:从0到1部署本地大模型工作站 为了给桌面做减法,我用一台 256GB 统一内存的 Mac Studio 接管了工作台上的全部 AI 创作任务。
我先改造了外置 SSD 的散热,并对比了内外置 SSD 的读写速度,然后把配置 Mac Studio 的过程整理成了开源的一键配置工具。我还实测了 Qwen3.8-27B 原版 BF16 和 Qwen3.8 Flash Next 在 200K 长上下文与 MTP 加速下的真实吞吐,以及前端代码能力;随后在 Mac Studio 本地部署了文生图 (Qwen Image 2.1 Pro)、AI 音乐 (Yue2) 和视频生成模型 (MiniMax H3),并让 Hermes Agent 独立调度这些本地模型制作出一支完整的 MV。视频最后我还测试了 30 核 CPU 的视频渲染速度,并总结了实战中踩过的三个大坑。 
#macstudio #本地部署大模型 #本地大模型 #macstudio开箱 #抖音精选app知识充电站  @抖音科技
    26:47
    Mac Studio 深度体验:从0到1部署本地大模型工作站 为了给桌面做减法,我用一台 256GB 统一内存的 Mac Studio 接管了工作台上的全部 AI 创作任务。
    我先改造了外置 SSD 的散热,并对比了内外置 SSD 的读写速度,然后把配置 Mac Studio 的过程整理成了开源的一键配置工具。我还实测了 Qwen3.8-27B 原版 BF16 和 Qwen3.8 Flash Next 在 200K 长上下文与 MTP 加速下的真实吞吐,以及前端代码能力;随后在 Mac Studio 本地部署了文生图 (Qwen Image 2.1 Pro)、AI 音乐 (Yue2) 和视频生成模型 (MiniMax H3),并让 Hermes Agent 独立调度这些本地模型制作出一支完整的 MV。视频最后我还测试了 30 核 CPU 的视频渲染速度,并总结了实战中踩过的三个大坑。
    #macstudio #本地部署大模型 #本地大模型 #macstudio开箱 #抖音精选app知识充电站 @抖音科技
    查看AI文稿
  • 10万块的Mac Studio开箱! 这么贵的小方盒子,买来能不能赚到钱?今天起我就给大家试试,本地大模型能不能替代人工完成企业私有数据的处理工作。#苹果mac
    02:40
    查看AI文稿
  • 64G内存的M5MAX!跑本地AI大模型太香了 这台 64G 内存的 Mac Studio 直接本地部署👇
🧠 64G 统一内存:可以同时加载多个大模型
📚 本地 AI 知识库:私有数据不上云,安全又快
🎨 AI 绘图:Stable Diffusion 本地跑,出图不排队
💻 虚拟机 + Docker:64G 随便开,开发环境随便搭
M5 MAX 18 核 + 40 核,神经网络引擎加速推理
1T 固态装模型、数据集、知识库不用外接
还能兼顾 3D 渲染、视频后期、编程开发
一台机器搞定所有重度工作负载
国行全新未拆封,官保 2 年
¥27800 的价格,桌面级 AI 工作站
别再用 16G/32G 的笔记本跑 AI 了,直接上 64G
#MacStudio  #M5MAX  #本地AI  #AI大模型
    00:40
    查看AI文稿
  • 你还想本地跑大模型? #真实生活分享计划 #程序员日常 #本地大语言模型 #mac #精选计划 
结论:已有设备,可以榨干;没有设备,别为了本地跑硬冲高配 Mac。
    01:14
    查看AI文稿
  • 多台设备,也能拼成一个本地 AI 集群。 
GitHub 上这个开源项目 exo,可以把 Mac、Mac Studio、Mac mini 等设备连接起来,让它们一起分担大模型推理任务。 
它会根据设备资源、网络延迟和连接拓扑拆分模型,不是让单台机器硬扛。项目还支持 Thunderbolt/RDMA、Tensor Parallelism、MLX 后端,并兼容 OpenAI、Claude、Responses 和 Ollama API。 
适合研究本地大模型、多设备推理、Apple Silicon 算力集群和隐私优先部署的朋友。 
注意,这类方案对硬件和系统环境有要求,更适合学习、实验和本地部署研究。
#编程 #vibecoding #vibecoding大赏 #ai新星计划 #真实生活分享计划
    00:59
    查看AI文稿
  • Mac M5 Studio 开箱实测 买这台 Mac Studio,主要想探索两件事:本地 AI 模型,以及苹果的软件生态。 我们拿正在做的短剧当验证场景,把视频生成、深度处理和云端配音接起来试试。
第一轮,本地生成 8 秒画面,用了 17 分 48 秒。人物动起来了,衣纹和面部细节还有损失。能跑起来之后,还得继续看速度、效果和内存压力。
实测数据、模型参数和切换过程都放在视频后半段。接下来继续折腾,一项项看看它的本事。
你最想看这台机器接下来跑什么?
#MacStudio #本地AI #苹果生态 #AI视频 #开箱 #科技折腾
    02:31
    查看AI文稿
  • 熬夜部署本地大模型! 我这个256G的M5Ultra,大家建议安装什么模型啊!#ai大模型 #本地大模型
    02:45
    查看AI文稿
  • AI主机该不该买? M5 Mac Studio 512GB,普通人该不该当 AI 主机买?#M5 #MAC #Apple #macstudio #ai主机
    02:27
    查看AI文稿