笔记本部署Gemma4免费养“大龙虾”可行么? Gemma4本地大模型发布啦!你的笔记本部署本地大模型免费养“大龙虾”可行么? 今天 AI 圈最大的新闻,就是谷歌正式发布了本地开源大模型 Gemma 4,包含了 E2B、E4B、26B、32B多个参数版本。 众所周知,养大龙虾这种需要高频调用、实时反馈的智能体,Token 的输出速度就是生命线。 如果半天憋不出一个字,那不叫智能体,那叫“智障体”。 为了回答这个问题,我拿手头的两台主流配置的轻薄笔记本,用 Ollama本地部署大模型,做一次真机测试。 不吹不黑,我们直接用数据说话。 为了尽量还原大家的日常使用场景,我选了一台 Mac 笔记本和一台 Windows 笔记本,都是目前大家最常用的笔记本型号。其中苹果笔记本为MacBook Air M4 芯片,配置了16GB 统一内存和 1TB硬盘。而Windows笔记本为联想小新Pro 14 GT ,配置了酷睿 Ultra 5 CPU,以及 32GB 大内存和1TB 硬盘,笔记本为核显,没有独立显卡。 让我们来看看最终的核心数据,也就是Token 输出速度: 1. 谷歌的中量级模型Gemma 4 E4B MacBook的Token输出速度为21.25 tokens/s; Windows笔记本的Token输出速度为12.64tokens/s; 在小尺寸大模型中,苹果笔记本凭借统一内存架构,速度几乎快了一倍,是绝对的王者。 2. DeepSeek R1 8B MacBook的Token输出速度为16.74 tokens/s Windows笔记本的Token输出速度为7.8 tokens/s 3. 阿里的Qwen 3.5 9B M4芯片的MacBook Air的Token输出速度为8.8 tokens/s 而Windows笔记本的Token输出速度为5.9 tokens/s 低于 10 tokens/s 的模型体验非常糟糕,不建议在此配置下使用。 4. 谷歌Gemma4:26B的重量级模型 MacBook Air 笔记本显存直接爆掉,完全无法运行。 而Windows 联想小新笔记本的Token输出速度竟然达到了11.45 tokens/s,完全超乎想象。 #vibecoding#gemma4#openclaw#大龙虾#大模型
00:00 / 04:29
连播
清屏
智能
倍速
点赞460
OCR能力超强!GLM-4.6V深度实测+本地部署 🚀🚀🚀视频简介: ⚡️ 开源免费!9B参数GLM-4.6V-Flash本地部署教程+GLM-4.6V深度实测!从UI设计到OCR识别,从图像标注到Function Calling,12个维度完整评测! 🔥 本期视频详细演示了智谱AI最新发布的GLM-4.6V系列多模态大模型的完整能力测试! 💡 核心亮点: ✅ 9B参数Flash模型本地部署,支持LM Studio和vLLM生产级部署 ✅ 106B参数旗舰模型,128K超长上下文,视觉理解达SOTA水平 ✅ UI界面一键复刻,React+TypeScript完美还原复杂布局 ✅ 强大OCR能力:笔记提取、模糊PDF识别、手写公式识别零失误 ✅ 精准图像理解:识别清明上河图时代错误、标注微小物体、区分10种狗品种 ✅ 原生Function Calling:多模态Agent实战,看图制定旅行规划 📦 完整资源包含: ✔️ Ubuntu系统部署完整命令 ✔️ Open WebUI调用配置 ✔️ Google Colab代码示例 ✔️ API调用完整代码 👉👉👉笔记:https://www.aivi.fyi/llms/introduce-GLM-4.6v 🔥🔥🔥时间戳: 00:00 GLM-4.6V系列发布 - 智谱AI推出9B和106B双模型 00:52 本地部署演示 - LM Studio和vLLM部署方法 02:33 Ubuntu系统部署 - 完整环境配置和模型加载 03:37 Open WebUI调用 - 本地模型API接口测试 04:19 UI复刻能力测试 - React+TypeScript还原复杂界面 05:35 OCR识别测试 - 笔记提取和PDF扫描件识别 07:00 手写公式识别 - 复杂排版和潦草字迹OCR 07:47 图像理解测试 - 清明上河图现代元素识别 08:22 精准标注能力 - 鳄鱼恐龙微小物体识别 09:00 品种识别挑战 - 10种狗品种精准识别 09:53 图文混排输出 - 新闻生成和论文解析 11:17 API调用演示 - Function Calling智能工具调用 12:00 旅行规划Agent - 多模态+工具调用实战案例 #glm #智谱ai #glm46v #ocr #AI
00:00 / 15:54
连播
清屏
智能
倍速
点赞151
00:00 / 01:16
连播
清屏
智能
倍速
点赞20
00:00 / 02:18
连播
清屏
智能
倍速
点赞8
00:00 / 07:54
连播
清屏
智能
倍速
点赞2
00:00 / 10:54
连播
清屏
智能
倍速
点赞118