手机部署gemma4配置

杰玛斯完全可以直接部署在手机使用了，这里可以看到有多种使用场景。今天的测试环境，手机是飞行模式，完全断网。直接看看他在手机本地的运行表现。 发一段话过去，大家可以直观感受一下这个回复速度。这里我没有做任何剪辑加速，体感非常流畅。然后是多模态识别，随手拍一张照片， 它解析图片的速度很快，而且能把画面里的细节描述得比较准确。在断网的情况下，这个速度和理解度都很 ok。 再看它对系统指令的理解，我语音让它在地图中找到香港， 它能瞬间识别意图，并自动拉起地图。 a p p。 虽然因为没网，地图包刷不出来，但调用底层接口这个动作它是完成了的。 在游戏场景下，现在也可以用自然语言交互了。他完全理解了，并帮我完成了播种，这说明模型已经能跟应用逻辑层挂钩了。最后看下这个 prompt lab， 像改写语气、文本总结或者写代码，这些任务全都能在本地临县完成，其他功能等你们去测试。

大家好，今天来给大家实测一下，把 jam 四部署到手机上，到底能实现些什么？视频内容有点多，感兴趣的可以慢慢看完。首先是 ai 聊天，我先把手机切到飞行模式，全程离线使用，可以看到我问他能做什么，他回复的很流畅，反应速度也很快，注意回复这里我全程无加速。 然后是图片识别功能，我随手拍一张照片，问他看到了什么，他能很精准的识别出画面里的细节，解析的特别清楚。还有这个手机指令控制，我直接语音说在地图里找到北京，他立刻就能理解我的意思，自动打开地图应用。虽然现在没网加载不出来， 但整个指令识别和调用应用的过程都是在本地完成的，体验很惊艳。唯一不足的是他听不懂中文，只能英文沟通。还有这个小花园互动游戏， 我说在八号坑种植物，它就能听懂并执行操作说明模型，对自然语言的理解和交互能力都很强。这里依旧听不懂中文，只能英文沟通。最后是提示词工具箱，不管是改写文案、总结文本，还是写代码， 离线状态下都能直接生成，非常方便。整体体验下来， jam 四把 ai 能力真正做到了手机端本地化，不用联网，隐私性更好，功能也足够实用，未来手机端 ai 的 体验真的会越来越强。

手机部署谷歌最新模型编码四，可以选择一二 b 和一四 b， 我 把 wifi， 蓝牙数据设置，定位， nfc 都关掉， 打开 h gallery， 我 装的一四 b， 这两个模型都可以完全无限进入，需要等待加载模型 输入内容就可以提问。对于一个可以部署到手机上的离线模型，速度还是挺快的， 这里可以看到生成速度，右上角可以设置参数，有很多玩法可以探索。

公主，你现在看到的就是谷歌最强的开源模型加码四，可以看图，能听音频，也有不错的推理机制，最重要的是完全免费，给我几分钟，从零开始，将加码四部署在自己的电脑上。我们直接开始 先花一分钟和大家聊一下贾马四是什么？它是谷歌刚发布的开源 ai 模型，跟商业版的怎么奈同根同源，你可以理解为谷歌把自家最强的 ai 技术浓缩成了一个免费的版本，直接送给你用。 那么它好在哪里呢？三个点。第一，多模态，不只是聊天机器人，你可以发图片让他看，发音频给他听，还能写代码。 我们可以看看这张表格，横轴是模型的参数体量，而纵轴就是性能表现。贾马四以满血版的性能表现和千万的三百九十七 b 的 模型能力基本持平，关键在于它的体量只有千万的十分之一，这真的非常夸张。 第二，完全免费，不用充会员，不按 token 收费，并且可以商用，你可以模改它做成各种有意思的本地模型，拿去做产品也没有任何的问题。第三，隐私安全，因为跑在你自己的电脑上，所有的数据都不会出，你的电脑拿它处理合同，财务，私人物件，不用去担心泄露。 ok， 我 们直接动手。你现在只需要打开一个浏览器，然后把它放到全屏上，直接官网上搜索欧拉玛点 com 啊，然后这个东西就出来了。然后你只要点击整个画面的一个右上角 download， 看到没有？然后你可以选择你是 mac os 系统还是 linux 还是 windows， 我是 mac os， 那 你就直接点击这个 download from mac os， 然后我们就可以看到这个画面上的右上角应该是会有个下载的链接， 然后等它下载好就可以了，因为我这边其实已经安装好了吗？那么我这边的最终的一个输出效果的话，大概是在这里。你们下载完了之后，打开你们的桌面上的欧拉玛，你们看到的应该是现在这样子的一个画面，那就说明你已经安装成功。 佳马仕一共有四个版本，你可以根据你的电脑配置进行模型的选择，模型的能力越强，所需要的配置就越高。对于内存小于三十二 g 的 玩家，我建议大家直接安装一四 b， 三十二 g 及其以上，可以试试看二十六 b 和三十一 b 的 参数量， 其实这两者模型的能力大通小异，如果你是为了极致的精度，可以选择三十一 b， 但是在我看来，二十六 b 呢，其实是一个非常甜点的位置，达到了速度和精度的一个平衡。如果你不知道你的电脑内存是多少，这里针对 mac 用户，你可以选择终端输入这行命令。 而 windows 用户你可以点击 win 加 r， 点击回车，召唤出来你的终端以后，然后再输入这个命令，也可以显示出你的内存。选择好对应的模型，我们只需要打开终端，和刚刚一样的步骤，根据模型输入指令直接回车即可。等待模型下载好，打开你的 oala， 选择模型就可以开始了。 ok， 我 们打开我们欧曼的软件，你点击这里，然后往下滑，你就可以看到你刚刚已经安装好的这个佳马仕。我们来问他一个很有逻，就是说很有那个逻辑陷阱的一个问题，就是我今天要去洗车，但是只有一百米，你觉得我是走路去还是开车去？ ok， 我 们来看一下他的一个答复是怎么样子。 这是一个非常有意思的一个逻辑陷阱题，我们可以从不同的维度去分析。逻辑层面上来说，必须开车去， ok， 这一点已经很棒了啊。 那如果说是从脑筋急转弯角度上来说，他说如果你走路去，那么你是在散步，而不是在洗车。哦，也就是说他分为了三个维度，一个是脑筋急转弯，一个是实用主义层面，还有个就是逻辑层面。我们来看一下他这个佳马仕的这个逻辑能力。哎，你还真别说这小参数，但他的表现还是不错的。 那么 jamas 它的一个很大的优点就在于它其实是支持这个多模态的。我们来不妨给他上传张图片，我们来看一下。 ok， 那 么我们上传一张什么图片呢？哎，上传张这个图片，你们看怎么样啊？就是这是一朵花，然后有个太阳，有一本书，我们来让他看看。我说，啊，描述一下， 描述一下这个图片，我们来看看他的多模态识别能力怎么样？说实话，本地具有多模态识别能力的模型，而且是能够你自己去模改的，其实并不是很多。我们来看一下。 ok， 一， jeff 二，然后 jeff 三，给了几个他看到的一些画面。好，我看他现在在思考和输出。这张画面充满了诗意，唯美且带一丝忧伤。 画面主体是一本翻开的书籍。哎，确实是对的，背景与中景是一个画面，然后呢，躺着一只洁白的玫瑰，然后背景是有一个夕阳，散发出这个温暖的金橙色光芒，哎呦，很不错，你们发现没有，是不是很棒？就是说他好像 表达的还是很到位的，但是因为呃，我其实本来还是想测一下这个关于音频识别和这个视频识别的，因为这个佳马仕它也是支持视频识别的， 但是因为欧拉玛官方不太支持，所以大家可以自己去谷歌 as do do 上面去玩一玩。所以总的来说，其实通过这么两个比较简单的测试，它当然不够严谨，而我觉得感受来说的话，这个香奈儿丝还是 真的是能够在本地帮我们处理一些比较复杂的一些任务的，就是在文字层面以及去多模态识别能力上来说，是一个比较抗打的模型。 看到这里相信你一定会明白， olama 本身是一个模型管理器，你当然也可以不用贾马四，你可以选择开源的 deep stick， 千问等等，其他的开源模型还是同样的命令，一键配置就可以了。 本地捕鼠的最大优点就是保护你的隐私，模型的使用不会受到任何的限制，同时也可以支持模型的微调，让它更合你的口味。下期我打算教大家小白如何从零到一，微调自己的本地模型，感兴趣的可以点个关注，我们下期再见。

今天给大家带来手机本地部署大模型，无需网络支持 ios， 安卓无需特殊网络环境。当然了，今天部署的是谷歌最新发布的模型，小模型的性能大家都懂得，娃娃可以正当生产力，还需要等待发展一段时间，和电脑的本地部署是一个道理。 那么我们先进入 ios 的 教程其实非常非常简单。首先先进 app store 下载如图的应用 google ai edge gallery， 安装好之后，我们直接打开进入 ai 对 话， 会发现我们首次运行的时候会让你下载模型，因为我手上的这台设备是 iphone 十五 plus， 因此我选择下载这个折中的它推荐的二点五 g 的 模型， 等待它下载完成之后，我们可以和它对话看看。这个时候我进入飞行模式，把网络给关掉，它是完全本机运行的，会发现我们已经可以和它对话了，只不过在运行的过程中，它可能有点微微发热。当然了，小模型的智商就是这样，和它进行一些简单的对话是可以的。 那么接下来我们进入安卓的部分，然后我拿来做演示的这台手机是荣耀八零二， 在国产的安卓机上，我们有两种安装方式，第一是通过 apk， 也就是安装包进行下载，第二种方式就是你需要一些手段，对吧？上网的手段，然后进谷歌商店里进行下载，下载好打开之后和 ios 里的使用是一样的，我们首次进入的时候，点击下载模型，同样还是这个二点五 g 的， 然后就可以和他进行对话，我们可以问两个问题来看看效果，嗯，就比如说我离加油站五百米，我是应该开车去还是走路去看看他怎么回答？ 最后我们就会发现没有说必须开车去，对吧？去加油站。所以说小模型的这个智商这一块肯定是和 ap 还远远比不了， 但是这也代表着这给我们一种可能性，随着科技的发展，模型的发展以及手机硬件性能的发展，拥有一台纯本地部署的 ai 助手将成为可能。那我们今天教程就到这里，非常简单，我们下期再见。

叮咚，家人们 ai 大 模型正式进入手机部署时代，昨天的视频呢，我跟大家说了，谷歌最新发布的加马斯模型可以直接在手机上面部署，今天我就来带大家实现它。首先咱们先看效果， 首先我先打开我的手机的飞行模式，可以看到我现在这个手机是没有任何的 wifi 和数据连接的，然后这时候我们回到 ai， 然后打开一个聊天窗口，我们问他一个问题，比如说帮我查一下苹果 ceo 库克， 然后他会问我们需要什么，我们选择一他的职业生涯和背景， 可以看到他直接就给了我们答案。按照我们正常逻辑思维来说，这些数据应该是在手机需要联网的情况下才可以给我们的答案，但是这个本地部署的大模型他就不需要联网，他就像一个活生生的人，他的脑子里面已经有这个记忆了，所以当你问他的时候，他可以直接就给你回答。 那么这样一个模型我们究竟要如何安装与使用呢？那我们现在开始首先第一步呢，就是我们要打开我们的应用商店，然后在应用商店里面找到这个软件，叫做 google ai gallery， 这是谷歌专门推出让我们使用扎马四模型的 app， 安卓用户也是可以下载到的，但是安卓的用户需要在谷歌 play 商店里面才可以下载，然后我们这里已经是下载好了这个软件，所以呢我们直接打开就可以了。 打开软件之后呢，你们会看到这个屏幕中显示的全是英文，并且软件的内部它是不支持我们去切换语言的， 很多人看到这里就已经开始头痛了，那我看不懂英文咋办呢？其实不用慌，因为这里面的功能其实非常的简单，完全也不需要用到翻译，而且当我们在跟语言模型对话的时候，它是完全支持我们中文对话的。 这里我们向下滑可以看到官方总共给了我们七个功能，从上向下分别是图像、语音、语言聊天、模型、花园以及手机操作。 我们就先从最基础的开始 ai chat， 也就是我们常用的文字聊天。那我们打开这个 ai chat 之后呢，可以看到它底下有五个模型给我们选择， 其中三个是胶码三，还有两个是胶码四，那我们这一次主要针对是胶码四，所以我们就选择上面两个胶码四，然后这个胶码四它分为 e 二 b 的 模型和 e 四 b 的 模型， 这两个我们要怎么去选？就是主要是看你的手机性能，如果你的手机性能稍微好一点，你就选择这个 e 四 b， 如果你的手机性能稍微弱一点，那我们就选择这个 e 二 b， 那 我现在演示的这个设备是十六 pro max， 那 我们就选择 e 四 b 这个模型。当然你在使用模型之前是需要先去下载的，所以我现在就点开这个 e 四 b， 点出来 it， 然后进入到模型之后给大家做一个演示。首先我们先给他打个招呼，你好吗？ 哇，可以看到他这个回复速度真的是超级快，我之前一直认为这种手机跑的模型应该会很慢，没想到他的速度还是很快的。然后我们再问他一个，你是什么模型？你能为我做什么？ 看到他这个吐字速度真的是超级快，那这个速度呢？对于我们大部分人来说已经是超越了我们的阅读速度的，所以如果你是日常聊天或者写写论文啥的，这个模型对于我们来说是完全足够用的了， 当然这只是最基础的文本聊天。那我们再去下一项看一下他的图像测试怎么样？那我们现在就已经到了他这个图像测试窗口了， 我先给他一张图片，这张图片呢是一张上海滩的图片，让他看一下他对这个地标啊，还有图片内的内容识别度如何。 ok， 在 经过大概五秒钟左右的思考，他已经给了我们答案，然后他说这是上海的城市景观没错，然后他说这是上海中心大厦， 这一点我不知道哎，他好像把东方明珠论成了上海大厦，虽然这两个地标中间只隔了零点八公里，但是我没有在图片中找到这个这个中心大厦这个东西， 然后他说这是独特的双层球体啊，那看到了是建筑认错了，但是其他的关于黄浦江还有其他的描述倒是正确的，就是单独认错了这个东方明珠和中心大厦这个地标建筑。 ok， 那 我们就再给他一张东方明珠的照片，但是这是我们给他夜景的照片，看下他识别度如何。 可以，他已经给了我们回答，他说这是上海的夜景，然后地标是上海中心大厦，那看来他还是认错了这个地标，他依然把东方明珠认成了中心大厦。 其实我不知道他这后面这个逻辑是什么，有没有一种可能，他是去网络上找了类似的图片，然后类似图片说这个地方是中心大厦，所以他就给我们说这个是中心大厦的，我觉得应该大概率是这样。 嗯，有知道的小伙伴可以打在这个屏幕上，那我们就先不纠结这一点，我们进行下一项测试， 现在我们来试一下他的语言听写能力，然后这次我们依然还是选择这个 e 四 b 模型，我先给他发一段语音，你好，你能听得见我说话吗？现在时间是北京时间四月九日，看他能不能给我们提取出来。 可以看到它已经完美的提取出来了我语音说的内容，并且没有误差，那看来它对中文的这个听写能力支持还是很强的。那我们进入下一项功能， 然后这个功能呢？叫做 agent skill。 相信大家对 skill 这个单词已经是很不陌生了， skill 是 什么意思呢？就是一个技能， 然后谷歌目前官方里面给我们默认是内置了八个 skill， 但是其实它最重要的是什么？最重要的是它这个 skill 是 允许我们自己再去添加的，所以我认为这是这个 app 里面最具有 可玩性的一个功能。就是我还记得前一段时间在网络上很流行一个叫做前任 skill， 就是 把自己的前任变成一个技能，然后放进他们的 open cloud 之中。那现在你不用放进 open cloud 了，也不用打开电脑了，直接在手机之中就可以操作了。嗯， 我相信后面会有很多人去专门为手机的这个开发 skill。 那 这个 skill 我 也就不多说了，因为目前我这里只有官方的八个默认 skill， 然后默认 skill 都是比较基础的啊，说的也没有太大的意义，大家自己后期自己去 自行尝试一下就行。然后我们来到下一个这个红色的按钮叫做模型实验室，这个应该是对于比较极客的玩家用的比较多，那我们大部分的普通玩家呢，是很少也几乎不会用到的一个功能， 所以我们这里就不过多传输。然后下一个绿色的这个是迷你花园，是谷歌官方出了一个专门用来语音玩游戏的一个小功能吧， 也没有什么好说的，因为他是英文交互吗？嗯，大部分人可能也就是藏着新鲜进去看一看，也没 什么好玩的。所以我们来到最后一个，也就是我认为第二可玩性比较高的一个功能，叫做手机操作，那他顾名思义呢，就是可以直接操作我们的手机，那我们现在点进去看一下， 那我们点进来之后可以看到他首页是说他有最基础的五个技能，第一个是开关手电筒，第二个是创建联系人，第三个是发送邮件，第四个是在日历中创建，第五个是 在地图中搜索，那这应该是最基础的，我不知道他有没有其他的功能，但是我们可以先把他的基础功能先试用一下展示一下给大家看。 我这里是让他打开了我的手电筒，然后他确实也打开了我的手电筒，然后我们来试一下，让他关闭手电筒，嘿，然后他也成功的关闭了我的手电筒，然后我们最后来测试一下他能不能在地图中展示， 可以看到他是直接调用了苹果官方的这个地图，然后打开了我要他搜索的地点，但是这个功能怎么如此的似曾相识呢？感觉有点像被前段时间被全网封杀了。豆包手机 太眼熟了，只能说太眼熟了。 ok， 相信大家看完以上的教学视频之后，都已经成功的安装好了手机端的胶码四，也对他的所有的功能呢都有了一个初步的了解， 在手机端部署大模型，不仅仅是拥有极高的隐私安全，还支持在没有联网的情况下使用，真的可以说是开启了一个 ai 的 全新时代。那么本期视频到此结束，咱们下期再见！拜拜！

大家好，这两天呢，谷歌推出了一个新的能够部署在端侧手机上的这个一个大模型啊， j 马四系列。那么我在第一时间呢，下载了他的一个两 b 和四 b 的 一个模型啊，我们看一下，我们只需要在 你的机器上装上这个 google 的 h gallery arh gallery 这个 app， 然后呢，它会向你推荐它们的一个文本模型和动画态模型，还有一些可以控制手机做一些 action 啊，做一些动作的模型。我呢下载了它的 jam 四 e to b 啊， it， 一个是杰尔斯 eiffy it 啊，这两个非常小，一个就是两 g 多，一个是三点几 g。 我 们来试一下它的文本功能吧，我们先用这个， 我们用它的，比如说大家聊天功能，最简单的，他现在说实话，这个杰尔斯 ok， 我 们问他一些功能，请问你能干什么呢？ 啊？你看到了他这个还不错的啊，是吧？ 呃，我们让他转写一个音频啊，我说 你好，今天是星期天，我去公园玩，很开心，这是一个测试。好，我现在要你转写，让他转写，请帮我转写他 啊，是不是非常快？我们还可以让他去做一些实图，比方说，呃， 我去拍张照啊， camera 去拍这个，这个充电宝啊， 试一下，请描述这张照片，你看是不是图， 我觉得还挺好的哦，哈哈， ok， 好， 我们最后再让他做一些难度的，我们做一些 mobile action， 比如说 agent skill， 把我机器的闪光灯打开 啊，操作失败了，但是我觉得这里面有另外一个啊，另外一个，我下载的二百七十兆的，他专门去做这个的，比如说他有一个， 那是不是把我的灯光灯打开了，然后关闭，然后呢？我们可以 send email， create， 然后 show location 啊，这些都可以。 好，端测 ai 其实已经是以迅猛不可阻挡的趋势啊，已经占据了我们的这个设备。因为我平时对端测 ai 非常感兴趣，所以它谷歌推出这些小模型啊，我在第一时间下载到，然后试用，觉得还真的是挺不错的， 大家可以多用一下。只要去下载 google ai ag gallery， 然后按照它的这个介绍下载一些模型就可以了，非常简单，能够在十分钟之内把这些所有东西都搞完。好，谢谢。

谷歌终于坐不住了，正式卷开源市场， jm 四的效果到底如何呢？ jm 四的发布啊，真的有可能让我们实现头很自由。这期视频呢，老张给大家简要介绍一下 jm 四怎么安装到本地，以及如何搭配到我们的 open klo 大 龙虾上， 附带所有的安装步骤啊，大家可以一起来体验一下。后续呢，老张也会根据测评效果给大家接着发视频，这期是我们完整的部署流程，老张重点给大家简单聊一下，就是为什么 jm 四的发布啊，会让大家感觉谷歌真的开始卷起来了呢？ 首先第一点，他和目前谷歌的 jimmy 三用的是相同的技术基座啊，所以说他的能力是毋庸置疑的。第二点就是商业自由，你直接部署下来做什么都是可以的，都是允许的。然后第三个就是支持多模态，无论是文本、图像甚至小规模的视频音频， 他都可以直接支持。第四点就是结合前段时间爆火的 open klo， 他 可以直接在本地对接 open klo 以及对接 klo 的 code， 实现本地的偷根无线化。这是老张给大家总结的四点，为什么詹姆斯的发布会让大家感觉，哎，可能真的要进入到一个新的纪元， 然后呢，他所发布的这四款模型呢？老张给大家做了一张图片啊，大家可以到时候把它截下来。第一个模型一二 b 的， 他本身是用于手机或者边缘设备八 g 显存， 然后最高端的三十一 b， 他 所对应的旗舰版本呢，是对应的是二十四 g 加，所以大家根据你的需求来进行对应的模型选择。老张这次视频呢给大家来看一下三十一 b 的 这款模型的安装， 然后关于本地的安装部署啊，其实非常简单，任何开源模型，其实我们只需要让他和欧拉玛就是那个小羊驼结合到一起就可以了，然后找到你符合要求的版本。安装成功之后啊，欧拉玛现在已经有了一个完整的应用端了，所以大家可以直接在这个位置和他进行对话交流。 那我们想要下载 jm 四到你本地的电脑上，我们可以使用它的官方指令，会告诉我们直接怎么样去进行 jm 四的对应安装，像老张想安这个三十一 b 的 对吧？我们就把它拿过来， 把它直接这有一个 c l i 命令行安装方式，把这个东西直接复制在你的开始菜单中，单机右键选择运行输入 cmd， 直接把刚才指令粘贴过来，这儿的时间会很长，因为它有二十个 g 的 大小，我们直接稍作等待 安装成功之后，我们也可以直接回到它的客户端中，在模型选项上找到我们安装好的詹姆斯冒号三十一币， 然后可以直接进行对话。老张他处理一个较为复杂的提示词，我们让他看一下当前显存的内存消耗， 咱们拿这个 ai 慢距的提示词来测试啊，这个提示词非常的长，我们看一下他读取提示词的能力，以及他的这个显卡的性能消耗，我们看一下啊，这个显存直接拉满的，达到了百分之九十四的占比， 而且这个响应速度还是非常快的，只需十一点七秒啊，就把整体的业务流程给我们直接补齐了，而且呢按照需求给我们进行了对应的提问，要什么样的慢距效果，所以说以目前的测试反应来看呢，他的这个响应速度起码要比之前的很多大模型要好的多， 所以接下来我们自己来尝试一下对话类的工具，可能大家都不是很需要的，我们能不能把它接入到我们的 open clone， 丢到我们的龙虾里，让它们俩来进行联动的。然后这期视频呢，老张顺便给大家提一下，就是最新版的 open clone 的 部署流程 啊，咱们可以快速的去过一下一些重点的细节，因为之前老张发过很多期的部署视频一块的呢，因为它本身啊， wsl 它是相当于在 windows 系统上安装一个 linux 的 独立系统， 这样的话呢，就直接相当于在你电脑上安装了一个独立的存储空间，它所谓叫做沙盒安全，而且运行起来呢是不会有任何的兼容性的对应问题的，因为 windows 中啊，它的权限呐，路径等经常会报错。所以说我们这 期视频重点教大家怎么用 wsl 进行 win opencl 的 部署安装，这样的话， windows 和 wsl 的 安装您都了解之后之后学起来就非常方便了。 然后接下来呢，老张给大家简单的介绍一下在 wsl 中如何安装我们的 openclaw， 因为之前呢，咱们介绍过太多次了，很多兄弟留言说老张就别介绍怎么安装了，然后我们就给大家简单说一下注意事 项。首先第一呢，你想在 wsl 上安装 openclaw 的 话，第一点你得先在你的 windows 系统下把 wsl 安装一下，当然很多电脑老张发现其实都是自带的， 怎么检查是否自带呢？咱们可以直接输入 wsl 空格杠杠威森，如果弹出定的版本号，证明 wsl 电脑已经安装了，如果没有弹出的话，使用安装指令 wsl 空格 insert 直接安装即可。然后紧接着按照老张给你提供的指令复制粘贴就可以了。先安装你的优班图， 安装之后进行一下更新。安装完优班图之后啊，在这选择这个倒三角，找到优班图系统，就可以直接进入到你的优班图系统当中。 在你安装过程中啊，它会让你设置一个用户名和密码，到时候可能需要做一步密码验证。在优班图系统中，注意是优班图系统中运行这些环境指令，分别安装 python 三，安装一个压缩包工具，方便安装一个 node 点 ps， 然后再安装一个 get 工具。 如果说为了检测每一步安装是否成功的话，你可以分别输入，比如 note 杠 v、 npm 杠 v， 包括 get 杠 v， 在 这检测我们对应的这个版本。如果都能弹出版本号，证明你三项安装都是成功的，这是配置 openclo 的 基本的内容要求。 然后紧接着我们把基本环境配置好的兄弟，你还需要在这个位置安装一下这个欧拉玛。 这老张要重点说一下，说老张我不在本地都已经下载好欧拉玛了吗？为什么在优班图里还需要再配置一下？其实我们优班图中是可以调用本地的欧拉玛的，但是很多兄弟在调用过程中分别给老张留言说说调用时无论是 ip 地址找不到，还是 ip 的 动态变化，导致每次都需要重新连接，重新配置。 所以说最简单的方式就是把欧拉玛在你的优班图系统中再次的安装一遍。其实安装非常简单，只需要把第一步的安装指令复制过去，直接在这个位置直接粘贴即可。安装成功的检测方式很简单，你就输入欧拉玛， 如果他不报错还给我们对应的选项，是咱们是进行对话呀，还是怎么样的证明你的安装就是成功的？ ctrl c 直接退出。 所以说欧拉玛安装之后，紧接着就是把我们的模型在当前的优班图中跑起来。老张刚才给大家测试的是 jm 四三十一 b 模型，我们直接输入指令欧拉玛空格 run， 然后你的模型效果直接回车，第一次时他会直接进行对应的模型下载。如果说你现在只想用 open klo 来调用欧拉玛的这个占四的话，可以在我们的本地电脑上把之前咱们那个桌面端给他 删掉，如果说你不你想两端都使用的话，就可以直接在这个位置进行使用了，然后发一个你好看一下响应速度， 嗯，响应速度是非常快的，所以接下来我们把这个家伙欧拉玛的詹姆士直接部署给我们的 openclo， 在 这怎么中止对话，摁一下 ctrl c， 再摁一下 ctrl d 啊，就可以直接进行中止对话了啊，所以说大家可以直接的把它退出来， 退出来之后我们在这儿部署一下 openclo。 关于 openclo 的 安装呢，官网推荐是使用 c o r l 这种安装方法，但是老张发现很多兄弟在使用这种安装方式时呢， 出现了这个网络问题，导致下载出现卡顿，如果说 c u i l 的 方法报错的话，直接使用 n p m 安装也是完全可以的，安装完之后直接输入 open klo 空格杠 v 来输出最新的 open klo 的 对应版本啊，这就是老张跟大家说的一些建议啊，大家按照这个要求去做就行了。 然后接下来我们进入到配置，直接是直接输入它的配置指令回车，选择 yes， 然后选择快速开始就可以，我们直接配置一下模型， 然后选择更新，这选择谁呢？选择这个欧拉玛啊，然后选择默认的这个 ul， 选择本地模型，让他去给我找一下咱们本地有哪些模型，稍作等待 好，选择当前的这个模型，咱们四三十一币，然后配置我们的聊天软件啊，这个老张之前讲过太多太多次了，现在呢，他又支持了很多，包括 qq 之类的，大家有需要的话可以按照之前老张的教程再来一遍，我们先跳过 打开之后啊，就可以直接对话。但是如果说善于观察的兄弟们也发现了，老张呢把这个使用模型呢换成了这个一四 b 的 模型，不是那个三十一 b 的， 因为三十一 b 呢，老张在测试的时候也好，或者在一些使用时候也好，他有的时候会出现这个连接超时的问题，也是 oppo klo 更新到最新版本出现了一个能启动问题， 这个呢，老张现在还没有特别好的解决方案，所以说我先用一次必得给大家进行演示，发一个，你好，我们来测试一下他的响应速度啊，还是比较快的。 然后接下来呢，我们再把之前的那个慢句的提示词发送过来，我们来看一下他能不能更好的帮我们去进行慢句提示词的对应理解，以及对应的相关反馈。 嗯，其实我们看到啊，他反馈的这个结果呢，和三十一 b 相比啊，真的是有一定差距的，但是呢，确实也是另一方面实现了我们所谓的叫偷根自由。 大家呢也可以后续啊，去测试一下怎么让本地如果你的显卡够用的话，把这个大模型给它跑起来。然后老张呢也会及时给大家更新，无论是在评论区中还是视频中教大家如何使用。我是程学老张，定期分享 ai 好 用知识，希望大家多多关注。

你能想象吗？把 gpt 五级别的推理能力硬生生塞进你的手机里，完全离线还一分钱不收。酷狗最新发布的 jamming 四开源模型彻底点燃了 ai 社区，发布仅仅一周，下载量破千万， jamming 系列累计下载更是突破了惊人的五亿次，直接霸榜哈根 face。 大家都知道大模型好用，但高大上的背后是极其苛刻的部署门槛。想要在本地跑起一个顶尖的 ai， 往往需要几万甚至几十万的算力硬件。但 jm 四完美解决了这个问题，它基于 jm 三技术构建，提供了从二 b 到三十一 b 的 四种规格，最小的二 b 模型在普通手机上就能流畅运行。 推的再神不如实测。今天咱们选举两大对标模型开展同标准横向测试，一个是同参数级别的开源顶流千万三点五，另一个是 google 自家的闭源王牌 jimmy 三点一 pro。 我 们会从代码生成、逻辑推理、长上下文、多轮对话、勾模态能力这四大核心维度逐一实测， 客观还原 demo 四的真实效果。识字前，我们需要先把 demo 四部署到你的设备里。这次我整理了一套完整的全平台部署方案，电脑端覆盖 windows、 macos 和 linux， 移动端支持安卓和 ios， 全程零门槛操作。 由于时间关系，本次我会选用其中一种方式给大家做完整的演示操作。首先我们打开浏览器，进入 lm studio 官方网站，软件会自动适配对应的操作系统，不用我们手动区分。点击登录的下载官方安装包， 安装完成后，打开软件，点击左侧的设置按钮，在搜索框输入扎马四，选择你要体验的模型，点击下载按钮，可以实时查看下载进度。下载完成后，点击左侧的菜单按钮，就可以在对话框输入需求和模型对话了。 维度一，代码生成能力。这次给三个模型的提示词很明确，写一个单文件的 html 页面，还提了波利尼泰风格、实时状态栏、终端打字机效果这些具体需求。咱们看一下生成的具体效果。 首先出场的是 demo 四，可以看到指令遵循度不错，但是视觉风格毛不易的效果感觉没有体现出来，运行之后也没有终止能力。接下来看千万三点五，逻辑和交互做的很棒，增加了终止能力，但是日制中默认输出的是英文，和我给出的样例不太一致。最后是 demo 三点一 pro， 看起来略优于前两者，指令遵循完成度最高。对比下来给我感觉是 demo 三点一 pro 大 于千万三点五，约等于 demo 四。 维度二，逻辑推理能力。这次我们用了一道经典商业推理题，很多人会算成亏一百一或者一百八，特别容易踩坑。从最终结果来看，三个模型都答对了，没有出现逻辑翻车的情况。但是从理解角度来看，我个人排序是 java 三点一 pro 大 于 java 四大于千万三点五。 维度三，长文本多轮对话能力。这次我们给三个模型同步上传了同一份三千字左右的产品需求文档，通过联系多轮的细节追问，实测他们对长文本的精准理解能力，以及上下文的记忆留存能力。 多轮对话测下来，三个模型的上下文记忆能力都在线，但长文本理解提炼能力的差距很明显。同一个提炼项目核心目标的问题， them 的 三点一 pro 做了规整的整合总结，核心信息零丢失千万三点五只做了原文罗列，没有提炼整合。 them 四表现相对最差，直接丢失了生态对接、商业化铺垫两项关键指标。在长文本多轮对话这个维度，我个人给出的排序是， them 的 三点一 pro 大 于千万，三点五大于 them 四。 关于 jm 四的多模态能力，我们在手机和电脑端都做了本地部署实测，最终的运行效果确实不太理想，所以这里就不给大家展示具体的测试效果，也没有做横向对比的必要。 当然，我们也要客观看待。作为一款小参数的开源模型， jm 四在其他维度的表现已经完全超出了预期， 可圈可点。但回归到实际日常使用，如果大家没有极致的本地数据安全隐私需求，也不需要根据自己的需求定制专属功能， 日常使用完全可以使用豆包、 deepsea 这类成熟的免费 ai 工具，体验会更流畅省心。看完整个测试过程，你有什么想法都可以在评论区聊聊，咱们下期见， goodbye！

不久前，谷歌发布了 jam 四系列，它不仅是一款开源模型，更是一次关于如何把超级大脑装进手机的工程奇迹。今天我们一起来看一下它是如何用不到四 g b 的 显存，跑出大模型的效果。 这里我们做了一个测试，使用三台手机在本地离线跑 jam 四 e 二 b， 屏幕上呈现的是这三台手机的测试数据，下面给大家看一下实际运行的情况。第一个加油问题， 第二个 g two 铜龙问题， 第三个字母出现次数问题。 可以发现，关于对常识的判断仍然是小模型的短板。然后这三台手机中， iqoo 十五的运行速度最快。 simon 四一共四款，覆盖从手机到工作站的所有场景。 a dos base 最轻量手机和树莓派都能跑，自带语音识别，量化后只要四 g 显存。 a， 跨出白瓷笔记本甜品级， 速度和能力之间的平衡点。二十六 b， 混合专家架构，总参数二五 b， 但每次只激活三点八 b， 用小模型的成本干大模型的活。最后是三 e b 单词，旗舰级模型，全参数推理，开源模型排行第三，适合有好显卡的用户。这里要讲一个关键的概念，单词和猫的区别， 单词密集型。你看屏幕上这些格子，全不在闪，因为每次推理所有参数都参与计算，三十一币就是三百一十亿次，运算一个不少。它的优点是稳，缺点是慢，而且吃显存。 切换 m o e 模式，注意看大部分格子暗了，只有几个在亮，这就是混合专家的精髓，模型里有一百二十八个专家，每次只派八个上场，剩下的待命。 最后说说它的边界，左边是强项，文档识别，发票解析，代码补全，长文档，问答 agent， 自动化任务，这些它都能做，而且跑在本地，意味着你的数据永远不用上传到别人的服务器。 右边是它的短板，如果你问它能否替代跨腾或 gpt， 答案显然是不行的，那能否进行高质量写作？这里我的回答是勉强可以，至于大规模的代码重构，那以它的能力还差得很远。 说白了， jam 四是一个极其出色的本地工具型 ai， 你 把它当高效工具用，它不会让你失望。如果你把它当全能大脑用，那你就会很失望。 想试的话，这里有两种方式，手机用户可以直接去 google 的 a i h gallery 上下载使用，电脑用户更简单，欧拉玛一键运行。下面我们来看如何用欧拉玛本地部署 jamal 四 e 四 b 模型，并使用 clogot 调用它。在 clogot 直接提问它是什么模型， 它是由谷歌训练的大语言模型，欧拉玛在首次请求时加载模型，加载耗时三十八秒，显存系统分配总计实际首先确保电脑上已经下载过欧拉玛，只需执行一行命令，欧拉玛 round gemma 四冒号意思币，等待模型下载完成，总计约九点六 g 币。成功后在终端测试。问答， 它是一个大语言模型，名字是 gemma 四，由 google deepmind 的 开发，属于一个开放权重模型系列。复制这个模型 id， 克隆项目源码， 进入项目目录，运行安装命令，下载完依赖后进入引导界面，颜色模式随便选。第四个是我们做的国产模型适配选择第三项，本地欧莱玛模型， 然后粘贴刚刚复制的模型 id 回车。确认到这一步配置成功。我们问个问题测试一下，现在已经调用成功已经登录的用户，想要切换模型，输入 logo， 退出登录，然后运行帮人 devi， 即可重新配置。我们最新版的 cloud code 已开源，大家关注评论获取。 目前呢，该模型权重在 hackin、 face 和 kaido 上都能下载。以上便是我对 gmail 四的实测解读，如果你觉得有用，不妨点个关注，我们下期再见。

安卓手机也能本地不朽 ai 大 模型，杰玛斯的一二 b 和一四 b 大 模型就是为手机端准备的。我把 wifi 和移动数据都关了，确保是在无网络情况下测信。首先测信图片识别和翻译 图片为特朗普最新逆天发言，让一二 b 和一四 b 翻译总结一下， e r b 和 e 四 b 均能正确识别文字，并翻译 e 四 b 的 修图结果更完善，明天再发音频识别测试。

等等，一个只有三百一十亿参数的模型，怎么能跟一万亿参数的模型几乎同分？它的参数量不是小了一点，而是小了三十倍。 三十亿币可以在很多消费级的设备上跑了，按正常的逻辑，它根本不应该出现在这一档。而三十亿币的小模型就是谷歌刚发布的 jama 四。那 jama 四到底是什么？实测它的性能真的有这么好吗？一会我们详细对比，并且在手机上、电脑上都给它跑起来。 最后我们一起说一下，为什么它引起了如此广泛的讨论，以及它引起的新风潮，为什么可能直接改写接下来 ai 竞争的方向。 好，废话不多说，我们开始伽马四，是谷歌新一代的开源模型，这次直接发布了四个版本，能在手机上跑的一二 b， 能在普通消费机电脑上跑的一四 b， 以及需要一些高配电脑或者工作站的二十六 b 的 混合专家版本，以及最受关注的三十一 b 的 重密模型。 这个产品结构本身也解释了谷歌的野心，想把从手机、消费机设备到工作站这条开源路线一起凸出来。它的卖点非常明确，第一，谷歌算是铁树开花了， 这代的 ram 是 阿帕奇二点零的证书，是真正能让开发者去用、去改，去商业化的开源模型。二，它主打的不是参数有多大，而是 intelligence profile， 说白了就是同样甚至更小的体量，尽量打出更高的能力密度。比如这个图，横轴是参数量，纵轴是盲测得分，越往左上角走， 同样参数量的情况下，它的性能就越高。第三，它不只是要聊天，谷歌这次明确在推 reasoning and egotic workflows， 包括多步的推理，代码的生成，图像理解，上下文，甚至小版本还支持音频等多模态， 我们这些一会儿我们在手机上跑模型的时候都能看到。那这就是为什么伽马斯这次热度很高了，过去很多开源模型我们还是追求的最好的性能，那这次呢？谷歌的小版本在打本地和边缘设备， 而大一点点的版本却在挑战开源模型的榜单，说的就是这个三十一 b 的 模型这么小，已经在开放的榜单上打造一个所有人都能看到的位置了。那问题就来了，它的实测性能到底怎么样？真的有这么好吗？接下来我们一起看一下。 既然它号称和最好的那几个开源大模型旗鼓相当，那我们也不客气了，分别测试一 g m 四最好的三十一 b 版本和谷歌自家旗舰 g m d 四 b 版本，并且与同参数量的千万四 b 进行对比。三，如何在手机上跑 j 码四，以及我的真实体验。 首先在云端，我们对比四个模型， j 码最好的三十一 b 版本， gmail 三， flash gmail 三点一， pro 以及 deepsea v 三点二，在很多人都需要的编程文案和推理场景， 看看这个小模型有没有一丝替代昂贵一线模型的可能性。问题一，编程类，请用单文件 html 做一个高端现代家具品牌的网站首页， 这是 jam 生成的网页。其实啊，不经验，但是也不算差，考虑到它的体量，这个结果算是超过预期了。但问题也很明显，有些图片没有正常演示，图纹对应也有错误，所以完成度还是差了一大截。 这是 deepsea v 三点二生成的网页，整体也不错，设计能看，交互也有往下滚，还有一些动画效果，而且它的图片、文字这些元素是对得上的，说明它已经有些理解。这是一个电商的首页了。 这是 jammin 三 flash 生成的网页，第一眼观感已经很好了，设计感呢，比 jammin 更成熟，但是它的问题是动画和交互偏少，整体呢，没有达到完整的状态。 这是 jimi nike 三点一 pro 生成的网页，好疑问，是最强的对吧？几乎是一条提示词下去，设计，排版、交互细节都到位了，也充分理解了这是为电商准备的， 以及开头这些细节的动画，确实有一种高端，一种成熟的感觉。结论， jimi nike 三点一 pro 大 于 jimi nike 三 flash 大 于 deepsea 大 于 gemma。 这一次 gemma 是 最差的。问题二，文案， 请帮我写一段适合发朋友圈、社交媒体的短文案，主题是我第一次用本地 ai， 发现他已经在电脑上自己能做很多事情了。并列三四名， gmail 三点一 pro jimmy 四、 真香，安全感拉满，不要钱的专属助理，这些词都用力过猛，太假。第二名， gmail 三 fresh 最大的问题就是太过营销了，比方说，真后悔没去试，试过就回不去了，太香了，就是营销味太重。 第一名呢是 deepsea， 是 最像真人随手发朋友圈的，比方说啊，刚刚是在电脑上跑了个本地 ai 这种词，或者是速度比想象中的快， 隐私还放心，这些表达都相对比较自然。除了最后那句，推荐你们都试试看，稍微有点假，但整体来说还是最顺的。所以文案这里 deepsea 大 于 jimi nike 三 flash 大 于 jimi nike 三点一 pro 题目三，简单的推理题这个题所有模型都应该答对，这里主要看 jimi 四拉不拉垮。 一个农夫带着一只狼，一只羊和一颗白菜。过河船一次只能载农夫和另外一样东西，如果农夫不在，狼会吃羊，羊会吃白菜。请问怎么把这三样东西都安全的运到河对岸？请一步一步说清楚。 标准答案之一就是，人先带着羊过去，然后人自己回来，然后人带狼过去，带着羊回来。第三步，人再带着菜过去，人自己回来，最后是人再带着羊过去。 其实这道题都答对了，所以如果只看评理结果，那这题就是平手任马四，最好的三十一 b 白板啊。虽然阿尔瑞纳的盲测分数比 deepsea v 三点二高，但是文案和编程这两个我们需要最好模型来做的场景。我自己的测试没有 deepsea v 三点二好， 但是考虑它只有三十一 b 的 大小，编程的效果已经出奇的好。在云端测完最好的版本，下面我们测一下本地能跑的 ram 四，因为啊，大部分人的电脑都跑不了三十一 b 的 版本，所以我们在本地测试 ram 四 e 四 b， 并且对比同参数量的千万三点五四 b。 至于题目这么小的模型，测试编程能力就是有点耍流氓了。因为编程大家肯定都用最好的模型，所以这里我们测试三个日常助理的题目，考常识，考文案，考简单的推理一、常识规划能力。下周我要去巴黎玩，四千， 除了机票之外，预算一万，第一次去，住在巴黎市中心，帮我安排一个计划，并且告诉我最容易踩坑的五件事情， 这是他们的回答。简单来说啊， jama 这边没有出现事实性错误，而且行程写得更顺。但是他的问题就是，他几乎忘记了处理预算这件事情，而且最后的建议啊，没有这么贴切。千万正好反过来五个避坑建议相当靠谱，而且他是有意识的去考虑预算的，虽然是有些混乱吧， 但是千万里面有事实性错误，把两个景点荣俊苑和法尔赛混在一起了，而且他的思考时间啊，差不多是 jama 四的十倍， 所以各有一缺点，结果打平。题目二，文案把下面的 ai 味很重的口播稿点成更像真人说的话，要求更自然，更顺口，信息密度别掉，不要鸡汤，不要夸张， 人马四 ai 味实在是太重了。比如这一句，原句是，如果我们今天只是把 ai 理解成一个简单的聊天机器人，那很可能低估了这场技术变更的真正影响范围。 人马四改写的是，这可不是个小升级，是个大变格。这种话听起来就像 ai 反过来千问那句，你要是现在还把它当个普通聊天机器人，那你可能把这事看清了，我觉得就更自然一些。所以这题呢，比较简单，千问四必 大于 jama 四 e 四 b。 第三题还是刚才那个简单的推理题，一个农夫怎么带着一只羊一只狼和一个白菜过河的问题而都答对了。那么这个题平手可以看到 jama 四 e 四 b 的 版本啊，在我们的测试中，跟千万三点五四比打平，而且文案写的还没有人家那么好， 所以在我这里这个版本是没有什么惊喜的。 jama 四也能在手机上直接跑谷歌 a i h gallery 这个软件。 我的实测感受，第一，手机上有两个版本， jam 四一二 b 的 二点五 gb 和三点六倍 gb 版本。那么这两个呢，都是二十亿参数级别，专门为端侧部署优化的小模型， 两个都支持多模态，也就是图片和音频的理解。二就是有两个加速模式， cpu 加速和 gpu 加速。我的安卓手机呢， cpu 加速明显更快一些。 三，没办法联网，但是能用 viki pita 这个 skills 来获取维基百科上的信息。四，有 agent skill 模式，但是只有默认的 bug skills 和自己定义 skills 的 选项。 五，就是啊，图片识别模式非常的不稳定，经常出现闪退。从所有的评测我们看到啊， gemma 四远远不是最强的，那为什么它掀起了这么大的讨论呢？ 就是因为他三十一倍的体量和高性价比的性能，大模型啊，越强越贵越大，就离普通的设备越远。在卷性能的另一端，他开辟了一条竞争的道路，就是谁的能力密度更高，谁更能落地手机电脑这样的普通设备。 那这条路线呢，有三个值钱的地方，第一就是成本更低，对吧？如果一个模型更小，能力还足够强，他的推理成本就会更低，对算力的依赖也更小， 同样的用户数量，竞争力就更高。第二就是他打开了一些之前做不了的场景，比如一些隐私敏感的企业弱网环境离线场景，这条路呢，可能会放大可成交的市场范围。第三 就是卖钱的方式有可能会变。现在 ai 公司卖的是旗舰模型的 api token， 如果未来有更低的部署门槛，更强的观测能力，更好的私有化能力，那钱不一定只在 talk 里赚了， 可以从企业部署私有化方案、设备预装垂直方向里面转。也就是说啊，开始从卖能力变成卖能力加卖系统，更加对接 to b 的 生意， 由此可能会带来竞争壁垒的改变。如果模型能力越来越近，那优势就会变成了谁更容易部署，谁更容易接近工作流了。当然，将来大家肯定还是会选谁的旗舰模型能力最强，尤其是 ag 的 能力和写代码的能力。 但是除了这条竞争路线之外呢，也许我们会看到 ai 竞争的第二条追求更强能力密度的路线。哎，如果你都看到这了，你是不是应该点个关注呢？我们下期再见！

今天我将跟着大家一起本地步数加码四，接入 open core， 彻底告别托肯焦虑，接下来跟着我操作。 这里我们先进入 elama 的 官方网站，进入官方网站过后，我们直接点右上角的 download 下载，我们这里是 windows 系统，选择下载 for windows， 点击这里， 这里就等它下载好。下载好之后，我们这里就直接双击运行，这是它的安装界面，我们直接点安装这里，等它默认安装好。 好了，这里 elama 就 安装好了。然后我们到这个地方 elama 的 官方网站，选择 models， 这个地方选择 command 四， 然后这里我们选择我们的模型，这个模型的选择我们根据我们的显卡显存大小来选择。我们这边看一下我们的显存是多少， 这里看到我使用的是四零七零的显卡，显存是十二 g b 的 显存，十二 g b 的 显存的情况下，我们可以选择这个九点六 g 的 模型，这个一四 b， 这个我们直接点进去，选择一四 b。 点击进去过后，我们直接复制这条命令，然后运行一个 cmd 窗口， 直接粘贴这里，它就会欧拉玛会自动地给我们安装这个模型。呃，这里等的时间是比较长的， 这里模型已经下载下来，并且运行起来了，我们向它发送一条消息，试一下你是谁， 反应还是可以的，这就跟了我们信息回答了。好了，在这里过后呢，我们就可以把这个窗口关闭掉， 关闭掉过后，在 lama 这个地方我们去选择这个模型，在这个位置也就可以和它进行通话了。 比如我们问他一句，你可以帮我做些什么， 他已经帮我回答了，在这里呢，我们因为我们是在本地虚拟机上安装的，所以而且我们为了方便以后可以在其他计算机上也可以调用，我们在这地方设置这个位置 点，这个位置点设置这个允许在网络上运行，把它开起来点了就可以了。 好了，我们下一步就开始配在 open core 上配置啊，在这里我们进入虚拟机之后，我已经执行了 npm i， 刚接 open core 全曲，安装 open core 的， 我们这里可以执行一下 mini， 看下我们安装的版本。 openclock 杠 v 是 安装的最新版本二零二六点四点五版本，然后我们执行 openclock on， 在 这里我们进行一个调试，这个地方我们 yes， 这里选择快速，这个地方它是让我们选择大模型，呃，大模型它这里有，我们选择本地的这个位置点确定 这里我们直接就选择本地的，不要选云，上面是带云端的，就选择本地模型。 这地方让我们选择模型，我们选择这个，这就是我们刚刚这个就是我们刚刚下载好的模型，就是 直接回车。等一下， 这里让我们选择通讯工具，我们这直接跳过，暂时不管这个，直接跳过。 呃， scale， 我 们这边也选择否先进行最简单的安装 网关，我们就直接重启， 选择 open ray web ui 好 了，我们看一下 open core 运行起来了没有。 open core getaway style sta 好了，已经运营起来了，我们进去看一下， 这边需要 token， 我 去看一下 token 是 多少，关于 token 的 话就是我们，我现在是在虚拟机里面安装的， 我要重新打开看一下，在虚拟机里面安装，我们就直接去通过这条 mini 访问我们的虚拟机， wsl 的 虚拟机访问，然后无斑图选择 home 目录，选择我们的用户， 然后这里选择点 opencloud 这个文件夹，然后这一个 opencloud json 让我们看一下，到 git 里面去，这个地方就是我们的 talking， 复制粘贴下来到这个地方，点连接好了，我们尝试给他发一条消息，你是谁？ 在主位置这个地方，我们可以看到这地方是我的模型。 我再问他一条消息，你现在使用的是什么模型？ 看这里已经是我当前运行的模型 工具，在这里我们就可以看到了，我们现在整个 open call 来使用的是我们本地模型，就不需要去购买 token 了。好，今天内容就这么多，谢谢大家。

三十二 g 内存的 mac 跑本地大模型，到底能不能实现偷啃自由？今天我用谷歌刚发布的干马四给大家实测一下。 干马四是谷歌的新上的开源大模型，主打高性能和本地部署，官方说他能在手机上跑，还能流畅运行，但是我始终想不出这个部署在手机上有什么应用场景，于是作为养虾人，每天都在焦虑偷啃的消耗，竟然手机上没有使用场景， 那么本地部署来养我的小龙虾是再合适不过。它的部署其实很简单， windows 用户直接用欧拉玛， mac 用户我推荐用 x m l x， 这是专门为 mac 深度优化的推理框架，相比欧拉玛性能更出色。 打开后进入 admin panel， 在 models 页面搜索 hugen face， 输入伽马四各种参数版就出来了。 我的设备是 m 三 max， 三十二 g 统一内存。今天的重点是两个问题，第一，三十二 g 内存能流畅的跑哪个参数？第二，本地部署的输出质量能不能满足日常要求？我已经把干马仕连入小龙虾工作流，先上硬菜 测试。三十一 b 是 比特量化版，现在是十四点十四分，我们记下时，但是结果比较尴尬，等了一分钟风扇狂转还没有出结果，所以结论是三十一 b 在 三十二 g 内存上是跑不动的， 如果电脑是六十四 g 以上应该就会很合适，那么我们就试一下二十六 b， 现在是十四点二十一分，不到一分钟结果就出来了，透口深深的速度稳定在每秒三十三个，这个速度对于我来说是完全够用， 快速少了一眼回答，质量还是不错的，于是继续追问，重复刚刚的问题，测试下上下文记忆能力。 又追问了模型对比和选择建议，主要考察三点，上下文连贯性并理解能力及问答准确性。 从结果来看，上下文记忆能力没问题，也没有胡编乱造。我们再换一个场景，让他帮我写公众号，推荐一个合适的模型。结论，测试下来，三十二 g 内存跑二十六 b， 响应速度是可以的， 输出效率挺高。当然，回答质量还需要深度测试，看能不能达到商用的标准，但是要彻底说满足，偷啃自由。现在下结论还是太早，因为在测试中发现一个致命的问题， 干马仕标称二百六十五 k 上下文，但我问了七个问题，就报上下文。一出这个问题很头疼，不解决的话基本没有保留历史对话记录，也只能不停的删内容或者开新对话，对于长期使用影响很大。 所以目前我在找解决方案，研究了几种可能的思路，看能不能突破限制，如果能搞定这个问题，本地部署才算真正可用。找到方案后第一时间通知给大家，今天的测试就到这，我是林浩，我们下期见！

谷歌啊，这次新发布的 jam 四，很多人第一反应啊，还是看参数升级。但是啊，我觉得这次真正厉害的啊，不是它三十一 b 的 大模型，也不是二百五十六 k 的 超强上下文， 而是啊，谷歌开始认真把大模型往手机和电脑这种本地设备里推了。更关键的是啊，这次还直接放到了 app 二点零协议下，这两件事情一叠价啊，味道就完全不一样了。 其实啊，以前的杰玛虽然能用，但是很多人根本不敢放开手脚用，不是他的模型不够强，而是协议的边界太模糊。 我给你打个比方啊，以前的杰玛，就像谷歌免费租给你一套房子，你能住，但是啊，规矩啊特别多，不能改装修，不能转租，就算转租，下一个租客也得守规矩。 最坑的是啊，什么算改装修呢，他也说不清楚，就比如说换个灯泡，也可能会算你违规。但是啊，这次不一样了，杰马斯啊，直接换成了 apec 二点零协议，相当于他把这套房子直接送给你了， 你想怎么改就怎么改，想住就住，想租就租，想开公司赚钱也行，谷歌啊，再也不管你，也不会找你要钱了。 再说说模型本身啊，杰马思啊，这次一口气出了四档模型，不能小看它，这次官方主打的是智能 a 帧能力，它原生支持工具调用、结构化阶梯输出系统指令，还能处理图像和视频。最核心的就是这个 m o e 能力， 能够根据指令来进行自动分工，真真意义上实现了省时省算力。哪怕基础的 e to b 和 e forb 都自带原声音频输入，上下文处理能力啊，也是直接拉满，最高二百五十六 k， 再加上一百四十多种语言支持。杰马萨已经不是单纯回答问题的工具了，它已经变成了一个本地智能助手引擎。 目前啊，欧拉玛已经支持本地部署了，我们直接用这个指令就可以直接安装了。模型的选择啊，也取决于你的电脑配置，我整理了一份配置表，大家可以自取。好这里啊，我就不演示安装了，我们直接上。结果现在这台电脑是完全断网的状态。 本地呢，跑的就是通过欧拉玛拉取的 jama 四一或币这个模型。第一步啊，我给他一份长篇学习资料，让他呢压缩成三句普通人能听懂的话，每句呢，不超过二十五个字。 第二步，我让他把这三句话改成二十秒的抖音口播，开头三秒必须有冲击力。第三步，我让他直接按 jason 格式输出标题、封面字、分镜和置顶评论。 注意看啊，重点啊，不是他会写字，而是这三步啊，全程在本地完成，不用连云端也不怕断网，而且输出的内容啊，能直接拿去用。如果这种能力再往前一步，本地内容助手，本地办公助手，本地智能工具很快就不再是概念了。 还有一个大家忽略的关键布局，官方已经把 jam 四接入了安卓系统的原声 ai 框架和全设备智能平台，这意味着它从一开始就不是只给电脑端玩家用的。土哥的目标啊，是让它成为所有智能设备的通用。 再过一个多月啊，就是谷歌年度的开发者大会了，可以敬请期待一下。所以我敢说啊，杰玛斯啊不是一次普通的模型更新，它是一个分水岭， ai 不 再是大场云端的专属特权，而终将要回到每一个普通人的手里。好，本期视频就到这里，我是爱分享的阿月，我们下期再见。

你敢信吗？普通手机也能本地部署顶级 ai 大 模型了！谷歌刚推出超前开源模型 jimmy 四，直接共享 jimmy 三核心技术，高端推理、智能体能力直接拉满，彻底打破开源模型 就低配阉割版的固有认知。它适配性超强，四种规格覆盖手机，树莓派显卡、服务器全场景，迷你版离线就能运行 一键版稳居开元第一梯队，减三幺 b 参数就能碾压体量大二十倍的模型，算力效率创下行业新高，不用联网云端，无需高额成本，自家设备就能跑。顶配的大模型 还采用了 m 旗二点零开元协议，限制宽松，支持自由修改，商用落地，普通人轻松搭建专属 ai 助手，开发者也能自研项目。曾经顶尖 ai 只属于大厂， 如今詹姆斯打破壁垒，把高端 ai 普惠到每个公民，平民也能玩转顶级智能。您想用它做什么工具呢？评论区聊一聊。

在手机上离线运行免费的睫毛四是个什么体验？一分钟快速了解一下。我用的是 iphone 十七 pro， 我 们用 erb 做测试，先把手机调到飞行模式，我们就看他在本地运行的表现怎么样。 发过去一段话，这个回复还是挺快的，这里没有做加速处理啊，要注意回复的过程中是不能熄屏的，否则他会停止回复，在亮屏后呢，又会继续。再看看他在视觉理解方面的能力，随手拍张照片，他解析图片的速度很快，能把画面里的细节描述的比较准确。 断网的情况下能有这个速度和理解能力还是可以的。再试试他执行系统指令的能力，发个语音让他在地图中找到新加坡，他瞬间就打开地图 app 找到了， 他还可以发邮件建立日程。这个调用底层接口的能力也是没问题。在这个内置的游戏场景下，他也可以用自然语言交互，他完全理解了，并帮我完成了播种浇水。这说明模型已经能跟应用逻辑层挂钩了。通过这几项测试啊，在断网状态下展现出的多模态理解能力还是挺让我惊讶的。目前还是有几个问题比较让我头疼， 如在回复的过程中不能息屏，它只能支持英文的语音指令，还不能保留历史对话。 app 的 设计也比较割裂，用哪个功能得进到相对应的模块里？如果不是对离线使用有高频需求的话，还是豆包千万这类 app 更加实用。

如果我告诉你一台普通手机就能跑通谷歌刚刚发布的最强 jammerfour 模型，你信吗？而且支持原生多模态，完全离线使用，不用花一分钱。这期视频我将大眼重明，开始在安卓和 iphone 手机上跑通 jammerfour 模型。 在开始之前，首先我们需要打开零度薄扇，这边文件链接，我们放在视频下方，打开以后就往下拉，上面我们接所需的全部资料。首先第一步我们先来安卓手机来做测试，小白就他的下载安装包，我们可以在谷歌应用上点击下载，或者直接下载 app 安装包，我们直接前往打开它，简单多想 好，打开以后点击安装一下，我们点击安装一下，给他下载安装到安卓手机上。好，安装好以后，打开它来看一下它里面是否支持这个最新的 java 模型，点该 start 是 否允许这个方式，我们点击允许啊，下面进行设置一下。我现在还不知道我当前手机是否支持这个模型，因为我这手机比较旧。然后在上方这里可以选择 ai 模型，第二次平衡，第三次高性能，那之后我可以置顶以， 然后下面来下载一下模型，在左上方这里我们你上一个上横看好，进入以后，然后打开这个 model 这个 app 来进来模型应用下载，来看一下你们是否制作一个 gm 四模型啊，来在下面往下拉看一下，好在下方这里看到它里面有一个 gm 四 ecb 量化版模型，总共大小的话是一点二 g 左右， 这个应该是他根据单机手机的配置来进行推荐的，给我推荐是一点二 g 的 模型啊，接下来他呢，来先下载安卓一下啊，打开有没看到他里面有不同的量化版本，最高话是二点三 g 啊，但是我目前说手机话，他这个配置不是很高，所以他可以给我推荐是一点二 g 的， 但如果你安卓手机配置比较高的话，倒是应该选择更高的模型。这句话我就选他推荐的，就说 q y k s l 这个模型，这应该是一个比较小量化版了，总共是一点二 g， 咱们勾选它来先下载一下，好，勾选它以后就往下拉拉底部，它下方有一个当动的按钮，总共是一点二 g 左右 啊，叫他下下来，这个下载过程该修点时间了，到时候继续耐心等待下啊。过了一分钟左右，他先下载完成了啊，先返回去，咱们载入这个模型啊，在手机这里面上有一个发色，就选下 好均匀换，就往下拉拉，底部有一个自定义模式，我们打了他来创建一个模型，这个模型没上完全名自定义啊，在下方这里选择模型，别打了，他还有比上面有一个选择下载的 啊，这个是没看的，第一个就是我们刚才下载好的这个 jumbo four 模型了，咱们学的他啊，这样就早就进去了。下方的散热纹长度你可以自定义，这个主要看你这个手机这个硬件配置啊，如果硬件不是很高的话，就不要拉太高了啊，下方有个最高的 token， 搜索量是五百一十二 啊，先不用管他，我们先不用管我们点下方一个保存一下。好，这样的话就可以了，我们就可以把这自定义模型就给它弄好了啊，先打开它，打开以后呢测试一下，比如要帮我编辑一个贪污色小游戏，他也是可以帮我们搞定的，非常快，打开正常聊天话也是没问题的，都可以进行本地一切使用。 好，收把安卓手机的，我先做 ios 的 来，先重新返回，刚才点下来，把这个 ios 版机下载一下，我们第一前往。好，打开以后先把这款应用程序给登下来，它是完全免费的，它是可以完全加载本地的一些模型的，来界面下方下载按钮给登下来。好，下载好以后我们打开它， 打开以后它将会提示，欢迎来到这个 locally ai， 它是一个完全离线的 ai 助手，可以保证一个隐私和安全性，同时它可以对当前手机硬件进行优化，来设备对应的模型按键问题继续好，这时它来选择模型下载， 第一个是大苹果提供的，然后第二个是 mr， 第三个是千万三点五 i b 模型，这种不用管他，我先跳过，你跳过就可以了。好，跳过进入以后，那么第三方有选择模型，进入以后没看到小王就会出现一个 java 最模型的，它是目前最新的，支持深入思考，支持多模态。那么底下打开它，我们给它动下来， 总共是多少 g 啊？总共是三点六 g， 也是最新版本，那么点击 download 的 给他下下来。 好，下载好以后来先返回去，我们来试一下，看效果到底怎么样啊这是没看到他沙漠就会出现这个卷毛腹模型的，我们先来测试一下他多模态，并且我学会在桌面上随便扔一些东西在上面，然后我们来问他一下，他看到什么？同时我也会问他一下，在上面总看到几个西瓜籽啊，然后现在我们来问他一下，我们打开这个深度思考模式， 那么一下面一个 take a photo， 先来拍照一下，好，拍照好以后，然后发送一下啊，先问他一下，你看到了什么？桌面上都有哪些东西啊？我们来看一下他是否可以把全部东西给识别出来啊？ 哎，他开始了，他说我根据你的定位图片，我看到桌面上有各种电子产品和一些小瓶装物品， 然后在下方一头列出来。他的桌面上主要有以下这个机械东西，第一个是一个自然手机，一部深色的自然手机放在这个画面左侧，这个没错啊。然后手机壳保护套，一个带有花卉图案的这个片子式或粉色调的手机贝壳， 然后旁边放了一个蓝绿色的小瓶装物品，一个亮蓝绿色的小瓶，看起来是某种护肤品或者是精油，然后一个大型罐装产品，一个带有标签的罐子啊，这个才会被识别出来了，这个是益生菌啊，他先把这个识别出来了，这个没错， 然后下方还有个电子配件，一个黑色的小电子配件在罐子后面啊，那个也是我的这个录音东西啊，这个声卡，哎，他这个他有的东西没识别出来啊，就西脖子，他没识别出来啊，这为什么他没识别出来？ 我再问他一下，拍照一下，黑色点点是什么？总共有多少个？我们来拿数一下。哎，完了， 他都由于我无法视他，都由于我无法进行化学分析，我无法确定这些颗粒的具体身份，他们可能是以下几种东西，第一是天然成分，他都可能是干燥的种子啊。这个没错啊，因为他确实是干燥的西瓜籽。 他说我手下总共是九 k 啊，那他就错了，总共十六个啊，谁知道这方面他还是有点欠缺的。我一会来问他翘肌 b t 啊，看翘肌 b t 能不能打。对啊，我同样问翘肌 b t， 看到了这个黑色颗粒是什么，然后总共有多少 k？ 他看起来这些黑色小颗粒是西瓜籽，哎，这他打对了，我帮你数了一下，总共是十七个。哎，撬极币也打错了，这个数数这么难吗？ 这么明显，他居然数错了，总共十六个，他数成十七个了，也还是数数不行啊。所以我就不能怪这个 gm 负了，连撬极币地他也没数。对啊， 那进来测试一个逻辑推理题啊，就是概率加反直觉的这个逻辑推理题目是这样的，你参加一个游戏节目，有三扇门，其中一扇门后面是车，另外两扇门是严。你选了一扇门以后，主测类是这答案的，打开另一扇有严的门，并问你是否要换门。 问题是换门是否有利，为什么？这个大家能理解吗？我同样把它伸出触角模式给打开，那看下它能否答对。 哎，他知道了，他就是一个经典的蒙提货饵。问题的变动答案是换煤更有利。为什么换煤更有利？因为当你选低扇门以后，你只有三分之一的概率选中了车， 意味着身价。两扇门中有三分灾的概率包含了车。关键在于主持人他知道答案的干预，当你选择某扇门的时候，你只有三分之把握形容他， 主持人做的就是故意蒙蔽你。简单来说，坚持原版，你仍然只占了最初的三分之一机会。换版的话，你就再抓住主持人排除那个错误选项，从而获得了那个三分之一的概率。哎，这个没错，这他理解对了。那现在测试他代码编程能力， 比如他把我笔写一个山地鱼缸场景，鱼要看到有真实感，水和水缸里的水草也要好看且真实啊。先发送下来，验证一下它代码能力。好，它现在完成了。那先把代码刻出来，先放上电脑上去运行一下，看效果怎么样啊？它不仅提供这个 gs 代码，还提供这个 cs 一 二四代码，还有这 h t m l， 来看一下效果啊，酷毙哈。以后把它放在电脑上打开看一下。打开效果，大家看一下，它是非常可以的，看到非常真实啊。对于一个小魔仙来说，能打得到效果的话，已经非常可以了。然后下面再测一下，看他对这个药物这个识别到底怎么样。 来猜一下这药是干嘛的？瑞巴派特片，我们点击派斗一下发给他，问他一下这个是干什么的，估计很多人都不知道这药是干嘛的，我们看他能否知道。 他根据你提供图片作为文字信息，这是一个药片或者是局部使用产品。他说产品名称是瑞巴拜特片，他由于这个设计失灵和健康产品，我无法提供医疗建议。如果你对该产品的具体用法或使用方法、健康效果有疑问，请务必咨询医生， 他是非常谨慎的，可能好多人不相信他的离线这个性能啊，我们先把这个网全部断开，打开的飞行模式。原来把我写个恐怖小说到了五千字左右，哎，看开始了，他用的是繁体啊， 我目前是完全是离线的，他这个分章来写啊，千万别总共写到第五章了，这样换一部五千字左右恐怖小说，需要一分钟左右，他就可以帮你写出来了。 那下面在头像在这个离线模式下来测试一下他这个动感能力啊。那头像问他一下，你看到了什么？总共两个小东西啊，一个是大象，一个是蚂蚁。 他说以前是我看到的主要内容描述，第一个主体就大象的头部，画像中可以看到一只大象，然后第二是蚂蚁，就小吴姐， 没错，他请注意他的，由于图片中的细节非常小，我对蚂蚁的四别是基于其微小尺寸的预测，让他真猜对了啊。今天四别所用的全部资料，他们的链接我都发到视频下方在报上。