你说一句话,他就自己动鼠标、敲键盘,把电脑上的活干完,这就是字节开源的 ui touch desktop。 ui touch desktop 是 字节跳动开源的,不以智能体,说白了,它背后是一个能看懂屏幕的视觉大模型。你给他一句话,他就能像人一样盯着画面,自己去点按钮、填表单、滚页面,把任务一步一步干完。 他干活的方式其实就是一个循环,先截一张当前屏幕,把画面丢给 uytax 模型,模型看懂之后决定下一步点哪输什么,执行完再截一张图,接着判断,就这么一圈一圈地转,直到任务真正做完。 能干的活可不少,帮你订机票、填各种网页表单,在好几个软件之间搬数据、整理文件,甚至自动跑一套重复的办公流程。最关键的是,他不调软件,只要屏幕上看的见,他就能上手去点。 同样是让 ai 操作电脑, ui tars 最大的不同是,开源能本地部署,模型握在自己手里,而像 computer use、 operator 这些大多是闭源的云端服务,想自己折腾又在乎数据隐私的 ui tars, 给的自由度明显大得多。 好消息是,他完全开源免费,自己就能在电脑上跑起来。准备好之后,给他配上一个支持的模型,本地的、云端的都行,配好就能让他替你干活了。整个过程并不复杂,挺适合喜欢自己动手折腾的人。想让 ai 替你操作电脑的,可以去试试 ui touch desktop, 觉得有用就点个关注,下次接着给你扒好玩的开源项目。
粉丝2810获赞1.3万

哎呦,又见面了,朋友们,今天我们来聊一下用 ai 来控制你整个电脑这件事情的最新进展。因为啊,这个 cloud code 和 codex 呢,在最近这一两个月时间,相距推出了他们各自的解决方案,我实际使用下来呢,效果很不错, 之前爆火的龙虾 oppo pro 能够操作我们整个电脑对吧?但说实话,用过的人都知道这个东西吧,稳定性不是很好, 而现在呢,情况完全不一样了,这两家提出的方案的稳定性比龙虾强太多了。但是呢,这两家本身他们的解决方案呢,也有很多的不同,他们的优势劣势非常明显, 所以本期视频我们来做一个全方位的对比,同时我会简单的跟你说一下,哎,这两个方案如何安装,还有一些技术的原理,到最后你就会知道,哎,你该选哪个呢?作为你日常使用的工具,更重要的是,我会教你如何来同时的使用这两个完全不同的方案。 来吧,这里是乾坤下一站,一个用通俗易懂的方式来讲解如何用 ai 来提效的频道。点好关注,赞,我们开始。 好,我们先直接演示一下用 cloud code 和 codex 来操作你电脑的效果。 意思的是啊,这两家做的方案的名字呢,都叫做 computer use, 而且呢,你都可以在你自己电脑终端和他们各自的桌面客户端来用。接下来的操作呢,我们呢,主要在终端里面来操作。 好,我们先在这个终端打开 cloud code, 你 看我让 cloud code 打开我自己电脑上的日历,然后呢,在周六创建一个全天世界,标题就是周六出去玩, 我们输入指令,此时你看我的电脑在这个上面,对吧?然后呢,指令发出去之后,好,你看他打开了我的日历,然后呢,你看啊,我的鼠标自动的被移到了,这个下周六看到了吗?他自动的就被移过去了,他抢了我的鼠标, 然后呢,他自己呢?点击设置周六出去玩,你看他现在在输入周六出去玩。 好,你看这边,周六出去玩已经建好了,没有问题吧?好,我们现在来到 codex 这边啊, 同样的任务呢,我们现在在下周日,哎,我们创建一个全天的事件,叫做周日出去玩。你看这个指令发出去之后呢?你看,哎,他也打开了我的日历,然后你注意看,我自己这边有一个自己的鼠标,对吧? 但是呢,他那边有一个白色的小鼠标,你看到没有?我自己的鼠标和他的白色小鼠标呢,这两个是不冲突的,你看我自己鼠标呢,想干嘛干嘛,他那边呢自己在操作,这两个完全不冲突, 然后你看他各种点来点去,最后你看啊,这个周日出去玩,他也弄好了,好演示呢,我们就先看到这里,看起来都很丝滑,但是他们的差别很大,具体怎么安装呢?你看我这个视频的图吧,接下来我要做一个深度的对比, 不过在我聊这个具体的对比之前啊,我想先花一点时间来通俗的讲一下这两个工具它们各自实现的核心原理是什么,这样你后面听我说对比的时候,你才能够真正的理解。哎,它们为什么呢?会有这些差别? cloud code 的 方式呢?你可以想象成就是一个人,他坐在你电脑的前面,他看不到底层代码,他就只能看屏幕,怎么看呢?截屏 具体的流程是这样子的啊,你看这边他是怎么一步步操作的,他就是先打开了一个应用,对吧?然后呢,哎,先截个图,截完图之后呢,哎,他会发给模型去分析这个屏幕上有什么,我要点哪个按钮,在哪个坐标,各种分析。分析完之后呢,他就会操作鼠标或去点击, 点击完之后呢,他再截个图,确定结果对不对。截完图之后,哎,再分析,分析完之后再点击,就这样截图分析,采取行动,一直这样循环下去 好。而 codex 这边呢,就完全不一样了,它是利用了苹果电脑自带的一套系统,叫做无障碍数 a s tree。 这个东西呢,本来是苹果公司给盲人那些视障用户做的,就是让屏幕阅读器呢,哎,知道现在界面上有哪些元素, 然后呢,这个屏幕阅读器呢,就会把这些信息啊,给读给那些试驾用户。而 codex 的 工程团队发现这套系统 ai 也能用, 所以你看啊,这个 codex 的 操作过程是怎么样子的?他一开始呢,先获取了桌面应用的结构化数据,就是每个按钮呢,叫什么,在什么位置,什么状态都一清二楚。他分析完之后呢,他就会直接告诉系统,哎,我要点这个按钮,然后呢,系统呢,就会帮他去做手机。 当然了,他也有这个截屏降级的功能,就是 a x 区读不到的时候呢,他就会退回这个截屏的模式,但是那个只是备选方案,主力还是使用这个无障碍数好。原理就这么简单,一个呢靠看,一个呢靠读。 那么紧接着我就来说一下这两种不同的解决方案,在实际使用中会有哪些差距? 第一个最直观的区别啊, cloud code 会抢你的鼠标,而 codex 不 会, 为什么呢?就是因为这个 cloud code, 它就是很真实的来操作你的鼠标,来做这个点击啊等一些的行为。而 codex 呢,是直接向系统发指令,它甚至不需要把这个目标窗口放在前台。所以呢,你在前台正常的操作电脑,它呢在后台呢帮你干活,两个之间呢互不影响。 哎,这就让我想到了当时的 madison 团队呢,最早呢,哎,他们想做一个 ai 浏览器,然后他们也遇到了同样的问题,他们觉得 ai 在 用你的浏览器的时候呢,你自己呢,就用不了了,所以他们最后选择把一切操作都放在一个独立的虚拟机里面。 而现在呢,这个 cloud code 的 computer use 目前呢,就有这个问题,它抢你电脑的使用权,除非你专门留一个时间,比如说晚上睡觉的时候呢,哎,你让它慢慢的跑, ok, 我 们再来说说它们其他的区别啊。简单来说,因为 cloud code, 它每走一步呢,都要走完这个一整套的视觉分析的流程。 而 codex 呢,直接读取了这个系统结构化的文本数据,它跳过了整个视觉处理的环节。这就直接导致了下面这个后果,就是 clockcode 相比于 codex, 第一它速度更慢,第二它价格更贵。你想啊,它每一步都要截屏去分析图片,对吧?而图片呢,会占据大量的 token, 所以 同样的任务, codex 的 token 的 消耗量呢,大约只有 clock code 的 四分之一, 第三,它精准度会更差,因为 cloud code 靠截屏算坐标来点击,对吧?而在一些高分辨率的屏幕上,它的按钮呢,是很小的,就是你差几个像素又有可能会点歪了。 而 codex 通过这个无障碍数,它就是指哪打哪,基本不会出错。更重要的是, cloud code 它不能同时的去处理多个任务,因为你想啊, cloud code 要截屏吗?而且你只有一个真实的鼠标,对吧? 而 codex 呢,是可以同时开好几个任务的,它们每个呢都有自己的虚拟的光标,各干各的,互不影响。 听到这里,你是不是觉得,哎,这个 cloud code 拉完了,直接用 codex 得了。但是我跟你说不是的,它有自己的独特优势,有些地方比 codex 好, 而且长期来说,我反而更看好 cloud code 的 方案。 cloud code 碾压 codex 的 地方就是通用性,因为它是靠截屏来理解你电脑界面的,对吧?所以不管你是什么系统,你是 mac, 你 是 windows, 你 甚至是远程的桌面,只要有屏幕能截图欸,它就能操作。 而 codex 的 computer use 呢,目前呢,只支持 macos, 因为它非常的依赖这个 macos 那 个无障碍数系统,所以现在 windows 用户呢,还用不了。而且呢,你如果在欧洲,因为这个隐私合规的问题, codex 的 整个 computer use 的 功能呢,都被直接封掉了。 更重要的是,这个局限性还不只是平台,因为即使是你在 macos 里面呢,也不是所有的应用都有完整的无障碍数的信息, 比如说一些游戏的界面,一些飞格玛画布里面的元素,还有一些奇奇怪怪的应用,它们在这个无障碍数里面就是一片空白。 这个时候, codex 呢,确实有降级的机制,他会退回到这个屏幕截图加点击这个方案,但是问题是,这个降级的模式的精确度和效率就差很多了。 而截屏识别这件事情呢,恰恰是 cloud code 的 主场,它整个框架都是围绕着这个视觉理解来设计的,所以说在这些非标准的界面应用里面, cloud code 反而更加的靠谱。说到这里呢,让我想到了这个自动驾驶领域的两套方案, 就是说特斯拉呢,坚持用纯视觉,就是摄像头,看到什么呢,它就根据什么来开,这就很像我们真人开车对吧? 而另一派呢,是用激光雷达,就是他们靠发射光束去扫描周围环境的三维结构。你有没有发现, cloud code 的 截屏识别本质上就是纯视觉的方案,它就是在模拟真人用电脑的方式。 我们人类操作桌面的时候,不就是眼睛看到什么地方就点什么地方吗?而 codex 呢,更像是激光雷达,它不看画面,而是读取底层的结构化数据。 你想想,从这个第一性原理的角度, cloud code 的 方式呢,更加的接近于通用智能的本质。理论上,只要它的模型越来越强,推理越来越快,它的上限是没有天花板的。而 codex 呢,就只能在一些标准化的情境中使用,但凡有一些额外的场景, codex 就 不行了。 所以说,从长期的潜力上来看,我更看好 cloud code 的 这条路。但是目前来说,这套操作电脑的解决方案呢,我更愿意用 codex, 可是呢,我一直是 cloud code 的 忠实粉丝,它整体的 agent 的 能力呢,我用起来更舒服。 那问题来了,有没有一种方案可以让 cloud code 作为总指挥来自动地使用 codex 的 computer use 的 能力呢?有, 答案,就是让 cloud code 去调用 codex 的 命令行。简单来说, codex 有 一个无交互模式,就是你不需要打开和 codex 的 交互页面,你直接的终端输入命令就行了。然后呢, codex 呢,就可以在后台来自己默默地执行任务, 而输入命令这件事情呢,我们可以让 cloud code 来做,对吧?比如说,你看这里啊,我现在在 cloud code 这边,我跟 cloud code 说,让它运行这个命令,其实就是让 codeys 用 computer use 来打开我的计算器,然后呢输入一加一,然后呢把结果告诉我, 我直接输入,你看它会发生什么啊?哎,你看它这边有一个白色的小光标,自己在操作我的计算器, 过一段时间,你看我左边终端里面啊,克拉克说,哎,这个 codex 完成了任务,它通过这个 computer use 打开了计算器,然后呢点击一加一,然后呢,结果是二,怎么样?是不是很丝滑? 而这个命令里面有很多的参数对吧?具体每一个是什么意思,有什么坑要注意。还有它的官方文档的链接呢,我都整理在我的视频的图文版里面了,你去看就行了。 我再多说一句,如果说呢,你要想在 codex 里面要用 cloud code 的 computer use 的 能力,可不可以呢?也可以,因为 cloud code 呢,它也有一个无交互模式,这个呢,你自己去探索一下。 看完上面的对比呢,到底用哪种方案,我相信你心里已经有数了,我在这个视频图文版里面呢,做了一个详细的快速查找表,你可以按照你的设备和需求直接对号入座。好了,今天就说到这里,我们下期见。

朋友们,大家知道豆包的话,他有一个帮我写作啊,他可以直接帮你出一个这个文档,你把那个文档下载下来啊。嗯,但是这个我们看一下这个 open cloud, open cloud 的 话他有一个那个功能啊,他可以, 他可以直接在后台帮你做事,帮你直接把那个文档就在桌面桌面啊,电脑桌面,然后给你做出来。我们来举个例子啊,我这个叫小芳,我这个,我这个 opencloud 跟他写一下提示词啊,帮我在桌面 建一个,建一个 ai ai 学习笔记的文档内容 内容,内容暂定啊,内容就写暂定,后续再补充。 好,我们看一下哈,我们看一下他的执行效果,帮我在桌面建一个 ai 学习笔记的文档,内容就写暂定,后续再补充。好,他现在在工作了啊,今天我是第一次调用他,我不知道他反应力怎么样,我们等待他一下啊。 好,我们刷新一下,切换了一个网络的一个模型啊,付费的一个模型,我们重新再把刚才的这个指令啊,再复制一下啊,让他重新帮我生成。这次我们给他补充一下,我们让他 帮我在桌面创建一个学习笔记啊,点 点 txt 的 文档,内容就写暂定啊,后续再补充啊,我们让他重新再来 做一下啊。好,你看现在他在工作啊,他在调用工具啊,这些他在,他自己在后台做事。搞定,现在桌面上已经有一个要学习笔记的 t x, 内容是暂定,后续再 补充啊。好,我们打开桌面看一看,你看桌面上啊,就有有这个内容啊, a i 学习笔记啊, a i 学习笔记,我们点开, 内容是暂定,后续再补充,对吧?就它可以,就它可以实现,就是自己 这个这个 open cloud, 它相比我们这个这个 open cloud 它可以接,它甚至可以接管你的电脑啊,在你电脑后台里面 去干一些事情,所以说你要做什么写作啊?这些啊?你跟他聊好之后,你都可以让他直接帮你把这个内容给你做到文档里面,就可以说更方便。

你的小龙虾呢?现在终于长出了眼睛和手,也就是说他现在可以直接控制你的电脑了,不是通过代码,而是可以直接看到你的电脑屏幕,比如说你让他通过某信去发送消息,或者说,呃,打开音乐播放器去播放软件,那么所有可以用鼠标和键盘能够执行的操作他都可以完成, 那么他实现的方式呢,就是去安装这个叫做 pick 部的这个开源项目,那么你安装好之后呢,他就可以识别屏幕,并且点击拖拽输入等等的一个操作。 呃,大家可以看到他实现的一个方式呢,就是通过这个截图,那么截图完成之后呢,他去分析这个图片上面所有的按钮,所有的文字,然后他根据你的任务去理解, 那么这个如何去点击,如何去输入等等的一个一整个执行的一个顺序。好在这里大家可以看到他可以去点击 输入,查看滚动按键盘,菜单窗口等等,这个功能还是非常多的,那么我们如何去安装呢?在这个项目里面,他这个下面给大家完整的完整的这个安装的流程和一个指南,不过大家呃想要看起来还是非常的麻烦的,所以说呢,我们帮大家把这个项目里面的所有内容 给他转移到了咱们的本地的文档里面,在这个文档里面大家可以看到这个有完整的一个安装流程,我们经过简化的一个流程,并且呢还还给大家有这个安装包,那么下载直接双击安装就可以了,就是比官网那个开源项目里面的更加的简单简洁。 那么在这个文档里面啊,如果大家想要去安装的,直接拿走这个文档,直接去按照这个步骤去操作就可以了,有什么问题呢?可以在视频下方给我们做一个反馈。

我现在打开了一个联网麻将游戏,甚至还没出第一张牌, ai 就 自己看着屏幕,从头到尾帮我打完了这一局。这事挺有意思,最近麦塔开始记录员工的鼠标点击、键盘输入,甚至屏幕操作,用来训练 ai。 说白了, ai 如果想真的替人干活,就不能只会聊天,他得先学会人到底怎么样去用电脑。但我没想到,这一步可能真的要来了。 我刚刚使用的是一个完全开源的 t u i 感知智能体 mano 杠屁!他能以纯视觉的方式去理解和操控你的桌面,帮你处理复杂的工作流, 就像这样跟个真人一样看着真实界面,理解按钮、窗口和操作路径。比如我自己写了一个番茄时钟应用,只丢给他一句帮我测试一下,他就会自己打开页面,开始暂停重置,一步一步点完,甚至连异常情况也自己试了一轮。整个流程我没有点一下。那些原本你必须亲自动手点的操作,现在 ai 都可以替你完成。 当电脑不在身边的时候,这个模型的能力就太实用了。就像这样,我直接在非处理丢一句,把电脑桌面里的这段视频发到我微信上,你看他就能自己打开微信,还能精准的找到我的头像,把文件发过来。我还试了一下,让他帮我处理更复杂的任务。 比如我让他把这段视频放进剪映,加上字幕,再导出成片。 ok, 等我回到电脑前,这个视频就已经处理好了。这才是这个开源模型最硬核的地方。玛瑙钢批不只是能帮你做几个简单的点击,而是在怎么用电脑这件事情上,已经在全球多摩太十三个榜单里拿到了搜塔。更重要的是,这一切都是在本地完成的。该模型可以直接跑在 m 四芯片的 mac 上, 你不用接 ip, 数据不会上传到云端,截图文件、操作记录全部留在本地,这样你才敢把真正重要的资料和任务。 而且他的开源协议很友好,开发者可以继续二次开发,接入自己的工作流。这意味着,借助 model 钢皮这款纯视觉方案的开源模型,你完全可以在本地部署之后把屏幕交给 ai, 不是 在云端不属于任何平台,而是在你自己的电脑上,让他安全的帮你处理多样化任务。私有化 ai 的 时代,这回是真的要来了。

给你们看一下我电脑里这个能够七乘二十四小时工作的牛马。哎我去,一会没看着他竟然在摸鱼了,可恶啊。这个呢,是最近上线的腾讯的 agent 马维斯, 之前啊,我一直在用 codex, 但是呢,受到 toky 的 限制啊,不敢随心所欲的使用。但是这次马维斯呢,每天的免费额度啊,可以让我们为所欲为了。主要吧,他这个还能够操控电脑完成很多日常任务。 你看啊,比如我这里,让他用浏览器来搜索一下实时新闻,并整理出跟财经相关的内容发给我,他很快就能够完成。 在这里啊,我们还能够设置定时任务,让他每天定时的去做同一件事情。这里有一个办公室的一栏,就能够显示到这几个牛马的工作状态了啊。后面呢,我就开始准备尝试一下,离开工位的时候甩给他一些科研任务,让他帮我处理一下。 不过这个 agent 我 也是刚开始使用啊,待开发的功能呢,还有很多,不过看他的介绍的话,感觉,呃处理日常的小任务啊,还是很方便的,并且非常的提效。大家如果在使用过程中啊,发现了对我们研究生非常有用的功能,也可以分享一下。

让 ai 直接操控你的电脑桌面, hermes 加 u i tars 演示,让 hermes 操作你的电脑,通过 ui tars 视觉模型自动发微信 很多人可能不知道 hermes 能不能直接操作整个电脑桌面?答案是完全可以,而且它用的是和人一模一样的方式 看屏幕。今天就给大家演示一下,让 hermes 通过一个叫 u i tars 的 本地视觉模型,全自动操控微信,给你指定的人发一条消息。当然,用支持视觉的云端大模型也能做到,只是截图上传,下载速度慢,效率很低, 用本地模型跑,响应速度会快很多。全程不用写任何自动化脚本,也不用调任何 api, 就是 让 ai 自己看屏幕,找元素,点鼠标,敲键盘。原理其实很简单, u i tars 是 一个专门为桌面 u i 训练的开源视觉理解模型,可以完全跑在本地显卡上。 hermes 先截个屏发给他,他就能精准识别出屏幕上每个按钮,输入矿图标的精确坐标。然后 hermes 根据这些坐标模拟鼠标点击和键盘输入, 每做完一步,再截一次屏,确认操作是否到位,没问题了再进行下一步。现在来看实际演示,大家现在看到的就是 hermes 正在执行任务,他先截取了一张全屏截图,发给本地的 u i tars 分 析模型,很快就返回了微信窗口的位置,输入框的坐标, 还有右下角发送按钮的位置。然后 hermes 自动把文字粘贴到输入框,精准点击发送。你看,微信这边已经成功收到消息了,整个过程没有任何人为干预。 这套方案最厉害的地方在于,它完全不需要目标软件提供任何 api 接口,只要能在屏幕上看到的东西, ai 就 能操作,微信、 qq、 浏览器、 excel, 甚至是十几年前的老软件,理论上全部适用。所以你完全可以让 hermes 定时自动帮你完成任何重复性的桌面操作。感兴趣的记得关注,后续会分享更多 ai 实战技巧。

打工人用好这个 ai 工具,从此可以安心下班了。你有没有遇到过这种情况,下班刚到家,突然老板发来消息,让你 ppt 加一句话,或者 excel 改数据, 然后马上发给他。但问题是原文件还在公司电脑里,难道要千里迢迢又赶回公司吗?这种小改动啊,其实并不复杂,但就是被远程文件卡出。 那有没有一种方式,用手机给办公室电脑发个指令,让他直接调用本地文件帮你改完,然后你只需要转发给老板就行了。活是 ai 干的,功劳全是你的,那现在却有 solo 真的 实现了,这周刚发布的,却有手机、电脑、网页三端全量免费开放,你可以直接在手机上 远程控制办公室里的电脑,查文件,改文件,跑任务,那么光说你可能感受不到它的强大。咱们上两个案例,案例一,远程修改 excel, 并做一张图表。那你手机上有了 excel 之后,开启 m t c 模式,手机端和电脑端登录同一个账号后, 就能远程连上你办公室的那台电脑。那比如说,我现在办公室电脑里有一张学生成绩表,并且生成一张学生排名的柱状图,我手机上并没有这张表, 所以没有办法直接在手机上修改。但是没关系,我只需要对初友说,帮我找到学生成绩这张表加一列,把每个学生的总分算出来, 然后根据总分进行排名,给我一张柱状图。那手机发出去之后啊,可以看到远程的电脑端就收到了这条指令,自动查表,并且开始处理。处理完成之后呢,我的手机上也会收到这张表,可以看到总分列已经有了,排名柱状图也有了, 完全是按照我们的需求来的,也就是手机发一句话, ai 会自动帮你在办公室的电脑上进行工作了。那案例二,远程修改 ppt, 这回我们提高点难度啊,老板想让我们的 ppt 加一页,并且呢还发了一张参考图, 让我们把整套 ppt 的 风格配色都改成参考图上的。这时候手头没电脑该怎么办呢?没关系,直接在手机端的 qq 上说一句,参考这张图的风格,帮我把 ppt 的 排版样式、配色风格整体换掉,再给我加一页内容指定发出去之后,办公室的那台电脑 会自己开始操作,改配色、加内容,调整版式,等它处理完,改好的 ppt 会直接发送回我们的手机上,可以看到配色已经统一成,参考图片上的那个风格内容也补充好了,那你只需要转发给老板就可以了。那我实测下来,无论是 mac 电脑还是 win 电脑,都能够用手机 流畅的远程控制自动跑任务。最后呢,还打通了飞书 c l i 设置定时任务后,很多日常的小工作都能够自动处理掉。 且 chuo 这次和星巴克还有个联名活动,一边喝咖啡,一边用 chuo solo 帮你轻松处理工作任务。在五月八号十二点前, chuo app 右上角的活动页呢,就可以参与体验一下呢,就可以直接在星巴克领取大杯美式,感兴趣的同学赶紧试试吧!

没装龙虾的兄弟们有福了, s 追 pick 直接放大招发布了可唠电脑控制功能,不用部署,不用配置环境,麦克装个可唠桌面端, ai 直接帮你点鼠标、敲键盘, 做做表格、写文档,手机发一句话,电脑自动帮你干完活,这才是普通人真正能用的 ai 智能体。反观龙虾,要部署要配置,门槛高而可唠的开箱即用官方原声,安全可控,打工人直接上手。 二零二六年,谁先拿下你的电脑桌面,谁就拿下了下一代生产力。对此,你们怎么看?咱们评论区聊一聊。

嗨,我是马哥,每天带你看一个开元好项目第二十一期,你是不是也这样?让 ai 干活永远是单线输出,同时指挥好多个 ai 协同干活,那个难度直接翻倍。有没有一种可能,让 ai 自己组队,自己分工,自己查漏补缺? 这玩意儿叫 rocco, 它能让 clao 作战变成集团军冲锋。一百多个专业 ai 智能体同时给你打工,还能自己学习怎么配合更默契。 以前你叫一个 d i 干活,现在你叫一个,他能瞬间召唤一群各自分工,有的写代码,有的查资料,有的跑测试,配合的跟老员工似的,你就等着收结果就行。 最离谱的是什么?这帮 d r 会复盘,每次完成任务,他会记住哪种配合方式效率最高,下次再遇到类似的事,他自己就优化流程了, 你等于白捡了一个不断升级的 worker。 如果你有多台电脑或者团队协同,它能让不同机器上的也安全的交换信息,数据不泄露,但是任务能流转, 相当于给每个 ai 配了加密对讲机。这项目才上线十一个月,你知道吗?今天一天就涨了一千二百九十九颗星,总数已经突破三万七千了。四千多个分支,二十一个人在持续维护社区,已经堆了三十二个插件,就这增速,太夸张了。 你不需要去学什么新命令,装上这个插件之后,你该怎么用 call 还怎么用,它会在后台自动分析你的任务,自动调配资源,自动协调多个智能体,你该写代码写代码,该聊天聊天,其他的它全给你安排了。 如果你天天让 ai 写代码做分析,跑自动化,这玩意儿就是效率放大器,搞 ai 研究的,可以用它协调多个 ai 帮你干活。 说白了,单兵作战的时代过去了,现在是集团军的时间,觉得有用就点个赞,关注马哥,每天带你发现宝藏开源项目,咱们明天见!

最近 ai 真的 特别火,但很多人其实没有意识到, ai 现在已经不只是聊天了,它甚至已经可以开始帮你远程操作电脑。 最近发现把向日葵远程控制软件更新到十六点五版之后,它新增了三个功能,一个是全功能的 ai mcp, 一个是向日葵龙虾,还有一个免密授权的登录。 在这三个功能中,我最感兴趣的就是这个向日葵 m c p, 它把向日葵的远程控制能力变成了 ai 可以 直接去调用的工具包。简单来说就是以前是你去远程操作电脑,现在开始变成了由 ai 帮你来远程操作电脑,尤其是当你有多台设备需要统一运维的时候,现在就很方便了。 而且远程连接后的很多操作也能够自动的完成,比如让他帮你运维服务器、管理交换机,帮你装软件,给你传文件,那这些都只需要你在聊天窗口发一句话, ai 就 能调用向日葵去远程帮你干活。接下来就带大家看看这个东西到底怎么玩。 记得先去向日葵官网申请一个试用,然后重启向日葵客户端,也不需要额外的配置,就能在向日葵软件中去启动向日葵 m c p 服务器的功能。启动之后就相当于搭起了一座通过 ai 工具和向日葵远程控制服务沟通的桥梁。 接下来我以 open code 的 这个 ai 工具为例,来分别演示集成向日葵 m c p 安装 skill, 再去测试一下通过 ai 来远程控制服务器、控制交换机、控制电脑来安装软件传文件。可以先在向日葵 app m c p 这里点击这里的帮助文档 往下拉,根据这部分的内容去新建一个工作区,以这个名称新建一个目录,比如在我地盘的内部文件夹下面新建这么一个目录,进到目录新建一个文本文档,第一个文本文档改成这个名字,后缀也要改, 再新建第二个文本文档改成这个名字后缀也一样的要改。 接着用记事本编辑第二个文本文档。回到向日葵的 m c p 界面,复制下面这一堆服务的配置,粘贴到文本文档中保存起来。 最后打开 ai 工具,这里以 open code 为例,这也是官方推荐的工具,左上角点添加,找到 d 盘 live, 选中这个目录,直接选择文件夹,这样的话就把 ai 工具跟向日葵的 mcp 做好了集成,我们可以测试一下,比如可以问一下他有哪些电脑在线, 他就会自动的去调用向日葵 mcp 里面的一些工具去检测向日葵里面在线的电脑,他检测出来了这三台电脑是在线的,你也可以问他哪台电脑,他的具体配置是什么, 他也会去调用向日葵 mcp 工具里面对应的工具去解锁设备的硬件信息,最后把这些汇总信息发送给我, 我们在对话框输入刚 u 新建一个窗口,回到官方文档这边,进到 m c p 进阶玩法这里去安装两个官方推荐我们安装的 skill, 第一个安装这一个直接复制过来,在对话框告诉给他,他就会自动帮我们安装 好,安装完成再来装第二个,这是一个截图 ui 元素定位器,可以同时把链接也发给他,让他自动帮你安装 好,安装完成。那这个 skill 呢?是需要配合有视觉能力的 ai 模型来用的,所以如果涉及到通过远程桌面去操作设备的话,我们在下面的模型这里要选择这种多模态的大模型。 我先让 ai 在 我远程的 thinkpad 电脑上用 s s h 登录这台服务器,看看账号密码,我也提供给了他,看他会怎么操作。 他发现 s s h 登录超时了,也找到了超时原因,因为 s s h 需要通过交互的方式输入密码,这里可以看到他的解决方法是使用 s s h pass 工具来输入密码。这次连接成功了,也把服务器的信息返回给了我。那我让他检查一下此盘空间,再告诉我哪个进程占用资源最多。 他很快就把这两个结果返回给了我,还问我要不要查哪些目录占用空间最多,我看看他能不能查到。 查出来了,电视剧这个文件夹占用空间是最大的,因为它登录的是一台 nas, 我 存了不少电视剧。我再让 ai 帮我通过向日葵在我远程的 thinkpad 上去登一台路由器,这里我故意把路由器写成了交换机,看看它能不能发现。我说错了, 登录成功,他这里也发现了,这其实是一台路由器。再让他检查一下这台路由器有哪些。 o s p f 邻居,五个副状态的邻居,这是对的。我再让他根据这台路由器的路由信息,看看能不能去复制一个 top 图出来。 他用 macdunk 给我生成了一个 top 文件。 macdunk 看起来不太直观,我让他换一下,用 html 重新来生成一个 top 文件 也很快啊。这是 top 文件,用浏览器看一下这个 top 图,从结构来看是没问题的,跟我搭建的环境也是一样的。 我再给他提一个访问控制的需求,禁止十点四点零网段访问十点五点零网段,让他自己根据设备上的路由信息去理解一下这个策略怎么写,应该应用到哪个接口。 他写了个访问控制列表三千,禁止了原十点四访问目的,十点五。下面这条普密的 ip 在 华为的设备上其实是可以不用写的,不过也不影响这个策略调用的接口。要确认一下,这个跟数据流向是有关系的,他是准备在 g 零杠零杠三口做入项的调用, 那对应拓普图的 g 零杠零杠三下联的就是这台路由器四,它背后的网段就是十点四开头的,那这个流量的方向 ai 理解的也没问题,那就让它执行吧, 执行成功,也顺手保存了配置。这个习惯还是挺好的,我也登到这台设备上检查一下,防空的列表没问题, 接口调用也没问题。从这部分测试可以看出来, ai 工具配合向日葵的 m c p 功能,去远程控制远端的电脑作运维,这条路径是没有问题的。 虽然现在 ai 对 服务器和网络设备的管理还有一些瑕疵,但是随着模型的眼镜技能和工具的增加,这些应该迟早都是能解决的。 再来,让他给 thinkpad 安装一个 qq, 看看他会怎么做。他先调用了远程电脑的 cmd, 看来是想通过命令行来安装。这一步开始下载 qq, 下载完成后还检查了一遍,确认 qq 安装包下好了,这里开始执行安装,后面的杠 s 参数表示执行的是计谋安装。 但是这里会有个问题,我们平时在安装软件的时候, windows 的 安全中心都会弹出是否允许的窗口,对吧?那我们来看看 ai 它会怎么来处理。 大概持续了一分钟左右,它发现没有动静,它开始自动的去调用远程桌面,这里可以看到它截了一个图,它应该是截图去分析电脑上的问题, 这里可以看到他有一些分析的步骤,在这个分析结果里面,他果然发现了问题,他准备对这个坐标发起一个点击的动作,通过这个模拟鼠标的工具来执行远程的点击 安装完成了,桌面也出现了 qq 图标,然后也成功的打开了 qq 的 登录界面。在这一串操作里面可以看到 ai 工具分别调用了远程的 cmd、 远程桌面和远程鼠标点击这三个工具,完成了这个软件的安装。中途他被系统的安全中心挡住了,他也能通过截图自己分析问题再解决。 当然这一连串的操作首先依赖的是向日葵提供的各种远程工具。然后不知道大家发现没有,安装软件时,我使用的是谷歌的 jimmy 多模态大模型, 截图的功能是向日葵提供的,那精准的识别图片和问题分析,解决问题靠的主要还是大模型,所以一个靠谱的大模型也是很重要的。 接下来再来看一个传文件的操作,看看 ai 能不能帮我把我要的文件通过向日葵 m c p 从远程的电脑传过来,我让他从远程的 sync pad 电脑的 d 盘根目录下面 找到两个乡村爱情的视频文件发给我,但实际上这两个文件的文件名我用了缩写,我来看看他能不能理解。判断出来这两个视频就是乡村爱情的视频。 他搜索了之后,确实判断出了我的需求,现在已经开始传输了,传完了,传到了我指定的位置。 测试下来之后,我觉得这个方向其实挺有意思的。向日葵本身就是做远程控制的,现在把 ai 和远控结合之后,会发现有很多场景一下子就打开了。以前我们总觉得 ai 离真正帮人做事还差很远,但现在你会发现,它已经开始能看懂界面、 能操作电脑,能帮你完成任务了。那向日葵的这个 mcp 功能,算是我最近看到在 ai 上面比较有落地感的一次尝试。

大家都知道我一般不轻易说太炸裂了,但是这一次当我把 open crock 接入微信的时候,真的忍不住从座位上跳起来说太炸裂了,因为 open crock 加微信加石榴智能体真的能让这台电脑活了过来, 我甚至觉得以后不再需要招募人类的员工了。我们的工程师可以通过 open crock 告诉这台电脑,启动石榴智能体,它就能够自己启动石榴,启动微信去查看用户的问题。 他不仅非常认真的自然的回复用户,还能自己选段发送内容,甚至做到了用户根本不知道他在跟 ai 聊天。而更扎心的是呢, 需要关闭的时候,只需要远程告诉他一条消息,他就可以关闭,以后在家里也可以远程的去指导电脑干活了。这哪里是 ai, 这是真正能自己主动干活的数字员工。更夸张的是呢, opencore 加石榴 ai 智能体这个数字员工更是具备了操作电脑的能, 你可以像真人一样去自己识别聊天窗口,点开新的对话,新的私信,新的群,跑过去回复用户。如果你也想体验这款 openclock 加十六智能体,让你的微信自己会看、会想会说,就在评论区打 ai。

打开剪映,帮我剪成视频。 nice! 这个不是 cloud bot, 但我愿称之为国产之光。因为它去除了所有繁琐的部署流程, 直接下载安装就可以使用,而且完全免费,不需要消耗自己的头壳。同样支持飞书、钉钉和 qq 来操控电脑。而且我个人认为它的操作反馈是大于 cloud bot 的。 你看它在操作的时候,边框还有一个高亮显示, 这样会明显的感知到他正在控制你的电脑接入流程。他们还给你提供了保姆级的文档,只需要填入 app id 和 secret 就 可以马上接通。建议所有想拥有超级电脑的宝子赶紧给我充,因为真的太简单了!如果你拥有了这台超级电脑,你最想用来干什么?评论区留言。

一个 ai 正在像真人一样操作你的电脑,这不是科幻,而是正在发生的技术革命。它背后的核心是一个模拟人类操作逻辑的精密架构。首先是感知,它通过视觉识别,像眼睛一样读懂屏幕上的每一个像素按钮和文字。 但这只是第一步,关键在于决策。他需要理解你的意图,并规划出最合理的操作路径,比如先点哪里,再输入什么,这背后是一个复杂的决策链。最后是执行, 他要将决策转化为精确的鼠标点击和键盘输入,并且能实时适应弹窗、卡顿等突发环境变化。整个过程感知、决策、执行必须无缝衔接,形成一个闭环。 这就像训练一个顶级的外科医生,不仅眼力要好,手要稳,更要在瞬息万变的手术中做出最正确的判断。所以,真正的 ai 控制远不止是自动化脚本,而是一个具备环境适应能力的智能体。 记住这个核心,感知是眼睛,决策是大脑,执行是双手,三者一体才是智能控制的未来。

我第一次用牛马来形容一个 ai, 先别急着划走啊,我这话不夸张,你有没有发现一个特别诡异的现象,就是电脑这东西号称是人类最伟大的生产力工具,结果呢,我们每天上班第一件事就是哼哧哼哧给它当铲屎官,什么整理桌面文件啊,各类下载内容啊,甚至调亮度,连 wifi 找那个伴, 半个月前都不知道扔在哪的文档,你以为自己买回来一匹能跑的千里马,结果供了个事事让你伺候的电子店。所以我们缺的不是更强的处理器,我们缺的是一个真正能帮我们干活的牛马。而我们今天要聊的这个东西,可能是你电脑这辈子最该装上的。 大家好,我是李白,欢迎来到我的 ai 频道。那就在最近呢,腾讯上线了一个叫马维斯的 ai 助手, windows mac 安卓全平台通知这个名字起的挺妙的,马维斯,谐音马威十。不是的,用完之后,我的理解是啊,这简直是 ai 界的牛马。他不是让你打开网页跟他聊天的客服, 也不是藏在某个 app 角落里等着你召唤的工具人,而是直接住进你的操作系统底层,二十四小时待命,随时准备替你干活的数字苦力。 他的创新狠就狠在哪里呢?马维斯内置六个全天候智能体,他分别负责文件处理、系统设置、远程控制等不同的任务,你只需要像吩咐助理一样对他说话,他就能干活。 那这东西对我们普通人到底有什么用啊?我举几个最实在的场景啊。首先第一个就是找文件和整理资料,你只需要说帮我把上周所有的合同整理到一个文件夹,重命名加上日期,他就能跨文件夹精准定位,批量操作,以前十分钟的活,现在十秒多。 那第二种呢,就是帮你进行系统操作,你说帮我连上 wifi, 或者把屏幕亮度调到最舒服的阅读模式,它就直接绕过所有设置页面,一步到位。那第三个就是多设备协同。你在外面用手机呢,可以让马维斯远程把家里电脑上的某个文件发给客户, 不用再急急忙忙的跑回去开机。当然,你也可以让他提前把你的游戏更新好。这对我们普通人啊,就意味着我们终于可以像一个真正的老板那样用电脑了。你不再需要去学那些复杂的软件操作,也不需要去记那些狗屁捣造的文件路径,你只需要知道自己想要什么,然后用最脏最累的活去 使唤这个牛马就行。解放生产力,不是让你跑得更快,是让你能把那些毫无意义却又不得不做的重复劳动全甩锅给 ai。 而且它每天还赠送一千万免费的 talk, 完全能覆盖绝大多数日常使用场景。那我觉得这件事的意义啊, 嗯,它绝不仅仅是多了个软件那么简单。这是 ai 从动嘴皮子到真动手干活的分水岭。以前的 ai 助手啊,是你问他答,动口不动手。那现在的马维斯是真敢往操作系统底层的泥潭里钻, 去执行那些琐碎脏乱的系统级任务。当每个普通人都能拥有一个任劳任怨、随叫随到的数字牛马时呢,真正的创造力平权就来了。未来以来啊, 当 ai 能够真正理解并执行我们的意图的时候,我们使用电脑的方式将会被彻底的改变。马维斯只是一个开始,接下来我们将会看到越来越多的系统级 ai 助手出, 他不是要取代我们,而是要解放我们的双手,让我们把最宝贵的时间和精力投入到更有创造力,更有价值的事情上去。好了,那以上呢,就是我们今天的内容,我是专注 ai 零的李不白,咱们下期再见。拜拜。

大家知道,我一般不轻易说太炸裂了,但这一次,当我看到 openclaw 进入微信的时候,真的忍不住从座位上跳起来说了句,太炸裂了。因为 openclaw 加微信加石榴智能体,他让这台电脑活了过来,我甚至觉得以后不再需要招募人类的员工了。 我们的工程师可以通过 openclaw 告诉这台电脑,启动石榴智能体,他就能自己启动石榴,启动微信去查看用户的问题。 他不仅非常认真,非常自然的回复用户,还能自己分段发送内容,甚至做到了用户根本不知道他在跟 ai 聊天。更炸裂的是,需要关闭的时候,只要远程告诉他一条消息,他就可以关闭,以后在家也可以远程去指导电脑干活了。 这哪里是 ai, 这是真正能自己主动干活的数字员工。更夸张的是, open colo 加十六 ai 智能体,这个数字员工更是具备了操作电脑的能力,可以像真人一样自 去识别聊天窗口,点开新的对话,新的私信、新的群,跑过去回复用户。如果你也想体验这款 openclaw 加石榴智能体,让你的微信自己会看、会想、会说,就在评论区打 ai。

这是腾讯刚刚推出的本地 ai 认证产品,中文的名字呢叫做马维斯,它可不是一个普通的聊天工具啊,而是一个能够直接控制你的电脑的超级 ai 助手。在下面的介绍这里我们可以看到啊,它能够进行文件的整理,按照图片中的主题,地点,文字,甚至图片中的这个人像来进行分类, 他还可以帮你去修改你的电脑的设置啊,有任何问题呢,都可以帮你一键进行修复,他还能够进行文本地文件的编辑,比如说内容的优化,润色,格式转换等等。 而且最重要的是啊,他还能够进行远程去控制,你只需要在你的手机上呢,也安装这个马维斯就可以了,那么他和 open close 有 什么区别呢?其实本质上是一样的啊, 只不过呢马维斯呢安装起来更加的简单,使用起来呢也更加的方便啊,基本上可以做到一键安装大模型呢,也不需要你配置,两分钟就可以安装完成。 那么我这边呢,已经安装好了,在新建对话这里呢,你可以直接进行一个对话,你还可以新建定时任务,或者说你安装这个 skills 技能,它都是支持的, 那么你的任务在运行的时候呢,在这个办公室这里,你就可以实时的看到它运行的一个状态,也就是这六只小马, 第一个呢是团队的队长,负责分配任务,那么其他的小马呢,有的是负责调用本地的软件,有的是负责电脑配置,有的是负责联网查询信息,有的呢是负责本地处理本地的文档,他们协同作战呢,就可以帮你完成任何你需要完成的任务。 如果大家有想要安装马维斯的,我们这里,我们这里呢有一个从零到一的安装的操作指南,并且这里还有十个实际使用的自动化的场景,大家呢可以拿走这个文档去看一下。

什么是 ai 工作流的终极形态呢?就是普通的工作流呢?就是在 openclaw 里面建几个 agent, 让它们各司其职。那么我的 ai 工作流玩法是用 m c p 调度指挥一切。 ai 工具 就是一个 ai 工具,当总控,指挥所有的工具去干活,告别手动切来切去。现在很多人都是多 ai 工具,例如 openclaw, 例如 cloud code code x, 这个电脑就是一个散装的 ai 工具集合。但是呢,这些 ai 工具各有各的特点, 就离不开还各有各的强项,每次切换工具,复制粘贴,重新描述,重新理解,上下文麻烦的要命,用多了就感觉心累。解决方案就是用 m c p 一个 ai 当总控,指挥其他工具干活。 那么 m c p 的 互联互通两套方案,两种玩法。方案一,我叫他牛马工作,留给主控工具,写 m c p 协议,配上你动嘴他干活。 例如说 codex 给我做个课件, codex 就 去干了。这种工作流呢,适合轻任务,小任务。那么第二种方案,我叫他一人公司。工作流就是通过 secure 编排主控,自己思考 这个任务该给谁,例如说给我一份竞品分析,那么谁查数据谁分析,谁写报告,谁去叫队,由主控 ai 思考决定。这个工作流呢,适合长任务,大任务。今天我们重点说第一种方案,牛马工作流的实操,用我可巴蒂来当主控, 演示 m c p 调度。为什么是 workbody 呢?因为它内置了 m c p 的 链接器,配置更直观,一眼看懂链接关系。然后理论上任何 ai 都能当主控, open cloud code x, cloud code 提示词逻辑是一样的好,我们直接开始演示,因为时间关系,我就自己走了一遍。我的提示词是,我的电脑中安装了 mars, 你写一个 m c p 给自己配上,方便我以后通过你指挥他干活。经过他一番思考,他就写好配置好了,他建议你重启, 其实不用重启,大家注意看,这一步非常关键,在左侧有一个链接器,我们点一下,右上角有一个自定义链链接器,我们点一下,我们找到刚才配置好的这个 mars m c p 的 地方,如果你第一次配,这会有一个按钮, 点击信任,以后只要它这个开关绿了,你就可以用了。我们实际测试一下我的提示词,让它在桌面上写一个 md 文档,把它所有的功能都列到文档里。好,那么它就通过 m c p 的 调度 完成了这个任务。我们看一下这个文档,这就是它让 marvis 写出来的所有功能的文档。好,我们今天演示了用 walkbody 做主控,通过 m c p 去调度 其他软件去工作。那么下一期我们说方案二,一人公司的工作流,只需要给他下一个长任务,那么由他自己来决定谁干什么,中间的过程不用你管,直接拿成品就行。关注我,一起成长!

小龙虾现在可以完全控制你的电脑了,不是通过代码,而是直接可以看到你的电脑屏幕,比如说呢,你让他通过微信呢发送消息等等啊,想象空间还是非常大的。那么要实现这个功能呢,你需要有一台苹果电脑,然后呢,安装这个叫做 pickpocket 的 软件。安装好之后呢,你就可以使用 opencloe 通过 pickpocket 来控制你的电脑, 他可以通过截图的方式呢,看到你的电脑界面,包括每一个按钮,每一个文字。然后呢,他还能够理解你的软件界面的操作逻辑啊,是应该先点击按钮,还是需要滚动和拖拽,哪里是输入框等等啊, 甚至呢,他还能够处理弹窗信息,这意味着通过 ai 来控制电脑终于可以实现了,他不需要软件适配,而是真正像人一样,通过眼睛看,通过手来进行操作,这是真正通用的控制方式。 如果你需要安装这个软件呢,我已经将安装包呢放到了本地,你可以直接进行下载。里面呢还有操作和安装的一个步骤啊,想要使用的在视频下方告诉我。