粉丝84获赞3440

我朋友最近说 ai 没那么好用了,他说他这周啊,连开了五个项目会,每个项目都让组员发了一份周报回来。他想偷个懒,把五份周报拼成了一个三十页的文档扔给 ai, 让 ai 帮他读完。 然后他再追问几个细节,准备做下周的项目分配。前两个问题答的老好了,哎呀, a 项目这周最大的风险是什么?答的又准, b 项目下周计划人力够不够也答得出来。 但聊到五六个问题,事不对了,他问,你看 d 项目这周的客户反馈,有没有什么需要我注意的? ai 给他答了一顿,他一看,哎,这不是 a 项目呀,也不是 d 项目呀。更过分的是,他定了一条规则,只关注产品相关内容,人事和财务先不用看。 这句话 ai 一 开始是听的,但聊到后面, ai 自己把人事相关的事也开始往回塞了。我听完就跟他说,不是他变蠢了, 是它这个上下文窗口满了。他当时就问我,我怎么解决这问题?我大手一拍,这你可是问对人了。上下文窗口就是 ai 一 次对话里能同时看见、能同时记住的内容长度上限, 超过这个上限,前面说的东西基本就会被挤出去。它不是 ai 的 这个知识量,也不是 ai 长期记忆,它更像是咱们的办公室桌面。我们刚开始工作的时候,桌面可能就这么大,你同时摊开几份资料,再多来一份,你就得把前面那份收走, 塞进抽屉才能放心呢。那这个不是我们不想留着,是这个桌面我放不下了。 ai 的 上下文窗口也就是这么回事,它的桌面大小就是这个上下文窗口,大小 像三十页的周报合集,丢给 ai 读,再追问细节,同一份文档放在不同窗口大小的模型里,出来的结果完全不一样。 八 k 窗口,像这种三十页长度的,可能直接就装不下了,你点上传,系统直接提示内容过长或者更糟,他只读了前十页就默认,后面就没有了,然后就一本正经开始胡说。像一百二十八 k 的, 比如说现在的 gpt、 四 o, 还有 tpcv 三,三十页文档装得下还绰绰有余。 前面几个问题答的都准, a 项目风险, b 项目的人力。但问题在于啊,我们这个对话他答一段,这些对话都塞在窗口里了。 聊到第五、第六轮,他窗口基本就满了,系统就开始往前挤,先进先出,挤掉的是最开始的内容,也就是开头那份原始文档。那像二百 k 到一兆的三十页文档, c 进去占比是很小,但你聊几十轮,窗口也还在文档里, 开头定的规则也记得,但代价就是很慢。每次调用这种一兆的窗口模式,你要等的时间可能就更长,包括我们后台的算力,开销也会越来越大,按 top 收费的账单也就会更贵。但讲到这啊,有几个最容易和上下文窗口混在一起的,我们得拆开讲。 如果是你用 cloud 或者 gpt 一 段时间后,你可能就会发现,它好像在不同的对话里。记得我之前说的事,这个跟上下文窗口是一个事吗?不是,我们一个一个说。第一个参数量,这个是 ai 脑子的容量,决定它的长期能力,比如说学到的多少知识,推理能力有多强, 但脑子大不代表短期记忆大啊,一个六百七十一 b 的 大模型,如果上下文窗口只有四 k, 你 给他一份三十页的周报,他一样断片。第二个上下文窗口,这个就是咱们今天讲的这一个对话里能记多长,是短期记忆,也是桌面大小。 第三个跨对话的记忆功能,这个就是我们为什么会说啊?有的时候在 cloud 和 gpt 里新对话,好像还记得我之前说过的事,这个是两类不同的功能,一个呢是用户级记忆, 记得是关于你本人的信息。像 gpt 和 cloud 现在都有这个功能,你在跟他聊天的时候,他会自动的把一些认为重要的关于你的信息存起来。 比如说你是项目经理,你做 sas 行业,喜欢简短的回答,你有个女儿叫小米,下次你再打开一个全新对话, 他会把这些记忆自动塞到这次对话的窗口里,所以才记得你。另一个是项目级的记忆,像 cloud 的 projects 就是 典型,我们新建一个 project, 把相关资料丢进他的知识库里,比如说产品文档长,报告客户所有的历史资料, 再写一段这个引用词,你是什么产品的资深分析师,回答时要引用这里面的原文,那这个 project 里面的对话基本都能自动用到这些资料和资料,这两者的本质上都是把信息塞回这个上下文窗口, 所以就算你看到了这种记忆的或者是项目的配置,那你这次窗口大小还是有上限的, 窗口满了,你该挤还是会挤的。第四个 r a g 搜索增强,这个是给我们资料太多,窗口装不下准备的方案, ai 呢,不记住所有材料,而是用的时候去外部知识库里现查,查到几段相关的再塞进窗口里。 比如说你公司有五千份合同,几万篇文档,不可能全塞进窗口,那就得让 ai 按需解锁。那综合回到我朋友的这个案例里,这次失忆就是上下文窗口的问题。如果他想下次新对话,还能记得这五个项目的背景, 基本上就得用 cloud 的 project 或者 gpt 的 这个 project, 把这五个项目资料放进知识库里。 如果他想让 ai 长期记得我是个项目经理,用这个 o k r 的 这种管理方式,那就得用到记忆功能, 不断地去强调,然后设定好,让 ai 在 跨频道里也把这个塞进上下文窗口。如果他的公司要管五百个项目,几万份周报, 那就得用上 r a g 了。那讲完这些原理,我们最关心的问题,怎么用才不会被这个窗口上下文坑? 记住四个点,第一个重要的要求放在最后说, ai 对 窗口的尾部记忆都会比较清楚,开头容易被挤掉,也很容易被稀释掉注意力。他那个错误,一开头就说了只关注产品内容,然后丢了三十页的文档,又聊了五六轮,这条规则就被埋在了窗口的最早的地方,被淡化掉了。 所以在每次追问前呢,要把这一条简单的规则再稍微重复一遍。第二个,常对话的定期重启加总结。聊到差不多几十轮的时候,让 ai 先帮你总结一下当前的关键结论,然后开个新对话,把总结粘贴进去再聊。 这个就相当于我们手动帮 ai 清理桌面,留下重要的东西。第三个,别什么都丢。如果啊,你真的只关心这三十页里面的产品的部分,你就把那十页先摘出来再让 ai 读。窗口的空间是宝贵的,别用百分之七十的空间装你根本不会问的东西。 第四个,你这种跨对话的记忆呢?先想清楚你是要用记忆功能还是要用 projects。 窗口本身是解决不了下次对话还记得的这个问题的, 他每次对话都是新的,要持久记忆就得用到 projects, 或者是我们不断地告诉他我们是什么职位,要什么内容。最后做个总结,上下文窗口的本质不是 ai 记不记得,而是他这一次能摊开多大的工作台。你工作台再大也有有个上限, 放在中间的东西就容易被忽略,下一次开始的时候桌面又是空的,所以才需要我们考虑用到记忆或者 project 来重新铺一遍重要的资料。你现在用 ai 的 时候,有没有碰到过这种被上下文窗口卡爆的场景?欢迎评论区留言关注我,带你了解更多的 ai 知识。

你在使用 gemini 的 时候是不是也经常想,要是对话记录能分类整理,要是聊天记录能定点搜索,要是常用的提示词能一键调用,那就真的太好了。实际上, github 上还真有一个免费开用的项目,能够完美满足上述要求。 想使用这个项目很简单,我们只需要找到它的项目仓库,然后把它粘贴到上期视频介绍的添加文件中的导入代码功能。接着问 gemini 如何使用,最后按照它提供的步骤一步步执行就 就行了。搞定以后,你的界面上会多出一个明显的球形图标,它其实是一个提示词管理器,点开它是这样的界面,我们可以通过新增按钮来添加我们常用的提示词, 同时下方的输入框中还能给提示词设置标签。注意,如果是多个标签,要用半角的逗号可开哈。这样做的好处是,等我们保存的提示词多了以后,就可以用搜索工具, 可以用标签来快速找到我们想要的那一个。接着我们可以随便打开一个长对话,然后会发现页面右侧多了一些圆点,他们其实就是时间线导航,每个圆点都代表你的输入内容,我们可以用鼠标左键点击这些圆点就能迅速跳转。那如果你想要更精准的找到对话内容,可以点击这里的小按钮。 弹出来的卡片中不仅能够显示文字目录,还可以通过搜索框来查找关键词,帮助你更快速的找到重要内容。那除了单个聊天内容的时间线,这个工具还提供多个对话记录的分类整理。我们把目光移到左边来,这里比以前多了一排按钮, 点击最右侧的加号,能够新建文件夹。命名完毕以后,我们可以找到和这个文件夹匹配的对话内容,点击这里的三个点,选择移动到你刚刚创建的文件夹中。那万一我们添加错了也不用怕,直接点击右边的叉删掉就行,而且不用担心这个叉的意思只是把它从文件夹移除,而不是彻底删除了这个对话。那除了新建文件夹, 我们还可以对这些文件夹进行颜色的设置,来从视觉层面上更好的区分它,提高我们找到自己想要内容的效率。那在这个工具的设置面板中,它其实还提供了很多个性化的功能,比如文件夹的间距、 文件夹的缩进等等视觉层面的选项,又比如说去除 nasa budana 生成图片水印的功能选项等等,而且作者一直在持续对它进行更新和优化,个人使用几个月以来,感觉还是非常实用和靠谱的。 最后,这个工具还能云备份到谷歌 drive, 确保当我们更换设备的时候能够一键恢复常的设置,也可以避免因为意外导致的数据丢失问题。另外肯定有小伙伴会疑惑,这个工具不是不能用了吗?确实,之前因为他的名字里带了 jamie 被以侵权为由,那是 什么了?现在它改名以后又可以正常使用了哈,不然我也做不了这一期视频。 ok, 那 以上就是本期视频的全部内容了,我是林音研究所的风筝,咱们下期视频再续前言。

哈喽,大家好,今天跟大家分享一个比较有趣的东西。这个东西我觉得挺有意思的,因为它不是那种单纯让 ai 写文案、写标题、写方案的玩法,而是我给我的数字员工,或者说给我的 agent 配了一台手机。 你可以先不用把它想的太复杂,以前我们用叉 gpt cloud, 基本都是在聊天窗口里问一句,他回一句,他很聪明,但是他没有手,他知道怎么做, 但是他自己点不了按钮,打不开 app, 也不能真的去页面里完成一个流程。但是如果我给他接上一台手机,他就不一样了,他可以看到手机屏幕, 可以判断当前页面上有什么按钮,可以自己点击输入,返回搜索,然后把结果整理给我。所以我觉得这个东西最有意思的地方不是云手机本身,而是他让 ai 从一个只会聊天的助手,慢慢变成了一个可以执行手机任务的数字员工。 我这里用的是一台云手机,云手机你可以简单理解成它不是你手里那台实体手机,而是在电脑里运行的一台手机,你本地电脑上可以看到它的画面,但是它的运行环境是独立的。 为什么我没有直接拿实体机来做?因为实体机当然也可以,但实体机会有几个问题。第一个是成本,如果你只是做一个实验,或者你想跑多个 agent, 每个 agent 都配一台实体手机,这个成本其实不低。 第二个是占用实体手机,你拿去给 agent 操作了,你自己就不好再用了。比如他在帮你查资料,打开 app 切换页面的时候,你这台手机基本就被它占着。 第三个是稳定性,实体机可能会没电,可能会锁屏,可能会断线,可能会被你不小心拿走。云手机就更像一个专门给 agent 用的工作环境。第四个是隐私隔离, 我不建议大家一上来就把自己的主力手机借给 agent, 因为你的主力手机里可能有微信、支付宝、相册、短信、银行卡各种私人信息。如果只是做任务测试, 用一台单独的云手机会更干净,也更安全。第五个是可恢复,云手机有一个好处,就是它更容易做环境管理。比如我今天测试乱了, app 装多了,页面乱了, 我可以重新配置一个环境,这比实体机来回清理要方便很多。当然,这里我也说清楚,云手机不是一定比实体机高级,如果你要测试真实摄像头、蓝牙定位、 某些硬件能力,实体机还是有价值的。但如果你只是想让 agent 去完成一些信息整理、页面操作流程测试,云手机会更适合。那问题来了,给 agent 配了一台手机,它到底能干什么?我这里整理了几个比较能落地的场景,大家可以参考一下。第一个场景,私人助理, 这个应该是普通人最容易理解的。比如你要出差,你可以让他帮你查机票、查酒店、查天气、查路线。他不是简单告诉你一句,你可以去某某平台看,而是真的可以打开对应的页面,把几个选项整理出来。第二个场景,工作助理, 这个我觉得对上班族会更有用。比如你早上上班,打开电脑之后,你可以让 agent 先去看今天的日历,再看邮件,再看飞书,或者钉钉里有没有未处理消息,然后他给你整理一个今日代办。 比如他可以告诉你今天上午十点有一个会,下午有一份资料要交,某个客户昨天晚上发了一封邮件需要你回复,还有一个文档需要你补充。 这类事情其实不难,但是很碎。人每天最烦的就是在不同软件之间切来切去,而 agent 加手机的价值就是帮你把这些碎信息先捞出来,整理成一个你能看的列表。第三个场景,内容,创作者辅助。 比如你可以让 agent 帮你复盘自己的内容,他可以看你自己发过的视频,帮你总结。这条视频讲了什么,开头有没有讲清楚?评论区大家最关心什么?有没有哪些问题是可以下一条视频继续讲的?这个就很有价值,因为很多创作者其实不是缺内容,而是缺整理。你发了十条视频,下面有几十条评论, 你自己一条条看也能看,但是很费时间。 agent 可以 帮你先整理成几个问题方向,然后你再决定下一条拍什么。第四个场景,电商信息整理。如果你是做电商,或者你只是想买东西,这个场景也很实用。比如你想买一个显示器或者一个键盘,或者一个空气炸锅, 你可以让 agent 打开几个商品页,把价格、参数、优惠、卖点整理成表格。如果你是商家,他也可以帮你整理公开评价里的用户反馈。比如用户经常提到 物流慢不慢,包装怎么样?尺码偏大还是偏小?质量有没有问题?大家最喜欢哪个功能?第五个场景, app 测试。 这个我觉得是 agent 加手机特别适合的一个场景。比如你做了一个小程序,或者你有一个 app 页面,你可以让 agent 模拟普通用户去操作一遍。它可以从打开 app 开始, 点击登录,搜索商品,进入详情页,加入购物车,再返回。然后它告诉你哪个按钮不好找,哪个页面加载慢,哪一步它卡住了,哪个提示语不清楚。这个对产品经理、开发者、独立开发者都挺有用的,因为它不像代码测试那样只看接口,它是真的站在一个普通用户的视角去走流程。 第六个场景,学习助手。比如你正在学 ai, 或者学剪辑,或者学英语,你可以让 agent 打开一篇教程,帮你整理重点,它可以把一篇很长的文章变成三部分,这个东西是什么? 适合什么人?第一步应该怎么做?我觉得这个对小白很友好。第七个场景,本地生活。这个就更日常了。比如你周末想出去玩,你可以让他帮你查天气、路线、 营业时间、门票信息,然后整理一个半日计划。比如你想找一家适合朋友聚餐的餐厅,他可以帮你看距离、人均评分、菜系,然后整理几个选项。 再比如你要办某个业务,他可以帮你查需要什么材料,在哪里预约,大概流程是什么,这些事情每个人都会遇到。接下来我给大家简单实操一下,我用电脑桌面的 cloud 来做中书,我现在已经把 cloud 接到这台云手机上了。大家可以看到左边是我的 a 阵的对话窗口, 右边是我数字员工的手机画面。我这里不演示那些敏感的操作,我只演示一个比较安全的小任务,比如我让他打开抖音看一下第一条视频内容以及第一条评论是什么,测试一下他是否可以真正的利用手机去执行我们的任务。 消息发送出去了, cloud 目前在思考我的下达的任务,然后如何调用手机去完成,你们可以看我的鼠标箭头,全程是没有去触碰旁边的手机的好, cloud 现在已经调用手机把抖音打开了,我们一起看看第一条视频是什么, 我忘记把手机声音打开了,稍等,我开一下声音。现在 cloud 就 像真正的人一样在看视频内容和评论,等下看他写回给我们的视频内容对不对? clod 现在把视频跟评论都看完了,我们可以看到他给我们总结的还是蛮详细的,视频基本信息,视频内容结构,拆解,爆款因素,以及我们叫他看的第一条评论, 这些都对应的上说明 clod 确确实实在玩手机了。然后我打算让他继续再看下一条视频, clod 收到我的指令并开始刷第二条视频了,还是按照我刚才说的看视频和评论。 跟刚才一样, cloud 把这个视频的内容和评论详细的整理出来给我了。我今天所做的只是简单的测试,能应用的场景是很多的,手机里面所有的 app 它都可以去操控, 只要你的想象空间足够大。比如我这里不想看视频了,我让它去看看今天北京的天气怎么样,去操控手机上面的浏览器搜索也是可以完成的。 任务下达后, cloud 就 自动调用手机去浏览器搜索今天北京的天气,就像我刚刚说的,私人助理、工作助理、内容创作者等等,很多场景都是可以落地的, 这里不方便展示太多,我就不一个个实操了。大家可以顺着这个思路往深了想,既然 ai 能完全看懂并控制手机屏幕,那想象空间可太大了。 你会发现这个流程其实不复杂,但是它背后代表的是一个变化。以前 ai 只能在聊天框里回答你,现在它可以进入一个真实的手机环境,看页面、点按钮、读内容,整理结果,这就是我觉得 agent 加云手机值得研究的地方。 所以今天这期视频我想表达的不是 ai 可以 替你偷偷干很多事。不是这个意思,我真正想表达的是, ai 正在从会聊天变成会操作,从只能回答问题变成可以帮你完成一部分手机里的流程。它不是替代你,而是先帮你把那些重复、零散、耗时间的步骤做掉, 你最后负责判断、确认和决策。如果你们对哪个场景感兴趣,也可以在评论区告诉我,我下一期就拿一个具体场景,从任务设计到实际操作完整跑一遍。

一天一个实用的工具,今天教你白嫖的是最新版尼姆 ai 免费版下载教程,支持安卓水果,根据我的步骤操作,简单易懂。首先点击本视频右下角分享复制链接,然后打开这个鸟鸟的应用软件, 没有的去下载一个,打开自动弹出文件包,没弹出的在这里输入大巴宝库,点击进入,找到软件资源,找到安装包安装就可以了。