caveman 在cursor能用吗

今天我们要聊的是一个叫做 caveman 的 东西，它其实是通过一种非常简单的 system prompt， 对， 让 ai 的 回复变得更加简洁高效。不错， 这个话题最近特别火，那我们就直接开始吧。我们先来看看这个 caveman 它本身的这个项目，在开元社区，它到底是引发了什么样的反响。 caveman， 其实它在 github 上面的这个描述就只有一行，就是一个让 ai 闭嘴的 system prompt， 然后他三天的时间就获得了四千一百多个 star， 在 hack news 的 首页是七百三十五分。哇，这个增长速度真的有点吓人啊。 对，那这个东西它为什么会火呢？其实它的实现并不复杂，但是它背后解决的问题是很多人都遇到，但是没有被很好的解决过的，所以大家的反响才会这么激烈。明白了，那我们来聊一聊，就是这个 caveman， 它的原理到底是什么？它是怎么做到让 ai 回答的更加简洁的？ 它的核心就是它会在你的这个提示词前面加上一行 return very short responses， no preamble， no self reference， no filler use plain text。 就 它会强制地让 ai 直接回答问题，不要说一些多余的话，就这么简单。对，就这一句话就可以改变 ai 的 这个回答方式吗？因为它并没有去改变模型本身，它也没有做任何的 fine tuning， 它只是通过这种 system prompt 的 方式让 ai 去掉了那些解释啊，铺垫啊，还有一些寒暄，直接给你答案，或者说没有答案就会告诉你，没有， 它就像一个原始人一样。嗯，就是非常的直接高效。对，所以 kiffman 它有三档不同的强度，那它分别适合用在什么样的场景下面呢？ 它的第一档是默认的，就只是把那些多余的词语去掉，但是它还会保留一些结构，比如说标题啊，代码啊，它都还是会保留的，所以它还是很适合日常的使用的。 第二档是 strong caveman， 它就会更加的激进，它就只会给你最核心的那个答案，就其他的什么都没有了。 那第三档 extreme caveman 就 更加极端了，它的输出几乎就是最小化的，它就只适合那些自动化的任务，就机器去读的人看起来就会很费劲。哎，那这么说的话，这三档还挺灵活的。 对啊，这个设计确实很贴心啊。没错，它就是把简洁变成了一个可以随时去调整的一个参数。嗯， 所以不管你是在跟 ai 聊天，还是说你要跑一个脚本，你都可以找到一个最适合你的那个模式。那我们接下来要讲的就是实测的数据了。嗯，我也很好奇，就是用了 caveman 之后，到底在 token 的 节省上面和这个响应速度上面到底能有一个什么样的提升？ 作者做了十个不同的任务的测试，然后发现 token 的 节省率是在百分之二十二到百分之八十七之间，平均下来有百分之六十五。 哦，那也就是说你同样的钱现在可以多问将近三倍的问题。那这个响应速度呢？用户在使用的过程当中会有明显的变化吗？有的，因为返回的内容变短了嘛，所以 api 的 响应速度也快了差不多三倍。对，这本来可能要等八秒的，现在两三秒就可以拿到结果了。 这个对于高频的请求来说，体验感的提升是非常明显的。明白了，那 cavemen 在 实际使用的时候，它有没有什么特别要注意的地方？它只是压缩了返回的 token， 它不会影响模型内部思考的 token。 就 如果你的模型是用 chain of thought 这种推理方式的话，它想的过程还是一样的，只是说出来的部分变少了。哦，原来只是输出变短了。对，那这个工具本身会不会占很多 token 呢？呃，它本身大概要占几十个 token， 所以如果你的任务本身就非常非常小的话，你省下来的 token 可能还没有它占的多。对对，所以就是任何工具都有它的适用范围。好的，然后我们就来看看这个学术上的一些支撑。嗯， 有哪些研究是可以证明让 ai 回答得更简洁，其实是不会降低回答质量的？最近有篇论文，它的编号是 a r x v 二四零一点零五六一八。 他做了一个实验，就是他把练式思考的长度减少了百分之四十九。然后他发现，除了数学推理的准确率下降了百分之二十七以外，其他的像解释啊，分析啊，规划这些任务几乎没有受到任何影响。看来在很多任务里面，简短的回答其实也够用了嘛。 而且更有意思的是，另一个论文编号是 a r c 二六零四点零零零二五。它发现在特定的场景下，给小模型加上一个简洁的约束，它的准确率可以提升百分之二十六，甚至可以让小模型反超大模型 就是少即是多，这个原则在 ai 里面也是非常非常有效的。那是不是所有的任务都能从这种简洁的约束当中获得同样的好处呢？不是的，就是解释类的任务，它的帮助是最大的，因为本来就很多废话嘛，你把废话去掉对内容没有什么影响， 但是像短的代码重构这种本身就已经很精讲了，你再去约束它其实也没有什么用好的。然后我们要讨论的内容是这个 caveman， 它的这个病毒式的传播，它是怎么做到在极短的时间内在开发者社区里面引发这么大的轰动的？它的作者是一个十九岁的荷兰的 ios 开发者， 他其实只花了十分钟就把这个东西写完了，然后他就发到了 gitup 上面，结果三天的时间就有超过四千一百个 star， 在 hack news 上面有七百三十五个 upload， 三百二十条评论， 评论区都炸了，大家都在讨论这个东西，这也太疯狂了吧。那大家对于这样一个简单的创新都有什么看法呢？很多人觉得终于有人把大家都想做但没人做的事情做了， 当然也有人说这算什么创新，不就是一行 prompt 吗？但是其实历史上有很多很伟大的东西，回过头来看也就是一个很简单的想法， 然后它的安装也超级简单，就一行命令， npx skills add julius proceed caveman 就 装好了。那我们最后来总结一下这个 caveman 项目给我们带来的关于 ai 工程和产品设计上面的一些核心的洞察，或者说一些启发。第一个就是 system prompt 其实是非常非常强大的， 就你可能只需要加一行命令就可以彻底地改变 ai 的 行为，你根本不用去动模型的参数，这个东西其实现在很多人都没有意识到它的潜力，对这个确实有点反直觉，对，就这么简单的一个东西居然可以产生这么大的影响。第二个呢就是开发者的痛点，其实就是创新的一个信号， 就大家都在抱怨说 ai 太啰嗦，但是只有他真正的动手写了一个东西去解决这个问题，所以有的时候你身边人的这些焦虑啊，这些吐槽啊，其实就是一个巨大的机会，所以说光抱怨不行啊，得有人跳出来做点什么没错。然后第三个就是透明带来信任， 就这个东西它的 system prompt 是 完全公开的，谁都可以看，谁都可以改，所以大家反而更愿意去用它，这是一个很重要的原则，就是在开源社区里面。还有最后一个就是简洁，应该是你一开始就要考虑的，而不是说等你东西都做完了之后再去删减。 就现在我们很多 ai 的 产品都在追求如何让 ai 说得更多，但是其实有的时候让 ai 说得更少，反而更有价值，确实是这样。 那今天我们聊的这个 cavemen， 它是如何通过最简单的方式让 ai 变得干脆利落，然后我们也聊了背后的一些原理和它可能会带来的一些影响。 ok， 那 这期节目咱们就到这里，然后感谢大家的收听，咱们下期再见吧，拜拜。拜拜。