cluade怎么看缓存命中
友们，最近那个 deep sync 是 不是发布了吗？我用了一段时间，真的很省呢，你们看一下我用的情况啊，我五月份大概就用了，没用没用几天啊，只用了这个十多块钱， 十多块钱我们看一下九百多次吧，我们看一下 token 量啊， token 量是一亿多， 一亿八，我们看一下最牛逼的这个缓存命中率看一下。一，你看这这一填用了一点二亿，缓存命中率是一点一，八亿， 未命中的是八百万，是不是很高？非常高。看这第二天缓存命中率是三千万，未命中率是一百多，这一天缓存命中率是两千万，未，未命中的是 五十多万，对吧？还这一天命中的是五十多万，对吧？还这一天命中的是八十万， 所以这个位命中率是非常少的，所以用这个用 agent 去使用这个 deep sync， 是 非常非常省的一个逻辑啊，非常好。然后我们看一下。
粉丝152获赞7705
相关视频
01:38查看AI文稿AI文稿几个简单的小技巧就可以让你的 ai 命中缓存达到惊人的百分之九十九，其托肯消耗和成本其实可以锐减百二十倍。这真不是夸张，是我消耗了整整一亿托肯得到的一个实际经验结果。第一 点，善用记忆系统。其实我们知道现在大部分市面上主流的 i can， 它都是有自己的一套记忆系统，无论是 open card 还是它都扣的。只要我们善于利用这个记忆系统，其实可以大大的增加这个缓存的命中率。举个例子，我最近在做一套自己的 ai 面试助手，但是这个任务他不是一天两天我就能够完成的， 所以我每天会在任务完成的时候，我会告诉我的 autodrive， 让他自己去保存当天的这个记忆。这样的话，在我明天或者后天重再开启这个任务的时候，他能够直接读取自己的绘画内容，从而大大的降低这个拓客的消耗。 第二点，制造边界和原则。布置一个任务的时候，如果没有明确的规则和原则的话，你可能需要跟你的爱多次交互，他才能够真正的明白你的需求。 就算他明白了你的需求，你没有制定一个明确的边界，你的 ai 也可能会做出越界以及难以预期的一个结果。所以制定边界和原则是非常重要的，你可以直接将这个工作原则喂给你的 ai， 让他传进他的记忆系统。 最后一个点，整理和提炼工作流，让他按照工作流的方式输出结果以及产出文档。当你需要他完成一个周期较长的任务的时候，一个合理的工作流是非常重要的，他不仅可以让 ai 快 速理解和解决一个问题的流程，并且可以通过产出一些文档来极大的提高一个缓存的命中率。举个例子， 你需要做一个文档，那么你可以先跟你的 ai 交流想法，让他去产出做出这份网站需要的一份产品文档，然后你再根据他的产品文档去优化，之后让他去根据产品文档去完成功能，这样他有了依据而不会天马行空，每次产出都会根据文档来做，而不会浪费脱坑又产出垃圾。
1109欧拉欧拉的替身AI
01:09查看AI文稿AI文稿为什么 token 计费分为输入和输出？输入又分为缓存命中和缓存不命中，这里面涉及到两个概念，就是 p d 分 离和 k v cash 啊。 p d 分 离就是指模型吞吐过程中有两个阶段， prefill 和 decode。 prefill 就是 把你所有输入的文字以及一些 prompt 全部扔进去 啊，那么这个计算过程呢？叫 prefer， 它是计算密集型，不是通信密集型。那么从输出第一个拖动开始，一直到输出到结束为止，这个过程叫 delete， 这个过程是通信密集型，不是计算密集型 啊。那么缓存命程缓存不命中是跟 k v cash 相关，就是说你曾经输入过相同的啊，有一段文字是相同的，那么它就可以附用 k v cash 这一段就不需要进行计算，只要调用存储和网络就可以了 啊。这就是为什么华为深腾九五零分为两种型号，九五零 pr 和九五零 d t pr 就是 perfume 的 前面两个字母 d t 的 d 就是 decod 啊，同样的，英伟达的 wear rubin 里面也有啊，分为这个 perfume 和 decod 的 专用型号啊，就是 rubin c p x 和呃 l p u， 专门用于 decod 输出的这个 gp。
1660逆转的王牌
04:29查看AI文稿AI文稿最近那个 deep seek resynx 听说挺省钱的啊，我们看一下代码，看一下它为什么这么省钱啊？一般都是走 catch， 因为如果 deep seek 你 从官方价格来看，走 catch 的 话是只要付百分之十七的费用啊， 就靠这个就是靠命中 catch 来省钱啊。其实就是，那怎么尽可能的命中 catch 呢？这里关键其实就是像那个就是 system prompt 和 tools 这两个东西， 这两个东西因为它在对话比较靠前，嗯，它们如果发生了变化，那整段对话都无法命中，缓存了，就就废了，那你就得 掏更多的钱嘛。所以其实 deepsea consensus 就是 在这两个地方。嗯，下功夫啊。就是我们要想一个问题，就是为什么 system prompt 这个东西会发生变化呢？ 或者因为我们之之前有一个东西比较火，就是叫 deepsea t u i 嘛，它你去看它的实现，你就会发现像像它的那个 mod 就是 它的模式，有 agent， 有 agent， ulow 和 plan plan 模式，对吧？ 这三种模式啊，它在这三种模式中间切换的话，这个 system prompt 肯定要发生变化。那你不能不变化是吧？就是比方说 plan 模式，你在做任何操作， ai 在 做任何操作之前 是吧？你得制定个计划。我靠，是吧？你不告诉 ai 怎么行？ 大家想想这个问题，但你如果告诉他 system prompt 就 变了，对吧？变了我就不命中 catch 了，我就要花更多的钱，那 deepsea t u i 他 就是不管了。但是我们这个 reasonix， 我 们看一下它代码怎么做的，对吧？ 我们首先发现它这个 system prompt 都不变，你看它这里是不变的，哎，它不变，那问题来了，它不变，它怎么做？那个 play 模式是吧？ 它这个 play 模式它直接告诉你，哎，它告诉你这个 play 模式怎么写，它这么做的呀？ 当他发现是 play 模式的时候，然后这个 ai 是 吧？ ai 如果还没制定计划，直接给你报错，对吧？这个就是他比较巧妙的一个地方，他直接给你报错，给你拦住，换句话说，他是 就是 deep seek ti 的 方式是，呃，我一开始就知道，我现在是 play 模式，我一开始就知道，所以我 a， 我 作为 ai， 我 知道我是 play 模式，我一定会先制定计划，然后再写， 但是对于对于那个 deep seek resynix 而言，我压根不知道，就你不告诉我，为什么呢？因为告诉我这个缓存就不命中了，这个就是代价。 那我如何知道呢？通过程序检测直接给你报错，哎，报错我就知道了，哎，我一看报错，哦，我知道了，换句话说，我我，我要多浪费一次请求，对吧？ 但是我的 catch 保住了，就我，我这个是一个两害相权取其轻啊，这个就是他做的一个价值判断，就是这么一个 啊。同样啊，就是工具，工具描述，工具描述，呃，在 deep seek t u i 这里是会变的，为什么呢？因为模式变了，因为因为不同的模式下它用的工具都不一样，所以一切它全切了。 但是 deep seek resynix 就 这里就做了个取数，它它工具都是固定的，就因为，呵， ai 压根不知道现在是什么模式， 当然 ai 它知道每种模式下应该怎么用，但，但是它只能通过那种去试探性的，就是发现有问题，我有问题，哎，我就缩回来，哎，原来我现在是 plan 模式对不对？否则我就不把我自己当 plan 模式。就 它，它其实就是采取了一些这样的措施，换句话说它们俩价值，价值取向不一样，就是，呃， deepsea renaissance 它更加，它宁肯用更多的 request 来换取，换取 catch 的 命中率就是你们，你们试下来是不是更加省钱啊？是吧？
169Cookcoco
00:28查看AI文稿AI文稿我在 cloud code 里面使用 linux 微四 pro 写了一天的代码，那一天 talking 用了四点七二亿，关键是它命中的缓存非常的高，再加上它现在限时优惠，命中的缓存价格一百万， talking 只要两分五 啊，这个把整个模型使用的成本降得非常的低。下一期我会讲一下使用这四点七亿 talking 开发出来的一个工具，看看 linux 的 实力到底怎么样。
8704联飞玩AI![教你最大化Claude Code缓存命中来节省token 之前两期讲了Prompt Cache怎么省token、breakpoint怎么命中。这期反过来讲：什么动作会让cache直接报废，怎么用才能最大化命中率。
先给一个心法。
把每个请求想成一根从左到右的链条：tools → system → CLAUDE.md/skills → messages。改哪一段都会让cache失效，区别只在影响范围：改左边的从这段往右全部跟着废，改右边的只伤自己那一段。所以越靠左越要锁死。官方三级失效层级表（tools/system/messages）就是这个原则的精简版（CLAUDE.md严格来说在messages层，单独抽出来是因为它最常被改）。
4个日常杀手，按它们出现在链条上的位置从左到右排：
1. 切 /model —— 最左。每个模型独立的KV cache，跨模型完全隔离。Opus跑了10万token再切Sonnet，反而比继续用Opus更贵。非要切？正解是用subagent隔出去跑（Claude Code的Explore agent就是这么干，用的Haiku）
2. 装新MCP —— tools层。装一个新MCP，tools数组就多几个工具，链条最左边一动，下面system+messages连锁失效（三层全废）。但MCP只在Claude Code启动时读一次，session内装新MCP不影响当前session——真正的杀手是 /resume 或 /reload-plugins，触发重读后tools数组重组，之前cache全丢
3. 改CLAUDE.md 或装新 skill —— messages层。CLAUDE.md 是 user 消息（052已实证），skill 列表也注入在 messages[0]——都只在启动时读一次：改完文件或装完 skill 别 /resume，否则 messages 整段重建
4. idle超过5分钟 —— TTL过期，服务器直接删条目
每个杀手都给出怎么避免：MCP/hook 启动前一次配好；长任务前 `export ENABLE_PROMPT_CACHING_1H=1` 把 TTL 延到 1 小时。
#claude #AI工具 #张司机 #个人开发者 #命令行](https://p3-pc-sign.douyinpic.com/image-cut-tos-priv/4c2093cebb91654dd10cf078b747d4ba~tplv-dy-resize-origshort-autoq-75:330.jpeg?lk3s=138a59ce&x-expires=2099876400&x-signature=bSXFSBDZ6pN7wIkZTRNZEieRcG4%3D&from=327834062&s=PackSourceEnum_AWEME_DETAIL&se=false&sc=cover&biz_tag=pcweb_cover&l=20260720112911C1670D516403FF8E27A2)
04:17查看AI文稿AI文稿前面两集视频我们详细介绍了 prompt cache 的 工作原理，那我们今天讲点实用的干货，你每天用 curl code 敲代码， 你知道到底有哪些动作会影响缓存的利用率吗？要怎样才能最大化地帮你提高缓存的命中来节省 token 呢？我们把每一个请求发送的上下文扒开来，最左边是工具定义 tools， 然后是系统提示词 system， 然后是 cloud 点 m d skills 列表这些注的上下文最右边是 messages 对 话的历史。改哪一段都会让 catch 失效，区别只是在影响范围改。如果左边的，那么从左到右全部都跟着废掉了，改右边那么只伤自己那一段，所以越靠左越要锁死。 今天讲了四个缓存杀手，就按他这么出现的位置从左往右讲，第一名最狠的是切模型，因为缓存是按模型隔离的，为什么呢？因为缓存存的不是文字本身，而是 transformer 架构里 attention 层计算出来的 kb cache， 也就是每一层的 key 和 value 的 张量。 opus 和 sonnet 模型架构不一样，所以权重也不一样。同样提示词算出来的 k v 两个模型完全不同，所以 sonnet 没法附用 opus 的 k v cash。 跟 opus 聊了十万 token， 再切回 sonnet， sonnet 这边 cash 完全是空的，所有的 token 都要重新算 k v cash， 所以重新写入账单，瞬间从零点一倍基础价飙回一点二五倍。原来便宜十多倍的 token 要重新当全价算，那如果你有情况必须要切模型怎么办？那么正确的做法是用 sub agent 的 格力出去主对话，继续用 opus， 然后科微 cash 就 可以一动不动开一个 sub agent 跑另外一个模型，让他把活干完，输出一段交接消息给主对话 cologold 自己就这么干的，像 explore tool， web search tool agent 就是 用的海库。第二个大杀器就是装新的 m c p， 新装的 m c p 会添加到拓子数组的末尾， 哈希一变，下面 system 和 messages 全部跟着失效。但是 m c p 只在 clock code 启动时读一次，启动后整个 session 都是用启动时读的版本，所以当前的这个 session 是 不受影响的。真正的杀手是 resume 和 reload 的 plugging， 一旦触发重载，那么 call code 会重新组装托斯数据库。新的托斯和之前的 cash 对 不上，那么之前积累的 cash 就 全部白付了。所以开始一个任务之前，先把 m c p 一 次性都装好，不要把等活干了一半发现少了一工具再装，这时候前面积累的缓存就全没用了。 第三个杀手是改 cloud md 或者装新的 skills， 两个都是 message 层的注入上下文。 cloud md 本身就是一条 user message 排在 message 组里面的 block 三里面，然后 skills 列表是在 block 二， 跟 m c p 一 样，他们也只是在 cloud 启动时读一次，然后中途改 cloud md 或者装新的 skills。 当前 session 是 看不到的，真正的杀手还是在 slash resume 的 时候装完 skill， 你 想 resume 回来，那么 cloud code 会重新组装这个 message。 宿主 内容变了，跟之前的 cash 对 不上，那么 matches 整段都要重建。所以和 m c p 那 条一样，一开始一个任务先要想好需要哪些 skills， 或者当前的这个 cloud md 还有什么对于当前任务很重要的上下文没有添加一次性，我们把它准备好，不要在任务中途去修改这些东西对缓存的伤害很大。 第四个缓存杀手就是活干到一半去喝杯咖啡再回来。官方默认 t t l 过期时间是五分钟，超过五分钟没有新请求，那么 cash 就 直接清空了，并不是哈西不对，是福气。主动删条目回来，即便发一样的请求，那么所有的上下文都必须重新计算。 有时候 coco 的 返回结果，我们检查成果，然后想下一步都不止五分钟了，而且 coco 自己思考的时间有时候都不止五分钟。所以长任务如果想保住 cash， 我 个人无脑建议使用一小时的 ttl， 只需要在任务开始之前先 export enable prompt cashing 一 小时等于一， 那么启动这个环境变量就把 ttl 延长到一小时了。写入会比五分钟稍微贵一点点，五分钟是一点二五倍，然后一小时是两倍。但是复杂任务里，一小时的缓存绝对比五分钟缓存失效更划算。所以我们总结一下四个缓存杀手，按照伤害值从大到小排序， 第一个是中途切模型，那么第二个呢？是中途装新的 m c p， 三是改 cloud md 或者装新的 skills， 四是活干到一半中途中断超过五分钟。 它们的共同原则就是开启一个任务之前一次性把东西都配好。那么 session 里就不要用 slash resume 了。复杂的任务一定记得开一小时的 ttl。
626张司机在路上
06:49查看AI文稿AI文稿近几个月，一系列事情都跟提示式缓冲有关。五月份以来， diptyque 频频被称为赛博上人，因为他的缓冲命中基本不要钱，用过的都说好。相比之下，某九零后 token 中间商就不地道了，表面说优惠大酬宾，其实吃了全部的缓冲，命中的差价割起来是毫不手软。 再往前到三月底， kolok 的 源码泄露之后，有人翻开一看，里面密密麻麻的就写着两个字，缓存。 instagram 官方自己也说了，提示时缓存就是一切。在介绍 prom cash 之前，我们要先说一下 kiv cash。 这两个本质是一样的，只是重点不同。什么是 kiv cash 呢？来上一点强度，我们先说一下原理。要知道大模型的本质是在不断地计算下一个 token。 以这句话为例，他其实计算了四次，第一次计算时，输入是这几个 token， 输出是宝塔，第二次计算时将宝塔追加到输入的末尾，输出得到正。 接下来同样的操作，直到输出 e o s 表示输出完毕。在计算 token 时，输入 token 会衍生出几个关键的中间变量，叫做 q k v。 如果你不知道什么是 q k v， 也不用去了解了。记住这个结论， 每次计算下一个 token 时，需要输入的变量是前面这些 token 的 kv 和最后一个 token 的 q kv。 按照这个结论，把四次计算过程展开，就是这个样子。你要是自己去计算一遍，会发现在这几次计算中，同一个 token 的 kv 是 一样的。原因是每个 token 的 kv 只和当前 token 的 向量、模型参数以及之前的 token 的 向量有关。 在历次的计算过程中，这三个都不会变，因此 k v 值也不会变。既然不会变，我们就没有必要重复计算，只要在第一次计算时把这些 token 的 k v 缓存起来，下一次再需要时直接拿出来用就行了。在这样的机制下，关于 k v 的 整个计算过程就变成 输出第一个 token 时，计算所有输入 token 的 q v 值。输出第二个 token 时，只计算最后一个 token 的 q v。 取出之前 token 的 kv， 将新的 token kv 也加入缓存，后续的计算都是按照这个方法去获取 kv。 因此你会发现，模型每次在输出一整句话时，输出第一个 token 通常耗时更长，因为此时要计算所有输入 token 的 kv， 从第二个 token 开始速度就快了，因为前面的 kv 可以 服用，此时只要计算最后一个 token 的 q kv 就 行了。如果没有 kv cache， 那 么每个 token 的 生成速度都会很慢，而且会越来越慢。这个就是 kv cache， 通过缓存 kv 来减少计算量，提升模型的输出效率。 这里我们省略了 kv cache 的 详细计算过程，如果你有兴趣，可以看一下我这个视频。与 kv cache 对 应的还有另外一个，那就是 from cache 提示式缓存。 我们直接举个例子，假设你问 ai 明天天气怎么样，那整个计算过程是这样的，模型收到请求，返回工具调用指令。这是第一次模型调用，后台完成工具调用之后，会再发起一次模型调用。这一次模型看起来是收到工具调用的结果，返回天气结果。 但其实在第二次调用中，模型实质收到的输入是这个，因为模型本身是没有状态的，我们需要把上一次的聊天记录一起发给他，他才知道历史上说了些什么。正常来说，这里的计算过程跟我们之前说的一样，输出第一个 token 时要计算所有输入的 k v 值， 但是我们可以发现，这段的内容跟第一次调用时是一样的，它们的 k v 值在上一次调用时已经计算好了。能不能直接复用呢？ 答案是可以的，这个就是提示词缓存，也就是说提示词缓存是指在多次的模型调用中，会缓存之前的提示词的 k v 结果。如果后面的调用和前面的调用有相同的前缀，那么这段前缀不需要再计算 k v， 可以 直接复用。关键的区别来了，注意听 kev cash 关注的是在单次绘画中生成下一个 token 可以 赋用之前的 kev。 而 prime cash 关注的是在多次模型调用中，下一次调用可以附用上一次调用的 cash。 debit， 官方说的缓存命中就是指这个。 现在你明白缓存命中为什么通常更便宜了吧？因为计算开销小了，尤其是 debit， 通过缓存压缩和内存缓存技术，大幅降低缓存成本，缓存命中的价格低到我刚开始看到的时候还以为是数错小数点了。 通常在一次对话中，缓冲命中可以达到百分之九十八以上，因为 agent 的 本质是反复调用模型，虽然你只是发送了一句话，不过模型要不停的自言自语产生几十次调用，每次调用都是在之前的对话的基础上加上新的内容，久而久之，在一次模型调用中，大部分都是历史记录，只有少部分是新增的内容。 所以黑心中介们通常是这个套路，常规价格随便打折打骨折都行，但是缓冲命中偷偷调成官方的十倍，就赌你也眼神不好，看不清少数点。 当然了，黑心中介的套路多了去了，包括但不限于收你大模型的钱，但是给你换成小模型，或者直接虚报偷可能用量等等。 总之，从南京到北京买的没有卖的精，各位千万要擦亮眼睛。另一方面，对 curlcode 来说，提示值缓存的收益就更大了，因为 curlcode 有 大段的系统提示值，对不同的用户来说，这段前缀也是一样的，完全可以附用。以 curlcode 的 用户体量来说，一次计算无数次附用，太爽了。 我们说缓冲命中的前提是提示词的前缀要一样，这个很好理解，我们前面说了， k v 值和之前的 token 有 关，因此如果前缀变了，就意味着之前的 token 变了，那 k v 值就要重新计算。 所以对 karl code 来说，就要千方百计的使得来自天南海北的模型请求有尽可能相同的提示值前缀。在我们开头的文章里， karl code 介绍的技巧，我们挑两点介绍一下。第一点，将静态提示时放前面，动态提示时放后面。 比如类似身份规则、行为守则、安全红线等系统提示词就放在最前面，像环境信息、语言偏好、输出风格等内容可能因人而异，就放在后面， 这样这段静态提示词的缓存就可以说能共享。第二，如果历史提示词的内容有变，不是直接改变系统提示词，而是通过 system remind 的 标签将变更向补充在后面，从而保持前缀不变。比如原本是十号，你搞到凌晨变成了十一号，但是对话还在进行， 这时候不是把系统提示时钟的十变成十一，而是在后面补充一个 system mind 的 声明，当前的时间是十一号。 好了，多的不说了，今天主要是科普，不讲具体方法，以后可能会讲讲可拉库德的圆满，有机会再说。如果你也在开发 a 整数，建议关注一下相关技巧，比如尽量把提示时钟的变量放在后面。最后说一点，缓存虽然好，但的确也危险， 缓存管理没做好，可能将 a 的 缓存丢给了 b 的 模型调用，从而导致模型说了不该说的。在这个重视隐私的时代，这可以说是非常重大的问题了。好，今天就介绍到这里，如果觉得不错，请一键三连，感谢，下次见！
2828费曼学徒冬瓜
02:16查看AI文稿AI文稿你们系统的 reddis 缓存命中率是多少？如果低于百分之九十，你是怎么排查优化的？我是 fox， 很多人把 reddis 当玩具，以为会写 reddis 加载就懂缓存了。你知不知道，如果命中率只有百分之三十，意味着百分之七十的病发流量像利剑一样直接统刷了缓存砸在数据库上。 这时候 reddis 不 仅没帮你扛病发，还让整个链路多了一次网络开销。今天这三分钟， fox 直接给你一套高病发架构下的降维打击 连招，全是底层干货。本视频面试笔记已收入进到两百万次面试考核里，含二加二六最新面试要求与完整应对技巧，还包含了加瓦加大模型、主流技术站高频面试题与实战场景题，同时还有各阶段面试简历模板，还有全套模拟面试指导，留下面试无常分享。第一招，防击穿与力度重塑大促刚开始 radis 是 空的， 千万别让你的首批用户当炮灰。系统启动时，必须通过后台任务做全量预热。更重要的是拆解你的大对象，别把几十个字段的完整实体全塞进缓存， 对象越庞大，只要有一个边缘字段更新，整个缓存就失效。内存很贵，存高频读取的核心字段，这叫好钢用在刀刃上。第二招，也是能让面试官眼前一亮的一招，淘汰与过期策略调优内存满了怎么办？ 很多人的默认配置是 l i u， 如果有爬虫扫了你的历史库，产生的大量一次性冷数据会瞬间把你的核心热点挤出内存。果断把策略切到 l f u， 他 认的是访问频率，精准锁定长期热点。另外，这里有个致命陷阱， 很多小白以为设个全局五分钟 t t l 就 万事大吉，你连底层源码都没看过。在 reddis 的 某些特定版本里，主动过期是会在主县城执行的。 如果你搞一刀切的 t t l 大 量数据集中过期，主县城直接堵塞卡死，命中率断崖式下跌，整个系统跟着陪葬。所以 t t l 必须加随机扰动值，或者采用逻辑过期。 第三招，寄出终极防御塔。面对千万级 qps， radis 性能再被榨干，也绕不开网卡 i o 怎么破？直接在应用层 jvm 里加上 cafe 大 件多级缓存，在应用层直接拦截掉百分之六十的毒流量，没有网络开销，只毒内存。虽然这部分没打到 radis， 但这叫整个缓存体系的百分之一百命中，这是真正的降维打击。下次面试把这三招拍在桌子上， 告诉面试官，提高命中率绝不是改革配置，而是利用架构手段，让高价值数据在有限的内存里少进多出。
96程序员FOX
01:35查看AI文稿AI文稿就人其实搞不清楚百分比是怎么回事啊？就是就比方说克拉蔻的呀，它缓存命中率大概有我我用反正是百分之九十左右啊。然后假如说你用了另外一个东西，就把它缓存命中率提高到就提高百分之六吗？对吧？ 就有的人可能会觉得，哎，百分之六也不多了，才六个点。但其实我跟你讲，你原来百分之九十的缓存命中率意味着你只有百分之十没有命中， 现在你提提升六个点以后，就只剩下四四成没有命中。换句话说， 你你没有命中的部分，他直接减少了百分之六十，就你的成本就就减少了很多，可能减少了一半，就就就人人其实很神奇的对这种事情不敏感的，这个让我想起那个云计算，就就就云计算，你们知道吗？他们经常说自己， 呃，他的可用性是几个九，几个九，就比方说四个九的意思就是百分之九十九点九九。我，我在想为什么他们要说这个东西，因为 因为客户有可能会反驳你啊。他就说，哎呀，你，那个，你们百分之九十九点九九啊，那个你，那个你竞争对手是百分之九十九点九啊， 你，你就比他多了百分之零点零九啊，你们有什么好吹的是吧？哎，你，你现在改过来说啊，我他们是三个九，我们是四个九，是吧？那客户一看，哦，还多一个九，那他很明显能感觉出来。
11Cookcoco
07:05查看AI文稿AI文稿什么是缓存？缓存就是把以后可能还会用到的数据先放在一个更近、更快的地方，下次需要时直接拿，不必每次都从原始位置重新计算或重新读取。 文本会讲清缓存的定义、它解决的问题、常见工作流程，以及为什么缓存既能提速，也可能带来数据不一致等麻烦。先用一个生活类比来理解。你每天都要喝水，如果每次都跑到楼下便利店买一瓶，成本就很高。 但如果你在桌上放一个水杯，想喝时伸手就能拿到。这个水杯就像缓存，它不是水的源头，但它离你近，访问速度快。在计算机系统里，原始数据可能存在数据库、硬盘、远程服务器， 甚至需要通过复杂计算生成。这些地方通常更权威，但访问代价也更高。缓存会把其中一部分数据复制到内存、本地文件、浏览器、 c、 d、 n 节点或者 cpu 内部的小存储里，让系统少走远路。 缓存最核心的价值是减少重复劳动。比如一个商品详情页，很多用户都会访问同一个商品。如果每次都查询数据库，拼接图片、计算价格、读取评论，服务器压力会很大。 把结果缓存起来后，后面的用户可以直接拿到现成内容，响应时间就会明显缩短。缓存之所以有效，是因为程序和用户行为有规律。一个规律叫时间局部性， 意思是刚用过的数据很可能马上还会再用。另一个叫空间局部性，意思是访问了某个数据附近的数据也可能被访问。 cpu 缓存、浏览器缓存、数据库缓存，本质上都在利用这些规律，一次典型的缓存读取流程可以分成三步，第一步，系统先问缓存这里有没有我要的数据。 第二步，如果有就叫缓存命中，直接返回结果。第三步，如果没有，就叫缓存未命中，系统再去数据库或原始服务读取， 然后把结果放进缓存，方便下次使用。这里要注意，缓存不是越大越好，缓存空间通常很宝贵，尤其是内存缓存和 cpu 缓存。 系统必须决定哪些数据留下，哪些数据淘汰。常见策略有 l r u， 也就是最近最少使用的数据优先被清理。还有 l f u， 也就是使用次数少的数据更容易被清理。缓存还经常配合过期时间使用，也叫 t t l time to live。 比如一个验证码，缓存五分钟，超过时间就自动失效。一个新闻列表缓存三十秒，既能减少服务器压力，又不会让用户看到太旧的内容。 ttl 的 关键是权衡时间太短，命中率低，时间太长，数据可能不新鲜。缓存最大的副作用就是可能读到旧数据。假设用户修改了头像，数据库里已经更新了，但缓存里还存着旧头像， 如果系统没有及时删除或刷新缓存，其他页面就可能继续显示旧头像。这就是缓存一致性问题，也是很多系统设计里最容易踩坑的地方。常见的更新方式有三种， 第一种是先更新数据库，再删除缓存，让下一次读取重新加载新数据。第二种是更新数据库的同时更新缓存，但要处理失败和并发症问题。第三种是让缓存自然过期，适合对实时性要求不高的内容，比如热门文章、榜单 缓存可以出现在很多层级。浏览器缓存会保存图片、 css、 javascript 文件，避免每次打开网页都重新下载。 c、 d、 n 缓存会把静态资源放到离用户更近的节点，比如北京用户访问北京节点， 广州用户访问广州节点，这样既减少延迟，也减轻原赞压力。服务器端也常用缓存，比如 radis 和 memkadit， 常被用来存登录状态、热点、数据、排行榜接口结果，它们通常运行在内存里，比数据库读取快很多， 但他们一般不负责长期保存权威数据，所以数据库仍然是最终数据源。数据库内部也有缓存，很多数据库会缓存查询计划、锁影页和数据页，避免频繁读磁盘。 操作系统也会把常用文件内容放在内存页缓存里。你会发现缓存不是某个单独工具，而是一种贯穿整个计算机系统的思想。 cpu 缓存是更底层的例子， cpu 运算速度极快，但从内存取数据相对慢。为了不让 cpu 经常等数据，芯片里会设计 l 一、 l 二、 l 三多级缓存， 越靠近 cpu， 速度越快，容量越小越远，容量越大，速度越慢。评价缓存效果最常看的指标是命中率。命中率越高，说明请求越多地被缓存解决，系统越省资源。 但命中率不是唯一目标。如果缓存内容过气太慢，命中率可能很高，却牺牲了准确性。所以好的缓存设计要同时看速度、成本和数据新鲜度。 在高并发系统里，缓存还会遇到几个经典问题。缓存穿透是请求查询一个根本不存在的数据，每次都绕过缓存打到数据库， 缓存击穿是某个热点数据刚好过期，大量请求同时冲向数据库，缓存血崩是很多缓存同一时间失效，导致后端压力突然暴涨。 解决这些问题也有常见办法。对不存在的数据，可以缓存一个空结果，或者用不隆过滤器提前拦截明显无效的请求。对热点数据，可以加护翅锁，让一个请求去重建缓存，其他请求等待或返回就职。 对大量缓存过期，可以给 t t l 加随机偏移，避免同一秒集体失效。缓存设计还要看业务场景、商品库存、账户余额。这类数据对准确性要求高，不能随便长时间缓存。 文章阅读量、热门推荐配置列表。对短暂延迟更能接受，可以用缓存换性能。 不同数据不能用同一套策略，否则要么浪费资源，要么引入风险。所以缓存不是简单递加一层 reddis 就 完事，真重要。想清楚的是，缓存什么数据放在哪里，多久过期，什么时候更新，失效时怎么办？后端扛不扛得住？ 每一个问题都对应着系统的速度、稳定性和数据正确性。总结一下，缓存就是把常用数据 放到更近更快的位置，用空间换时间，用副本减少重复访问。它能让网页打开更快，接口响应更快，数据库压力更小，也能让大型系统在高迸发下更稳定。 但缓存带来的旧数据失效策略和迸发冲击，必须被认真设计理解。缓存本质上就是理解现代计算机系统如何在速度、成本、准确性之间做平衡。
139AI编程大白![Claude提示词缓存 Prompt Caching算法详解 之前的视频我们介绍了Claude Code如何利用Prompt Caching节省token的。这次我们深入讲解一下Claude Code客户端在请求里明文写的cache_control标记是如何工作的。
cache_control有两种用法。Automatic自动模式，请求顶层放一个字段，服务器自动给最后一个block打1个breakpoint，简单粗暴。Explicit明确指定，自己往block上挂，最多4个，位置自己挑。Claude Code用的是Explicit，3个breakpoint的位置全是它自己选的。3个分别标在system数组第2项末尾、第3项末尾、最新user消息末尾。前两个是稳定锚点，第3个是游标，每轮跟着最新输入往后跑。
3条核心原理：
原理1：缓存只在breakpoint位置写，写的是从头到这里的累积prefix。所以29个tools没标cache_control也被缓存——蹭system[1]的车一起打包写进去。
原理2：读的时候在breakpoint位置查不到，往前一个block查，最多查20个。它找的是"之前写过的条目"，不是"现在稳定的内容"。
原理3：20格上限。超过就放弃。
官方博客Thariq的"Prompt Caching is Everything"分享了Claude Code围绕缓存的几个设计：分层（静态在前动态在后）、Plan Mode做成两个工具而不是swap工具集、Tool Search用defer_loading发轻量存根、compact共享原session的system+tools+history做前缀。两条提醒：不要中途切模型（缓存按模型分隔），不要中途改MCP/hook（整段前缀重来）。
#claude #个人开发者 #命令行 #AI工具 #张司机](https://p3-pc-sign.douyinpic.com/image-cut-tos-priv/659b4b86f6fbeace61cd22594ab424d9~tplv-dy-resize-origshort-autoq-75:330.jpeg?lk3s=138a59ce&x-expires=2099876400&x-signature=9rpoHI%2FzeaNc0sdeIeaS5u9UWus%3D&from=327834062&s=PackSourceEnum_AWEME_DETAIL&se=false&sc=cover&biz_tag=pcweb_cover&l=20260720112911C1670D516403FF8E27A2)
06:46查看AI文稿AI文稿在上期视频里，我们详细分析了 clockcode 怎么利用提示词缓存来节省 token 消耗的，但是评论区还是有很多朋友在提问，那么缓存具体什么时候写的，什么时候读，然后新请求来了，是怎么判断什么前缀命中了呢？ 那么这期视频我们就深入讲解一下底层的算法，了解一下 clockcode 是 如何在上下文里插入 cash control 标记来精确控制提示词是如何被缓存的。我们打开上次给 clockcode 发 hello 的 抓包请求，然后搜一下 cash control， 我们看到第一个标记是在系统提示词 system 里面，这个第二项 cloud code 的 身份提示词的末尾，对吧？然后第二个这个标记还是在系统提示词里面，是这个一大段的行为准则的后面是吧？然后 第三个就是在这个 message 里面，用户输入的这个 hello 的 这个 block 上了。先说清楚 cash control 是 干嘛的，在 apple pay 官方文档里，每个 cash control 叫一个 break point， 意思是缓存的边界点， 那么你挂在哪个 block 上，就等于告诉服务器从请求最开始的工具定义系统提示词，一路到这个 block 为止。诊断打包存进缓存，然后开 ctrl， 这个字段有两种用法，第一种叫 automatic 自动模式， 请求顶层放一个 catch control， 然后服务器就会自动打一个 break point， 简单粗暴。那么第二种它叫 explicit， 明确指定就是你自己决定往哪个 block 上挂 break point 最多四个。我们刚才看到的请求里， callout code 发的这种就是 explicit expressing 模式，意味着 break point 位置是 coco 自己选的，那么他选的这三个位置有两个是永远不动的，然后第三个每轮都移动，我们打开这三轮的请求并排看，我们会发现第一个 和第二个 break point 永远都盯在 system 的 末尾，三轮全都没有动，只有第三个是不一样的。 第一轮我们发了 hello， 那 么第三个 break point 就 打在了 hello 那 个 block 上，然后第二轮我们回复了 fine， 对 吧？然后前面有 assistant 的 回复，然后加我们的 fine， 那 么第三个 break point 就 移动到了这个 fine 上。 然后第三轮我们发了 thank you， 那 么这个 break point 又移动到了 thank you 上， ok， 那 你有没有想过为什么在 system 里要打两个不动的 break point， 只在末尾打一个不行吗？我们看看第一个 break point 的 前面的内容，它是所有的工具的定义加 call code 的 身份说明， 这里只要 clock code 的 版本是一样的，那么所有的用户的这一段前缀都是相同的，这是最稳定的上下文，也就是说任何同一版本的 clock code 用户都可以共享这个缓存。 那么第二个两个 break point 中间的是系统提示的行为准则。我们复习一下 prompt catch 那 期视频的内容，那么这个里面它包括了当前 cloud code 的 工作目录以及一些系统信息，所以不同的用户，不同的项目到了这部分就不一样了。但是只要是这个目录下的 session， 还是都可以重复使用这个 hash 的。 现在我们来回答观众的核心提问，到底前缀缓存是怎么写，怎么读的呢？那么第一条原理就是 break point 挂在哪个 block 上那个位置，我们就写一条缓存，然后缓存对应的键值就是从开始到这个 block 所有内容一起算的一个累积哈希。 然后我们回到 colocode， 看看这三个 break point 到底写了什么。第一个 break point 对 应的键值就是所有的工具定义加上 colocode 的 身份提示词的哈希， 然后第二个 break point 对 应的键值就是这一大坨，这个行为准则的系统提示词前面所有的上下文放一起做一个哈希。然后第三个 print point 就是 在最后的 user 消息上，那么哈希就是整个上下文一起。 所以一个 clock 的 请求过去服务器提示词缓存里会存三个键，对应就是这三个 break point 的 三条哈希，覆盖的范围一条比一条长。第二条原理就是读缓存的时候，如果在 break point 的 位置查不到，那么我们会往前一个一个 block， 再查找的就是之前写过的缓存。 举个例子，我们看看 coloco 的 刚才那三轮请求，第一轮我们发的 hello 对 不对？然后三个 break point 都是第一次出现，没有人写过，所以服务器会在三个位置各写一轮新的缓存，因为全都是 miss。 然后第二轮我们发的 fine， 那 么第三个 break point 从 hello 挪到了 fine 上面，然后服务器从 fine 开始算哈希的新位置，因为这里是 miss， 那 么再往前面一个 block 是 assistant 对 hello 的 回复，这也没人写过，这里还是 miss， 那 么再往前到 hello， 那 么上一轮在这里写过一个挑目了对不对？所以命中诊断 tos 开头一路到 hello 这里，全部从缓存开始读，然后 hello 到 fine 之间的这几块心算，然后算完之后的结果，在 fine 这个心的位置再写一条缓存，第三轮发 thank you， 然后第三个 break point 又挪到了 thank you 上。一样的流程， thank you 的 位置是 miss， 然后往回退到 assistant 对 fine 的 回复，然后这里还是 miss， 再往回回到 fine， 那 么这里上一轮在这里写过，那么命中了，所以 toos 一 直到 fine 这里的整段都从缓存读，然后 fine 到 thank you 之间这几块心算， 然后每轮第三个 break point 往后挪一两块，那么再往前翻一两个 block， 就 能找到。上一轮在前一个 user 上消息的写入缓存第三条，原理是最多往回找二十个 block， 找不到就放弃。 在刚才的例子里面，我们发现每轮中间是不是就一个 assistant 的 回复，所以 look back 往回翻两三格就能命中，没什么压力。但是假设第三轮发完这个 thank you， 你 让 cologold 干了个大活， 读了几十个文件，然后搜了几次网页，并且改了几个代码，那么在这一轮里面， assistant 的 tool use 快， 再加上你回的 tool result 快， 加起来塞了二三十个 block 进去了，那么第四轮你发了一句继续， 那么第三个 break point 挪到了这个继续上，对不对？我们这时候服务器从这里往回查，然后翻到二十个 block， 还没碰到 thank you 你 这条缓存，那么 look back 就 放弃了。 所以日常聊天重用缓存很稳定，是因为单轮就有几个 block， 但只要某轮对话产生的 block 撑爆了这二十个 block， 那 么这个时候就没办法，整个上下文窗口就只能重新推理了， 没法使用缓存。所以这就是 prompt cache 底层算法的工作原理？对更多细节感兴趣的同学可以去 cloud 官方博客上 colocode 核心工程师 thorick 写过的一篇文章，标题就叫 lessons from building colocode prompt caching is everything。 讲他们做 color code 的 客户端的时候是怎么设计提示词缓存的，还有一些使用时最大化缓存命中的建议，非常推荐大家好好读一下。
489张司机在路上
03:20查看AI文稿AI文稿deepsea 公布了它最终的定价，它的这波定价里面其实藏着一个巨大的羊毛，我一会给你看看，按照它这个定价，花了三块钱人民币啊，搞出来的一个网站有多么的可怕，它把抢先的二点五折这个折扣啊，直接变成了永久的定价，它价格永远锁在了二点五折。其实你仔细算算就知道啊，它比 cloud 便宜了十七倍， gbt 便宜了三十四倍，这还有一个很夸张的一个数据哈，缓存命中的话， deepsea 是 零点零零三六美金，对标的 deepsea 五点五呢，它是零点五美金，你知道是多少吗？是一百三十九倍的差价，就这种差价就明摆着告诉你，哎，我摊牌了啊，我不装了，就这个价格，大家就应该是以后的大模型的一个价格 的一个新常态，所以对面会非常的难受。 deepsea 这一招哈，其实非常高明，他是把现在这个 deepsea 卡在了一个非常精准的一个生态位上。就是怎么选这件事啊，其实真正的用户啊，尤其像我们这种， 我们是传统的这样的企业，对吧？我们又在用 ai 来降本增效，我们啊，一定会用脚来投票的，就在这个过程当中，我们一定会跑出来一个自己的帕累特这个策略来拿我自己来举例子吧，这段时间我是深度的用 opencloud 啊， kimi 啊， cloud code 呀，那个国产的 work party 一 样， codex 还有 hermes 啊，一圈大模型一圈的工具啊，我是轮着来回用啊，然后我一直是在用这些模型来解决我自己的痛点， 我有一个非常重要的痛点，我们有直播业务，这里面呢，要有一些混剪的一些素材，拿来来做一些铅汞的投放。于是乎呢，我就搭建了一个自动混剪的一个网站，他的工作流大概是这样的，就是我丢进去五十条视频， 一个小时可能用不了，他能够输出一百条以上的混剪视频。就这里面的视频是完全不重样的啊，不重样的镜头可能配上音乐，配上字幕，配上配音，然后还能做好包装，然后直接我就拿去能给铅汞来跑了。来给你看看这个网站是怎么样的啊，你看 非常漂亮对不对？整个的设计，这个 ui 的 界面看上去就知道啊，肯定是一个非常非常高级的，挺唬人的一个网站啊。但是呢，就是我这种啊，完全不懂编程啊，稍微有一点点审美的我来做出来的。那我用的呢，其实就是用 firecode 加 codex 啊，帮我搭建了一个框架，因为他俩的审美还可以用他俩这个审美啊，帮我实现了整个的界面。然后呢，剩下的 所有的小功能，比如说小按钮啊，什么超链接啊，自动生成文案呢，自动配音呢，这些啊，我全部都交给了 deepsea 卡， 而且我还没用 deepsea 的 pro， 我 直接用的是 flash 那 个版本，然后成本低到你根本就想象不到啊，你看这条啊，五月十九号那天，我改了整整一天，我大概消耗了将近八千万的 token， 然后我给你看看他用了多少钱啊，三块八毛九， 而且不是美金，是人民币啊，也就说整个网站跑通，我在 deepsea 上面只花了三块多钱，而且我还用的是 flash 版本，还不是 pro 版本，所以啊，你看，这就是我们真实的使用者的选择， 根本不需要广告来教我，也不需要硬推市场上面这些真实用 ai 的 人，他会找到自己的最优解，这个叫什么？这叫做跨模型的帕雷托最优组合，每个大模式能干什么？成本效率最高是哪一部分？你根本不需要人教，真实用户早就把它跑起来。所以我说 deepsea 这招啊，它真的是一个大的 羊毛，它不是偷偷的降价，它是正大光明的告诉所有人，我就是一个低价位，但是不代表我不好用，我只是便宜，但我不是低端，而且这还绝对不是让对面最难受的东西。最难受的是什么呢？ 这 deep stack 还在不停的进步，我相信 deep stack 一定是国产模型之光，假如有那么一天， deep stack 达到了 opus 四点七或者是 a p d 五点五线的水平，大家回头一看的时候哦，你还是这样的一个定价，到那个时候，牌桌上的牌可能要彻底的洗一遍了。 ok， 点个关注吧，与其每天看着啊 ai 前沿，什么天塌了呀，什么桌子掀了呀，不如看看我们这种啊，传统企业一线的人，我们是怎么样用 ai 来真的降本增效的啊！下期再给大家看看，像我们家的传统企业是怎么样用 ai 也来一边赚钱也来一边省钱的啊。 ok， 我是 童心岁月的小轮子，分享下条件。
92一团小伦子
02:23查看AI文稿AI文稿c 盘红了就按我这个顺序处理，释放二十 g 以上空间，记住空间不是靠乱删清出来的，而是先要找出是什么东西占用的最多。第一步，扫描 c 盘，看看存储状况，看分配， 这个十二 g 文件是休眠文件，如果你不需要休眠功能的，可以删掉，然后要确认虚拟内存文件是否在 c 盘， 我是把虚拟内存放在 d 盘的，我现在给大家做个展示，如果看到先别删，这个不是垃圾，它是 windows 的 虚拟内存。正确做法是把它大部分转到 d 盘， c 盘只保留一 g 到二 g， 这样 c 盘马上就能空出几十 g， 跟着我操作就可以了。 此电脑右键属性，高级系统设置性能设置高级虚拟内存更改，按着我的填 c 盘自定义大小，初使大小填一千零二十四，最大值两千零四十八，然后点设置， 第一盘，选系统管理的大小，然后点设置确定。做完这一步要重启电脑，如果你原来虚拟内存在 c 盘的，重启电脑后会多出二十 g。 第二步，运行 bat 安全清理，把临时文件更新缓存，回收站、浏览器缓存这些能安全清的先一次清掉，这一步不会动，你的照片、文档、视频也不伤系统文件，可以放心用， 这会显示信息，只需要跟着做就可以了，都会有提示，看自己需求操作，操作完看结果就可以了， 这个是休眠功能，如果不要就选 y， 会多出十 g 左右，最后清理完会看到释放了多少空间。 第三步，看文档，有没有微信或 qq 的 聊天记录，如果有就转移到 d 盘，再看下载桌面视频，有没有大文件，不用的删掉，重要的转移到 d 盘，也可以用软件来查看，不会判断的，把位置图发出来，我帮你看。
75见习调音师
04:30查看AI文稿AI文稿大家好啊，我是瑞克老张啊，那个五一期间接着给大家聊，因为事比较还挺有意思。昨天晚上呢，我们的那个开发团队给我们反馈啊，就说那个 dvd v 四 pro 特别好用，然后我们就在 callix 里边就接着进来了，接进来以后我也测了一下， 哎，我发现一个很有意思的问题，虽然说啊，他自己说，他跟那个，呃，就是包括我们说的，呃这几家，像那个，呃， 那个 cloud oplus 四点六啊，啊，包括啊，这拆 gpt 五点五啊，还差三到六个月。但是你知道这里面有一个很好玩的事啊，就是 dspic v 四 pro， 它的缓存命中率极高， 什么意思呢？就是大家要知道这个大模型的这个 api， 它分两种价格，一种缓存缓存命中，一种缓存没命中。 缓存命中的话，就意味着它之前跑过类似的这些东西，所以它有结果，有结果它可以拿下来改一改就给你用，那这样的话它价格非常低， 缓冲没命中呢，那就意味着要重新计算，那这个价格就非常高啊，这个要要知道。所以呢， deepsea 呢，我们查了一下，我们测了四个啊，就是我现在正在做的小东西，测了四个，呃，大概每一个的话呢，都都给我写了不到八百行的这个命令啊，基本上缓冲命中率呢都在百分之八十五以上， 这意味着什么呢？意味着我非常省钱，我们看看，我整个把这所有东西都跑完了，大概跑了不到一个亿的 token 啊，我花了多少呢？花了不到十二块钱，这个这个，这个性价比就非常高了啊，真的性价比非常高，它比那个 cloud 包括那什么的缓存命中率都高。 我们之前也用 kolld， 但 kolld 现在不给中国人用了嘛，是吧，那个我们就敢用，折磨你啊，这个但折磨你的缓存命中率非常低，低的让人发指啊。然后就是花钱花的比较多啊，这搞那么不到一个亿的，差不多一个亿的 token 吧，这折磨你得花到二十美金左右。但是 deepstack 的 话呢，基本上就十几块钱，十几块钱解决问题啊，十几块钱解决我们四个四五个问题，而且它那个 bug 吧，它自己找起来就很快，我们怀疑就是在 deepstack 的 从那个 n 卡，就是英伟达的卡迁移到生成的卡上做训练，这个过程中啊，他们另外的那些做啊，这个呃案例的部门并没有闲着，他们在不停地用各种的代码去测试，然后把这个代码各种的去修正，然后形成这样的缓存库， 所以现在的效果非常好。哎，我没有想象的效果的话，你们都可以去试一试，真的都可以试试这个 v 四 pro， 我 认为这恰恰很可能是它未来的一个最大的杀伤点，因为这样的话是所有人发现它的成本进一步降低。如果都用缓存，这个这个东西相当于呃这个 cloud 的 五十分之一的价格呀， 就如果都是缓存命中的话，它相当于 cloud 的 五分五十分之一的价格，非常夸张。那这个事的话呢，后续的东西很可能会引发。 是啊，包括美国这个开发者在内的一个一系列的海啸啊，它意味着大幅度的节省成本，效果还不错啊，这个事就就特别有意思了啊，所以它背后可能引发的是一个是 taco 出海，一个是酸碱锌铜，还有一个的话就是整个的在全球啊， 不管是开源还是闭源的啊，包括编程在内的这样的一个大模型使用的大范围的变化，它这个变化很可能是行业性的啊，是扩散段的，而且这个扩散现在看越来越快，越来越快， 所以呢，大家一定要关注这个趋势，这个趋势可能会引发整个产业链的变更的，这个变更的时间不会超过一个月。他后续的东西他不像上一次，上一次是立马就显示出来了，这次是在慢慢的显示出来，他显示出来的话，那他这个如果你提前不布局，你到那个时候你可能就晚了，那个时候的话机构大量入场，你就没有什么筹码， 需要的话赶紧先来看啊，真的赶紧先看好不好？如果需要的话，看看我们的这个季度会员科普课，我们准备在下个星期开始的五月份，我们会安场安排最少三次关于 deepsea 的 啊，这个深度的拆解，一次直播两次的这个复配的内容啊，如果需要真的好好看一下咱们的季度会员科普课啊， 九十天四十五个视频最多啊，四十五个视频最少，四十个视频八场专门的直播，非常的超值。而而且咱们的月卡呢，本身呢两百多块钱是吧？ 机卡的将近八百块，这是因为一个是老张给大家补贴，还有一个是平台虽然没有那么大的，那也给了几十块钱补贴，所以现在价格是六百多块钱，非常的超值啊，需要的真的好好看一下，而且呢内容的话呢，是非常的覆盖的全面，都是围绕大家所关心的这些话题展开的，毕竟的话我们还有很多专业团队在干这个事， 非常的超值，需要好好看一下啊。链接在底下点击即可啊。稍再说一句，一定要记得接助教老师电话，不然你不知道该怎么看课。好，今天就到这，我是瑞克老张，关注我，咱们投资的视角，看科技背后的精彩，我们下期见，拜拜。
374瑞克老张有话说
03:07查看AI文稿AI文稿大家好，我是行云，今天聊一下选 ai 中转站时最常见的几个坑。很多人只看价格低不低，但这不应该作为判断标志。模型纯度、缓存稳定性更应该是重点关注的问题。 第一个是模型注水，有些站页面上标的是 cloud gpt， 但实际调用的不一定是原声模型，也有可能用更便宜的模型去冒充高价模型。这个问题怎么判断？可以用何为 cctest、 z test 这类检测工具去辅助测试模型特征。当然，检测工具不一定百分百准确，但至少可以作为参考。如果一个站连基础检测都过不了，那就要谨慎。第二个是价格不透明， 很多人看价格时会被超低倍率吸引，但有些中转站模型倍率看起来很低， 实际分组倍率却非常高。最后，真实价格并不便宜。所以我建议大家重点看两件事，第一，充值比例是不是清楚，最好是简单的一比一。 第二，在使用之前能不能直接看到所有模型的价格。如果一个站要你充值之后才慢慢算，或者模型价格、分组倍率都藏得很深，那就要谨慎。第三个是稳定性差， 有些站用着用着就突然宕机重连或者接口超时，接口不可用，短的可能几十分钟，长的可能几个小时甚至一天。这个问题没有特别简单的公式，只能多测试。 最好先进群观望，看群里有没有大量报错反馈，有没有人长期吐槽，以及站长处理问题快不快，不要一上来就大额充值，先小额试用，确认稳定以后再长期用。最关键的一点是缓存独取与命中，这个在实际开发和长期使用里非常重要， 尤其是长上下文、多轮对话代码项目这类场景，缓存命中往往会占到头。 如果缓存命中做的好，重复上下文的成本会低很多。但如果缓存命中差，或者平台没有按缓存价格计费，那你的使用成本可能会成倍增长。所以我们使用中转站的时候，也要关注缓存读取缓存、创建、缓存命中率这些明细， 如果这些看不到，你就很难判断真实成本到底是怎么来的。最后总结一下，模型能不能测 价格，是不是透明稳定性，能不能长期用缓存命中是不是清楚？便宜当然可以，但前提是透明稳定，缓存命中正常。 ok， 本期视频到此结束，如果各位看官也在使用中转站，可以关注一下我的小站， 如果觉得本期视频还不错，别忘了点赞关注哈！
16行云
00:48查看AI文稿AI文稿当大模型行业集体涨价时， deepsea 反手把 v 四 pro 打到了原价的四分之一。二零二六年， openai、 anthropic 等主流厂商纷纷提高 api 成本，行业从价格战转向价值战。 但 deepsea 选择逆势降价，用更低的推力价格抢占开发者生态和企业市场。它的底气来自 v 四架构优化、 混合注意力机制，降低 kv cash 占用、国产芯片适配，也减少了对高端 gpu 的 依赖。 以每百万 tokens 计算， deepsea v 四杠 pro 输入仅三元，输出仅六元，相比 gpt 五点五输入约便宜十二倍，输出约便宜三十六倍。这不是一次普通促销，而是一场由技术、算力和资本共同支撑的市场清场。
24嘟
![[Redis专题]怎么提高缓存命中#程序员 #java #redis #计算机 #编程语言](https://p3-pc-sign.douyinpic.com/image-cut-tos-priv/01c9edef7cfaf5c4c7960914ffe90fb6~tplv-dy-resize-origshort-autoq-75:330.jpeg?lk3s=138a59ce&x-expires=2099876400&x-signature=zPCmrmtVScfFpYQloNoVp%2FXshXw%3D&from=327834062&s=PackSourceEnum_AWEME_DETAIL&se=false&sc=cover&biz_tag=pcweb_cover&l=20260720112911C1670D516403FF8E27A2)
