00:00 / 03:38
连播
清屏
智能
倍速
点赞31
AI 产品经理实战篇之token怎么控制 你知道跟 ChatGPT 聊一次天,到底要花多少钱吗? 很多人以为免费版就不花钱,但 OpenAI 后台为你这一句话,可能已经烧了几毛钱。这个单位叫 Token。 ① Token 是什么 大模型眼里的最小语言单位。你打的字、AI 回的话都要先切成 Token,模型才能处理。大模型按 Token 数量收钱。 中英文换算(背下来): 1 个中文字 ≈ 1.5-2 token 1 个英文单词 ≈ 1.3 token 一句"今天天气真好" ≈ 9 token 1000 字中文文章 ≈ 1500-2000 token ② 到底烧多少钱 GPT-4 每百万 token 5-15 美元,国产 DeepSeek 1-8 元人民币,差 10 倍以上。 假设你做一个 AI 客服,用 GPT-4 跑:每天 1000 用户 × 10 轮 × 500 token = 500 万 token / 天 = $30-50 / 天 = 月烧 $1500 起。 这还没算 RAG 重复输入、多 Agent 互相调用、System Prompt 重复消耗、失败重试。真实成本往往是估算的 2-3 倍。 ③ AI PM 怎么省 Token 老板不问模型多牛,只问能不能再省一半。4 招按效果从高到低: Prompt Caching(提示词缓存)→ 省 90% 分场景选模型(简单任务用便宜的)→ 省 70% 压缩上下文(只传相关历史)→ 省 50% 设 max_tokens 上限 → 省 30% 面试金句(直接抄) 被问"怎么控制 AI 产品成本",按 4 句答: 第 1 句:开 Prompt Caching 第 2 句:分场景选模型,便宜的先用 第 3 句:压缩上下文,只传相关历史 第 4 句:设 max_tokens 上限 4 招用完,一个月省 1 万美元起。 一句话总结 会算 Token 的 AI PM,才是真正能落地的 AI PM。 下条讲上下文窗口,AI 为啥总忘了你说过什么。关注 NOVA,每天一个 AI PM 知识点。 评论区聊,你公司 AI 产品一个月烧多少钱? #AI产品经理 #Token #AI成本 #大模型 #AIPM求职
00:00 / 03:34
连播
清屏
智能
倍速
点赞27
00:00 / 00:44
连播
清屏
智能
倍速
点赞100
00:00 / 05:07
连播
清屏
智能
倍速
点赞7094