家用电脑如何生产token

大家好，我是你们的科普达人，今天咱们来聊聊个人开发者怎么低成本入门 tocan 生产。很多朋友可能觉得 ai 模型部署门槛高，成本贵，其实只要配置得当，咱们普通人也能玩转。先说说硬件怎么选， 如果预算在一万五以内，想先试试水，那 rtx 四零九零 d 或者四零九零显卡是首选。二十四 gb 或十三 b 的 模型，搭配 i 五或 r 五的 cpu、 三十二 gb 内存， e t b 的 nvme 固态硬盘，再加上一千瓦的电源和一套散热好的机箱，总价大概一万一到一万六就能稳定运行。模型 托肯吞吐量能到每秒两百到五百个，日常测试和小流量使用完全够了。要是预算能到两到四万，想搞小批量生产，那就可以考虑上双卡四零九零 b， 或者直接上 a 一 零零，内存加到六十四 gb， 这样吞吐量能到每秒八百到两千个，接下小 b 客户的需求也没问题。硬件搞定了，软件和模型怎么选呢？模型方面，七 b 规模的 q 文二七 b instruct 或者 lama 三七 b 就 很适合入门，显存占用小，延迟低， 聊天、写文案、生成代码都在行。十三 b 的 模型像 q d r 杠一三 b instruct， 复杂推理和行业知识库的应用效果更好。这里有个小技巧，优先用 i n t 四量画板，显存占用能降百分之七十五， 速度还能提升两到三倍，效果几乎没损失，性价比超高。推理框架推荐 v l l m 开源免费，吞吐量比原声 pie torch 高十倍以上，个人开发者首选。部署工具方面， fast api 或 flask 用来封装 api 接口， prometheus 和 grafana 监控性能， e l k stack 记录日记这些都是免费又好用的工具。大家最关心的成本问题来了，按三年折旧算，入门级硬件每月折旧大概四百一十七元。电费方面，单卡四零九零币，满载运行 每月电费差不多一百九十四元，总成本约六百一十一元。按每天产出两千五百九十二万 token 算，单位 token 成本约零点零零零零二三六元，也就是二点三六分。每千 token 对 比 openai 的 gpt 三点五 turbo， 成本只有它的四分之一，价格优势很明显，想快速上手， 一天内就能跑通，先装 uber 二二点零四 lts 系统，然后安装 cuda 十二点一 cuda n， 再装 python 三点一零和 vl l m。 接着用命令启动模型服务， 最后用 qiro 测试一下生成 token， 看看返回结果里的 usage 词段，统计 token 数就搞定了。最后给大家几个进阶优化建议，用 v l l m 的 批量请求功能提升吞吐量，尝试模型蒸馏，降低显存占用和延，使用 radis 做请求队列应对高流量 在整个数据库记录用户 token 消耗，实现自动计费。这样一套下来，你的 token 生产系统就既高效又经济了。怎么样，是不是觉得个人搞 token 生产没那么难？你最想先用这个系统来生成什么内容呢？评论区告诉我吧！

最近我收到最多的后台私信就是 token。 既然是个新的大众商品，那普通人能不能自己生产 token 自己卖？今天一条视频给你讲清楚。先说结论，能生产，但你算完账，你就不会干了。我们来算一笔账， deepstack 目前最火的大模型，它卖 token 的 价格是多少？输出，每百万个 token 三块钱。 一百万个 token 是 什么概念？大约相当于五十到七十万个中文字，一本书大概十万字，也就是说， ai 帮你能写将近七本书的内容，只收你三块钱。反过来说，你自己要生产这一百万 token， 至少得花几十万买个 gpu， 装一台服务器， 二十四小时不断电。就这样，你的一台机器大概需要十几个小时才能生产出这一百万个 token。 而且这个你还没有算你的工程师维护机房电费和宽带费。 deepsea 为什么能卖三块钱？因为它拥有几万张 gpu， 同时跑，一天处理上千亿个头梗，成本被摊到几乎为零。这就好比你自己在家养了一头牛，挤了奶想拿出去卖，一瓶卖五块， 你觉得能赚，但是你一算，买牛花了两万，饲料每月两千，一天只能挤几斤奶，隔壁蒙牛一天出几千吨，一瓶卖三块钱还能赚？你的奶不比它的差，但是你的成本是它的一百倍还要多。 这就是普通人生产 token 面临的问题，不是做不了，是做了一定亏。所谓普通人在 token 这门生意里的正确姿势，不是自己生产 token， 而是用便宜的 token 去创造贵的服务。 举个例子，你用 deepstack 花三块钱买一百万个 token， 让 ai 帮你写十篇小红书文案，通过小红书的文案带货去赚钱，那么你的成本就是三块钱。 你赚的不是 token 的 差价，是你知道怎么用 token， 而别人不知道的信息差。再举个例子，你用 ai 帮一个小型企业搭建一套 ai agent 的 token， 成本可能不到十块钱，但你收企业五千块钱的咨询费， 企业买的不是你那十块钱的 token， 而是你的判断力和方案。不要去跟巨头抢着生产 token， 要去想怎么用三块钱的 token 创造三千块钱的价值。生产 token 的 钱留给巨头去赚，用 token 去做赚钱的生意，才是留给普通人的机会。我是文思，关注我每天带你看懂 ai。

很多人一直好奇， mac mini 和英伟达显卡机究竟谁更适合生产，偷啃谁的运营性价比更优？又为何当下众多企业和轻量化 ai 模型会选择 mac mini？ 今天抛开主观偏向，纯讲场景是配于底层逻辑，客观理清二者的核心差异。首先要明确 算力设备没有绝对的优劣，只有场景式配度的区别。滔垦生产的核心诉求并非极致的峰值算力，而是长期稳定运行、低成本运维、规模化落地以及系统环境的匹配度，这也是我们判断的核心标准。先厘清二者的专业定位， 这是一切逻辑的基础。英伟达是大模型训练领域的绝对首选。针对超大规模深度学习重型科研计算、大模型研发训练，英伟达显卡的算力强度、计算精度、专业适配性无可替代，是行业内公认的重型科研算力标杆优势及其突出专门服务于高算力需求的专业研发场景。而 mac mini 主打轻量化、稳定型算力输出，完美适配轻量化 ai 模型、日常生活类 ai 应用、手机端应用、小程序及云端小型 ai 服务。这类场景不需要极致算力，更看重稳定、低功耗、长期在线与合规出海的能力。再来看 tok 生产与运营性价比的核心对比。第一， 系统环境适配性不同，并非设备强弱问题，而是生态赛道不同。当下主流的 tok 生产工具 open call 以及各类轻量化 ai 模型均基于 mark mini 的 原声系统，能让这些工具和模型七成二十四小时稳定运行，不闪退、不掉任务。因为达显卡机虽算力强悍，但系统生态与这类 tocan 生产场景不匹配，并非设备本身不行，而是专业方向不同，更擅长大模型训练，而非常期稳定的 tocan 量产。第二， 长期运行与功耗设计适配不同需求。英伟达显卡机功耗高，性能爆发力强，适合短期、高强度、高负债的专业计算工作。 mac mini 功耗仅三十到五十瓦，低温静音，硬件损耗小，天生适配 tocan 生产所需的二十四小时不间断挂机。二者只是设计方向不同， 分别对应不同的使用场景。第三，运营性价比取决于业务场景，因为达硬件投入电费，其运维成本偏高，更适合有专业研发需求的大型机构。 mac mini 硬件成本亲民，体积小巧、机柜部署密度高、运维简单， 个人、小团队及企业都能轻松规模化。在滔垦生产、电算出口这类场景下，运营性价比更占优，这是场景匹配带来的结果，而非设备本身的差距。最后再讲为何企业与轻量化模型偏爱 mac mini？ 企业做生活化 ai 手机应用、云端服务、电算出口，核心需求是快速落地、合规出海，成本可控，稳定变现。轻量化 ai 模型本身也无需极端算力， mac mini 系统纯净搭配海外 mac web、 mac ui 等专属平台， 整套算力调度和归结算跨境输出、生态闭环完整，刚好契合这类业务的全部需求，所以成为了优选方案。总结下来，英伟达是大模型训练、重型科研计算的王者，专业重型算力的不二之选。 mac mini 是 轻量化 ai 手机端应用、 偷肯量产、电算出口及企业规模化部署的最优实配，二者各有所长，定位不同，赛道、不同，适配对应的业务场景才是最理性的选择。

hello， 大家好，我是 ken， 今天早上刚刚打开手机，我就兴奋的睡不着了。 google 刚刚发布了伽马四，一个可以本地部署的大模型，我的第一个念头是省钱了， 如果把它接入 openclaw， 从此在本地生产 token， 那 是不是就可以不用再被云端 ipi 一 点一点计废了呢？然后我花了一整天的时间来验证这个想法，结论有点出乎意料。先听我说完， 我在本地部署的是二十六 b 混合专家模型，二十六 b 代表着他拥有二百六十亿的参数。 混合专家模型的意思是，他不会一次性把所有的参数都用上，而是根据你的指令调动一小部分的专家来进行回答。这样的好处是推理的成本更低，回答的速度也更快。 这个版本在二十六 g 内存的 m 五芯片 macbook 上刚好能跑。这里 jam 四的几个版本呢？我也简单的跟大家分享一下。最轻量的是 e 二 b， 一个二十亿参数的模型，它在市面上大部分的设备上都可以运行。 那么 e 四 b 呢，是一个四十亿模型，运行它呢至少需要有十六 gb 的 内存。蓝血版是三十一 b， 拥有三百一十亿的参数能力最强，但是目前我手头的设备呢，都没有办法运行。目测 如果说要跑三十一 b 的 模型的话，至少需要三十六 g 的 内存。以我这一个月以来把所有的大模型接入到 openclaw 的 体感来看呢，二十六 b 版本我再应用下来，我认为它称日常工作是完全没有问题的。 截止到这里，一切都让我很兴奋。在 macbook 本地上跑通以后，我迫不及待的把它接入了 openclaw。 和我之前用其他大模型接入的体验不同， jam 四在接入以后没有那个互相了解定义角色的初识化环节，不过正常对话是没有问题的。那么问题来了，他能做些什么？说实话，就是个聊天机器人， 连在桌面创建一个 word 文档都做不到，更别谈生产力了。如果只把它看作是一个聊天机器人的话，那么在欧莱玛中直接运行反而比嵌入到 open cloud 中要更快，所以呢，还不如不用。 然后我掏出了我二零一七年的 windows 老本，这台机器呢，有十六 g 内存，按照 ai 的 建议，分别部署了 e 二 b 和 e 四 b 两个版本的模型。单独跑模型的话， e 四 b 这个四十亿参数的版本呢，每个回答要等待时间在十秒以上。那么 e 二 b 这个二十亿参数的小轻量级版本呢？如果是处理简单问题，基本上可以做到秒问秒答。 但当我把他们接入到 openclaw 之后呢，连收到两个字都没有办法回复，不管哪个版本，通通卡死。所以结论很明确，内存不够的设备不要尝试把 jam 四接入到 openclaw， 硬件是硬门槛，绕不过去。 总结一下今天的折腾，二十六 g 内存的 macbook 可以 本地运行，二十六 b 混合专家模型接入 openclaw 也能正常对话，但完全没有超出聊天机器人的额外生产力。 十六 g 内存的 windows 老本呢，接入 openclaw 可以 说是失败的，那么如果在本地运行呢？一二 b 和一四 b 两个版本都可以作为聊天问答机器人来进行本地使用。 我的判断是，如果内存能够达到三十六 g 以上，能够完整的跑下来二十六 b 混合专家模型，那么也许真的可以变为生产力。但是限阶段大多数人的设备都没有达到这个门槛。 本地部署不是不值得探索，但是要先看看自己的硬件设备有没有达到那个门槛，再决定要不要去折腾，不然的话结果可能会很打消你的积极性。 我是 ken， 专注用 ai 做可持续相关工作流的自动化。如果你对 ai 工具和自然语言编程感兴趣，请关注我，我们下期见。

普通人怎么参与 token 这项业务呢？首先要明确一个逻辑啊，就是 token 生产的这件事情是大厂的专属赛道， 不管是算力 token 还是用模型去调用 token， 这个背后其实都需要很大的这个服务器集群 技术研发合规的这个资质，普通人既没有这个能力，也没有资金参与，强行入局的话呢，只会血本无归。所以普通人要做的就是避开生产端，你去聚焦这个流通端，做上下游之间的链接器，全职的时间呢？去代理 tokken 的 销售，或者搬运一些便宜的 tokken 的 a p i 呢？去海外的这个市场去销售。我给你们四条建议啊， 第一个就是千万不要去找那些不靠谱的算力设备平台去托管投资，投个几万几十万的跟你说，哎呀，能在一年到两年回本，三年到四年翻番的， 你们记住了啊，没有那么多天上能掉馅饼的事情给你。第二，如果你是云服务算力或者是 ai 相关行业的人，那么快速调整到托肯工厂的这个赛道， 这个赛道的发展速度其实是会很快的，现在 ai 的 建设进场速度呢，非常非常的高，你们需要提前在技术和岗位上进行调整，要等待时机。然后第三的话呢，如果你既非技术人员啊， 那么可以选择在电商平台或者分发平台进行 token 的 销售，但是它不能像卖房子那么简单，它有一定的学习的门槛啊，不过我认为在现在 ai 工具的驱动下，一般人都是可以学的会 学的懂，而且学的很快，并不是只有那些学大模型算法的那样子高不可攀。然后第四，如果你不想投资建设，也不想学技术，甚至不愿意去做这个 token 的 销售， 那么你就把 token 的 场景融入到你的工作当中，比如说用它去写一个 ppt， 用它去做个短视频啊，做文案就是能让 ai 做的，你自己就不要去再参与了。就是你再用豆包 deepstack 的 时候，其实就是在用别人免费给你的 token， 所以 这个也是普通人参与 token 的 工作方式之一。

toc 工厂里的 toc 是 怎么生产出来的？它和电一样可以存到电池里面吗？还是和手机流量一样不能存？ 答案是后者。 toc 只有在你发送问题和回答问题的时候才会计算和产生。当你给 deepsea 发问题的时候，以及他回答你答案的时候， deepsea 这个大模型所在的那台 ai 服务器在高速的消耗电力来思考和回答你， 服务器会计算你的问题和答案一共用了多少个字和标点来进行收费。由于碳模型是英文优先，你的问题大部分时候翻译成了英文，再翻译成数字来计算消耗，通常的结果差不多是一个中文字消耗一点二到一点五个 token。 你 问问题的时候差不多是两块钱， 而他回答你的时候可能是八块钱，每一百万个字，因为回答是经过思考的，所以更贵。另外你用豆包和 dipstick， 为了回答的更好，他通常会把你之前的问题和答案和你新的问题一并发过去，就会消耗大量的图腾。 所以你会发现生产 token 这个说法其实是打比方。为了好理解，实际上 token 只是计量单位，就像手机的流量用了多少 k 多少兆一样，是黄仁勋给大家打的一个比喻。我们消耗 token 的 背后其实是在消费 ai 芯片的折旧数据中心的算力，基础设施的折旧 电力， ai 大 模型工程师的研发和数据中心维护工程师的巡检。一句话， token 是 计算单位，不是一件商品。

万万没想到，让当下最火爆的 open clone 帮我们赚钱，结果他却要我们先花钱给他充 talking！ 本期视频就来教你白嫖上千万 talking 的 神操作！首先打开这个网站，下滑找到这个输入输出都是零元的 deep secret， 轻轻一点它就会弹出详情页，点击打开这个 a p i 文档后，直接在 post 栏下复制这串网站的域名 url， 然后我们打开电脑自带的命令提示， 以管理员身份运行后，我们下滑找到龙虾的 api 配置页面，把刚才的 url 域名复制到下面后，回车，龙虾就会问我们索要 apikey， 此时我们再回到刚才的网站，找到 apikey 秘钥栏，新建一个自己的 apikey 后，我们点击复制，然后粘贴到龙虾的 apikey 索要栏下，继续回车， 等它提示我们输入模型 id， 再回到 deepseki 的 详情页的最顶端，点击这个复制符号，模型 id 就 已经到手。 此时只用粘贴到输入窗口，然后回车，一个无限 talking 的 龙虾就已经配置完毕，此时随便给他发布什么任务，等他完成后，我们进入消耗后台，可以看到我们已经消耗了十二万的 talking， 却没有花一分钱。

mac mini 暴涨，这纯属是跟风买错了。来讲个硬核知识点，这个叫龙虾的 agent， 它的本质其实是一串 pad 脚本，它不吃显卡， 也不吃本地算力，它真正的大脑在云端 cloud api。 所以 这跟你是 mac 还是 windows， 甚至是一台十年前的破烂笔记本毫无关系。那些加价买 m 四芯片的，怎么说呢，这就好比是吃了顿外卖，非得把五星级大厨请回家里住，太败家了。真正的成本在这里。 toker， 他 每一步操作都在烧钱，省下买电脑的钱去充 a p i。 余额才是正的工具，指在内，算力才是核心，别被硬件厂商收了税。

算电协同的战略下， token 成本优势独步全球，相信市场机遇 ai 时代下， token 资源的需求与日俱增，也成为大国博弈的新方向。我国凭借自身电力系统的优势以及技术的不断升级，让 token 的 成本优势独步全球。 在此背景下，新的市场机遇在哪里？磊哥给大家细细道来，感谢支持！一、 token 具体成本对比数据说话 根据二零二六年以来的权威市场数据， open router、 f d i intelligence、 摩根大通等，我国与国外主流 ai 模型的每百万 token 生产成本差异显著。二、我国 token 成本优势的核心来源 一、技术创新，猫 e 架构大幅降低算力需求我国主流 ai 模型如 deep seek、 阿里巴巴、通易千问、 mini max 普遍采用混合专家猫 e 架构，通过按需激活专家网络，而非调用全部参数，大幅减少计算量和硬件需求。数据显示， 猫 e 架构可使推理时显存占用降低百分之六十，吞吐量提升十九倍，直接降低了单位 token 的 算力成本。 二、能源优势西部对电成本显著低于国外电力是 taco 生产的燃料占算力成本的百分之六十到百分之七十。我国西部如贵州、四川的绿色电力成本极低，约零点二到零点三元每度，而欧美平均电价约一到一点五元每度，是我国的五到七倍。 这种能源成本差异直接转化为 taco 生产的成本优势，生产相同数量的 taco， 我 国的电力成本仅为欧美的五分之一到四分之一。 三、系统优化，软硬协调，提升效率。我国企业通过算法、算力、场景的垂直整合实现系统级优化。例如阿里巴巴的通易云新体系，通过极致算力调度提升硬件利用 字节跳动的豆包大模型，通过模型结构精简降低推理成本。这些优化措施使我国 tko 生产的单位算力成本显著低于国外。 三、权威机构的数据支持摩根大通二零二六年研报指出，中国 ai 模型的 token 成本优势源于算法创新加能源成本加系统优化。预计未来五年，二零二五到二零三零年，中国 token 消耗量将以百分之三百三十的年复合增长率增长， 占全球的百分之三十以上。 f d i intelligence 二零二五年研究综述显示，中国开源模型的混合 token 成本明显低于美国闭源模型，其中 kimi k 二 thinking 的 成本仅为谷歌 gemini 三 pro 的 四分之一。 operator 二零二六年三月数据显示，中国模型的周电用量已达四点六十九万亿 token， 连续第二周超越美国，反映市场对低成本加高性能的中国 token 的 高度认可。 四、豫能投资算力中心生产 token 的 启示电力企业转型的算电协同路径豫能控股河南省属综合能源企业，通过参股先天算力河南科技有限公司，间接控股郑州合银数据、京经济超大规模 i d c 项目布局电力加算力协同模式，其核心启示如下， 一、电力企业向下游负荷侧延伸对充电量与电价波动风险数据中心是典型的高在能技术设施，用电负荷稳定、电量需求大、运营周期长，是电力行业下游最优质的负荷用户之一。运能控股通过投资算力中心， 可将过剩的电力潜能如火电、新能源转化为算力服务，对充电量消纳风险，如新能源气垫和电价波动，如火电的市场化交易，电价下跌。 二、一、托能源优势布局绿色算力集群郑州合营数据的核心资产是淮来科技产业园环境区域最大绿色算力集群一、托张家口的风电、光伏资源，采用源网核储一体化电源、电网负荷储能协调和液冷技术，绿电使用占比超过百分之八十五。 这种模式既降低了数据中心的电力成本，绿电价格约零点五到零点六元每度，又符合双碳目标，减少碳排放。 三、参股模式降低风险，不影响主业根基。运能控股仅参股先天算力百分之四十二点二九，股权不合并，财务报表不参与具体运营，主营业务仍为火力发电。这种模式既探索了新业务增长级算力服务， 又将风险控制在一定范围内，不涉及 i、 d、 c 的 运营管理。五、结合我国电力优势的市场机遇东数西算与绿色算力的发展空间 我国电力优势主要体现在西部丰富的可再生能源、风电、光伏、水电和东数西算工程的规模化效应，这些优势为 tucker 相关产业如绿色算力制算服务带来了广阔的市场机遇。一、东数西算工程带动算力产业链投资，降低 tucker 生产成本。 东数西算工程已覆盖十四个省份，形成八个枢纽节点，如贵州、贵安、内蒙古、乌兰察布和十个数据中心集聚，带动社会投资超过万亿元。据测算，东数西算可直接节省超三千亿元数据中心电力成本。通过西部绿电直供 约一千亿元土地成本。西部土地资源丰富，从而降低 token 的 算力成本。如绿电价格低于火电数据中心 poe 降至一点二以下。 二、西部绿电资源为偷看生产提供低成本、低碳的能源支撑。我国西部如甘肃、内蒙古、贵州的可再生能源占比超过百分之七十，风电、光伏装机量占全国的一半以上。绿电价格约零点三到零点四元每度，低于东部的零点五到零点六元每度。例如 华为在桂安新区的 ai 算力集群采用绿电直供，能耗下降超过百分之二十。贵州桂 i 数据中心采用新风强技术，引入高原自然凉风降温，每栋楼每年减少工业用电七百余万度。 这些优势使得西部成为 tucker 生产的低成本碳基地，吸引东部企业将算力需求迁移至西部，如东数西讯将大模型的训练任务放在西部，利用绿电降低成本。三、绿色算力与智算服务成为市场热点 随着双碳目标的推进，企业对绿色算力使用绿电的算力的需求增长。例如字节跳动的豆包大模型采用西部绿电算力，碳排放量较传统算力降低百分之四十。阿里云的智算中心，如张北数据中心采用风电、光伏直供绿电使用占比超过百分之九十。 此外，制算服务如大模型训练推理，成为算力市场的核心增长点。东数西算工程为全国提供了约八成的制算算力，吸引了互联网厂商如腾讯、阿里， 运营商如中国移动、中国电信的参与。总结，我国每百万投垦生产成本的显著优势，本质是技术创新、能源禀赋、系统优化的综合结果。 欲能投资国企入局的算电携同模式，为电力企业转型提供了新路径。相信后续国央企、上市公司会陆续布局 我国的电力优势。西部绿电、东数西算，为投垦相关产业带来了绿色算力、智算服务等市场机遇。未来随着全国一体化算力网的建设，这些机遇将进一步扩大，在全球竞争中领先一步。

展示一下，就是我在我这台 macbook 部署了本地龙虾，并且在这一个 lm studio 的 这一个框架里面去运行大模型，随便运行的一个本地的模型，就是一个 英伟达的 nano 四 b 的 模型，非常的有意思，因为它很小，在我电脑上面运行的话没有太大的负担。 这个 lm studio 开了本地模式，应该是这里看设置这个位置，开发者开了这一个 llm 服务，就是已经对接好了，我电脑也装了龙虾了，就是 openclore 已经部署好了， 在这里面也可以跟龙虾交流。我想展示的是在这哎，已经也不输在苹果端的微信了，就是已经绑定了微信的 clawbot， 你 来一段自我介绍好吗？ 就直接发给他，之后就直接在这里面可以看到他运行的过程，是可以显示的，就这个位置，就这里他就在跑， 只不过回复的有点慢，可以看到发了这么久，哎，现在来了。那就说作为 opencloud 的 平台什么助手。那你帮我拼一下百度吧，看看能不能拼通。 很明显这个识别不准，对方正在输入， 太慢了，还是得对接那种 a p i 接口才会快， 那样可能也和我这个电脑是有关系，百度点 com 看看他会不会。其实部署本地话也只是拿来玩一下，毕竟硬件的水平有限， 体验比较差，只是玩一下就是这样子。这是可以回复，但是可能是这个模型太差了，只有四 b 的 这个模型 运行的话都不怎么烫。我之前运行的是阿里的三点五九 b 的 模型，也可以用它大概有六 g 多就聪明多了，但是非常的发烫，就这个位置， 现在呢，我就运行了这一个比较简单的四 b 的 模型，它占用的内存不高，但是呢它的能力也有限， 回复的非常的慢，有兴趣的话可以去大件，就是基于 lm studio 来部署本地模型。然后呢，又部署龙虾，如果能用 macdong， macdong 它是统一内存版本的，它可以内存可以当显出来用，正常的话 用 mac， 我 觉得优化是比较好的，比 windows 运行这些模型的话，比 windows 体验真的好很多，而且也比较省心一点，比较容易就可以达到一个比较理想的效果。好了，那本期视频就到这里了，我们下期再见， see you guys。

兄弟们，今天给大家分享一个超实用的开源项目， openclock zero token， 无需消耗 api token 就 能在电脑上流畅使用。 openclock 该项目利用浏览器自动化技术，获取你在各大 ai 平台的登录凭证，直接调用这些平台的网页版 ai， 从而实现完全免费的 ai 模型访问。不仅零成本无限次调用模型， 还有效避免了 a p i 密钥泄露的风险。支持调用市面上几乎所有主流 ai 平台，如 deepseek、 chat、 gpt、 gemini 等兼容的模型均可使用。同时它也支持电脑端本地工具及平台自带的原声工具， 模型性能不会受到任何影响。如果不知道如何使用，可以直接把这个项目交给 openclaw 来部署，感兴趣的朋友赶紧收藏起来试试吧！

token 工厂这项业务的全流程是什么？包括选 token、 选设备、建厂、开店和维护五个环节，两分钟讲清楚。一、选 token ai 使用的 token 和电力是不一样的，电力是标准的，谁生产的电都一样。 但是 token 由于是智力单位不同，大模型出来的 token 是 不一样的，有聪明一点的，弱一点的，有擅长编程的，比如 cloud code， 有 擅长做视频的，比如 view、 sora 和我们的 cds， 还有擅长软件工程的，比如 gm。 这里面闭源的模型像 gbt、 cloud、 gmail、 豆包、 mini max， 你 有 ai 服务器也没办法，你只能在服务器上面部署开源的 ai 大 模型，比如 kimi、 千问、 deepsea 和 glm 来生产 token， 至于选哪个，就要看生产销售的性价比了。 二、选设备。通常准备卖 token 这个生意都是看上我们的电力和工程师比较便宜，所以我们的 token 大 概是 美国 tok 的 五分之一到七分之一。而选择推理型的 ai 服务器或者说芯片，它的耗电量和维护量都更高，我们村的优势更大。而且推理服务器像五零九零芯片，它的产值也更有优势。这个在我之前的视频有说，后面也会单独出一期。 关于 tok 工厂的设备选择三、建厂选好模型和设备以后，就要选择一个 a、 i、 d、 c， 把我们的设备和模型部署进去， 基于稳定性的需求，现在 t 三级别以上的 a、 i、 d、 c 才能考虑。然后是选店和网络都便宜的地方，把 ai 服务器进行主网，然后安装大模型 进行统一调度，就可以不断地生产 token 出去了。四、运营销售有三种，一种是上架到 token 的 分发平台，像 openroot 直接在 openroot 上面开店就好了。 另一种是直接甩锅给云服务商，让云服务商去代卖，这种就需要缴纳高额的费用。还有就是自己去找，像高校影视动漫公司去分销。五、维护维保托肯工厂建好以后不是一劳永逸的，英伟达的 a f 武器的年维护量或者说故障率在百分之十五到百分之二十 是要维修或者说维护的。此外， tok 的 性价比也会动态变化，大厂们每个月都在 pk 谁家的模型号，也许这个月你卖 deep six 划算，下个月就是小米模型或者 g l m 了，大模型是需要动态调整的，如果对你有用，请点赞关注，我会持续更新，我们 tok 出海的过程也会提供相应的技术支持服务。

中型大模型专用燃烧芯片即将到来，这可能让本地超高速 token 深层真正成为现实，这会是英伟达最害怕的对手吗？专用定制硬件 tales 全新 p c i e 专用芯片 a s i c 能把中型模型 q a n 三点五杠二 g b 直接烧进芯片里。目前小模型已经实现。 teles 表示，二零二六年春季实验室就能跑起来。中型模型版本，想象一下， 再也不用加载模型权重，本地每秒近万 toon， 拉玛三点一八 b 已达一万七千 tps 标准电脑插槽功耗极低，低十倍，百分之一百离线运行，不用云服务器，不用显卡集群网传单价 三百到四百美元，想象一下，你的台式机就能实现超高速 toon 生成 ai 智能体，思考速度堪比光速，你准备好了吗？

大家好，今天我们用三分钟讲透 ai 产业底层商业逻辑。黄仁勋提出的 token 工厂经济学，首先明确核心概念。这里的 token 中文意思叫磁源，和虚拟货币、区块链没有任何关系，它是 ai 大 模型处理信息的最小数据单元，是 ai 时代的标准化产品。 黄仁勋这套理论的核心，就是把 ai 算力变成了一套标准化、可量化、可盈利的制造业体系，它彻底重构了数据中心的价值。 传统数据中心是存文件的仓库，而 ai 时代的数据中心就是一座二十四小时不间断生产 token 的 智能工厂。这座工厂的完整逻辑非常清晰， 电力是生产原料， ai 芯片与算力集群是生产核心的硬件底座， ai 服务器、高速光互联、液冷散热、高端 pcb 是 核心生产设备，最终产出的产品就是 ai token。 而整个工厂的核心 kpi 也是核心盈利密码就是 token w， 也就是每瓦电力能产出的 token 数量。核心目标就是在固定电力上限下最大化 token 产出，最小化单位 token 成本。为什么这个指标是行业黄金标准？因为黄仁勋点破了 ai 产业的物理铁律， 是 token 工厂不可突破的天花板。一个数据中心的供电总量是锁死的，单纯堆显卡、堆积柜没有长期意义。未来 ai 算率的竞争，本质就是效率的竞争。同等电力下， token w 越高，生产效率越高，单位成本越低，盈利能力就越强。这套经济学彻底改写了算力行业的游戏规则， 全产业链的价值平台都围绕能不能提升 token w 展开，而算力租赁就是 token 工厂产能的商业化分销出口。在这套思维下，行业竞争的核心早已不是单一芯片的比拼， 而是算力集群整体系统能力的提升。在这一赛道中国具备全球领先的核心竞争优势。首先是无可替代的电力成本优势。 剔除西部丰富的绿电资源与东数西算工程的全国算力网络布局，我们拥有全球极具竞争力的低电价，直接击穿 tiktok 工厂的核心成本线，从根源上拉高磁源瓦的核心效率。其次是全链条自主可控的配套优势，我们拥有光互联、 pcb、 叶冷等 tiktok 工厂全环节的全球核心产能， 供应链稳定性与成本优势独步全球。更关键的是全球顶尖的系统级优化能力，以华为 atlus 九百五十算力集群为典型代表，通过算力调度、网络协调、能效管理的全占优化，实现了万卡集群百分之九十以上的限行加速比， 把算力损耗降到最低，直接将磁源瓦效率拉至全球第一梯队。这些从能源底座、硬件配套到系统优化的全闭环优势，让中国在全球 toc 工厂的竞争中掌握了核心的效率话语权。 也正是基于这套核心逻辑，我们准备了三期系列节目，带大家完整梳理 tiktok 工厂的全产业链机会。第一期聚焦 tiktok 工厂的传输神经网络光互联赛道。第二期拆解工厂的硬件载体 与散热心脏， pcb 与夜冷赛道。第三期落到产能变现中局算力租赁赛道筛选同步高成长标地。感谢收听我们系列节目，再见！

最近 token 工厂这个概念很火，算力也很火，那么到底算力是什么呢？就比如说拿这个举例子，这是最近非常火的 h 两百，像 h 两百的话，他单卡是一百四十一 g 的 选存，也就是说八卡的话是一千一百二十八 g 的 选存， 这整个八卡的算力是三十二 p， 也就是说三十二千万亿次浮点预算每秒。那么 token 的 生产速度呢？我们之前测了一下，他去跑这种 deepsea 六百七十一 b 很 大的模型呢，他每秒钟大概能生产五千多个 token， 刚好我们有一批货在给客户交付，我们看一下测试的情况。

谷歌 jam 四震撼开源，全系支持处理图像和视频输入，一二 b 和一四 b 还留外兼容音频，手机实测效果已放在视频最后。记得看到底，四款模型从手机到工作站全覆盖，它以极小的参数规模实现了高水平的推理能力， 降低了本地部署算力的硬件门槛。更重要的是，它使用阿帕奇二点零协议，允许修改、分发和商用。在五年前的 iphone 十二 pro 上离线运行二 b 模型，兼顾隐私和效率。如 果你对延迟极度敏感，电脑部署二十六 b m 版本准没错，低功耗与强推里的完美平衡。

免费的头肯随便用，没有任何限制。最近使用了 oppo cola， 头肯是太费了，随便一用一下就用完了。 自己的这个 ai 开发软件，缺氧是免费，可以用各种模型，我就想这里能不能想点办法。然后借鉴了 oppo cola 的 思路，写了一个飞速机器人， 用手记上这个飞书啊，控制这个电脑上的翠。我现在给飞书机器人发一个消息啊，发一段指令。如何计算润年这个 new 呢？表示开启一个新的绘画啊，这里已经有四个绘画了，现在我们来发送， 你看啊。好，来了，产生了第五个新的绘画，现在他正在执行。 咨询完了以后呢，他会给我手机发送一个回复，是不是像 open core 一 样？差不多了， 接下来准备用 open core 去接入这个机器人，这样子有一些重型的写代码的工作就交给这个确认来做好了。这个确认呢，写本地的文件， 稍等片刻，瑞典已经即将完成， 现在马上要发送回来啊。这个呢，比调用 api 肯定是慢，因为这是个图形界面，但反正在手机上使用，不着急的话，我觉得也可以接受。 哇哦，不错呦，好消息来了，已经完成了日历的计算代码在哪里？怎么计算好？

真的好焦虑啊，大家还记得我在二月份就发过 oppo carl 吗？ a 股什么时候开始炒作的？三月初，然后慢慢炒，炒到后来又给 token 嘛？到现在还有不断的涨停啊，今天的 token 方向还是很多很多的涨停，甚至国内的电力没法出口嘛，那 token 呢？就可以代替电力，把出口卖到全世界嘛？但你们知道吗？现在就是 有那个服务器，你买回来啊，可以自己搭建大模型开源嘛？然后呢？搭建完之后呢，你可以自己做一个小型服务器，就是 toky 是不用花钱的本地化了，自己做服务器，自己提供 tok 呢。当然了，这个这个概念还没有开始炒作，我估计我现在讲这个事情要等到四月份才开始炒作。那 炒的不就是硬件吗？对吧？你自己搭建服务器，在家里买台，买台服务器回去大概几万块钱吧。但是你这样下去，一个小团队用这个 token 的话，用这个大模型的话，你是永远都不用 花钱，你只需花自己家的店，你自己家店又出不了国了。为什么？因为国外也在买这个服务器啊，那用自己的 token 自己的服务器，所以我觉得四月份五月份可能，呃，会延迟一点啊，这个消息就是可能到时候慢慢炒，慢慢炒，炒到后来就是还是炒的硬件， 因为你没有硬件，怎么搭建设备，你怎么搭建电力，你怎么样去生产自己的一个服务器，而是用自己本地化的，那到时候各种硬件，各种 cpu， 各种服务器， 各种存储，这些东西就慢慢变得更值钱了。所以我估计四月五月份还在往上发展，但比较慢。因为我二月份讲的三月份开始炒。那我三月份讲的可能四五月份才开始炒，对吧？你关注我，反正有任何逻辑任何消息呢，我都随你们讲。好吧，别失败。

如果你有一台闲置高配带显卡电脑，又有养虾想法，下面就是快速搭建本地算力的终极方案。 还能低成本用免费托肯第一步，在 windows 系统电脑下载 bug， 选它是为在龙虾出问题时更灵活维护业务架构上用欧拉玛运行各版本模型，用 openvpn 管理模型 api 为各类虾提供托肯远程 api 服务。 来吧，上 bgm 看实际效果展示， 新手或只想在本地电脑使用免费。