您是不是在找：

禅影6天前
按键精灵 如何接入大语言模型 豆包
00:00 / 03:56
连播
清屏
智能
倍速
点赞323
程序员老元6天前
挑战11分钟搞定，LLM大语言模型推理加速指南 #人工智能 #大模型 #AI大模型 #大语言模型 #LLM
00:00 / 11:20
连播
清屏
智能
倍速
点赞31
爱思考的老梨11月前
一文看懂大语言模型 #掘金计划2025 #人工智能 #deepseek
00:00 / 21:21
连播
清屏
智能
倍速
点赞1853
程序员老元5天前
挑战14分钟搞定，vLLM内部原理深度解析 #人工智能 #大模型 #AI大模型 #vLLM #大语言模型
00:00 / 14:18
连播
清屏
智能
倍速
点赞65
大模型最新论文6天前
搜索大模型的最优推理路径 #大模型 #人工智能 #DeepSeek #深度学习 #科普
00:00 / 08:26
连播
清屏
智能
倍速
点赞22
阿k的自由生活1周前
正确的学习路线，事半功倍！！！ #计算机 #程序员 #大模型 #大语言模型 #人工智能
00:00 / 00:42
连播
清屏
智能
倍速
点赞26
阿k的自由生活1周前
正确的学习路线，事半功倍！！！ #计算机 #程序员 #大模型 #大语言模型 #人工智能
00:00 / 00:42
连播
清屏
智能
倍速
点赞9
岁月静好@宁@君2周前
TileRT超低延迟的大语言模型推理系统 欢迎来到本期视频！今天我们要介绍一个令人兴奋的项目 —— TileRT。 你知道吗？TileRT 比传统的 vLLM 推理系统快了 35%！这意味着延迟降低了 35%，实现了真正的毫秒级响应。 TileRT 的全称是 Tile-Based Runtime，它是一个专注于超低延迟的大语言模型推理系统。 那么，TileRT 是如何做到比 vLLM 更快的呢？它采用了三大核心技术：第一，Tile 级调度，将算子分解为细粒度的任务，实现高度并行；第二，编译器驱动，在编译时生成优化的执行计划；第三，零质量损失，在不牺牲模型精度的前提下实现极致性能。 TileRT 专门针对 8 块 NVIDIA B200 GPU 和 DeepSeek-V3.2 模型进行了深度优化。 在接下来的视频中，我们将深入探讨 TileRT 的技术细节，看看它是如何实现这 35% 的性能提升的。#cuda #推理加速 #大模型#创作者扶持计划 #创作灵感上热门
00:00 / 12:22
连播
清屏
智能
倍速
点赞14
吴恩达-AI大模型1周前
吴恩达教授大语言模型微调之道——使用技巧 #大模型 #吴恩达 #大模型微调 #LLM #大模型学习
00:00 / 04:55
连播
清屏
智能
倍速
点赞34
极客大鱼6月前
搞懂大模型第三课，岗位硬核技术篇——RAG检索增强生成 #大模型 #AI #人工智能 #大语言模型 #程序员
00:00 / 31:26
连播
清屏
智能
倍速
点赞25
搞算力的田老师8月前
除了大语言模型，还有哪些消耗算力大？ #服务器 #人工智能 #英伟达 #计算机 #算力 @DOU+小助手
00:00 / 02:07
连播
清屏
智能
倍速
点赞439
华为云7月前
大模型训练存储解决方案，基于SFS Turbo三级缓存加速，减少AI算力等待，节省训练算力成本；大模型推理存储解决方案，基于EMS超节点超平面对等池化，提升推理效率，节省算力资源！#HDC2025#华为云AINative智算存储#华为云
00:00 / 04:06
连播
清屏
智能
倍速
点赞33
AI费曼5月前
LLM推理过长，缺乏精确计算能力。 清华提出“工具集成推理（TIR）”方案，准确率提升15pp
00:00 / 02:01
连播
清屏
智能
倍速
点赞29
大语言模型3月前
程序员转行大模型应用开发，按这个路线冲就足够了 #程序员 #大模型应用 #ai #LLM #Agent
00:00 / 00:44
连播
清屏
智能
倍速
点赞14
岁月静好@宁@君2周前
vLLM 高性能大语言模型推理引擎的深度解析 欢迎来到 vLLM 高性能大语言模型推理引擎的深度解析。 vLLM 是一个专为大语言模型推理优化的高性能引擎，它的设计目标是在保证推理质量的前提下，最大化吞吐量并优化内存使用效率。 vLLM 的三大核心技术包括： 第一，PagedAttention 内存管理策略，实现高效的 KV 缓存管理。 第二，连续批处理技术，动态组织不同长度的序列，消除等待时间。 第三，高吞吐量设计，相比传统方案可以实现 2 到 4 倍的性能提升。 在接下来的内容中，我们将深入解析 vLLM 的架构设计、工作原理和调度策略，帮助你全面理解这个优秀的开源项目。 #vllm #大模型#创作者扶持计划 #创作灵感上热门 #deepseek本地部署的详细步骤
00:00 / 18:20
连播
清屏
智能
倍速
点赞32
岁月静好@宁@君3周前
vllm-大模型高效推理框架入门 欢迎来到vLLM快速入门指南。 vLLM是一个用于快速高效部署大型语言模型的开源库，特别优化了高吞吐量推理，在生产环境中部署语言模型时非常受欢迎。 它具有开源、高性能、易部署、与OpenAI API兼容等特点，是生产环境中部署大语言模型的理想选择。 让我们开始这段学习之旅，深入了解vLLM的核心技术和使用方法。#vllm #deepseek #pytorch #创作者扶持计划 #创作灵感上热门
00:00 / 15:43
连播
清屏
智能
倍速
点赞34
阿k的自由生活1周前
正确的学习路线，事半功倍！！！ #计算机 #程序员 #大模型 #大语言模型 #人工智能
00:00 / 00:42
连播
清屏
智能
倍速
点赞15
野生AI产品3月前
第八讲：大型语言模型的推理过程不用太长、夠用就好-李宏毅 李宏毅（2025）春《生成式AI時代下的机器学习》 https://speech.ee.ntu.edu.tw/~hylee/ml/2025-spring.php - 已联系李宏毅老师得到转载许可 该课程的目标受众为初学者，不需要任何先验知识，也不要求学生事先修过机器学习或人工智能课程，欢迎每个感兴趣的同学参加。 #AI #李宏毅机器学习 #ChatGPT #DeepSeek #人工智能
00:00 / 24:23
连播
清屏
智能
倍速
点赞0
今天又加班6天前
假如你从26年1月开始学大模型，按这个步骤准能稳步进阶 #大模型 #大语言模型 #人工智能 #计算机 #程序员
00:00 / 00:57
连播
清屏
智能
倍速
点赞27
阿k的自由生活1周前
正确的学习路线，事半功倍！！！ #计算机 #程序员 #大模型 #大语言模型 #人工智能
00:00 / 00:42
连播
清屏
智能
倍速
点赞12
今天又加班2周前
无脑堆128k上下文，浪费token白烧钱 #大模型 #大语言模型 #人工智能 #计算机 #程序员
00:00 / 00:55
连播
清屏
智能
倍速
点赞34
Hugging Face AI 论文1周前
Multiplex Thinking: Reasoning #这项研究介绍了一种名为Multiplex Thinking的创新推理机制，旨在提升大语言模型在处理复杂逻辑任务时的效率与性能。传统的思维链（CoT）通常依赖冗长的离散Token序列，而该方法通过在每一步采样多个候选Token并将其聚合为单个连续的多路复用Token，实现了对多种推理路径的并发表示。这种设计不仅保留了离散采样的随机性，还允许模型通过强化学习（RL）直接优化推理轨迹。实验证明，该技术在多项具挑战性的数学基准测试中表现优异，能够以更短的序列长度超越传统的离散推理基线。本质上，它通过在不确定的步骤中压缩信息，在维持低计算成本的同时显著增强了模型的探索能力。 arXiv: 2601.08808 #AI #Research #Arxiv #MachineLearning
00:00 / 06:26
连播
清屏
智能
倍速
点赞1
梯度不下降6天前
很变态但却能让你六周吃透大模型的方法！赶紧去试试！ #大模型 #AI #人工智能 #大语言模型 #程序员
00:00 / 00:52
连播
清屏
智能
倍速
点赞45
今天又加班1周前
假如你从26年1月开始学大模型，按这个步骤准能稳步进阶 #大模型 #大语言模型 #人工智能 #计算机 #程序员
00:00 / 00:49
连播
清屏
智能
倍速
点赞17
上海开放处理器产业创新中心5月前
大语言模型推理部署RISC-V服务器应用及架构研究 17日主论坛演讲：大语言模型推理部署RISC-V服务器应用及架构研究 嘉宾：石义军，中兴微电子副总经理 #RISCV #2025RISCV中国峰会 #第五届RISCV中国峰会 #RISCV中国峰会
00:00 / 14:40
连播
清屏
智能
倍速
点赞0
大模型学习路线1月前
挑战30天带你学会大模型应用开发(第十八期) #AI#大模型#LLM#大语言模型#大模型学习
00:00 / 13:20
连播
清屏
智能
倍速
点赞28
AI大模型杰睿1周前
什么是大语言模型（LLM）？ #AI大模型#大模型学习#AI#大模型课程#大语言模型
00:00 / 08:17
连播
清屏
智能
倍速
点赞24
中国自动化学会2月前
中国科学院自动化研究所张启超：大语言模型推理技术
00:00 / 17:58
连播
清屏
智能
倍速
点赞25
黑马程序员视频库6天前
大模型Python语言进阶- 第3章-闭包和装饰器-01.昨日反馈处理#大模型 #Python #数据结构与算法 #人工智能
00:00 / 26:24
连播
清屏
智能
倍速
点赞3
智富学长5天前
#大语言模型 #LLM #人工智能 #高科技 #知识分享 @抖音小助手 @DOU+上热门 @DOU+小助手
00:00 / 01:49
连播
清屏
智能
倍速
点赞6
AI光影社-小清一号8月前
每天一个AI知识-0429 ICLR年度提名：大小模型的高效协作 大语言模型虽然功能强大，但推理成本高。传统级联方法节省资源但效率低，推测解码虽提升速度，却未能充分发挥小模型优势。谷歌团队提出了推测级联方法，将两者结合：小模型生成时，大模型并行验证，并通过基于置信度比较的动态决策规则智能选择最优输出。这一“动态分工”策略为高效AI推理提供了新思路，未来有望推动智能应用实现更实时、低成本的落地。 资料来源：https://openreview.net/forum?id=Cr9Oj223f6 参考文献：Narasimhan, H., Jitkrittum, W., Rawat, A. S., Kim, S., Gupta, N., Menon, A. K., & Kumar, S. (2024). Faster Cascades via Speculative Decoding. CoRR. #人工智能
00:00 / 00:51
连播
清屏
智能
倍速
点赞0
量子图书馆6天前
0121|啃大模型论文不再懵！《图解大模型》把抽象概念变直观图解，树状模板提准确率，前沿技术全讲透～#大模型 #大语言模型 #ai #人工智能 #技术分享 #涨知识 #进阶 #技术
00:00 / 00:53
连播
清屏
智能
倍速
点赞2
@木雁6天前
#上热门 #科普 #知识分享 @DOU+小助手
00:00 / 01:04
连播
清屏
智能
倍速
点赞1
Ai大模型惊蛰1周前
挑战13分钟搞定：Ai大模型企业落地实战教学！从0-1-面试-offer！#人工智能 #大模型 #Ai大模型 #大语言模型 #程序员
00:00 / 13:25
连播
清屏
智能
倍速
点赞70
冠哥读书讨论（AI大模型入门）1周前
处理文本数据（一） #我就这样开启2026 #抖音合集升级计划 #在拍一种很新的vlog 1、为大语言模型的训练准备文本数据集 2、将文本分割成词和子词token 3、字节对编码（Byte Pair Encoding，BPE）：一种更为高级的文本分词技术 4、使用滑动窗口方法采样训练示例 5、将tokens转换为向量，输入到大语言模型中
00:00 / 10:21
连播
清屏
智能
倍速
点赞8
最新AI论文深度解读，每日更新5天前
Render-of-Thought: Rendering T #这项研究介绍了一种名为Render of-Thought (RoT)的新型框架，旨在解决大型语言模型在执行思维链（CoT）推理时因文本过于冗长而导致的计算开销问题。该方法创断性地将传统的文字推理步骤转化为图像，并利用多模态模型的视觉编码器作为语义锚点，将推理过程压缩进视觉潜空间。通过这种“以图代文”的模式，模型能够生成连续的视觉嵌入而非离散的字符，从而在保持推理逻辑透明且可追溯的同时，显著提升运算速度。实验数据表明，该技术实现了3到4倍的Token压缩率，并大幅缩短了推理延迟。研究人员采用两阶段训练策略，先完成文本与视觉空间的对齐，再通过自回归方式引导模型自主完成潜空间推理。总体而言，该成果为提升大模型推理效率提供了一种兼顾性能、可解释性与即插即用特性的新范式。 arXiv: 2601.14750 #AI #Research #Arxiv #MachineLearning
00:00 / 07:29
连播
清屏
智能
倍速
点赞0
黑马程序员视频库5天前
大模型Python语言进阶- 第3章-闭包和装饰器-08.装饰器入门-传统写法#大模型 #Python #数据结构与算法 #人工智能
00:00 / 27:59
连播
清屏
智能
倍速
点赞3
退休的老辰(籽料简介)4天前
这篇大模型大模型ReAct入门篇真的配享太庙 ReAct (Reason-Action) 是一种 Prompt Engineering 框架，为语言模型提供了一种推理和行动的策略，以应对用户请求。 流程如下： 1. 用户发送请求：流程始于用户向 Agent 发送请求 2. Agent 启动 ReAct 序列：Agent 接收到用户请求后，开始 ReAct 序列 3. 模型生成下一步 ReAct 步骤及输出： ❓ Question（问题）：将用户的问题提供给模型，作为模型思考和决策的基础 🧠 Thought（思考）：模型根据问题进行内部思考，分析应该采取的下一步行动，这一步体现了模型基于已有知识和推理能力对问题的理解 💪 Action（行动）：模型决定接下来要采取的行动，这可能是选择一个已知工具，这个选择决定了 Agent 将如何与外部世界或其他组件交互 📩 Action input（行动输入）：如果在行动步骤中选择了某个工具，模型会决定为该工具提供什么样的输入参数，以确保工具能够正确执行任务 （如果需要，上述思考-行动-输入-观察的步骤可能会重复多次） 👀 Observation（观察）：前两部得到的结果，为模型提供了新的信息，用于进一步的推理和决策 ✅ Final answer（最终答复）：模型对于用户请求的最终答复#大模型 #大语言模型 #大模型微调 #大模型应用 #ReAct
00:00 / 00:12
连播
清屏
智能
倍速
点赞58
知识小海螺3月前
DeepSeek-V2-系列_3_经济性、推理效率和顶尖性能 #人工智能 #大语言模型 #DeepSeekV2 #高效计算 #模型性能
00:00 / 09:08
连播
清屏
智能
倍速
点赞4
默2周前
动手实践 想搞懂大模型为什么能 “听懂指令、生成内容”？这份入门大纲帮你快速解锁核心逻辑：从数据准备、模型搭建、训练拟合，到微调验证、实际应用，串联词向量、注意力机制等关键知识点，用通俗逻辑拆解大模型从 “空白” 到 “可用” 的全流程，小白也能轻松理解～ #ai新星计划 #人工智能 #ai #知识分享 #青年创作者成长计划
00:00 / 22:51
连播
清屏
智能
倍速
点赞21
懂点AI的海文老师2周前
怪不得大家都在年底学大模型，高效的学习路线能让你少走一半弯路 #大模型 #AI #人工智能 #大语言模型 #程序员
00:00 / 00:50
连播
清屏
智能
倍速
点赞59
程序员老元2周前
挑战16分钟搞定，Transformer算法深度解析 #人工智能 #大模型 #AI大模型 #大语言模型 #Transformer
00:00 / 16:59
连播
清屏
智能
倍速
点赞99
量子图书馆1周前
0119|大模型公式堆到劝退？《图解大模型》300+全彩图+通义千问独家解析，漫画式讲解踩平技术门槛！#大模型 #大语言模型 #ai #人工智能 #技术分享 #涨知识 #进阶 #技术
00:00 / 00:52
连播
清屏
智能
倍速
点赞0
大语言模型2周前
😱建议学大模型的真可以去看上交大的《动手学大模型》教程！ #agent #LLM #AI #大模型教程 #大模型应用
00:00 / 00:43
连播
清屏
智能
倍速
点赞1378
老鸣TV1月前
2+2，这个世界上最简单的问题，需要AI大语言模型来解决吗？ #知识前沿派对 #科普一下
00:00 / 18:11
连播
清屏
智能
倍速
点赞6740
Hugging Face AI 论文1周前
Spurious Rewards Paradox: Mech #这项研究探讨了强化学习（RLVR）如何意外触发大语言模型（如 Qwen 2.5）的记忆捷径，而非增强其真正的推理能力。作者发现了**“困惑度悖论”：虽然模型在答案上的预测更准确，但其对提示词的理解力却在下降，这表明模型正在利用预训练中接触过的污染数据**。通过多种解释性技术，研究确定了模型内部存在一个**“锚点-适配器”电路**，其中中间层充当检索记忆的功能锚点，而后期层则作为结构适配器来转化信号。实验进一步证明，通过缩放 MLP 神经元可以人为放大或抑制这种记忆激活效应，实现对模型行为的因果干预。该发现为识别和缓解大模型中的数据污染提供了重要的机械化路线图。 arXiv: 2601.11061 #AI #Research #Arxiv #MachineLearning
00:00 / 07:50
连播
清屏
智能
倍速
点赞0
不会歌唱的老周5天前
第1集 黑箱：如何思考大语言模型 如何思考大语言模型？探索模型和语言之间连接的桥梁！#大模型#人工智能 #逻辑思维能力 #多模态人工智能 #算法
00:00 / 09:05
连播
清屏
智能
倍速
点赞12
黑马程序员视频库6天前
大模型Python语言进阶- 第3章-闭包和装饰器-02.今日内容大纲介绍#大模型 #Python #数据结构与算法 #人工智能
00:00 / 06:35
连播
清屏
智能
倍速
点赞1
七喜_AI大模型1周前
手写deepseek-R1模型微调教程 #大模型#ai#程序员#人工智能#ai大模型
00:00 / 12:51
连播
清屏
智能
倍速
点赞140
一灯同学（AI 版）2周前
如何更好的使用 LLM 通用大语言模型工具，大神卡帕西给了些建议，你有哪些好用的 ai 工具和使用方法，评论区一起交流吧#ai工具 #经验分享
00:00 / 05:02
连播
清屏
智能
倍速
点赞1
大语言模型6天前
1.5小时练完这些，🙉你的大模型就很牛了 #agent #LLM #rag #ai #大模型开发
00:00 / 00:26
连播
清屏
智能
倍速
点赞185
默3周前
分类微调 想搞懂大模型为什么能 “听懂指令、生成内容”？这份入门大纲帮你快速解锁核心逻辑：从数据准备、模型搭建、训练拟合，到微调验证、实际应用，串联词向量、注意力机制等关键知识点，用通俗逻辑拆解大模型从 “空白” 到 “可用” 的全流程，小白也能轻松理解～ #ai新星计划 #人工智能 #ai #知识分享 #青年创作者成长计划
00:00 / 06:04
连播
清屏
智能
倍速
点赞13
Hugging Face AI 论文6天前
Advances and Frontiers of LLM- #这份研究资料系统地探讨了利用大型语言模型（LLM）自动修复软件漏洞的最新进展与评估体系 文档详细分类了无需训练的改进方法，例如通过推理阶段的算力扩展、多代理协作框架以及记忆系统来增强模型的逻辑推演能力。文中对比了 SWE-bench 等多个主流基准测试集，并分析了 OpenHands 和 Agentless 等不同工作流在实际任务中的表现差异。作者不仅关注修复成功率等核心指标，还指出当前评估体系在推理成本和响应效率方面的缺失。此外，资料还描绘了从简单的代码补全向具备自主环境交互能力的端到端智能软件工程师演进的行业趋势。 arXiv: 2601.11655 #AI #Research #Arxiv #MachineLearning
00:00 / 07:10
连播
清屏
智能
倍速
点赞0
炮老师的小课堂9月前
借助大语言模型！让你轻松摆脱提示词词穷焦虑 #runninghub #comfyui #comfyui工作流 #comfyui教程 #ai绘画 节点GIT： https://github.com/SeargeDP/ComfyUI_Searge_LLM
00:00 / 04:27
连播
清屏
智能
倍速
点赞41
带着机灵闯江湖4天前
只用3个月，老奶都能学会怎么治好模型幻觉 #Ai大模型 #大语言模型 #计算机 #程序员 #人工智能
00:00 / 01:04
连播
清屏
智能
倍速
点赞37
阿k的自由生活4天前
如何让老奶个月学会Ai大模型 #计算机 #程序员 #大模型 #大语言模型 #人工智能
00:00 / 00:57
连播
清屏
智能
倍速
点赞22
KKK来了3周前
模型太大跑不动？ #计算机 #大模型 #大语言模型 #人工智能 #程序员
00:00 / 00:45
连播
清屏
智能
倍速
点赞25
带着机灵闯江湖4天前
只用3个月，老奶都能学会怎么治好模型幻觉 #Ai大模型 #大语言模型 #计算机 #程序员 #人工智能
00:00 / 01:04
连播
清屏
智能
倍速
点赞31
@坤4天前
小智后台更新了语言模型，开源版，后续只能使用小智lite这个模型#小智ai
00:00 / 00:24
连播
清屏
智能
倍速
点赞22
默3周前
指令微调 想搞懂大模型为什么能 “听懂指令、生成内容”？这份入门大纲帮你快速解锁核心逻辑：从数据准备、模型搭建、训练拟合，到微调验证、实际应用，串联词向量、注意力机制等关键知识点，用通俗逻辑拆解大模型从 “空白” 到 “可用” 的全流程，小白也能轻松理解～ #ai新星计划 #人工智能 #ai #知识分享 #青年创作者成长计划
00:00 / 07:09
连播
清屏
智能
倍速
点赞19
今天又加班1周前
假如你从26年1月开始学大模型，按这个步骤准能稳步进阶 #大模型 #大语言模型 #人工智能 #计算机 #程序员
00:00 / 00:50
连播
清屏
智能
倍速
点赞54
大模型最新论文2周前
大小模型协作新模式 小模型 slm 大模型 llm 接力生成 token，降低 98% 的计算开销 #大模型 #人工智能 #大模型推理
00:00 / 09:32
连播
清屏
智能
倍速
点赞14
KKK来了3周前
模型太大跑不动？ #计算机 #大模型 #大语言模型 #人工智能 #程序员
00:00 / 00:45
连播
清屏
智能
倍速
点赞12

简介:

您在查找“大语言模型推理节省计划在哪里关”短视频信息吗？帮您找到更多更精彩的短视频内容！最新发布时间：2026-01-24 07:23

最新推荐:

相关推荐:

热门推荐: