您是不是在找：

绘世玩家1周前
llama.cpp本地部署 llama.cpp本地部署&集成Qwen3.6大模型-效率起飞 #comfyui #ComfyUI教程 #llama #qwen
00:00 / 08:21
连播
清屏
智能
倍速
点赞53
Y.Ai3天前
llama.cpp合并了MTP功能，无痛加速两倍！ #mtp #openclaw #ai #本地部署 #hermesagent
00:00 / 02:59
连播
清屏
智能
倍速
点赞211
爱马仕4天前
没A100也能跑LLaMA？llama.cpp用CPU+量化让4G显存笔记本跑70B模型，4bit量化精度损失不到2%。#AI工具 #llama #大模型 #量化 #本地部署
00:00 / 01:03
连播
清屏
智能
倍速
点赞53
戈攀AI笔记1天前
第55期丨 Redis 大神跨界来了！2bit 量化降维打击，DeepSeek 本地推理彻底平民化！#开源 #deepseek #github #大模型 #AI
00:00 / 00:39
连播
清屏
智能
倍速
点赞238
疯狂码农1周前
双显卡llama.cpp本地运行gemma4-26B模型 英伟达 RTX 4060 8GB + RTX 4070 12 GB显卡本地部署gemma4-26b跑openclaw #gemma4 #llama.cpp #本地大模型部署 #openclaw本地模型
00:00 / 01:22
连播
清屏
智能
倍速
点赞52
搬砖最勤快3周前
5060TI16G 测试Llama和TurboQuant 测试Llama-cpp原版框架vsLlama-cpp-TurboQuant框架 同参数跑千问Qwen3.6-35b-a3b-Q4km速度对比 小显存卡确实太吃力了 结果还蛮奇特的 有点意外 评论区哥们@喵 #Qwen36 #TurboQuant #35ba3b #本地部署 #本地部署大模型
00:00 / 02:48
连播
清屏
智能
倍速
点赞130
遇见AI1月前
ClaudeCode +Llama.cpp本地部署 不是Ollama不可以，是Llama.cpp更有性价比。比Ollama推理更快的本地大模型部署方案，完美打通ClaudeCode，解放生产力～#Claude #Llama #本地部署 #AI编程
00:00 / 04:13
连播
清屏
智能
倍速
点赞272
周公子5天前
llama.cpp深度解析：纯C++实现的高效LLM推理框架 今天给大家带来llama.cpp深度解析，纯C++实现的高效LLM推理框架，无需GPU即可本地运行大模型。#AI #LLM #教程 #技术
00:00 / 03:03
连播
清屏
智能
倍速
点赞0
机智罗_LX5天前
AMD显卡专用ComfyUI整合包，AI整合包一键安装 AMD显卡专用的ComfyUI整合包： ✅已安装ComfyUI-Manager ✅已安装Triton ✅已安装Sage-attention（配套通用参数） ✅已安装llama_cpp ✅已安装小白工具箱 ✅内置24个专用基础工作流 #comfyui整合包 #AMD #AMD显卡 #AMD显卡整合包
00:00 / 09:03
连播
清屏
智能
倍速
点赞52
期海寻珍1周前
本地运行大模型，mac studio,llama.cpp huggingface 设置电脑配置，查找大模型，mac studio m2 ultra 192G内存， llama.cpp运行大模型文件，查看占用统一内存大小 #AI #本地运行大模型 #mac studio #llama.cpp #huggingface
00:00 / 04:38
连播
清屏
智能
倍速
点赞3
阿尔狄西亚1天前
llamacpp -sm tensor，显存利用率高，运行速度相当于vllm的74%
00:00 / 03:00
连播
清屏
智能
倍速
点赞4
AI踩坑指南1月前
提速20%！本地大模型的正确打开方式 ollama、lm studio和其他任何相似的工具其背后都是llama cpp。所以我们为什么不直接运行llama cpp呢？通过剥离额外的抽象层，我们可以立马获得20%的提速！ #普通人学ai #零基础学ai #实用ai工具 #本地部署大模型 #ai工具使用
00:00 / 02:35
连播
清屏
智能
倍速
点赞489
子非鱼3天前
MTP并入llama.cpp主线！ 周末折腾了两天C++编译支持MTP的llama.cpp成功了。最后才发现官方昨天竟然把MTP并入主线了。大家可以下载releases版本，不用再折腾编译环境了。#MTP #本地大模型部署 #llama.cpp #本地大模型
00:00 / 00:24
连播
清屏
智能
倍速
点赞6
找我呀AI知识助手1周前
5090D的24G显卡，实测qwen3.6:27b，推理能力和生成速度都非常的不错，适合各企业低成本试点部署大模型 #AI知识助手 #本地部署大模型模型 #ollama #llamacpp
00:00 / 03:11
连播
清屏
智能
倍速
点赞77
AI探趣星船长3周前
本地大模型也能 AI 编程！逼近 #GEMINI 3 效果 #干货分享，#邪修 玩法！ 不用付费 token，古董显卡跑本地#AI编程开源大模型#千问 ！ #程序员 速码！ Opencode + llama.cpp + Qwen3.6 + 2080TI 配置改完直接起飞！电脑都干冒烟了
00:00 / 01:03
连播
清屏
智能
倍速
点赞355
莫失莫忘2周前
5月4日 (1)(1) llama.cpp windows11 下源码编译#下源码编译 #llama#本地部署ai #Qwen #ai应用
00:00 / 03:26
连播
清屏
智能
倍速
点赞12
绘世玩家6天前
llama.cpp应用小案例&comfyui官方支持gemma4-提示词生成|图片&视频反推|音频解析~~~#comfyui #comfyui工作流 #ComfyUI教程 #llama
00:00 / 04:41
连播
清屏
智能
倍速
点赞4
不夜3周前
本地4种软件部署qwen3.6-27b性能测试 ollama,llama.cpp,LMstudio,vLLM本地部署测试#ollama#llamacpp#lmstudio#AI#vLLM
00:00 / 10:27
连播
清屏
智能
倍速
点赞159
智橙码域（Orange3dev）2年前
LLama.cpp Windows部署大模型 #llama2 #大模型 #openai #大模型部署 #llama
00:00 / 02:25
连播
清屏
智能
倍速
点赞94
大曼哒2月前
本地部署智能体：Qwen3.5 + Claude Code 本视频将演示如何使用 Llama.cpp 和 Claude Code 在本地安装 Qwen3.5 4B 模型 #claude #ai编程 #千问qwen #ai #智能体
00:00 / 06:07
连播
清屏
智能
倍速
点赞430
波哥的AI课1周前
告别付费 API ！Ollama本地模型+OpenClaw 零基础本地部署 Ollama 教程！Windows/Mac/Linux 全平台，5 分钟安装、一键拉取 Qwen/Llama3/DeepSeek 等模型，附 OpenClaw 对接配置，本地 API 永久免费、数据安全，多 Agent 开发必备！#OpenClaw #AI #Agent #Ollama #Hermes
00:00 / 05:02
连播
清屏
智能
倍速
点赞93
智慧工具坊1月前
8G显存也能起飞？llama.cpp+qwen模型深度调优 为什么显存没占满，速度却掉到了脚脖子？ 为什么 CPU 线程拉满，性能反而缩水 50%？ 本期视频带你实测 RTX 3050 8G 在运行 Qwen 3.5 9B 时的性能极限。 通过《三体》3 万字压力测试，深度拆解上下文长度、KV Cache 量化、Batch Size 以及 CPU 线程对推理速度的真实影响。 【核心调优结论】 8G 显存黄金平衡点：32k 上下文--ctx-size 64k 极限模式：必开缓存量化 --cache-type-k/v q4_0 预处理加速：调大吞吐量 --batch-size 远比增加 CPU 线程有效。#模型调优 #本地部署ai 【我的配置】显卡: 3050 8G | 内存: 32G DDR4 | CPU: i3-12100
00:00 / 06:03
连播
清屏
智能
倍速
点赞105
莫失莫忘3周前
4月27日(1) #opencode #qwen #AI应用 #大模型 #ai龙虾 #claudecode
00:00 / 02:01
连播
清屏
智能
倍速
点赞20
kate人不错6月前
Qwen3‑VL 在本地怎么选更稳 llama.cpp 新 Web UI 真的香 本期你将收获： - 如何快速上手 llama.cpp 新 Web UI（安装、启动、功能全览） - Qwen3‑VL 32B/A3B 与 Gemini 2.5、Claude Sonnet 4 的多场景实测对比 - GGUF vs MLX 的真实差异：OCR/边界框/长图/反光/复杂版式等 - JSON 模式、PDF 当图像、HTML/JS 内联、URL 参数输入等“提高生产力”的新功能 - 何时选 Unsloth/GGML 的 GGUF 版本，避免 LM Studio 版本问题 - 4B‑Thinking 与 Omni‑3B 的“思考力/语音理解”实测与适用场景 - 我的结论： - 本地优先选 GGUF（GGML/Unsloth），llama.cpp 新 Web UI 体验非常好 - 32B 在多数场景下更稳更准，A3B 速度快但有场景差异 - MLX 量化存在精度/边界框问题，社区正在修复 时间戳 00:00 开场 & 上期更正 02:24 llama.cpp 新 Web UI 上手 03:31 Qwen3‑VL‑32B 亮点与基准 04:20 多模型实测对比 09:01 GGUF vs MLX 实测 17:04 4B‑Thinking/Omni‑3B 实测
00:00 / 18:56
连播
清屏
智能
倍速
点赞43
一把老骨头1周前
国产龙虾Qwenpaw调用27B本地大模型速度实测 下一步继续挖llama.cpp性能...
00:00 / 03:32
连播
清屏
智能
倍速
点赞0
王耀鐭2月前
本地部署Qwen3.5: vllm VS llama.cpp #大模型部署 #大模型 #学习日常
00:00 / 07:32
连播
清屏
智能
倍速
点赞38
深火小号20241月前
llama.cpp一键优化35B 256K 40t/s 硬件配置CPU：i5-12400F内存：32GB显卡：RTX 4060Ti 16GB 模型与设置模型：Qwen3.5-35B-A3B Q4_K_M上下文：256K推理速度：稳定 40 token/s工具：llama.cpp + LlamaOptGUI 一键测速优化参数 方案本地部署大模型对接 OpenClaw，永久免费养虾，离线可用、无 Token 消耗、隐私安全 工具https://wwauw.lanzouu.com/i3ujt3lp45hg 密码:epri#openclaw #本地大模型 #llama
00:00 / 08:01
连播
清屏
智能
倍速
点赞11
IT运维神童2周前
全球13大顶尖AI大模型适用场景深度解析 Gemini、ChatGPT、Claude、Muse Spark、豆包、通义千问、DeepSeek、Kimi、Llama、腾讯元宝、智谱 GLM、MiniMax、文心一言全覆盖。拆解每款 AI 核心优势、致命短板、适配人群与使用场景，选AI看这一篇就够了。#AI #人工智能 #AI大模型 #AI新星计划
00:00 / 12:08
连播
清屏
智能
倍速
点赞813
不夜3周前
ollama,llama.cpp,LMstudio性能对比 ollama,llama.cpp,LMstudio性能对比，结果让我选择放弃ollama #ollama #llamacpp #lmstudio #AI #人工智能
00:00 / 08:19
连播
清屏
智能
倍速
点赞218
GPT研究室1月前
没GPU也能跑大模型 还在以为跑大模型一定要烧云 API、买大显卡？ Llama.cpp 就是在干一件很猛的事：把大模型往普通电脑、本地设备和边缘侧拉下来。 它凭什么火？ 用 GGUF 这种更适合本地部署的格式来装模型。 用量化把模型压小，内存占用直接降下来。 还能直接开本地 OpenAI 兼容接口，很多应用几乎就能无缝接上。 说白了， 这套东西真正打中的不是“炫技”，而是三件事：省钱、隐私、控制权。 你是更愿意一直租别人的 AI，还是把模型真正跑在自己手里？ #AI部署 #AI本地部署 #AI大模型 #AI学习 #大模型部署
00:00 / 06:15
连播
清屏
智能
倍速
点赞32
不夜3周前
vLLM本地部署性能测试 ollama,llama.cpp,LMstudio性能对比，结果让我选择放弃ollama#ollama #llamacpp#lmstudio#AI#人工智能
00:00 / 05:50
连播
清屏
智能
倍速
点赞31
小工蚁2年前
llama.cpp大神实现投机采样，让大模型推理性能直接翻番
00:00 / 07:10
连播
清屏
智能
倍速
点赞432
哈基米1周前
软件基本功能介绍 自创TensorRT 推理链路，纯cpp制作，RTX2070推理640*640仅需3ms; 外置依赖，未打包，减少查杀风险； 无GUI，纯命令行配置参数； 4个主模块：单次锁定，持续锁定，自动扳机，自动吸附；其中单次持续锁定均两套算法可选。#编程入门 #瓦 #双机AI #单机AI #YOLO
00:00 / 09:07
连播
清屏
智能
倍速
点赞449
【教程👀简介】讲大模型的KK2天前
18分钟带你手把手解析大模型微调技术！ 从原理本质到LoRA原理与实现机制。全程干货~大模型|LLM #大模型 #AI #人工智能 #模型微调 #干货分享
00:00 / 18:02
连播
清屏
智能
倍速
点赞82
小天fotos3月前
发现一个企业部署GLM4.7 Flash 生成速度的优化方案 TL;DR 视频中测试 4090 48g x2 unsloth q8 用ik_llama.cpp的测试分支 128k上下文可以到37t/s 优化前是22t 这个模型非常好用 等到这些优化到可用了，我出详细测评 #claudecode #aiagent #企业AI #本地部署 #glm47
00:00 / 04:44
连播
清屏
智能
倍速
点赞242
人间变量2周前
5 个神级 Skill 让 AI 越用越强 #AI #Claude #ChatGPT #gemini #codex
00:00 / 01:19
连播
清屏
智能
倍速
点赞137
阿轩的自动化实验室3周前
今天AI工具圈变天了 今天的 AI 工具圈有几条值得效率创作者和一人公司关注的变化：OpenAI 发布 GPT-5.5，Google 把企业 Agent 平台化，开源推理栈 vLLM、Transformers、Ollama、llama.cpp 继续高频更新。我的判断：接下来真正有价值的，不只是追模型名，而是把这些工具接进自己的工作流，减少重复判断和执行内耗。#AI工具 #自动化 #效率工具 #一人公司 #工作流 #人工智能 #科技新闻
00:00 / 02:47
连播
清屏
智能
倍速
点赞2
阿尔狄西亚1月前
llamacpp的 ngl 和 ncmoe 参数要好好利用
00:00 / 03:00
连播
清屏
智能
倍速
点赞9
赋范课堂1年前
使用llama.cpp做GPU+CPU混合推理QWQ-32B 性能比肩DeepSeekR1!?使用llama.cpp实现GPU+CPU混合推理QWQ-32B（附源码）#QWQ32B #DeepSeek #大模型 #人工智能
00:00 / 08:38
连播
清屏
智能
倍速
点赞89
龙丽坤1年前
免费GPU部署DeepSeek 671B动态量化模型全攻略 #deepseek #gpu #deepseek部署 #cuda #llamacpp 在这期视频中，我将介绍如何在免费GPU上部署动态量化的DeepSeek 671B模型，以显著提高推理效率并减少内存占用。
00:00 / 08:11
连播
清屏
智能
倍速
点赞471
哈瑞2年前
在本地运行llama3中文版大模型AI对话，确实是太强了 llama3中文版大模型结合lobechat，体验超级棒 #llama3 #lobechat #本地大模型 #AI对话 #AI教程
00:00 / 02:53
连播
清屏
智能
倍速
点赞2482
小北爱滑雪1年前
想拥有一个免费的ChatGPT？教你本地部署最新开源大模型 使用LM Studio部署最新开源的大模型Llama 3.2
00:00 / 02:40
连播
清屏
智能
倍速
点赞33
AI大陈哥2年前
Raspberry Pi-5上运行Llama-3等模型指南 Raspberry Pi-5上已经可以使用Llama-3模型，只需要安装ollama就可以一键启用对话，非常简单。大模型在端侧的应用将会越来越多，适用端侧的模型也会越来越多。#大模型 #人工智能 #Llama #树莓派 #程序员
00:00 / 00:47
连播
清屏
智能
倍速
点赞3306
小工蚁2年前
TGI 0.9.3新功能介绍和演示 支持Llama2和Flash AttentionV2 #小工蚁 #llama2
00:00 / 05:45
连播
清屏
智能
倍速
点赞181
归宗智能Francis1年前
Raspberry pi-5运行Llama-3等模型指南只需要安装ollama就可以一键启用对话。#人工智能 #大模型 #程序员 #Llama
00:00 / 01:03
连播
清屏
智能
倍速
点赞51
智驭导师授AI11月前
端侧部署llama.cpp+人机视觉对话应用：第3集
00:00 / 08:49
连播
清屏
智能
倍速
点赞4
晓辉博士1年前
把AI训练成第二个你 你有没有想过，用你自己的经历和记忆训练一个能完全代表你的AI？最近Llama4的发布号称有1000万的上下文长度，让我再次想起了前一阵子看到的，陶芳波博士的项目Second Me。短短时间，这个开源项目就在Github上收获了几千个Star，也足以看出这个愿景的吸引力。非常期待这个项目接下来的进展。#AI #SecondMe #陶芳波 #MindVerse #心识宇宙
00:00 / 05:47
连播
清屏
智能
倍速
点赞1811
北大学渣宇凡（AI版）2年前
llama3带动全球大模型更新？ meta更新了最新版开源大模型，700B参数版本或成最强开源模型。看来国内外又有一堆自研大模型要升级了#llama模型 #chatgpt
00:00 / 01:51
连播
清屏
智能
倍速
点赞331
晓辉博士1年前
AI的记忆有多长？前沿模型为何都在PK上下文长度 最近OpenAI的GPT 4.1和Llama4 Scout都是主打长上下文，突破了以往很多模型128k或200k的限制，来到100万，甚至1000万的上下文窗口。今天来系统聊聊什么是大模型的上下文？为什么突破增加上下文窗口那么难？以及接下来还有哪些新的可能性。#AI #上下文 #GPT4.1 #Llama4 #模型上下文
00:00 / 10:07
连播
清屏
智能
倍速
点赞2325
小宇玩AI1月前
Ollama 其实是 llama.cpp 的壳子 你家里跑的 Ollama，其实是改名换姓的 llama.cpp 壳子——慢 80%、不归属、把蒸馏模型当旗舰卖、还偷偷走云。 开源精神就一条：能用、可验证、别装孙子。Ollama 这四件事全占反。 视频里给你四个替代品，今天就能换。 #Ollama #llamacpp #本地AI #开源 #小宇玩AI
00:00 / 02:59
连播
清屏
智能
倍速
点赞1791
舆元靝相4天前
两张 2080Ti 22G能不能跑起本地千问 3.6？ #Agent #大龙虾 #ClaudeCode #蒸馏 #量化回测
00:00 / 01:56
连播
清屏
智能
倍速
点赞34
小工蚁2年前
腾讯开源LlaMA Pro增强LLM性能新方法，打造行业模型 #小工蚁
00:00 / 06:19
连播
清屏
智能
倍速
点赞201
博弈3月前
通过6张2080ti显卡使用llama.cpp运行MiniMax-M2.1-UD-IQ3_XXS.gguf量化版大模型，使用opencode，并安装skill两款插件superpowers和ui-ux-pro-max，目前MiniMax-M2.1对工具的调用还有欠缺，希望年前用上更新的大模型MiniMax-M2.2，对做T程序进行界面更新，新增个股可T记录优先独立显示，新增个股信息详细显示，可快速根据价格和持仓数量，以及可T数量进行判断，优化实时数据的显示，高亮可T个股持续显示，进一步提供操作效率，减少工作量，财经资讯系统同步更新中，后续将会整合到主程序，进行实时显示#大模型 #量化 #量化交易
00:00 / 00:32
连播
清屏
智能
倍速
点赞551
YouTube热点解说5天前
Meta AI帝国周末崩塌？🤯 2023年靠Llama完全免费开源拿下十亿下载量，Meta本已是AI界“救世主”。但2025年初DeepSeek V3以仅十分之一的训练成本追平性能，直接逼出硅谷恐慌。4月5日周六Meta突袭发布Llama 4，结果Behemoth模型未训练完就上线，基准测试数据遭疑造假，叠加图灵奖得主出走，开发者信任瞬间归零。 #Meta #Llama4 #开源AI #AI行业 #科技资讯 #M e#L l#开 源#A I#科技资讯I行业源AIlama4eta
00:00 / 08:56
连播
清屏
智能
倍速
点赞12
杨九五2年前
llama3 fine-tuning｜ 使用llama.cpp 量化Llama3模型｜GPT4All
00:00 / 16:34
连播
清屏
智能
倍速
点赞7
博弈5月前
通过6张2080ti22G版本，使用llama.cpp运行GLM-4.5-Air-Derestricted，128K上下文占用显存120G左右，大模型去除限制，智商已达最高，使用vscode插件roo code对通过newapi进行对接大模型的api调用，可达30token/s以上，当上下文占用50%时，速度降为10token/s左右，跑满128K，在8token/s左右，对做T程序进行了长达5个月的模拟，程序版本更新为V0.01.041，新增利润统计显示功能，已实现稳定盈利，月2-3%收益，年化20%-30%收益，3年可翻倍本金，最大回撤资金不超过5%，下一步将对接qmt实时显示数据，自动化做T，实现桌面版程序，预计6个月后开启实盘挑战#大模型 #2080ti #做T
00:00 / 00:38
连播
清屏
智能
倍速
点赞1282
老段AI2月前
【反应飞快】让openclaw速度快的要起飞了 openclawoy 用llama.cpp平台部署的本地大模型，速度快的起飞，基本秒出 #openclaw
00:00 / 02:56
连播
清屏
智能
倍速
点赞130
kate人不错1年前
bitnet.cpp 推理，速度超越 llama.cpp，内存最高降低 16 倍 #LLM #人工智能 #AI
00:00 / 08:31
连播
清屏
智能
倍速
点赞41
雷雷19921周前
github每日热榜#代码工具 #代码平台 #github #ai
00:00 / 05:21
连播
清屏
智能
倍速
点赞39
火星时代AI创作学院1周前
60秒学会部署本地AI 别再把你的私密文档喂给联网 AI 了，也别再为每月20刀的订阅费买单了！今天教你把Llama 3、DeepSeek 这些顶级大模型，直接“搬”进你自己的电脑。不花一分钱，断网也能用，关键是——绝对隐私。 #AI教程 #AIGC #AI本地化 #AI干货 #AI技巧
00:00 / 01:11
连播
清屏
智能
倍速
点赞18
AIGC 蛮子1月前
实现Token自由，本地llama cpp搭建快速本地模型 【openclaw 保姆级基础教程】实现openclaw Token自由，本地llama cpp搭建快速本地模型#龙虾 #智能体 #模型 #qwen3 #llamacpp
00:00 / 06:58
连播
清屏
智能
倍速
点赞44
信息蒸馏室3天前
扎克伯格的AI翻盘，靠一个局外人 扎克伯格花了天价把他挖进Meta，然后他消失了九个月。十个月后他第一次开口，讲了一件所有人都猜错的事：Llama掉队，不是技术问题。 #Meta #AI #AlexWang #超级智能 #ScaleAI
00:00 / 08:22
连播
清屏
智能
倍速
点赞54

简介:

您在查找“llama.cpp新功能”短视频信息吗？帮您找到更多更精彩的短视频内容！最新发布时间：2026-05-20 06:19

最新推荐:

相关推荐:

热门推荐: