您是不是在找：

智橙码域（Orange3dev）1年前
LLama.cpp Windows部署大模型 #llama2 #大模型 #openai #大模型部署 #llama
00:00 / 02:25
连播
清屏
智能
倍速
点赞60
Aiwood爱屋研究室3周前
开源绝唱？如何在Comfyui部署qwen3.5
00:00 / 05:03
连播
清屏
智能
倍速
点赞73
大曼哒2周前
本地部署智能体：Qwen3.5 + Claude Code 本视频将演示如何使用 Llama.cpp 和 Claude Code 在本地安装 Qwen3.5 4B 模型 #claude #ai编程 #千问qwen #ai #智能体
00:00 / 06:07
连播
清屏
智能
倍速
点赞135
IWebCore1月前
IMakeCore 安装 IMakeCore 是一款基于c++源代码，跨平台的，建立在 cmake和 qmake 上的包管理系统。 用户可以使用该包管理系统轻松管理项目依赖的包。 #IWebCore #IMakeCore #cpp #包管理
00:00 / 12:35
连播
清屏
智能
倍速
点赞3
旧溟9月前
37lmstudio安装与4all无法打开 #ppt#系统#电脑好像有情绪了#软件#论文#html教程#ddb文件怎么打开# 毕业论文#程序员#ai#电脑知识#软件开发 #linux#html#data分区加密怎么解除#python#计算 机#w[ndows#电脑#编程#毕业论文#电脑知识#ai#数码科技#平板电脑#二手笔记本#编程#系统#平 板#笔记本电脑#diy电脑#电脑好像有情绪了# 计算机#deepseek电脑版#linux#windows# 电脑#等高线透光键盘2.0#操作系统#电脑系统重装教程#笔记本 #移系统启动盘##移系统windows#电脑操作#操作系统windows#笔记本 移系统#操作系统#移系统pe#电脑#windows#diy电脑#平橱
00:00 / 08:12
连播
清屏
智能
倍速
点赞3
智橙码域（Orange3dev）1年前
LLama.cpp编译部署大模型 #llama2 #大模型 #大模型部署 #openai #llama @DOU+小助手
00:00 / 02:18
连播
清屏
智能
倍速
点赞20
KKGoAI2年前
教你搭建本地AI助手（Whisper.cpp+LLaMA）
00:00 / 10:57
连播
清屏
智能
倍速
点赞28
不会编程的小丧3周前
1.3.编译器的安装及使用方法 完整课程请查看合集
00:00 / 02:30
连播
清屏
智能
倍速
点赞9
智驭导师授AI10月前
端侧部署llama.cpp+人机视觉对话应用：第2集
00:00 / 19:54
连播
清屏
智能
倍速
点赞16
CYBER炼丹师3周前
llama.cpp 是由 Georgi Gerganov 开发的开源高性能 LLM 推理框架，核心采用纯 C/C++ 编写，无外部依赖。该项目通过对 Apple Silicon 的深度优化及先进的量化技术（如 4-bit、5-bit 量化），显著降低了运行大语言模型的内存门槛，让用户在普通家用电脑甚至移动设备上即可本地部署并流畅运行 Llama 3、Mistral、Mixtral 等主流开源模型。其卓越的推理效率和跨平台支持，使其成为目前本地 AI 部署领域最受欢迎的底层工具。 #llama.cpp #大模型本地部署 #开源项目 #AI推理
00:00 / 01:18
连播
清屏
智能
倍速
点赞23
东日10月前
使用llama.cpp通用vulkan方案加速大语言模型推理 #vulkan #llama #ollama #qwen
00:00 / 10:57
连播
清屏
智能
倍速
点赞4
程序员小明3天前
3月26日 #程序编程 #AI #openclaw #飞书
00:00 / 01:09
连播
清屏
智能
倍速
点赞9
kate人不错4月前
Qwen3‑VL 在本地怎么选更稳 llama.cpp 新 Web UI 真的香 本期你将收获： - 如何快速上手 llama.cpp 新 Web UI（安装、启动、功能全览） - Qwen3‑VL 32B/A3B 与 Gemini 2.5、Claude Sonnet 4 的多场景实测对比 - GGUF vs MLX 的真实差异：OCR/边界框/长图/反光/复杂版式等 - JSON 模式、PDF 当图像、HTML/JS 内联、URL 参数输入等“提高生产力”的新功能 - 何时选 Unsloth/GGML 的 GGUF 版本，避免 LM Studio 版本问题 - 4B‑Thinking 与 Omni‑3B 的“思考力/语音理解”实测与适用场景 - 我的结论： - 本地优先选 GGUF（GGML/Unsloth），llama.cpp 新 Web UI 体验非常好 - 32B 在多数场景下更稳更准，A3B 速度快但有场景差异 - MLX 量化存在精度/边界框问题，社区正在修复 时间戳 00:00 开场 & 上期更正 02:24 llama.cpp 新 Web UI 上手 03:31 Qwen3‑VL‑32B 亮点与基准 04:20 多模型实测对比 09:01 GGUF vs MLX 实测 17:04 4B‑Thinking/Omni‑3B 实测
00:00 / 18:56
连播
清屏
智能
倍速
点赞35
智驭导师授AI10月前
端侧部署llama.cpp+人机视觉对话应用：第3集
00:00 / 08:49
连播
清屏
智能
倍速
点赞4
杳然。1月前
#嵌入式 #cpp #风车灯 #安卓开发 风车灯2.0，板子代码安装包教程全部开源，主页简介自取。
00:00 / 00:25
连播
清屏
智能
倍速
点赞874
博弈6月前
在6张2080ti显卡上安装llama.cpp对glm4.5 air量化版106B-A12B-q4_k_m.gguf进行推理，量化模型69g大小，每张卡不到100w功耗，整机不到800w功耗，上下文128K，显存占用不到17G，显卡温度不超过40度，每秒31tokens，每小时耗电不到6毛，一天10小时不停不到5元电费，无限量tokens，glm4.5 air智商远超32B现有模型，代码能力超强，视频最后附安装步骤，截图发给AI即可按教程安装#大模型
00:00 / 00:32
连播
清屏
智能
倍速
点赞59
智驭导师授AI10月前
端侧部署llama.cpp+人机视觉对话应用：第1集
00:00 / 05:52
连播
清屏
智能
倍速
点赞7
GPT研究室6天前
没GPU也能跑大模型 还在以为跑大模型一定要烧云 API、买大显卡？ Llama.cpp 就是在干一件很猛的事：把大模型往普通电脑、本地设备和边缘侧拉下来。 它凭什么火？ 用 GGUF 这种更适合本地部署的格式来装模型。 用量化把模型压小，内存占用直接降下来。 还能直接开本地 OpenAI 兼容接口，很多应用几乎就能无缝接上。 说白了， 这套东西真正打中的不是“炫技”，而是三件事：省钱、隐私、控制权。 你是更愿意一直租别人的 AI，还是把模型真正跑在自己手里？ #AI部署 #AI本地部署 #AI大模型 #AI学习 #大模型部署
00:00 / 06:15
连播
清屏
智能
倍速
点赞30
王耀鐭1周前
本地部署Qwen3.5: vllm VS llama.cpp #大模型部署 #大模型 #学习日常
00:00 / 07:32
连播
清屏
智能
倍速
点赞27
博弈1月前
通过6张2080ti显卡使用llama.cpp运行MiniMax-M2.1-UD-IQ3_XXS.gguf量化版大模型，使用opencode，并安装skill两款插件superpowers和ui-ux-pro-max，目前MiniMax-M2.1对工具的调用还有欠缺，希望年前用上更新的大模型MiniMax-M2.2，对做T程序进行界面更新，新增个股可T记录优先独立显示，新增个股信息详细显示，可快速根据价格和持仓数量，以及可T数量进行判断，优化实时数据的显示，高亮可T个股持续显示，进一步提供操作效率，减少工作量，财经资讯系统同步更新中，后续将会整合到主程序，进行实时显示#大模型 #量化 #量化交易
00:00 / 00:32
连播
清屏
智能
倍速
点赞543
编程快车1周前
自己部署了一个小米大模型，速度飞起 部署方法三步搞定：第一步下载模型Xiaomi-MiMo-VL-Miloco-7B-GGUF；第二步下载llama.cpp；第三步运行模型。 详细步骤提示词： 如何下载模型Xiaomi-MiMo-VL-Miloco-7B-GGUF； Windows如何下载llama.cpp 或 Linux如何下载llama.cpp ； 如何运行模型； 个人电脑配置：5060ti 16G显卡，我查了一下，GTX1060 、RTX3050等以上的显卡都是可以的。 视频中使用的操作系统：Windows 11 专业版 版本号25H2 #小米 #大模型 #mimo #llama
00:00 / 00:22
连播
清屏
智能
倍速
点赞0
AI数据科学1年前
llamafile方式本地部署大模型#llamafile#llama.cpp#大模型本地部署#AI
00:00 / 03:12
连播
清屏
智能
倍速
点赞17
kate人不错1年前
bitnet.cpp 推理，速度超越 llama.cpp，内存最高降低 16 倍 #LLM #人工智能 #AI
00:00 / 08:31
连播
清屏
智能
倍速
点赞37
AI踩坑指南3天前
提速20%！本地大模型的正确打开方式 ollama、lm studio和其他任何相似的工具其背后都是llama cpp。所以我们为什么不直接运行llama cpp呢？通过剥离额外的抽象层，我们可以立马获得20%的提速！ #普通人学ai #零基础学ai #实用ai工具 #本地部署大模型 #ai工具使用
00:00 / 02:35
连播
清屏
智能
倍速
点赞65
老段AI5天前
精通部署本地大模型 使用openclaw的时候，会消耗大量的token，我们可以搭建本地大模型来为openclaw提供算力。本课程详细介绍了常见的部署本地大模型的工具，包括ollama、llama.cpp、LMStudio、vLLM的使用 #openclaw #vLLM #ollama #LMStudio #llama
00:00 / 03:45
连播
清屏
智能
倍速
点赞17
☀️孙阳_Sunny1年前
永劫无间提示failed to load il2cpp怎么解决 #永劫无间 #永劫无间下载方法 #电脑知识
00:00 / 03:32
连播
清屏
智能
倍速
点赞772
出生布莱恩-格里芬3周前
Prima.cpp是开源的LLM分布式推理框架，专为家用设备集群优化。 仓库地址：https://gitee.com/magicor/prima.cpp。 论文详见ICLR 2026会议：https://iclr.cc/virtual/2026/poster/10008093。让普通家庭也能跑起70B大模型，挺有意思的突破。 注意：此项目仅作技术导向，处于实验阶段，如需体验可参考项目详情 #AI #LLM #分布式 #家居化 #大模型算力
00:00 / 00:49
连播
清屏
智能
倍速
点赞20
赋范课堂1年前
使用llama.cpp做GPU+CPU混合推理QWQ-32B 性能比肩DeepSeekR1!?使用llama.cpp实现GPU+CPU混合推理QWQ-32B（附源码）#QWQ32B #DeepSeek #大模型 #人工智能
00:00 / 08:38
连播
清屏
智能
倍速
点赞70
小红AI1月前
openclaw使用LLAMA.CPP模型 #openclaw #llama #minimax
00:00 / 01:27
连播
清屏
智能
倍速
点赞25
王小海海4月前
快来试试这个白色的抖音 ＃综合内容＃Ai抖音app
00:00 / 01:51
连播
清屏
智能
倍速
点赞432
古的白6天前
龙虾安装问题解决 #openclaw #龙虾 #科技 #数字员工 龙虾安装小问题，今日解决
00:00 / 00:43
连播
清屏
智能
倍速
点赞6
博弈3月前
通过6张2080ti22G版本，使用llama.cpp运行GLM-4.5-Air-Derestricted，128K上下文占用显存120G左右，大模型去除限制，智商已达最高，使用vscode插件roo code对通过newapi进行对接大模型的api调用，可达30token/s以上，当上下文占用50%时，速度降为10token/s左右，跑满128K，在8token/s左右，对做T程序进行了长达5个月的模拟，程序版本更新为V0.01.041，新增利润统计显示功能，已实现稳定盈利，月2-3%收益，年化20%-30%收益，3年可翻倍本金，最大回撤资金不超过5%，下一步将对接qmt实时显示数据，自动化做T，实现桌面版程序，预计6个月后开启实盘挑战#大模型 #2080ti #做T
00:00 / 00:38
连播
清屏
智能
倍速
点赞1287
懂AI的引路哥4天前
养龙虾踩坑后终达40token/秒 #养龙虾 #模型调参 #llama.cpp #Openclaw #token速度
00:00 / 01:03
连播
清屏
智能
倍速
点赞2
博弈1月前
使用6张2080ti显卡，每卡22G显存，使用llama.cpp运行MiniMax-M2.5-UD-IQ3_XXS.gguf量化版大模型，大模型为87G大小，130K上下文占用每卡约19G显存，通过vscode远程ssh代码服务器上的opencode进行程序编写时，使用命令CUDA_VISIBLE_DEVICES=0,1,2,3,4,5 CUDA_SCALE_LAUNCH_QUEUES=8x ~/llama.cpp/build/bin/llama-server --port 8000 --host 0.0.0.0 --n-gpu-layers -1 --parallel 1 --ctx-size 130000 --flash-attn on --batch-size 2048 --ubatch-size 512 --cont-batching --no-mmap --mlock --split-mode layer --cache-type-k q8_0 --cache-type-v q8_0 --temp 1.0 --top-p 0.95 --top-k 40 --jinja --chat-template-file /home/boyiu/models/GGUF/MiniMax-M2.5-GGUF/UD-IQ3_XXS/chat_template.jinja -m /home/boyiu/models/GGUF/MiniMax-M2.5-GGUF/UD-IQ3_XXS/MiniMax-M2.5-UD-IQ3_XXS.gguf，最大化发挥显卡性能，大模型智商最高，极致压榨显卡性能，在0上下文的情况下，首句话速度可达43token/s，首次上下文占用约为13K，首句回复速度为27token/s，当上下文占用为20K时，速度降为22token/s，当上下文占用50%左右时，速度降为11token/s，速度比minimax2.1略有提升，可增加更多上下文，但会牺牲token速度，财经资讯分析程序已建立基础功能，可实时获取最新资讯，并进行api调用分析，从获取最新资讯，到分析结果不到3分钟，完全适用现有策略，后面将增加新闻源获取途径，增加个股独立新闻分析功能#大模型 #量化
00:00 / 00:29
连播
清屏
智能
倍速
点赞615
小天fotos2月前
发现一个企业部署GLM4.7 Flash 生成速度的优化方案 TL;DR 视频中测试 4090 48g x2 unsloth q8 用ik_llama.cpp的测试分支 128k上下文可以到37t/s 优化前是22t 这个模型非常好用 等到这些优化到可用了，我出详细测评 #claudecode #aiagent #企业AI #本地部署 #glm47
00:00 / 04:44
连播
清屏
智能
倍速
点赞233
阿甘探AI6月前
超轻超快运行本地大模型，秒杀Ollama和llama.cpp！#本地大模型 #本地部署大模型 #开源工具 #ollama#AI
00:00 / 00:23
连播
清屏
智能
倍速
点赞2552
云未归来2年前
[课程][原创]matplotlib-cpp在vs上的配置 课程地址：https://edu.csdn.net/course/detail/38905 课程介绍 课程目录 讨论留言 你将收获 学会安装anaconda3 学会安装vs2019 学会配置matplotlibcpp 学会运行代码 适用人群 不会配置matplotlibcpp的初学者 课程介绍 Matplotlib-cpp是一个用于C++的Matplotlib库绑定，它可以让C++程序使用Matplotlib进行数据可视化。在Visual Studio上配置Matplotlib-cpp需要以下步骤： 1、下载并安装Python环境和Matplotlib。确保Python可以在命令行中运行。 2、在Visual Studio中创建一个C++项目。 3、在代码中包含Matplotlib-cpp的头文件，并使用Matplotlib-cpp的函数进行绘图。 4、配置头文件和库文件 5、编译并运行程序。如果一切正常，应该可以看到一个图形窗口显示。 以上是Matplotlib-cpp在Visual Studio上的基本配置步骤。具体操作可能会因操作系统和Visual Studio版本而有所不同，需要根据实际情况进行调整。 本课程将通过实际操作帮助大家怎么配置matplotlibcpp到Visual Studio中，本课程用到的环境为 windows x64 Visual Studio 2019 anaconda3 请大家准备好安装包让我们一起进入课堂吧 课程目录 课程导论 安装vs2019和anaconda3 配置matplotlib-cpp到vs 课程总结
00:00 / 02:07
连播
清屏
智能
倍速
点赞4
正阳临水伴闲居2年前
01. DEVCPP的安装与使用
00:00 / 07:03
连播
清屏
智能
倍速
点赞19
马哈🎤🎤4周前
#抖音好听歌曲分享
00:00 / 02:57
连播
清屏
智能
倍速
点赞2739
量子编码者1周前
文件同步工具 #开发 #文件同步助手 #程序员日常
00:00 / 01:20
连播
清屏
智能
倍速
点赞0
老马的旅行日记（人生纪录片）2月前
谁说看海要花大价钱？日照穷游实测，三天两晚躺平看海浪 #日照 #日照旅游 #穷游 #旅行vlog#山东旅游攻略
00:00 / 07:42
连播
清屏
智能
倍速
点赞697
纯昱100%の梦醉1周前
cs2注入dll：imgui显示中文的一些疑难杂症 #外挂 #imgui #汉化 #C＋＋ #dx11
00:00 / 03:19
连播
清屏
智能
倍速
点赞10
程序喵大人2周前
很多C++初学者在遇到链接错误（Linker Error）时往往一头雾水，因为这与常见的语法错误不同。要理解链接错误，首先必须掌握“翻译单元”（Translation Unit）的概念。简单来说，一个.cpp源文件在经过预处理器处理（展开所有#include，处理宏定义）后，形成的最终代码流就是翻译单元。编译器将每个翻译单元独立编译成目标文件（.o或.obj），这一步只检查语法，不负责找函数实现。链接器（Linker）的工作则是将这些目标文件打包，并像拼图一样，把“函数调用”和“函数定义”对应起来。如果找不到定义（Undefined Reference）或找到多个定义（Multiple Definition），链接器就会报错。理解这一流程，是解决LNK2001/LNK2019等顽固错误的必经之路。
00:00 / 02:02
连播
清屏
智能
倍速
点赞13
江江江11月前
Dev-c++下载及安装教程 #Dev #devcpp #c语言 #Dev下载 #编程软件
00:00 / 01:35
连播
清屏
智能
倍速
点赞5427
今晚数月亮吗？8月前
共享跑五单外卖 0元竟猜今晚收获多少 #众包骑手 #vlog日常 #外卖日记 #送外卖 #记录生活
00:00 / 02:54
连播
清屏
智能
倍速
点赞NaN
别离5月前
《兰草宝库》#cpp软件怎么下载 #cpp软件怎么下载安卓 #cpp怎么下载 #cpp软件怎么下载苹果cpp软件下载官方 cpp漫展软件怎么下载cpp软件华为怎么下载cpp软件怎么变成中文版 #cpp软件的使用教程 cpp软件怎么实名认证
00:00 / 00:36
连播
清屏
智能
倍速
点赞126
南麻663周前
#麻将 #麻将麻将抖起来 #麻将技巧 #麻将治百病 #麻将攻略
00:00 / 02:27
连播
清屏
智能
倍速
点赞272
船员易综合服务平台1周前
主推进动力装置 CPP的三种操纵方式#船员易综合服务平台 #船员学习
00:00 / 04:38
连播
清屏
智能
倍速
点赞10
血管外科医生马亮亮1月前
#医学科普 #血管外科#血管闭塞#血管狭窄#斑块旋切
00:00 / 01:01
连播
清屏
智能
倍速
点赞1340
宝叶编程3年前
C++编译器DEVC++,DEVCPP安装与使用教程#编程器 #c语言#少儿编程 #信息学竞赛 #信息学奥赛 #萌知计划
00:00 / 09:41
连播
清屏
智能
倍速
点赞49
牌王刘老五🀄️麻将一打三4月前
砖家告诉你如何打好麻将 砖家告诉你如何打好麻将#麻将攻略 #麻将教学 #牌王刘老五
00:00 / 03:59
连播
清屏
智能
倍速
点赞6241
菠萝君4天前
我能读懂韩语了 #西八 #韩语 #韩语谐音表情包
00:00 / 00:52
连播
清屏
智能
倍速
点赞NaN
老马的旅行日记（人生纪录片）1月前
带150元畅玩运河古城临清，最后去舍利宝塔登顶，差点花超了 #临清 #山东临清 #山东旅游 #旅行vlog #穷游 #早点来临清
00:00 / 07:24
连播
清屏
智能
倍速
点赞1403
Bilal学做饭2月前
今日菜单：yapma 共：75.8💰 #bilal学做饭
00:00 / 02:57
连播
清屏
智能
倍速
点赞8675
C程序喵3周前
告别满屏Cout，手把手教你打造C++日志系统 很多C++初学者习惯使用 std::cout 进行调试，但在实际工程中，这种方式存在诸多弊端：无法区分信息等级、难以定位源代码行号、多线程下输出错乱以及发布时难以统一关闭。一个成熟的日志系统应该具备时间戳、日志等级（INFO/WARN/ERROR）、文件行号定位以及线程安全等核心功能。 本篇笔记将带领大家利用C++预处理宏（Macros）、枚举类（Enum Class）以及互斥锁（std::mutex），从零开始封装一个简易但功能完备的 Logger 类。我们会学习如何利用 RAII 机制管理锁资源，如何使用 __FILE__ 和 __LINE__ 获取上下文信息，最终实现像 LOG(INFO) << "message"; 这样优雅的调用方式，让你的代码调试效率翻倍，向专业开发者迈进。 #cpp #后端开发 #计算机 #程序员 #cpp编程
00:00 / 01:56
连播
清屏
智能
倍速
点赞27
七粒粒要体态3月前
开髋和收髋跟练版，我发现收髋也很重要 练完一定要充分收髋！自己出一个加了收髋跟练版也好监督自己记得收髋，，不然有时候会忘记，自己跟着自己练嘿嘿#居家锻炼 #体态纠正 #改善假胯宽 #改善臀凹陷 #练髋
00:00 / 15:15
连播
清屏
智能
倍速
点赞8474
惠东教育3年前
如何安装C语言与C++的开发工具？看完就一目了然#入门编程教学 #C #编程 #Cpp #软件安装
00:00 / 08:49
连播
清屏
智能
倍速
点赞103
asmr助眠解压助手5天前
第125集｜【欧美男士按摩】asmr欧美男士全身按摩，疲劳后的放松 #asmr助眠视频 #男士按摩 #全身按摩 #精油spa #按摩养生
00:00 / 15:45
连播
清屏
智能
倍速
点赞274
胡致炜4天前
高明#给陌生人拍照 #摄影 #街头摄影 #街拍
00:00 / 02:34
连播
清屏
智能
倍速
点赞NaN

简介:

您在查找“llma.cpp怎么安装”短视频信息吗？帮您找到更多更精彩的短视频内容！最新发布时间：2026-03-28 07:28

最新推荐:

相关推荐:

热门推荐: