ollama 技能包的安装

奥拉玛超详细安装教程，双击奥拉玛安装包，启动安装程序，跟着安装向导继续点击安装时，可以自定义模型地下载保存路径， 安装完成后，搜索你需要的奥拉玛模型， 选中目标模型后发送任意对话，系统会自动开始下载该模型， 模型下载完成后，就能正常使用欧拉玛进行对话交互了。

本期视频为大家介绍在 windows 上基于 alma 和 open web ui 搭建本地 chat、 gpt 和个人知识库的开箱即用方案。 我们只需要下载两个包，一个是 alma 安装包，另一个是我为大家准备好的 open web ui 安装和启动的图形化工具压缩包整个操作过程很简单， 首先来到 get up 下载我为大家准备好的 open web ui launcher 压缩包，大家可以记一下这个仓库的地址或者后台问我。 点击 zip 压缩包进行下载，将压缩包解压到大家的常用或者正式的工作目录下，解压后的目录下有一个 open web ui launcher 点 exe， 这是一个 open web ui 安装和启动的图形化工具， 另一个是开放三点十一安装包为大家安装需要的。开放三点十一我们只需要点击 open web ui launcher 点 exe， 按照图形画界面点点点即可。 图形化工具会检测本地是否安装和启动 aluma， 我 们这里还未安装 aluma， 我 们点击打开 aluma 官网进行下载和安装。 aluma 下载安装很方便。来到 aluma 官网点击下载 windows 安装包， 安装包体积比较大，有一点一 g， 这里需要等一会，下载完成后点击 aluma 安装包即可安装 aluma。 这里需要注意的是， oliver 和 oliver 部署的模型默认装在 c 盘，如果有需要自定义安装路径的观众，在安装包路径右键 选择在终端中打开，使用命令行进行安装。使用这行命令安装，这里的地盘反斜杠 oliver 就是 我们的目标路径，大家可以改成自己的路径， 路径最好是全英文，强烈不建议包含中文空格，特殊字体。输完命令行点击回车，这时候会出现 alma 图形化安装引导界面，大家点击下载即可。 成功安装后会弹出 alma 自带的用户友好图形化界面，我们可以在设置界面看见和更改模型安装路径。 我们还可以在命令行终端中验证 oliver 是 否安装成功，可以看见 oliver 已经安装成功了。 接着我们使用 oliver 下载一个模型，我们到 oliver 官网复制模型的部署运行指令本视频我们使用 quan 最小的模型进行演示， 下载模型的过程也需要划一些时间，这个零点六 b 的 模型很小，只有五百二十二兆。 在奥莱玛安装模型的过程中，我们可以先来安装一下开放这个图形化工具，它是基于开放三点十一安装 open web y 首先会检测拍放三点十一是否安装，未安装的话点击启动拍放三点十一安装包帮助大家安装。点击安装拍放三点十一弹出拍放三点十一安装界面 注意勾选添加系统环境变量，大家可以选择自定义安装，选择指定的安装路径，确定后自动安装拍放三点十一回到图形化工具界面， 我们可以看见开放三点十一和 ulma 都已经成功安装。等了好一会，昆模型终于在本地安装成功了，我们发个问题验证一下。 al 码图形化界面也可以验证。接下来我们安装 open web ui， 使用镜像安装可以看见输出日期。安装 open web ui 需要一段时间， 等了好一会， open web ui 终于安装完成了，这里界面信息显示 open web ui 已经安装日制。信息显示 open web ui 也成功安装。这里需要注意一下，就是它会卡在收集排放包的步骤比较久， 大家耐心等待点击确定。安装完 open web ui， 我 们就可以启动。点击启动 服务状态先变成正在启动，又变成已停止未启动，这是因为启动时间比较久，工具与启动服务进程联系中断，我们耐心等待服务启动。观察日记输出即可。 在输出日制信息中出现 open web ui 的 图标，说明快要启动成功了，服务状态变为正在运行，说明 open web ui 成功启动。点击打开默认浏览器，进入 open web ui 网站， 点击开始使用。首先要创建一个管理员账号，这里的用户信息完全在本地，可以随便填写信息，这里我们随便填了一组信息， 我们可以看见 open web ui 的 聊天界面还是挺精致漂亮的，和 chat gpt、 deepsea 的 聊天界面差不了多少。 open web ui 会自动识别 aluma， 我 们可以看见 aluma 安装好的款模型，给它发送消息，这样我们就在本地成功安装运行了 aluma 和 open web ui。 基于他们，我们可以在本地构建自己的 chat 和个人知识库，完全自主可控，隐私安全。聊天界面还可以上传文件截图，引用网页、引用笔记和引用其他对话。 我们可以在侧边栏看见搜索笔记和工作空间这三个功能，点开搜索可以搜聊天对话和笔记。我们新建一个考工流程笔记，在笔记里面我们可以记录信息，并使用 ai 进行润色， 还可以基于笔记内容与 ai 对 话。通过询问 ai， 基于笔记给我们提供了考公流程。点击工作空间，我们可以在工作空间中建立个人知识库，并搭建知识库模型。我们可以先建立一个公务员考试信息库， 接着上传提前准备好的材料，上传二零二六年的公务员职位表，上传失败， 这是因为在前面安装过程中，我们并没有使用科学上网，所以 open web ui 在 安装的过程中缺了一些羽翼。像量模型，我们点击左下角打开设置， 打开管理员设置，点击文档下载嵌入模型，注意，这里需要科学上网。 接着回到我们的知识库上传文件，两个文件都上传成功了。接下来我们创建一个知识库模型， 关联知识库，这里既可以关联知识库，也可以关联我们之前新建的笔记， 我们两个都关联保存并创建新建对话，与我们刚刚创建的公务员考试信息模型对话，这样模型根据我们的笔记和知识点给出答复，比如报名和资格审核、 备考材料准备、模拟测试要点、考试阶段注意事项。好了，这就是本期视频的全部内容，如果你觉得本期视频对你有帮助，记得点赞支持一下，你的点赞是我更新的动力，谢谢！

欢迎来到 coco 聊天室，今天讲如何部署 ai 模型， coco 有 多种 ai 模型部署方式，满足不同用户的需求，先容小白优先推荐奥莱玛本地部署奥莱玛如何获取？ 在我主页 coco 聊天室中即可获取安装包与教程。下载完成之后，在奥拉玛模块中点击设置，在弹出的窗口中确认 url 正确， a p i 没空即可。然后点击模型，在弹出的窗口中点击自动获取模型 并测试，连接完成后即可正常使用其他 a p i。 以 mini max china 为例，点击设置，在弹出的窗口中输入 a p i， 在 mini max 官网中获取个人 a p i 并复制， 完成后将 a p i 填入对话框中，完成后点击模型，选择对应的模型，点击测试链接，接通后即可在聊天界面选择相应的模型进行使用了。别忘了点赞加关注，我们继续聊酷跑！

哈喽，各位同学，大家好，我是珊珊老师。那接下来呢，我们对奥拉玛的介绍和下载做一个讲解。那 接下来呢，我们开始学习一个新的技能点啊，叫做奥拉玛。那我们在学习之前呢，肯定要知道什么是奥拉玛。 那之前我们调用的这个大模型啊，我们调用的这个大模型呢？是，呃，云端大模型，或者说那种在线的大模型，那之前使用的都是别人部署好的这个模型， 那如果说你只是单纯的对话，那么用起来其实也没啥问题，我们直接用就可以了。但是如果说你想要用一些个性化的东西，或者说你有很多这种私有化的东西，你希望留在你的这个本地，那这个时候我们就需要这个本地去跑各种大模型。 那实际上我们现在学的这个奥拉玛，他其实就是一个平台，就是一个软件，然后他是专门做这个大模型本地部署到咱们的本地。 而且这个奥拉玛呢，它提供了这种命令行的方式，它也提供了这个呃 ui 界面的方式，供我们去使用各种各样的大模型也比较好用啊。 来，那接下来我们再看一下这个奥拉玛的特点，那首先第一个开源免费，那这个这几个词就不用多解释了啊。然后第二个叫做跨平台支持，就是各个环境都支持，没啥问题。然后简单易用， 就是奥拉玛它提供了命令行的方式，然后也有这个 ui 界面儿，所以咱们用起来去访问各种大模型的时候就很方便。再一个就是性能强大， 因为它降低了大家对各种开源大模型使用的这个门槛儿，你要是没有这个平台，你自己部署这个模型到本地的话，可能你需要你的这个机器，呃，具备复杂的这个 gpu 环境， 那现在可能不需要你自己去管理这个 gpu 环境了，你把这个平台安装好，然后它就去帮你管理这个大模型了，所以一切都简化了。再一个就是一于集成， 就是因为奥拉玛它本身提供了这个命令行，然后还有这个各种 api 的 这个使用。你把大模型部署到本地之后，然后我们就可以通过这个 api 的 方式去调用这个大模型，跟这个大模型进行交互， 而且，呃，可以基于现有的这个模型去挂一些企业内部的私有的这个知识库啥的，这些都可以，或者说你做一些私有领域的这问答机器人啥的都行。好，那这是奥拉玛的特点，那等我们学完的时候，你又可能彻底感受到它这些特点了。 然后接下来我们再说一下这个奥拉玛的下载，那我们在这呢可以看到这个奥拉玛官网的这个地址啊，我们在这复制一下，把它打开， 然后在这里我们点击右上角有一个 download 的， 然后可以有不同版本的这个就不同系统有不同版本的这个二维码下载。那我当前的这个机器是 windows， 所以 你选择 windows， 然后 download for windows， 直接点击 啊，我们在这可以看到他就正在进行下载了，来我们的资料里面也把对应的这个文件提供给你了，所以你到我们的资料里面去弄就可以了。好，那到这啊，我们把这个奥尔玛做了一个简单的介绍，大家先把这个奥尔玛下载一下。

今天我教你本地部署 deepsea 二一，完全免费，不联网，不吃配置，小白也能一变成功！第一步，安装奥拉玛百度搜索奥拉玛，进入官网后点击 download 进入下载页面，选择对应系统的版本进行下载。下载完成，找到安装包，双击进行安装，默然点击 and so 就 可以了。 按 win 加二弹窗，输入 c、 n、 d， 进入命令框界面输入奥拉玛 v， 有 以上信息显示，则安装成功。第二步，安装 deepsafe 二一模型，返回奥拉玛官网，点击左上角的 models， 选择 deepsafe 二一模型。 模型有多个版本，每个版本对应的内存不一样，大家可以根据自己的内存选择对应的版本。复制模型粘贴，按 enter 键运行，耐心等待下载完成后 显示 success， 则安装成功。第三步，安装 chatbox ai 百度搜索 chatbox ai， 进入官网页面，点击下载 chatbox ai 即可 下载完成。双击文件开始安装，选择自己需要安装到的位置点击安装， 安装完成后会自动打开 chatbox ai 应用，点击设置模型提供方，选择欧拉玛 api 二已对应的版本， 所有需要的应用都安装完毕，现在可以开始和你的专属 dipstick 二仪聊天了。

今天分享一下如何在本地安装 lama 并使用千问三模型。打开浏览器，进入 lama 官网， 点击右上角的黑色 download 按钮。由于网速的问题，我们可以换用其他下载载器下载，我这里使用的是某雷下载。 双击打开安装包，点击下一步， 点击展开侧边栏，点击设置并修改模型文件的储存位置。 输入问题，点击适合你电脑配置的模型， olama 会自动检查本地是否有该模型，如果没有会自行下载。 下载后 olama 会自动调用并加载模型并开始推理。 谢谢观看。

家人们，现在谁不想把大模型放本地用？隐私拉满还不卡壳？但面对欧拉玛和 lm studio 这俩热门工具，是不是挑花眼了？别慌，今天咱用大白话唠唠这俩到底咋选，包你一听就懂！先给大家来个素兰版，想自己折腾定制到极致， 隐私选欧拉玛，纯新手想无脑上手，尤其是用 mac 的 朋友，闭眼充 lm studio 就 对了。咱先说说开源这块，这 可是核心差别。柏拉玛是完全开源的，代码全透明，就像拿到了无删减的配方，懂点开发的朋友能随便改随便定制，对数据隐私要求高的保子选它准没错。 而 lm studio 是 半开源客户端闭源，但核心工具开源，主打一个开箱即用，不用你懂代码，小白也能轻松拿捏。再看模型选择，俩工具各有千秋，欧拉玛的官方模型库更新贼快，新模型一出来基本都能找到，选择 多到挑不过来。 l m studio 的 模型广场更贴心，能根据你电脑内存智能推模型，还会明说能不能塞进 g p u， 特省心。尤其是 mac 用户，它能自动适配 m， 一 到 m 五芯片推理 直接拉满，这波适配真的太香了！这里插个小提醒，装模型别贪大，大小别超电脑内存的一半，八 g 内存就选四 g 以内的，不然电脑卡到哭。别问我怎么知道的， windows 用户最好整个独立显卡， mac 就 选 m 系列芯片，体验感 直接翻倍。最后说说大家最关心的使用体验，新手重点看这块考拉玛管理模型有点麻烦。三、模型改设置的找储存路径，纯纯的技术党，操作 萌圈。但 l m studio 就 太友好了，全图形化界面，在我的模型库里点几下，三模型全命名 全搞定，还能直接调模型参数，想平衡精度和速度，划几下鼠标就完事。主打一个简单直观。其实说到底俩工具没有谁好谁坏，就是个头其所好。开发者爱折腾的技术党选欧拉玛准没错，纯新手 mac 用户 l m studio 就是 你的。 实在拿不定主意的俩都下了试试，反正总有一款适合你，赶紧去解锁本地大模型的快乐吧。