粉丝1342获赞3107

我们日常使用刀壳的时候会部署在不同的地方,比如说乌斑图,欧盆、 wolt 和这个群灰, 但是这几种呢,有的是路径可能有问题,或者说操作起来不方便,然后今天我们尝试一下在 pve 的 lxc 容器下部署刀口。首先我们远程登录进我们的 pve, 打开这个文件夹,然后相关的命令,本次操作相关的命令我都给大家已经整理好了, 直接粘贴之后进入这个文件夹,大家可以看到现在文件夹当中是空的, 我们把下载好的乌斑图系统拖拽进来, 拖拽进来之后我们 进入 pve 的 wif 界面,我们进入之后点击创建 ct, ct 主机名的话我们随便命名一下密码, 注意这里需要把这个对号取消掉,然后模板选择我们刚才上传的文件, 磁盘大小的话大家看需要用到多少,这里的话我给十个 g, 然后 cpu 四盒,内存的话我就不更改了,网络这里的话 记得选择 dhcp。 然后 ds 这里,我 pve 主机的话我给的有 ds 地址,大家这里可以书写一下路由器的地址, 然后创建完成, 创建完成后大家不要着急启动,我们先对他进行简单的设置。功能上的话,首先勾选嵌套,这个就是允许刀客运行的关键,如果你想要你的训练机关联群徽或者说 内网的存储系统,可以把三把和 ifs 勾选上,我这里只勾选 ifs。 勾选完成后,我们再次进入 pv e, 然后进入这个文件夹 刷新一下,刷新一下可以看到这个 id 需要添加一段文字 保存即可,我们这时候就可以把它关掉, 直接点击启动, 启动完成后输入我们刚才建立好的密码, 进入后把这个命令着调的输入进去就可以。 首先是更新 心缘,这个命令相关的解释我已经写过了,然后大家可以了解一下,再次更新 这个文件呢是我从刀客官方复制过来的,所以说没有什么问题。 然后我们运行一个测试的容器, 大家可以看到, hello from doc 到这里我们今天的教程就结束了,如果说大家在使用过程中有什么疑问或者什么问题,大家可以直接私信我,好了,今天的教程就到这里。

dock 里面,然后跑这个 gpu 和大模型的这个推理啊,给大家再来介绍一下。那么 dock 的话呢,就是,呃,我们在机器刷安装完之后,它有个好处,就是因为 我们要安装呃各种各样的那个英伟达的驱动程序,对吧?要安装那个 python 呃呃,又有版本,然后要安装各种各样的这个内裤啊,而且它版本又很复杂。嗯, 那么如果我们把这个呃分装成一个 doc 镜像之后啊,然后就会比较简单,然后因为 doc 的话呢,它其实也是可以用 gpu 的啊,也是可以用英伟达的 gpu 来进行加速的。呃,首先的话呢,要在安装 doc 啊,安装完 doc 之后呢,你要要要安装英伟达的这个 component two kids 这样一个应用。 no, 首先的话呢,它先要设一下它的那个 south 的来源啊,因为你直接如果你是安装英伟达的这个 com contour 呢, two kids 的话,它是不会成功的,它先要装一个这样的一个这个 软件的这样一个来源啊,你安装完,安装完这个之后,然后你打这个两个命令就行了啊,先要更新一下这个软件的来源,然后的话你只要安装这个命令就可以了,安装完之后的话,你的本机这个 dock 重启一下就可以了。 好,这是第一个重写完之后的话呢,主要就是你还是要打一个这个镜像啊,镜像的话你要写一个 doctor 啊,然后你要打成一个镜像,因为我们这个镜像叫 x l l m stream, 这个镜像你只要打完啊就可以了啊,然后你回头就可以用了。 安装完之后啊,那么你就可以用 dog compose 啊, dog compose 的话呢,它主要是把,呃,可以起一个集群啊,它可以起一堆的这样的一个镜像, 然后可以把你的这个符一下子集起来,嗯,有有点像这个 q n ladies, 嗯,它是有点像这个的,它也是一个镜像编排的这样一个工具。嗯,那今天的话呢,我就我可以先给大家演示一下就是,呃,怎么来做。嗯, 那么我目前在我的这个机器上面,我先给大家看一下啊,我们这个机器啊,目前这个机器的话呢,我们有四个 gpu 啊, 这个四个 gpu 它等于是这样的,那我已经用了零和一,这两个啊,分别已经起起来了,然后零和一的话呢,我分别起了一个符给大家看一下啊,我分别起了 一个这个一个一模型的一个 fast 的这样一个模型和一个一模型的这个标准的这样一个推理的一个能力,然后还起起了一个负载均衡和起了一个 obaiapi 的一个网关啊,起的这个四个服务。那么起完这个四个服务之后的话呢,呃,我就可以在这个上面 来调用了啊,给大家先看一下啊,这个是一个 fast 的这样一个东西,这是一个网址啊,这个是一个 module name 啊,我先调了一个 fast 的这样的一个接口啊,然后可以再调一个 slow 的接口, 前面超时了。嗯啊,好,这个就调用成功了啊,调用成功了,然后我们如果要把它这个是把它关掉, 它已经关掉了,然后我们再把它重它起来是会比较简单的啊,它这个已经起完了, 他已经起起完了这辆我们可以看一下, 对,他这个推理就完成了, 这个是个 fast。 好,嗯,这个还是比较简单的。那么这个镜像的话呢,我们是放在 dock 里里面的,给大家看一下, 这是个镜像文件,就这个十一点八 g 啊,还是比较大的这样的一个文件, 那么我们也把这个镜像文件打,把它打包成了一个文件。那这样的话呢,你可以,嗯,上传到其他的那个镜镜像库里面,然后再来用啊,这个都是可以的。 好啊,今天的话呢,这个视频就给大家简单的演示一下怎么用那个大模型啊,部署在这个 doc 环境里面,然后用 doccompose, 然后进行推理的这样一个过程。好。

大家好啊,今天更新了刀客,然后呢我所有的容器都不见了,一个也没有了,然后我找到了这么一个目录, 还有这个目录,这俩目录应该是重复了,现在应该用的是下边这个新版的目录。然后原来这个目录里面呢有一个灵魂剑,在这里边呢,也有一个灵魂剑。那现在呢?我们来把原有的目录旧目录下,这个灵魂剑迁移到这里面试一下。我先把这个灵魂剑删掉, 然后呢把这个文件拷闭过来,这里面有个零文件。 好,打开看一下,大小啊? 七个 g 差不多,然后再重启一下刀口。好了,容器回来了,我们在 厂里看一下,都有了。那我们挤一下。 ok, 没问题。 ok, 也没问题。好,今天就到这里,谢谢大家,再见。

好,同学们,在上节课当中,我们已经演示了刀口儿容器的三个命令了,包括刀口儿 run, dog logs 和刀口儿 ps。 那么这节课呢,我们会继续来学习刀口儿容器的其他命令啊。 那这里呢,我们有一个案例,要求我们进入 ngx 容器去修改其中的 ht 冒文件添加一行传至教育,欢迎您这样一句话。那么我们该如何进入容器的内部去修改文件呢? 这里啊,我们要用到之前的一个命令,大家看看能不能想起来。哎,我们这个命令的名字叫 doctor exit, 而且呢,我已经给出了一个势力了, doctor exit guard i t m n bash 这行命令什么意思呢?首先刀 exec, 它呢是指进入容器的内部去执行一个命令,在这个过程中我们可以加一些参数,比方说我加上了 it。 就是呢,进入容器时创建标准输入输出终端。 我们以前在学习夹瓦基础 io 流的时候,已经接触过标准输入和输出了吧,其实就是利用键盘的一种录入或者是控制台的输出实现一种交互。这里我们加上 it 是方便我们进入容器了以后跟容器产生一个交互。 而后边的 mn 呢,是指定你要进入哪个容器,有那么多容器,你得把名字告诉我吧,我才知道你要进入哪个容器。再往后, bash 是一个命令, dog exec 呢,是进入容器执行命令, 他之间的命令是什么呢?你得告诉他,那这呢就是 base 这个命令了。当然如果以后你有别的命令也可以改成其他的啊。那这里的 base 是 lenax 的一个终端交互命令, 大家以前在刚刚接触 linux 操作系统的时候,学习了很多的 self 命令啊,比方说啊, cd 啊, rm 啊, mv 啊,这些 self 命令其实都是 best 命令当中的一部分啊, 所以我们通过这样的一个命令,一旦进入了容器内部,我是不是就可以去修改文件了呀? 好,那么接下来我们就按照这个来去尝试着做一下啊。好,我们打开是要控制台 这里我们已经有一个 ngx 容器了吧,下边呢,我就通过刀壳什么东西啊, ex, ec, exec 去执行,那么后边要跟上一个什么参数呢?杠 it 构建标准输入输出,然后后边要跟上一个什么来着? 是不是容器的名称啊?哎, mn, 也就是说你要进入的是这个容器啊,最后呢,还要跟上进入以后执行的命令,我们是采用 bus 这样的命令。好,回车 可以看到我们的控制台发生了一些变化啊,同学们,你可以看到我这个地方入他后边原来是 logo house 的,现在变成了这么一串数字。 这串东西你如果仔细看,你发现跟这个容器的 container id 是完全一样的,这就证明我们确实是进入容器的内部了。那我现在在容器内部的哪个地方呢?我们既然是 best 命令,那咱们以前那些命令 应该都能用吧,比方说 pwd, 哦,我竟然是在杠跟目录吗?那我再来个 ls 看一下, 哎,你可以看到这里边有什么 tmp 哇, lab, opt, root 等等各种各样的目录,这些大家以前见过吧? 是不是我们 linx 系统的跟目录结构啊?没错啊,同学们,我们以前给大家讲过,容器的内部,它其实会有自己的一套文件系统, 当然你看起来好像跟 ngx 系统的目录一样,但其实啊,它是一个阉割版的系统,这里只有 njx 运行,他自己需要的啊,那我现在想要找找 njx 在哪个目录,同学们,你们知道吗?我也不知道啊, 那只有谁知道啊?是不是 n j x 这个镜像的作者呀?因为他在创建镜像的过程中,他需要去安装 n j x 指定 n j x 的运行目录,这些事情是不是都他自己决定的呀?那因此我们必须得去问他的作者了,那他作者是谁呀? 是不是 doctor hub 的官方啊?那因此我们打开浏览器去找一找 doctor hub 的官方。那怎么去找呢?大家来看,这里有这么一段啊, hosting some simple static content, 就是去设置一些静态内容。怎么去设置的?哎,看这有一句话啊, static animal directory 静态页面的文件夹在哪呢? u s r share injux html 这个目录下,那也就是说静态文件应该是放到这来了,那我们回到控制台去试一试呗。 好,我们在这呢采用一个 cd 命令到这个目录下回车。那我已经进来了吧,那我再来查看一下 ls 走。 有没有看到两个文件呀?一个是五零叉点 atm, 一个是 index 点 htm 吧。那 index 点 atm 显然就是我们要修改的那个首页了,我们可以先看一眼 index 点 htm, 可以看到这里显示的是 welcome to njax, 而我现在就要把它改成传至教育,欢迎您。同学们,请问一下我该怎么样修改一个文件?很好,是不是 vi 命令啊? index 点 爱情帽吧,走你。嗯,命令找不到。为什么找不到呀? 刚才我们还在说呢,我们讲镜像封装时只是应用程序所需要的必备的函数库,还有一些命令,那你 vi 跟我们 njx 有什么关系啊?所以啊,我们镜像根本就没有封装这个命令, 那再一次证明了,镜像内部的文件系统还有函数库都是阉割版的,他需要什么就封装什么。那现在完了,没有 vime, 我该怎么修改这个文件呢? 好,那我们回到 ppt 来看一下啊,我的 ppt 上会给大家出一招,修改页面。除了进入页面去修改以外啊,我们还有一种办法呢,是通过 一个命令直接去替换。这个命令的作用就是利用船只教育,欢迎您去替换, welcome to angex。 而第二行呢,是利用这个 head 加上了掐赛特 u tu 八的这样一个标签,替换原始的 head 标签,这样呢,可以让我们的编码这是中文。那我们现在就把这个命令什么复制一下啊,来吧,我们找到这个命令, 弹出一个 c, 我们回到控制台,在这粘贴。好,那么应该是改完了啊,那怎么知道呢? 我们通过浏览器再试一下不就知道了吗?我们打开浏览器,我们在这刷新一下, 传至教育,欢迎您。终于见到了,证明我们这个修改他成功了,同学们,我们这个案例 他就实现了,那现在我们的案例也做完了,这容器啊,我想把它停掉,我该怎么做?大家还记得我们之前聊过这个秘密吗?来,我们到逍遥控制台试一下。 首先我们先退出容器啊,要从容器里退出来,我们可以通过 ext 来退出。好,那现在我想把我的容器停掉 log ps, 他现在是不是运行当中,我怎么停? 哎,我们的命令叫 dog stop, 后边要跟上什么呢?容器名称你要停掉谁啊?是不是这个 mn 啊?哎,所以加上回去。 好,那是不是真的停掉了呢?我们通过刀克 ps 看一下还有没有。没有了,既然没有了,哎,等一等。 ps 不是查看所有容器吗?那这个地方是因为啊,刀客 ps 默认只能查看运行中的容器。来,刀客 ps help 了解一下。 看一看,在这里有这么一个参数叫杠 a, 它的意思是展示所有的容器,但是你注意了,默认情况下只展示什么 运行中的容器吧。这就是为什么我们 ps 没看到那个挂掉的容器的原因,除非你加上什么啊,杠 a。 好,我们来试一下刀克尔 ps, 杠 a 走, 这样挂掉的这个 mn 是不是也能看到了? execute 退出了,那现在我想把它再启动呢,我可以通过刀看什么, 打扰他吧,这样呢,就能把这个容器再启动一下了。来,他的名字叫什么呀?是不是还是 mn 的?回车再来刀客 ps 看看是不是活过来了。行了,那现在这个演示的也差不多了,咱们把这容器删了, 卸磨杀个驴。那我怎么删呢?还记得那个命令吗?叫做刀客 rm 对不对?哎,那删你删谁啊?你要把容器名字告诉他吧, mn 回车。嘿呦, 不能删,这卸磨杀驴还失败了,驴还要反抗两下。说呀,你不能删除一个运行中的容器,你看人家还在干活呢,你想把人杀了?这不行啊,你得先让他停下来,对不对啊? 运行中的不能删,那停了不就能删了吗?那这么做有点麻烦,我每次删,我得先停 stop 再删,能不能强制删啊?咱们来了解一下刀口 rm 八 杠杠 hap, 大家要善于利用帮助文档啊,走起,看一下,这有个参数叫什么呀?杠 f, 你看强制干啥事?删除?删除谁运行中的容器?行了 了了,加 f 呗。刀口 rm 杠 f 吧, mn 回收 好,这次我们再来刀开 ps 啊,再来杠 a 看一下,这次是真的没有了,你加杠 a 也没用,他真的被删掉了。好, 那么到这里我就演示完了刀开容器操作的常见命令了,之前介绍的那些大部分的演示到了,那剩下的没有演示的还有没有讲的呢?都是一些不太常用的命令啊。好,我们回到 ppt, 我来做一个总结吧。 那么这节课呢,我们主要学习了这么几个命令啊,第一个是查看容器的状态,到个 ps, 那他查看的是运行中的容器, 如果呢,你把一个容器停掉,你可以用 doctor stop, 那这个时候你用 docps 查不到他的怎么办呢?加一个杠 a, 他就能查到所有状态的容器了,包括停掉的。 然后呢,你想把它重新启动,你还可以用刀克斯带他就能重新启动了。要想删除一个容器,你可以用刀克 rm, 这个迷你呢,可以彻底把容器删掉,但是运行中的容器不行,除非你加上杠 f 强制删除。而记住一个容器呢,我们用的是刀 car exact 加上一个杠 ia t 啊,也就是标准输入输出容器屏 要进入哪个容器,还有要执行的命令,那一般情况下我们用 best 就可以了,那进去以后你就可以利用 best 的命令,也就是我们的山药命令去完成文件的各种修改了吧。但是你看这里有说了一句话,说 这个命令虽然可以让我们进入容器修改文件,但是在容器里修改文件是不推荐的。为什么不推荐呢?有这么几个原因啊, 如果你进入容器内,你去修改。首先第一点是不方便,你看我们刚才进去修改的时候,连 vi 命令都没有,太麻烦了。 第二个原因是你在容器里做的修改其实是没有记录的,就是任何人都不知道,包括你自己。你现在可能知道你随着时间的推移,过了几个月了,你之前修改过什么,你还有印象吗?而且如果你改的东西多了,你是不是更容易忘掉了? 将来有一天我们又创建了个容器,我说你再给我改成跟这个一样,你还会改吗?不会了吧?所以说呢,我们不推荐大家在容器内做修改,那我到底应该怎么样去修改容器中的文件呢? 我们在下节课当中啊,会给大家去讲解文件修改的正确姿势啊,那我们这节课就到这里。

怎么用高考容器去部署环境了吗?开发会打包或大包吗?然后我们直接用高考的 rom 直接下载进行,然后再启动一下重庆,你可以直接说,呃,我公司当中的这个高考环境部署是开发那边会把所有需要搭建的一个环境会打包成一个镜像 给到就是这边。然后呢我们会通过一个命令来进行这个镜像的加载,加载完了之后呢,我们再会去把这个镜像运行成容器, 比如说我们这个项目会用到,呃,数据库买 ceco, 然后呢?呃,会用到我们的通看,所以呢我们在运行容器会用到多卡,会去映射端口,那数据库的端口会映射成三三零六,呃,通看的端口会映射成八零八零,然后去进行这个镜像运行成容器。运行成有容器之后啊,我们就可以直接去访问这个项目了。
