mc 的如何本地话步数这个视频呢,会用最简单的方式手把手教你,顺势保姆级的教程,大家可以点赞收藏。对于想学习 ai 大模型,这是一个非常关键的步骤,就像学编程 hello word 一样,这个本地话步数如何去运行大模型, 就是给你个程序,你把大模型跑起来,是不是就是一个 hello word, 对于以后的学习来说算是至关重要的,听说这个 hello word 对于我们学习起到一定的作用。来开开, 首先给大家打打气啊,很多人听到本地部署达摩星啊,感觉特别高逼格就望而却步,还有的就是,哎,我的服务器啊,我的机器啊,配置太低,部署不起来,种种刻刻的原因呢,造成了哎呦学习达摩型一直停滞不前, 把家有两个字送给咱们自己,然后跟着欢哥这个视频呢来开始部署私有化大模型。私有化部署就两步,我不信你不会。第一个就是安装 olam, 第二个就是 运行 dipsyk, 直白来讲就是第一步安装刀口,第二步就是在刀口运行一个 hello word 到刀口开发的小伙伴就比较熟悉了,其实和他的过程是有点类似的。好,我们看一下第一步安装 olam, 其实 olam 呢是一个什么东西呢?它是一个开源的框架,就是专为在本地机器上便捷部署和运行大模型而设计的一个开源框架,你可以理解为就类似于刀口的一个概念。 他的安装也比较简单,访问网站之后点击 download, 这里提供了三个版本,像 windows, linux 和 mac。 紧接着就是点击下载我们下载这个 windows, 然后这里有网速比较慢的,然后后面会提供一些方式进行高速下载, 下载完之后呢,我们直接点击这个软件,然后呢点 instle, 需要注意的他是安装在 c 盘这个路径不支持更改的,大约需要五 g 以上的一个空间,大家看一下这个磁盘是否够。然后紧接着就是 等待安装完成,等安装完了之后啊,他没有什么提示啊,你可以再开始菜单或者搜索这个 olam, 就可以找到对应的这个软件了。 第二步也是最简单的,就是选择大模型之后,复制这个大模型的相应命令,直接运行即可。其实对于 dowsik 二一呢,他有很多的这种参数,比如说一点五 b 的,七 b 的,八 b 的,像一点五 b 的话,占用空间一点一 g, 这个我们普通的电脑都能够可以 ok, 所以呢以这个为例,我们可以看一下啊, 这个模型在欧拉姆点击 model 下面是所有的这种模型可以安装的,你看第一个就是 deepseak, 这个模型点进之后,然后可以选七 b, 也可以选一 b, 这是不同的参数,不同参数有不同的大小,直接选择右侧这条命令, 点击复制就完成。然后呢就是执行在开始菜单,鼠标右键这里有个管理员的终端,点击支撑之后啊复制进去,然后回车 就可以运行这个大模型了,下载速度可能比较慢啊,大家可以耐心等待,等下载完之后啊,会出现一些较量完整性的一些东西,嗯,等待就可以了,等整个成功之后,他会出现一个 sss 的提示, 这时候可以进行对话了,比如说我们问十七和十二谁大,他呢会有个提示,他思考的过程呢,他会显现出来,最后呢给出相应的结果。 再比如让他讲个笑话,他也能给给出相应的一些样例。但是啊,你看我们打开任务管理器,在他处理的时候,他所占的 cpu 是很高的,有的时候会达到百分之百啊什么的,这个很好占 cpu, 但是对于这个小模型来说啊,问题不是特别大。好,最后呢给大家加个小段,就是外部 api 和大模型如何进行交互呢?其实他有对应的 api, 就是我模型搭建完了,在本机其实可以通过一些接口进行交互,就是 rise 风格的一些交互,像一些 url, 还有 选择参数啊,这里都有列像生成文本传这个参数呢,通过陶瓷麦或通过加号程序都可以进行调调用,好吧,然后如果操作的话,可以通过这几个切口进行交互,就可以非常的 easy 了,可以开发什么样的应用,可以发挥我们自己的想象力了?好,这节视频就到这里,希望对大家有帮助,努力 在中国。