粉丝630获赞7137


dpc 微三点二模型发布两周时间不到,就以其强悍的 agent 的 性能、极快的响应效率、极低的 api 调用价格以及既可以本地部署外加百分之百适配国产硬件等特性,迅速成为国内大模型开发者的首选模型。 而与此同时, launch 一 点零这个大版本下也在十二月二号迎来了首个小版本更新。 launch 一 点一正式发布,大幅提升了 agent 的 运行的稳定性,同时大幅拓展了中间件的功能体系, 对开发者而言,构建复杂 agent 门槛进一步降低。本期公开课专门为国内开发者量身定制,我将带大家完全零基础上手学习 deep sea v 三点二加 long chain 一 点一这对黄金技术组合的 agent 开发方法, 从零系统学习 deep sea v 三点二模型的 api 调用的基本方法,并详细介绍当代 agent 开发的底层核心技术,帮助 calling 的 执行流程,并深入讲解 deep sea v 三点二原创的代码实现方法, 同时详细介绍 luncheon 一 点一版本中基础 agent 的 创建的流程和多部调用工具的实现方法。而考虑到目前 deepsea v 三点二最强的推理模式和 luncheon 一 点一 还不兼容,我们团队老师也是连夜对 luncheon 的 部分底层原码进行了修改,最终能够实现在 luncheon 一 点一中调用 deepsea v 三点二 reason 的 推理模型来搭建高性能智能体。 同时为了快速提升大家的实战性能,公开课的下半部分我将带大家手把手完成两项目前最热门方向的工业级 agent 开发。 首先第一项是 agentic rack 知酷问答系统,不仅能够灵活地实现各类文档的切分存储策略,而且能够实时地进行文档切片的召回测试。 同时借助 logitech 一 点一强大的中间键功能来实现用户上传内容的上下文感知,从而提升解锁进度。 而第二个项目则是一套页面精美、功能完善的 data agent, 能够实现 n r two、 python、 数据洞察、格式化分析等各项功能,同样也将借助中间件功能实现多工具管理和动态数据级的基本信息感知,从而大幅提升 agent 的 整体性能。 两个项目都是前后段分离的企业级 agent 架构开发,项目页面精美,功能完善,架构清晰,相信学完一整套一定能大幅提升大家的技术实战能力。 本期公开课也是目前最体系最完整的 deepsea v 三点二模型的 agent 开发教程了,公开课总共三个小时,八个章节,三万多次的课间,外加项目代码运行脚本、独家提供的 launch、 二次开发的库等都已经上线至复范大模型。进入社区有没有些更加复杂的一些这个应用呢? 好,我们接下来啊,来做一个稍微复杂点啊这样的应用。那么这个应用呢,是一个叫做数据分析 agent 的 一个简单的这个应用啊,其实我们公开课经常都会 以所谓的叫 data agent 这样的项目为例来进行这个讲解和演示啊,也是因为像 data agent 一 方面呢,确实应用面还是比较广啊,另外一方面呢,也是因为在构建 data agent 的 时候呢,能够接触到很多一些非常关键的一些技术点, 那么比如说对于现在的这样的个 data agent 啊,呃,这个是最终的一个前端演示的一个效果哈,当然这个前端呢是 单独来进行的开发啊,并不是这个使用这个 long chain 的 这个前端来进行的搭建啊,是单独开发的一个这个前端,那么对这个前端来说呢,其实啊功能应该非常清晰了,对不对啊?左侧是对话哈啊,你可以围绕一个数据来进行对话啊,然后呢右侧呢 主要啊是有两个方面功能啊,第一个呢,这个右上角呢是我们可以选择各个变量,然后呢去通过啊这个柱状的这个分布的这个影响,然后同时呢还有一简单的分析结果啊, 什么这个啊,相关系数多少啊等等等等啊一个简单的这个介绍,然后同时呢右下角呢是部分数据的这个展示啊,主要展示前十行的这个数据啊,就是这么样的一个这个 agent。 好, 那对于这个 agent 来说啊,那么它需要它需要能做到这个事情啊,就是比如说它需要围绕数据集来进行处理啊,对不对?然后呢很多时候我们在进行对话的时候啊,我们可能需要围绕这个数据集呢来进行一些 格式化的分析啊,啊,或者是机器学习的这个建模呀等等等等相关的这个操作,那这个时候他要能够把用户的需求 转换为可以执行的 python 代码去操作现在右下角这个数据集,然后呢给我们打印出他最后的啊一个些数据分析这样的这个结果啊,对不对啊?那这个呢是我们啊构建这个 data agent 核心的需要他去做的一些这个事情。好,那么接下来我们看看啊,这个 agent 怎么样啊来进行开发呢? 当然这其实仍然是属于一个呃,尽管大家现在看起来啊,就是如果之前完全没有基础的话啊,现在看起来可能会觉得这个项目看起来有点难啊,但实际上呢,像去构建一些 data agent 的 这种项目啊,在我们整个的啊公开课的课程体系里面, 它仍然是属于一个偏比较简单的啊一个项目,我们其实通过这个项目呢,也是为了给大家看一下啊,关于像这个 deepsea 三点二 recent 这样的模型怎么样来进行多部的工具调用,以及它实际在进行工具调用的时候呢,性能如何? ok, 好 啊,但是呢,同样也像我们刚才刚才说的一样啊,对于像这样的项目呢,我们公开课时间有限啊,肯定没有办法来进行逐行代码这个讲解,所以我们这段啊 以讲解思路为主,然后同时呢,我们会拎出其中最核心的那样的功能模块啊,也就是这个 agent 点 p y 啊那样的模块呢,来去讲解啊,它的主体的 agent 的 功能是如何来进行设计的。 首先哈,我们需要知道的是,对于这样的一个啊,这个 agent 来说啊,对吧,它当然是一个 long 一 点一和 deepsea 二啊,集成的这样的一个这个 agent 啊,然后它的核心功能呢,是需要啊,来进行一些比如说 这个数据的这个上传,然后呢内部的 python 代码显示器的这样的一个啊,这个把用户的需求转换成 python 代码,然后呢去操作当前这个数据集,然后呢还涉及到一些,比如说啊,它还需要格式化的绘图,比如,对吧?然后再比如说还需要来 进行一些这个交互式的这样的这个分析啊,用户有任何对当前数据的问题都可以去问他,然后他呢灵活的啊,根据他现在所采集到的这个数据这个信息来进行回复啊,大概就这样的一些这个核心的这个功能,然后当然他也是一个前后端分离的这个架构,大家现在看到的这个图呢,实际上是一个前端的这个图, 而后端呢?这里啊其实就比较考验咱们 a 政开发同学的一些这个想象力了啊,因为其实你面对很多的开发项目的时候,你肯肯 肯定是需要知道的是他有哪些核心功能,然后不同功能呢?应该如何去规划啊?一些技术点去完成啊?就比如说对于现在这个项目来说啊,你后端肯定是需要,比如说去推送一下啊,你当前这个数据前十行的前端啊,然后来进行展示。 再比如说前端用户选择了不同的这个列啊,你需要呢能够啊去计算他相关技术,然后推到前端去啊,再比如说前端用户输入了很多的这样需求,你需要 这这部分重点哈是需要灵活的去判断,哎,我现在是不是需要用到一些外部的工具来去完成这样的一个分析的工作。而对于这个项目来说,核心定义的外部工具呢,实际上是两个,一个呢是 这就是我们当前这个项目这个 tools 模块里面所定义的这个代码哈,一个呢是专门用于去实现啊,它的这个普通的 python 程序运行的。一个呢,专门用于去实现它的这个画图的方面的这个 python 程序这个运行的 啊,这个的话大家可以自己去看一下啊,但总之呢,我们所有的外部函数的,所有的外部函数的功能呢,都是保存在啊,这个 tools, 点 py 这功能列表里边的。 那么现在大家看到的这个架构啊,就当前这个项目的完整的这个架构啊,它包括一个 s, r, c 啊,包括一个这个 static 啊,包括一点 e, n, v 啊,还有这个 pad project 啊, 然后呢,这几个啊,项目,其实我们呃这几个,呃这个基本的后端的文档,这个结构哈,我们是需要跟大家说清楚啊,分别代表什么样的含义。首先呢, serve 啊,点 p y, 它呢主要是负责去封装你当前这个项目的一个又一个接口的,对不对啊?你现在这个前端用户有很多需求啊,点这个点那个啊,那后端得有这个接口来给前端来进行响应啊,这个呢, serve, 点 p y, 专门是使用 fast api 啊,去封装一个又一个功能接口, 而这个 agent 点 p y 啊,这个是我们一会儿是要展开来讲的哈,这个 agent 点 p y 啊,专门做的这个事情啊,就是去创建那样的一个 react agent, 那 么 react agent 呢?创建的过程大家能想象到啊,其实并不复杂, 关联模型欸,关联工具啊,然后呢,给他一个这个 prompt 啊,就可以去做好一个这个 agent 啊,所以呢,这个核心呢,这个代码实际上是在 agent p y 里边,但是呢,我们当前这个项目,哎,仿佛感觉有个问题啊,就是你想想看,那个用户呢,在前端它会灵活的上传各式各样的这个数据 集,对不对?它动不动想围绕这个数据集来进行分析,那么你每一次在响应的时候,你就必须得知道现在用户到底是挂载了哪个数据集啊。 所以呢,你的这个 a 帧点 p y 里边就设计了一个非常核心的功能,这个也是 cloud 一 点零以来非常重点的啊,非常亮眼的一个功能,叫做中间键,我们需要通过它的中间键的这样的功能呢,去灵活的控制我们每一次对话的过程当中它的系统消息 啊。当然这么一听大家就更晕了啊,刚刚才学会这 create agent 怎么样来写啊,现在就涉及到啊,什么?这个还需要动态的去规划每一轮在进行调用的过程当中它的系统消息,这是什么玩意啊?这个一会我们一会来讲啊,但总之呢,这个 agent 点 p y 专门负责的事情就是去创建好一个又一个的这个 agent, 然后呢去回复当前用户的问题, 那么再往下 tools 点 py, 刚才我们就说了啊,需要专门去存放我们现在定义好的这个 web 工具,哎,是存放在这个 tools 点 py 里边,然后同时 data manager 啊点 py, 它呢专门去负责围绕我们当前用户传进来这个数据库来进行一些处理 啊,这个处理呢,是分这个处理,主要是来进行一些固定的一些这个处理,比如说我们前端给用户提供了啊,去计算相关性的一些这个功能,对不对?那么这个 data 杠 manager 啊,它里面就有很多关于计算相关性的这样的一些函数,然后呢可以啊,去推推动到前端去, 然后同时 data manager 他 还负责你进来一个数据集,然后呢对你这个数据集先来进行一轮统计啊,总共有多少个列哈?这个列呢?它什么什么这个类型啊,然后呢?什么名字啊?对不对啊?对你的数据集信息来进行一个统计, 然后呢统计好之后发送给我们 agent 啊,告诉我们当前这 agent, 哎,现在呢,用户传进来了一个什么数据啊?哪里面呢?有哪些核心的这样的个指标跟信息,接下来你看着来进行分析啊,大概是这样的功能, 再往下啊,这个 static 这样的文件夹,这个文件夹其实我相信啊,很多开发前端的同学应该不陌生啊,它专门用于去存放一些静态数据啊,方便我们后面的去来进行网页端来进行展示的这个文件夹,这个文件夹接下来主要做的一个事情呢,就是 把我们啊,这个 python 这个绘制的图像啊,来进行本地的这个保存,然后啊我们前端在进行对话的时候呢,才能够很好的展示出你现在这样的一些啊,图片的这个内容啊,什么一回事? 下面下面这个点 e n v 对 不对啊?就是 api 保存的这个地方,下面这个 pi project 啊,这个基本上是写死的,就是代表你当前的这个项目里面总共涉及到哪一些基础依赖, ok, 就 这么样的一个基本项目结构,当然完整的。 这个网盘里边啊,我们在直播结束之后呢,应该就会上传完啊,大家可以直接呢扫码来进行一个这个啊,扫码来进行一个领取啊,应该是在这个上面啊,那么接下来呢,我们就挑其中最重要的那样的功能模块来进行讲解,那就是 a 阵子点 p y 啊, ok, 那 么这个 agents 点 y 啊,当然下面其实还有一些关于我们当前这个 agent 的 一些具体的文字版的一个说明哈,各个模块分别是有哪一些这个功能,大家可以再去点进去看一下。然后呢,我们重点啊来介绍关于 agent 点 y 啊这样的一个代码, 可以说这门公开课包含了 deepsea v 三点二加 long chain 一 点一这对黄金技术组合的从入门到企业级 agent 开发的全部的核心知识点。 如此诚意满满的公开课,还望大家多多三连支持。公开课的课程代码、项目脚本、参考资料等都已经上线至覆盖大模型进入社区。近年来大模型技术发展势头非常迅猛,我也将持续为大家提供最前沿实用的技术教学。我是九天。

dpc 微三点二模型发布两周时间不到,就以其强悍的 agent 的 性能、极快的响应效率、极低的 api 调用价格以及既可以本地部署外加百分之百适配国产硬件等特性,迅速成为国内大模型开发者的首选模型。 而与此同时, launch 一 点零这个大版本下也在十二月二号迎来了首个小版本更新。 launch 一 点一正式发布,大幅提升了 agent 的 运行的稳定性,同时大幅拓展了中间件的功能体系, 对开发者而言,构建复杂 agent 门槛进一步降低。本期公开课专门为国内开发者量身定制,我将带大家完全零基础上手学习 deep sea v 三点二加 long chain 一 点一这对黄金技术组合的 agent 开发方法, 从零系统学习 deep sea v 三点二模型的 api 调用的基本方法,并详细介绍当代 agent 开发的底层核心技术,帮助 calling 的 执行流程,并深入讲解 deep sea v 三点二原创的代码实现方法, 同时详细介绍 launch 一 点一版本中基础 agent 的 创建的流程和多部调用工具的实现方法。而考虑到目前 deepsea v 三点二最强的推理模式和 launch 一 点一 还不兼容,我们团队老师也是连夜对 launch 的 部分底层原码进行了修改,最终能够实现在 launch 一 点一中调用 deepsea v 三点二 reason 的 推理模型来搭建高性能智能体。 同时为了快速提升大家的实战性能,公开课的下半部分我将带大家手把手完成两项目前最热门方向的工业级 agent 开发。 首先第一项是 agentic rack, 知酷问答系统不仅能够灵活地实现各类文档的切分存储策略,而且能够实时地进行文档切片的召回测试。 同时借助 logitech 一 点一强大的中间键功能来实现用户上传内容的上下文感知,从而提升解锁进度。 而第二个项目则是一套页面精美、功能完善的 data agent, 能够实现 n r two、 python 数据洞察、格式化分析等各项功能,同样也将借助中间件功能实现多工具管理和动态数据级的基本信息感知,从而大幅提升 agent 的 整体性能。 两个项目都是前后段分离的企业级 agent 架构开发项目页面精美,功能完善,架构清晰,相信学完一整套一定能大幅提升大家的技术实战能力。 本期过来课也是目前最体系最完整的 deepsea v 三点二模型的 agent 开发教程了,过来课总共三个小时,八个章节,三万多次的课间,外加项目代码运行脚本、独家提供的 launch、 二次开发的库等都已经上线至复泛大模型进入社区。呃,我们实际在进行开发的时候,它差不多是这样的一个这个流程哈,首先, 那我们呃需要去确定好它完整的这样的架构当然是一个 organic rack, 这样架构用到的核心的技术点就是我们刚刚前面所列举的那一些技术点啊,什么文档切分呐,存储啊,剪索呀那样的一些这个知识点,但是这里面同样它会有一个比较难的这个地方哈,呃,进阶议题哈啊,进阶议题就在于说 我们的 system prompt 到底应该怎么写啊,才能够让用户灵活的去啊,才能够让大模型灵活的感知到,现在用户是上传了不同的这样的这个文档片段, 也是跟我们刚才之前上传不同的这个数据集,让用户知道现在用户上,让大模型知道现在用户上传了什么数据集其实是一样的哈, 需要用到一个中间键啊,来进行动态的系统提示词这样的个编写啊,就是说我们这个系统里面实际上是有这样的一个功能啊,就是用户上传不同的文档啊,它呢是会快速的提取当前这个文档的一二级标题,然后呢把它组成组装成是一个动态的一个系统提示词,传入到 每一次大模型运行之前啊,这个时候他才知道,哎,是我现在用户传入了一个什么样的这个文件,对不对啊?我现在呢需要怎么样来进行问答啊?是会有这样的一个核心的这功能啊,当然这我们就只能提出这么一点啊,具体的这个啊代码,大家回头可以自己在下面的这个核心代码的文件里面来进行一个查看。 然后呢整个的后端的文件架构,这也是一个非常标准的一个 rex 文件啊,知道大概是个什么样情况,首先还是一样的啊,有个点 e n v 这个文件啊,作为配置文件, 然后呢有这个 requirements tx 啊,作为我们的环信依赖这个列表。然后呢有个 data 这个文件夹,这个文件夹里面专门用于存储用户上传的这些文件和对应的啊, vector stores 啊,对应的这个磁性数据库啊,全部都放在 data, 呃, data 这个文件夹里边儿, 那么再往下 app 这个文件夹里面,就是我们现在核心的这个应用的啊,这样的一个这个代码文件这个存储的这个地方了,那么 man 啊,肯定是主代码,对不对啊?它作为 fast api 所有后端接口的这样的一个主程序的这样的个应用,这个接口啊,它呢是会把所有这个服务呢封装成是一个又一个接口来给我们前端来进行一个提供。 那么再往下啊,就是我们的这个 core 啊,再往下就是 sorry, 就是 这个核心里面的 config 点 p y 这个它这个文件,它其实往往是用于去来进行一些当前的 config 模型啊,大模型的初设这样的设置。 然后再往下啊,还有这个,呃, skims 啊,点批 y, skims 点批 y, 它呢,其实往往啊是去设定好我们现在前后端交互的一个基本的数据结构啊,因为现在其实数据结构很乱的,我们后端返回的这个结果很有可能是文档片段,文档片段评分啊,还有这个模型响应的这个结果,还有每次响应的这个 结果里边可能还会包含着一些,比如说啊,这个什么参考的文件列表,对不对啊?参考的这个短文档这个列表啊,所以呢,需要有一个去定义,我们现在前后段数据统一的这个识别,能识别这样的对象,然后 endpoint 啊,是用于响应 h d p 这样的请求,然后呢,对于我们实际的开发者来说,可能这两个 啊,是比较核心的两个 p i 文件啊,一个呢是 file search 点 y, 一个呢是 agent service 点 y 啊, file service 点 y 和 agent 的 service 点 y, 那么这个 files service 等 p y 主要是用于来进行文档的切分啊,然后词强量化啊,这样的一些工作,然后呢,这个 agent 等 p y 啊, sorry agent com service 等 p y, 主要呢就是负责啊,动态的这个 agent 的 啊, system prompt 这样的编辑和啊,我们去创建最终的这样的 react agent 啊,这样的架构 好啊,那么一看,哎呀,这个代码好复杂啊,对不对?这个呢,其实也是呃,快速大家看一下我们整个的啊,能用到或者能按照企业级 rack 项目编的一个比较典型的一个项目架构,大概长什么样啊?公开课呢,肯定是没有时间 一次来进行一个讲解啊,那我然后啊,大家可以自己啊课后去看一下,当然也可以啊,考虑报名我们的付费课程呢,会有更加复杂的啊,企业级的这个 rack 系统的这个知识点的这个讲解 好,当然啊,其实我们重点啊,是来看这个项目怎么样来进行部署啊,这个代码呢,我们就不展开来讲了啊,这代码确实会有一点复杂啊,大家回头呢,可以自己看一下我们这个代码和对应的这个代码的这个解释啊,然后我们重点来看怎么样来进行运行啊,运行其实很简单啊,也是一样的, 先下载源码哈,然后呢进入后端文件啊,最好这个是需要打开命令行,进入后端文件,然后呢?后端文件夹安装后端依赖,然后呢开启后端服务,哈哈哈,对不对?也是一样,然后呢再打开一个啊这个命令行,然后呢需要进入到哎 我们的这个前端文件夹里边啊,然后呢再需要输入 npm 这样的命令,去安装我们的前端的这样的依赖, 然后呢再去开启我们的前端 npm run gif 开启一下,然后开启完了之后,接下来你就可以看到啊,现在它同样啊,这个应用也是在三零零这个端口就可以直接开启哈,它就可以在三零零这个端口啊去调用服务了,就这么回事 啊,先开启后端,然后呢开启前端啊,他们后端给前端提供的服务端口呢,是在八零零二这个端口啊,然后呢你就可以开心愉快的啊,在前端来进行 操作和来进行对话了啊,大家就这么样的一个这个完整的这个流程啊,然后呢实际前端的这个演示效果啊,就如图所示啊,大家就是这样的一个这个实际的 啊,对话的这个展示的这个效果 ok 啊,具体功能啊,大家可以自己部署好了之后呢,来进行一个运行和测试 好,那么到这,哎呀,我们这期公开课的内容实际上非常非常的这个长哈啊,也是为了希望能够这个满足不同的啊,咱们这个呃 level 的 小伙伴的学习这样的这个需求。可以说这门公开课包含了 deep sea v 三点二加 long chain 一 点一这对黄金技术组合的从入门到企业级 age 开发的全部的核心知识点。 如此诚意满满的公开课,还望大家多多三连支持。公开课的课程代码、项目脚本、参考资料等都已经上线至复范大模型进入社区,近年来大模型技术发展势头非常迅猛,我也将持续为大家提供最前沿实用的技术教学。我是九天。