郎辰是一个神奇的开源框架,他让使用 ai 开发者能够把像 g p t 四这样的大语言模型和自己的计算或数据资源结合起来。今天我们就来给想了解郎辰的朋友们介绍一下他的基本原理。我们都知道像 g p t 或者 g p t 四这样的模型具有丰富的知识,问啥都能回答的不错。但想象一下,如果你能让这个模型从你的数据文件里 找点特定的东西,那该有多好。这可能是一本书,是一个 pdf 文件,或者是带有专有信息的数据库。 long chain 就能让你把 gps 这样的模型连接到你自己的数据源。我们说的可不是把文本文件的一小部分粘贴到叉 gpt, 而是使他能引用一个装本你自有数据的数据库。而且一旦找到所需信息, long chan 还能够帮你采取行动,比如说发个带有特别信息的电子邮件等等。要实现这个功能,你得把想让语言模型用的文档切成小块,然后存到向量数据库里,这些小块以嵌入的形式储存,也就是说他们是文本的向量表 表示。这样你就能构建遵循通用流程的语言模型应用了。例如,用户提一个问题发到语言模型,在向量数据库里,用这个问题的向量表示搜相似内容,这样就能从向量数据库里找到相关的信息块给到语言模型。现在语言模型既有了初始问题,又有来自向量数据库的相关信息,所以能回答问题或采取行动了。 long chain 就是帮你搭建这种流程的应用,这些应用既能用我们自己的数据,又能采取实际行动,而不仅仅是回答问题。 这种能力为很多实际用力提供了可能性,像个人助手方面就显得尤为重要。你可以让大语言模型帮你预定机票、转账、交税等等。你还可以让大语言模型引用教学大纲,帮你快速学习资料,包括编码数据、数据科学分析都会因此受益。狼犬的核心价值可以分为三部分, 有 l l m 的包装器,让我们连接到像 t p、 t 四这样的大型元模型,或者是哈利 f 的模型。然后有锁眼,让我们为 l l m 提取相关信息链,也就是 chain, 让我们把多个组件组合起来,解决特定任务,构建整个 l l m 应用程序。 最后有 agent 让 l l m 跟外部 api 互动。当然, long chant 有很多东西要了解,而且每天都有新东西加进来,但大体上这个框架就是有模型和模型包装,有 prompt, 有链,有嵌入和项链存储,然后有 agent。 希望这段简介能帮助你快速入门 long chant。 这里是未来 ap 社,关注我,了解更多 ai 咨询。
粉丝816获赞2741

aia 镜头目前在整个业界被认为是大模型落地最有希望的方向,市面上的 aia 镜头有很多,大部分是基于 bimapi 构建的。摩拉社区最近开源了 moscopaeigent 这个以开源大模型作为核心中枢,通过使用工具来提升大圆模型的整体能力。 今天我们花五分钟教大家如何基于开源大模型来开发一个 a 进的系统。首先我们介绍一下 a 进的,如果把大模型比作人脑中枢, a 进的就是人体。 在任务执行中,大模型负责规划调度的命令发布,由 ag 的协同各种 ai 小模型或者 api 就能够很容易将大模型实际落地到各个行业的应用场景。 接着我们看一下 agent 是如何执行任务的。用户输入请求后,摩拉 ant 会先做一系列的工具检索,比如用 户想要生成一个商品文案以及对应的商品视频介绍 a 呢,就会先去检索相关的 a p i 大模型进行规划调度,调用对应的视频生成 a p i a 型的去执行对应的一篇,然后把执行的结果返回给大模型,大模型最终整理一段回复反馈给用户,为你带来全新的 vr 视觉盛宴。 而为了完成以上任务, ant 主要调用了三个模块协同工作,以大模型为中枢,包括记忆模块和工具使用模块。大模型中枢模块主要负责任务规划调度以及回复生成。 而记忆控制模块主要包含知识检索以及 promote 管理。最后工具使用模块包含工具库以及工具检索和工具的可定制化。现在教大家怎么使用模达 aj? 首先我们打开 notebook, 将 moscopy 的代码可弄过来,打开 demo 里的这个文件,接下来我们读取环境变量文件和工具配置, 构建好后,搭建工具向量检索。这里提供了基于阿里云 darescope 引斑顶和摩拉社区开源引斑顶两种,我们这里拿 darescope 引斑顶作为演示。然后我们启动中枢大模型, 这里以 msa 镜的千万七 b 作为样例,点击直行 a 型的就会拉取七 b 的大模型进行部署。 模型部署完成后,现在我们用于构建 a g 特的工具配置工具检索大模型部署均已完成,这样我们直接完成了 a g 的系统构建。接下来我们测试下构建好的 a g 特,让它生成一张有花有酒的图片, a 景的自动检索图片生成工具生成请求,并调用相关的 api。 接下来我们看一下生成的图片, 可以看到这里很好的生成了有花有酒的一个高清大图。接下来我们给大家演示一下怎么基于摩大 aj 的使用检索工具构建行业问答。在 notebook 里打开另一个文件,读取环境变量和工具配置部署大模型 到这里的操作和刚才演示的是一样的。 接着我们需要配置向量检索服务,这里拿摩达社区开源的 corel 文本向量模型来演示。 构建好向量服务后,我们导入摩大社区的知识文档以及对应的切分工具切分知识库文件, 然后将文件和支库服务导入近开源的向量检索工具 face 向量检索引擎构建完毕,我们测试一下向量检索引擎召回的效果,问他一个摩纳社区相关的问题,比如 model scop 模型可以在互联网使用吗? 我们看一下 ad 的调用知识库前的回答,可以看到里面存在着大量的知识幻觉。他说摩拉社区很多模型都支持非网络下使用,这是不正确的。然后再看知识库调用完成后的回答, 这下回答正确。未来摩达 a 进程还会接入更多的开元大模型,以及开放更多基于摩达 a 进程开发的应用,包括个人助力分身、 sora 进程、 智能导演助理等等。也欢迎大家将摩达 a 进展用于工业制造、游戏开发、智能互联等各行各业。

用大语言模型做应用才是正确的方向。今天给你们分享一个可以像搭积木一样构建 ai 应用的工具。 promot fro 是微软最新开源的一套开发工具,它大大简化了基于大语言模型端倒端开发 ai 应用程序的周期, 实现了从构思、圆形设计、测试评估到生产部署和监控一条龙服务。具体来说,你可以用 promote pro 把不同的工具和代码组合在一起,形成一个可以运行的工作流。接着利用 vsq 的将工作流可视化,方便你进行调试和修复问题。 特别是与大语言模型的交互部分,如果你对 python 比较熟悉,可以按照这个入门教程实践一下。另外,官方还提供了实用的案例,教你从零到一搭建和 pdf 聊天的 ai 应用。整体体验下来啊,我认为这个工具比我之前给你们分享的 province 好用不少, 我们最近也开始利用此类工具基于大于模型来开发 aibox。 如果刚好你也对 promtang new 感兴趣,欢迎一起学习交流。

ai 界的安卓系统正式开源了,羊驼二可以称之上目前开源系统中最强的 ai 大语言模型,而且可免费商用。今天老张教大家如何把羊驼二部署到你的本地,咱们提前体验一下。首先看一下效果,可以直接将拉玛尔部署到咱们的本地电脑上, 根据您电脑性能不同,咱们可以选择不同的版本,性能越强,它的效果也就越好。接下来老张教大家如何轻松的把它部署到你的本地,咱们提前体验一下辣么二究竟有多强大。首先第一步,咱们可以去 dd hop 网站中搜索 test 杠 generation 杠外部 ui, 要这样的一款 ui 工具, 咱们可以往下去拉,找到最底端的这个下载选项,根据您的电脑系统进行下载。下载完成以后,直接将压缩包解压出来,然后双击进入,然后选择 start 杠温 六字典 b a t 这个文件双击打开。如果过程当中有任何问题,欢迎在评论区当中进行留言,老张会给大家一一解答。好的,安装成功以后呢,咱们会发现他会自动的给您产生一个 test 杠,占地 recent 杠 y b u i 拿到他以后,咱们不要着急启动。 老张呢给大家提供了这样的一个拉马尔七 b 的一个语言包模型,如果您这边说老张我自己想下载,我去哪下呢? 可以直接去这个憨狗 face 上找到这个 mate lamar 这样的一个文件,然后选择您对应的版本,因为它本身是三个模型嘛。七 b 十三 b 七十 b, 根据您的显卡进行选择,如果您是第一次打开这个网站,会让您先去做一个申请,因为我这边已经申请过了,咱们可以直接选择文件和版本,然后可以在这直接进行对应的下载,这是第一个下载方式,第二个下载方式可以直接 下载对应的版本,注意咱们的版本后缀是 ggml 这样的一个版本信息。当然如果说你说老张我什么都不想下,我只想体验一下所有东西,我会给大家打包整理好,到时候你可以直接在老张这进行领取。 ok, 然后这个地方都配置完成以后,咱们再次的双击打开,如果双击过程当中爆了一些错误,咱们可以先尝试更新一下对吧?这有一个更新系统,然后双击打开,当咱们打开之后,他会弹出一个 uil htvp, 冒号幺二,七点零点一,冒号七九零八,证明咱们这次启动是完全 ok 的, 咱们就可以直接打开您本地的浏览器,直接启动就可以,启动完成之后不能直接使用。注意上方有一个 model 啊,这个这模型对吧?把模型这个位置一定要选择咱们的这个拉吗?二,这样的一款模型,这款模型 咱们放在哪呢?放在咱们 test 杠 generation 杠外的 ui 的文件夹中,有一个 models 文件夹,把这个模型放到这个里面,我会给大家把模型提供,你直接拽进来就可以,然后在这个位置选择模型,一定要选择复合,然后再点击刷新, 刷新之后回到这就可以轻松的进行聊天了啊。因为现在这个羊驼二呢,他刚刚开源,对中文呢还是不太理解的,所以说咱们不要担心,你先把他部署上,后续都会逐一更新的。

一觉醒来,最强的翻译大模型来了啊!这个就是麦塔耶最近发布的 similize fourt, 它与以往的一些翻译模型呢,有很大的不同,它是一个多模态的翻译模型啊,它可以无缝的翻译和转录语音和文本,你可以将语音翻译成其他语言的语音, 又或者呢,将语音翻译成文本,文本翻译成语音,文本翻译成文本。而且啊,他还支持一百多种语言啊,最重要的是他支持中文, 你要知道,现在支持中文的开元大墨镜啊,实在是不多,我们直接看效果,先找一段文本让他翻译,可以看看翻译的效果怎么样。甚至呢,你还可以上传一段音频,让他来翻译,音频官方呢,也提供了一个弹幕,可以快速的让你体验他的翻译功能,感兴趣的可以去看一下。

大模型真的不太重要了,这个腾讯这件事情干对了,大家好,我是行行业的顺哥啊,因为昨天呢,我看了一条好消息,就腾讯正式的在行业里面推了一个大模型的一个底座, 把行业里面啊,几十个大模型啊都拿出来了。腾讯拿完这个大模型之后啊,其实给所有的开发者,应用的 创业者带来全新的机会,因为你不需要跟某一个大模型公司去单独合作了,你只需要 在腾讯的这个底座里面呢,就可以结合你的行业场景,做各行各业的这个大模型。不,我前段时间一直在说一个话题啊,叫强应用加多模型时代的到来,而今天呢,腾讯把这个多模型的这个啊市场提供了之后啊,就会让这样的一个预言 变成了现实,所以说这也是开发者,尤其是应用的开发者的一个春天,所以说我也是希望啊,在这一波的这个 ai 浪潮里面啊,应用开发者赶紧要行动,尤其是一些做大模型的一些创业者,赶紧醒悟, 赶紧做应用吧,你再去做啊,大模型这个时间啊已经没有机会了,好,现在做应用才刚刚开始, 也希望所有做应用的公司啊,来跟行行 ai 合作,最后呢,把你的这个应用啊赋能到这个千行百业,能够把产业的 ai 正在搞起来,帮助企业家啊奇效,帮企业家解决行业的实际问题,谢谢。

你敢信这个开源的 ai 模型一定能听懂人话,理解人的意图和情感,并且做出相应的面部表情和动作。怎么理解呢?就是当你和 ai 聊天时,他能根据你说的话来做出相应的笑脸、皱眉和反应。比如主播说了一些开心的事,模型就会让虚拟听众笑。如果说了一些让人不舒服的事, 模型就会让虚拟听众皱眉。大胆想象一下,在这个基础加持下,以后你在直播间骂数字人,主播讲不好,他还真能哭出来。

插播一条最新消息,阿里云今天发布了同一千万七币的开源模型,同一千万七币是今天中午左右开源出来的,目前在哈根 face 上面已经提供了七币和七币 chat 两个模型要下载。这个评测数据相当的炸裂,这个模型一经推出是直接超过了市面上大部分同规模的模型的 兄弟们,新一代的大模型卷王他来了,总之这个数据是看起来非常非常惊艳的呀,实际使用效果有待后续的验证。模型的上下的长度大概是在八千 tokens 左右,同时这个模型是针对插件相关的调用做了优化了,能够有效调用插件以及升级为 agent cbt 的。这个模型是针对 api、 数据库模型等工序的调用做了特殊优化的,基本上可以看出案例为了推出这个模型是做了不少准备的。关于模型的使用协议,这两个模型是允许商用的,在项目的威力密中也提供了使用这个模型进行推你的视力代码,你也可以在 model scop 社区里面体验同一千文的问答。项目第一天开展出来,获得了将近五 百颗星,感兴趣的兄弟们可以去体验一下,或者是把模型下载到本地实际测试一下。模型占用空间大概是十五个 g 多一点,模型量化之后最低是需要七点几个 g 的显存来跑,不做量化的话,正常是需要十六个 g 以上的显存。

玛依塔 ai 现在已经开源了大语言模型拉玛兔,并且可以免费使用,也支持商业用途。拉玛兔一训练的 toky 已经达到了两万亿的一个级别,人工标注的微调模型都达到了一百万的一个量级。现在这个网页可以完全免费供大家使用体验。可选 选择的模型一共有三个模型名称,里边的数值代表了他参数的量级。参数量级越低,处理任务速度越快,参数亮度越高,处理速度越慢。高参数量的七零币也可以更好的去执行复杂的任务操作。

不知道是 mata 疯了,还是扎克伯格疯了,竟然一次性开源了自己上千亿的 ai 研究成果。我们都知道谷歌、微软、欧鹏 a 等巨头选择的是封闭的商业模式,而 mata 的扎克伯格好像正在发动一场 ai 的全民战争, 几乎开源了自己所有的 i 研究成果,让所有人都可以使用他们的基础模型来训练自己的人工智能助手。有一种什么感觉呢?就是谷歌开源安卓系统,让所有的手机厂商联合起来大战苹果 iys 的感觉。 这次 meta 开源的模型叫 inmate 办的,用超级浓缩的一句话来概括,就是利用现有的 ai 技术,将文字、图片、视觉、听觉、底层传感、数据这些信息集合到一个模型里面,全方位模拟我们人类接收处理信息的方式。当我们看到一 张图片,其实是会不自觉的联想到这个场景的声音,甚至是其他相关联的一些场景信息的。 meta 这个 inmate 卖的 demo 呢,也给我们展示的这些功能。例如我们看到这个狗狗的图片是会联想到狗叫,看到老虎的图片是会联想到老虎的咆哮,那反过来,我们听到鸟叫的声音,是不是也会联想到一只鸟飞过的画面, 听到火车的轰鸣声,也会联想到火车在轨道上飞驰的画面,这说明什么问题呢?我们的人类大脑接收处理信息其实不是孤立分离的,而是全方位立体的。 那未来借助 ai 技术呢?文字、图片、声音、视觉、听觉,甚至是触觉,这些数据都会变得非常容易相互转化,相互关联,这 大概率会带来一个这样的结果,那就是重塑整个搜索引擎的形态,这意味着我们可以快速的用图片、语音、视频来搜索任何我们想要的相关资料,而不是像现在这样基本还局限在文字搜索框里面。大家有什么看法也可以在评论区里面留言讨论。

万众期待的最强开源 ai 模型 s d x l 一点零终于开源了!也许有人会问, s d x l 一点零是什么?用一句话概括,在开源免费领域, s d x l 一点零是最强大的绘画模型了。在图像质量、样式控制以及复杂概念生成方面,由于其他模型, 根据官方数据, s d x l 系列吊打 s d 其他版本, s d x l 可以生成任何艺术风格的高质量图像,对比度、 灯光和阴影方面有更好的表现。默认分辨率达到一千零二十四乘一千零二十四,甚至可以生成以往图像模型难以渲染的概念,比如手部 文字或者空间布局类图像,就像这个女人在追一条狗。在生成复杂详细同时富有美感的图片时, s d x l。 只需要少量提示词 就可以,不再需要使用大师级等牛逼词汇。同时, s d x l 还可以理解一些词汇的多重含义,比如 the red square, 可以是著名地方, 也可以是红色方块。 s d x l 基于创新的架构,可以运行在八 g b 的消费级 g p u 或于服务器上。 d x l 一点零模型微调更加简单,制作 laura 和 checkpoint 的数据量会更少。了解到这里, 你是不是迫不及待的想试试了?不知道怎么下载安装,可以在评论区留言,关注我,了解更多创业项目。

你要知道这个开源的这些东西呢,他实际上是什么?是对于这个不开源的他,首先他是一个洗稿过程,他这遇什么?遇训练和微调。他是啊,建立在什么呢?你这个原有的大系统之上, 你原有大系统做了很多的投入的时候,现在呢,我的开源出来了,我开源呢,开始在这洗稿了。洗稿以后呢,对你这个研究,这大系统,实际上他是有一定的威胁的。怎么样子收费就立刻就变成了一个问题。 呃,对吧,因为的话,对于这个高端用户,呃,毕竟是少数,低端用户是大多数。低端用户的话,如果有免费的,他肯定有免费的。呃,对吧,那个高端用户有多少呢?你一旦那个低端用户都被 开源抢占了的时候呢?你高端用户的时候,嗯,那个要收太高的费的时候,人家也不承受,所以你这个推不起来,你这没有那么大的那个规模,对吧? 呃,你怎么去做?就跟当年的互联网的网络免费是一样的。呃,最后一定是什么呢?从网络免费 走向什么?更深的知识,更贵的收费,根本就不公开了,就是他破坏了一个公开体系,就是原来的大家都会公开分享的,现在我们不公开了, 而且呢,这种呢破坏的这种体系下,到底谁干的?谁让这个爱爱的出来。你要知道他有那么多的开源软件,而且好多开源软件呢,和大厂的有些东西他是同源的,怎么 出来的?怎么就这么一句话攒出来的,你也不是说一个人就能干的,也有很多人干的,也要花不少钱的,这些钱哪来的?而且呢,你跟很多大厂的有些内核都是重叠的,你不涉及侵权吗?对吧? 你把这几个事情心深想一下,比如说这个开源是怎么来的?这这个开源呢?我们再深呢,可以跟你讲,开源就是一种竞争方式。 你要想明白这个道理,我别的打不过你的时候,我开源啊。类似的呢,我们再举个例子,你就像当年苹果如日中天要收苹果税的时候,呃,谁搞了一个开源的安卓呢?回忆一下这个历史啊,谁搞 搞了一个看准现在微软搞 chat gpt 如日中天的时候,又是谁在这事落后了呢?呃,又是谁受到了很大影响了?所以这个开源为什么要出来呢? 这个开源里头有了有多少投入在里头的,对吧?因为的话呢,我竞争不过你的时候,我可以呢,改变规则,改变竞争路路线, 这是很重要的道理啊。这个前面我们讲这个生态策略,讲 k 生成的 r, 还有阿尔法,阿尔法是要去改变你的那个生态策略的。 呃,明明白吧,就是说你这个 k 嘛,他很多人投入,投入很大,竞争能力很强,做特别尖端的产品,在这个产品声带里头也是 这样。你那个大数据大模型干什么的? k 策略,你二策略呢,就是很便宜,很少,大量的都在那,然后很多公司都死,对吧?看看谁能成功。阿法是什么?我破坏你这个规则,就是我全都开园了以后。呃,你这个不挣钱呢, 我让你这个能挣钱的。呃,那个机制要被打断了。以后呢?你后续的研发投入你就没有了,知道吧,我这一开园,我这的跟你的差不多,把你能挣钱的好多客户的扫掉了, 然后你就呃比较难了吗?对,所以这个开源哪出来的?这是真正考虑这个问题的关键。你这么大的一个体系,得得多少人开发呀,对吧?

火爆全球的 check g、 p t 以及备受关注的文新寓言引发了人们对人工智能的新一轮热议。 作为大模型产品,他们习得了人类的语言规律,能够聪明的回答很多问题。除了与人类对话, ai 模型还在生产线质检、作物病害识别等工农业场景中发挥越来越重要的作用。那么,究竟什么是 ai 模型呢? ar 模型是指基于已有的数据级运行深度学习算法所得到的输出,可简单理解为计算机在大量数据中学到的技能。 这项技能本身也是一种算法,就如同专业运动员在比赛前需要接受长期系统的训练,一个 ai 模型在投入使用前同样 也要经历训练,只不过这种训练是通过持续给机器喂数据并优化框架算法,匹配相应算力来达成。但是,正如我们不能期待梅西去打 nba, 马龙去踢世界杯, 一个用于火灾监测预警的 ai 模型也没法应用于超市商品结算。那是不是我们想要解决一百个问题,就要从头训练一百个 ai 模型呢? 要知道,训练一个 ai 模型技术复杂度并不比训练一个国家队运动原地,这便难倒了许多想要使用 ai 模型的企业。好在铁肩担道义的领先, ai 企业们想到了一个妙招, 那就是使用更庞大的数据级、更先进的无监督学习算法和更大规模的算力对模型进行预训练,使模型具备更大的参数量, 成为既能打 nba 又能踢世界杯,甚至可以参加视频赛的全能球员。在面对具体问题时,只需要根据特定领域的数据进行微调就能投入使用,从而向传统模型通用性差、开发应用门槛高这两大难题说拜拜。 这样的模型叫做大规模预训练模型,简称大模型。常见的 ai 大模型,由 nlp 自然语言处理大模型、 cv 计算机视觉大模型、 跨模态大模型和科学计算大模型。 nlp 自然语言处理大模型具备超强语言理解能力以及对话生成、文学创作等能力,广泛应用于医疗、金融、对话搜索、信息抽取、跨语言代码图、网络等场景。比如 gpt、 百度文心、一言就都是这类大模型产品。 cv 计算机视觉大模型可以广泛应用于对海量商品图片进行识别。 跨模态大模型可实现横跨文字、图像等多模态数据的搜索,以及用文本生成图像和视频。比如越来越被人熟知的 ai 作画,靠的就是这类大模型。 科学计算大模型可以帮助科学家更高效地从海量数据中发现规律,大幅提高科研效率。比如生物计算大模型可以更好地帮助研究人员进行蛋白质结构预测, 并在疫苗设计、新药研发、精准医疗等方面发挥越来越重要的作用。了解了大模型,那我们所说的知识增强大模型又是什么呢? 融合了知识图谱的大模型就是知识增强大模型。知识图谱是由大量相关互联的知识点构成的知识网络,当机器看到一个知识点的时候,也同时知道了跟他有关联的知识点, 就像人在读到一个词时,也会联想到同一词以及与这个词有关的其他词。有了大规模知识突普,机器就相当于有了人类的知识传承,可以从海量数据和大规模知识中融合学习,学习的效率和效果都有很大的提升。 知识增强,大模型对人类的语言表达具有更强的理解能力。举个例子,如果我们想找一张嫦娥降落月球的图片,那对于机器来说,最大的难点就是嫦娥是他还是他? 想要解决这个问题,机器就会进一步把降落这两个字关联到探测器上,那就可以确定这句话是指嫦娥探测器降落在月球,而不是传说中的嫦娥奔月。 学术界普遍具有一个共识,即模型规模越大,运算精度越高,实际效果越好。因此,全球 ai 企业也开启了对于大模型的军备竞赛。二零一八年的 gpt 预训练模型参数量突破了一亿,到了二零二零年, gbt 三模型 参数量就已经达到了一千七百五十亿。而二零二一年百度联合鹏程实验室发布的鹏程、百度文星大模型,模型参数规模更是达到了两千六百亿,是全球首个知识增强千亿大模型。那么 问题来了,如此厉害的大模型,要怎样应用到具体的行业中去呢?事实上,业界领先的 ai 企业已经和众多行业伙伴一起探索出了行之有效的大模型产业落地方式,这就是科技研发企业、技术应用企业共同把各自的优势进行整合。 技术应用企业根据自己的目标提出需求,具有算法、算力的、数据综合优势的企业将模型生产的复杂过程封装起来, 通过低门槛、高效率的生产平台,为千行百业提供大模型服务。这样的话,大数据、大算力、大模型能力,仅需少数企业操心, 产业界就可以拥有更坚实的技术底座、更便捷的开发工具、更全面的人工智能技术,享受到开箱即用的美好体验跟 产业的智能升级。面向未来,知识增强,大模型将会持续围绕整体平台化能力、行业赋能广度和深度进行持续攻坚突破,解决大模型开发落地难、覆盖广度低、应用深度浅、生态基础薄弱等问题, 将大模型变成驱动人工智能产业进一步高速发展的原能力引擎。大模型的未来也必然和我们每一个人息息相关,帮助我们的工作更有效率,让我们的日常生活更加便利。

给大家介绍一下一个媲美呃 gpt 四视觉模型呢,叫拉瓦这样的一个模型啊,这个模型的话呢,是开源节目前视觉模型里面最强的一个模型啊,那么视觉模型可以用作什么呢?这个,呃,这个之前在 ai 欧奔 ai gpt 四发布的时候,他们就公布了一些很有意思的图片啊,像有一个人,他在出租车后面啊,他在烫衣服,类似的,包括类似的,你可以用蒙娜丽莎的这样一张图,让让 让机器就是去回答,比如说这张图里面描述的是谁啊,是什么样的一个作品,他其实都是能很好的去回答的啊,甚至我们现在在那个自动驾驶领域的,我们可以 呃,我看到有些人甚至把一些图片啊,直接发给这个 gpd 四啊,让他去判断应该走哪条道路啊,前面道路发生的一些路况啊,让他怎么做判断啊?他都是非常好的,能 做一些呃非常智能的一些判断啊,这个就是呃视觉模型可以给我们带来的一些新的一些用途啊,包括我也看到过像 gp 四里面有些盲人啊,盲人的话呢,他有可能是看不到东西啊,但是呢他可以通过视觉模型 it, 他的眼睛挨一张照片 啊,再用,再用 a a p p, 呃,让他能够把它转化成声音啊,让声音给他播报啊,他的影视界啊, 所以这个的话呢,就是呃大圆视觉模型啊,在这个方面可以一些应用场景啊,这个项目叫拉瓦,拉瓦的话呢,目前是也是蛮新的一个项目啊,他是目前他在 k 叉五上也发布出来了, 他的热度也是非常高啊,八千四百颗星星啊,热度非常高的啊,他这个项目他主要还是对标啊,能够达到这个 gp 四这样一个水平的一个视觉的一个模型啊。那么确实他公布出 出来的数据也是比较亮眼的,我们大家一起来看一看啊,他公布了一些模型啊,他这些模型呢,我看了一下,他对比了几个啊,包括中国有一个比较阿里开源的通一千万的 lm 啊, v l chart 这样一个模型,之前我也是介绍过的啊, 那这个模型的话呢,他跟拉吧也对比了一下,你可以发现这个拉吧的话呢,他的整个一个各个维度上全面超越了工艺千万的这样的一个 vl 视觉的这样的一个模型啊,他目前是绝对是领先的啊,包括我也看到有些报导啊,报导上说,嗯, 喇叭这个模型的话,跟第四啊进行协同的话呢,他的能力很强,他甚至超过了这个目前最强的这些视觉模型啊,达到了九十二点五三的这样一个准确度啊,这个是非常惊人的,这个是他的一个 模型的这样的一个性能,那么这个模型的他也不是非常大啊,他目前这个权重的话呢,他提供了两种,一个呢就是七十一参数的叫七 b 一个模型,他是基于这个为库纳上面进行做的。还有一个呢是十三 b 的一个模型 啊,所以他有两个这种模型,这个两个模型的话,一般七 b 的零二十四 g b 的内存,你单个 gpu 就可以跑了啊,所以他他的对资源的消耗也不是非常大的,他这个模型,但他的准确度确实非常高啊,而且我看他他这个官方的这个 项目当中,他也讲了一下,目前拉瓦这个项目也可以跑在 mac 电脑上面啊,他跑可以跑跑在 pc 的这个电脑上面,他可以做四倍特或者五倍特的这个量化啊,他是能够支持的,所以他能够跑在个人的电脑上面啊,直接用 cpu 跑也是可以的。好的,我们看看啊,他这个项目目前是怎么来 用的啊?安装我看了一下,他也是比较简单的,他目前官方建议用拍神的三点幺零这个版本,他也是要基于这个 flash attention 的这样的一个项目啊,能够 flashten 型 v 一和 v 二版本会加速他的整个一个推理过程的,他也是基于这个 transformer 的这样的一个模型啊,安装完他这个 项目之后的原代码之后呢,你就可以在他的这个 model zoo 里面,你就可以去下载这个权重啊,一般我们下载一个七币的权重就可以了, 你按照他的这个命令啊,起三个命令你就可以跑起来了。他在官方里面也是讲,目前的你是可以跑在这个四零九零或者三零九零二十四 gb 的这个内存上面也是可以跑的啊, 包括他可以跑在那个四倍或者八倍量化的这个模型上面也可以进行推理啊,他也支持这个 rora 的这样的一个模型, rora 就是你呃进行 rora 的训练啊,训 练完了之后,你可以把主模型和你自己微调完的 roi 模型可以合并的跑啊,他这个也支持啊,他也提供了一个命令行和客户端啊, web 的 ur 界面他都支持啊,他也讲了一下这个项目也可以自己进行评估一下啊,这个也可以, 所以我觉得这个项目还是非常有价值的啊,这个项目那次有机会的,我还是重点去看一下他的这个论文啊。目前这个项目也非常热啊,这个项目目前他是基于这个维库纳,他的文字是基于维库纳的这个模型,十三 b 的这个模型上, 米库纳七 b, 十三 b 的这个模型上再进行加入了一些图形的这样的一些。呃,就是图形的这个特征,然后把两个模型合并起来,组成了这样一个 自觉的一个模型啊,这个模型目前在开源界是可以对标 gp 四的啊,他这个能力也是比较强啊。好啊,今天的话呢,这个就这个话题,这个项目啊,拉拉这个模型就给大家就介绍到这。

大家好,这里是章节财经观察,今天呢我们聊点科技,再聊点科技的话题,就是在这 chat gbt 爆火了以后, 下边的一些故事就是说大家在讲这个 chat gpt 啊,你这个类似的这个 ii, 这个巨头 ii 系统, ii 学习系统,你会不会呢?被开源系统所取代,因为现在啊, 呃,网络上出现了那个开源的系统,开源的系统呢?呃,成本很比较低, 而且呢这个开源的系统的数据量也很少,这个跟他的成本啊,呃,完全不对等,就是我开源了以后呢不对等,呃,不对等的时候的话的 故事是什么?就是说你将来你只能不能收费的状态吗?对吧?你像可以看一下这个开源的系统呢,那好多的时候只要那个呃七十比零吗?七比零到十三比零,就是 也就是呃七十亿到一百三十亿,那个的数据量可能呢就够了。不是说呢,你这个大厂的一起比我的数据有多少多少,有多大的巨大,然后我运行的时候呢, 有多少的费用?因为你的数据量的增加,你的运行的计算量可不是线性增加,那那是呃非线性增加,所以他会增加的非常多,所以你的数据量一小以后啊就变得很好用,而且呢这数据量小,他在在于哪呢?呃,我们可以这么讲,他 在于啊,那个微调,一个是叫做指令微调,一个叫做预训练,他指令微调和预训练呢,他有借助这些大厂的模型,你要知道他不是说那个完全不借助的,他从大厂的模型里头他优选出他所需要的东西, 对吧?是这么一个过程,其实这一个过程啊,大家去怎么看待这个问题?就是看待这个问题的时候,这这个水 可能比你想的深,为什么今天我们这个题目来讲他,为什么他会重复这个网络循环的状态?你想原来的没有网络的时候,人类有很多的知识啊,人类很多的知识一点点的积累非常困难, 而且呢把他知识积累成一个知识渊博的人非常困难。然后呢?结果呢?到了网上呢? 网上一能分享,那就不一样了,免费不一样,对吧?然后免费不一样的时候呢?呃,还有是什么?你多了什么知识,以后人家这个洗稿很容易, 对吧?我们讲就要洗稿吗?呃。怎么洗稿啊?就是我这个写了什么文章,干了什么的,你说成段的不改文字的抄袭,那个什么,你呢? 那个把我们的那些观点你都加上,然后你自己重新写一遍,重新录个东西视频重新编辑一遍, 呃,然后你再发表了,你呢就变得很容易了。就像最近,呃,好多人跟我说说你的那个红楼有人写有某大威洗稿啊,人家那什么什么的,呃,但是人家的话呢, 这个一上面观点跟你一样,人家一说就说是偶同,人家也不会承认的,更何况呢,现在我的这个视频的话就是收费视频,不是也也有人,呃,就是应钞吗?对吧?那个这个的话呢,你这种洗稿就更不好说了。 上这个事呢,你要知道这个开源的这些东西呢,他实际上是什么?是对于这个不开源的他首先他是一个洗稿过程,他这遇什么?遇训练和微调,他是啊,建立在什么呢?你这个原有的大系统之上? 瑶瑶,大系统做了很多的投入的时候,现在呢?我的开源出来了,我开源呢开始在这洗稿了,洗稿以后呢?对你这个研究这大系统实际上他是有一定的威胁的,怎么样子收费也就立刻就 变成了一个问题,呃,对吧?因为的话对于这个高端用户,呃,毕竟是少数, 低端用户是大多数,低端用户的话,如果有免费的,他肯定有免费的,呃,对吧?那个高端用户有多少呢?你一旦那个低端用户都被太原抢占了的时候呢?你高端用户的时候,嗯,那个要收太高的费的时候,人家也不承受, 所以你这又推不起来,你这没有那么大的那个规模,对吧?嗯,你怎么去做?就跟当年的互联网的网络免费是一样的。呃,最后一定是什么呢?从网络免费 走向什么?更深的知识,更贵的收费,根本就不公开了,就是他破 坏了一个公开体系,就是原来的大家都会公开分享的,现在我们不公开了。而且呢,这种呢破坏的这种体系下到底谁干的?谁让这个爱爱的出来?你要知道他有那么多的开源软件,而且好多开源软件呢,和大厂的有些东西他是同源的, 怎么出来的?怎么就这么一句话,怎么出来的?你也不是说一个人就能干的,也有很多人干的也要花不少钱的,这些钱哪来的?而且呢,你跟很多大厂的有些内核都是重叠的,你不涉及侵权吗?对吧? 你把这几个事情心深想一下,比如说这个开源是怎么来的?这这个开源呢?我们再深呢可以跟你讲,开源就是一种竞争方式, 你要想明白这个道理,我别的打不过你的时候我开源啊,类似的呢?我们再举个例子,你就像当年苹果如日中天要收苹果税的时候,呃,谁搞了一个开源的安卓呢? 回忆一下这个历史啊,谁搞了一个看准现在微软搞 chat gbt 如日中天的时候,又是谁在这事落后了呢?呃,又是谁受到了很大影响了?所以这个开源为什么要出来呢? 这个开源里头有了有多少投入在里头的,对吧?因为的话呢,我竞争不过你的时候,我可以呢?改变规则,改变竞争路路线,这是很重要的道理啊。就是 前边我们讲这个生态策略,讲 k 生成二,还有阿尔法,阿尔法是要是改变你的那个生态策略的, 呃,明,明白吧?就是说你这个 k 嘛,他很多人投入投入很大,竞争能力很强,做特别尖端的产品,在这个产品声带里头也是这样, 你那个大数据大模型干什么的? k 策略,你二策略呢?就是很便宜,很少,大量的都在那,然后很多公司都死,对吧?看看谁能成功。阿尔法是什么?我破坏你这个规则,就是我全都开园了,以后,呃,你这个不挣钱呢, 我让你这个能挣钱的,呃,那个机制要被打断了,以后呢?你后续的研发投入你就没有了,知道吧?我这一开园,我这呢跟你的 差不多,把你能挣钱的好多客户呢扫掉了,然后你就,呃比较难了吗?对,所以这个开源哪出来的? 这是真正考虑这个问题的关键,你这么大的一个体系,那得多少人开发呀,对吧?所以这个开源拿出来是干嘛呢,对吧?而且这个开源呢里头呢也有好多的故事, 一种是大厂的竞争手段,还有一种就是大厂里的淘汰团队啊,你经常大厂的一个项目的话,他两个不同的团队,最后呢, 你不选择了,把另一个团队淘汰了,或者呢?还有一些创业公司,我们虽然说创业失败了,我们没有其他钱了,我们干到一半,我们干到一半的东西呢?扔在网上 当了,呃,给这世界总得留点想啊,对吧?呃。然后下边谁愿意干谁干,然后呢?利用这个开源的便宜,你像那个 ok, 开始他也是开源,也是利用开源的便宜,对吧?他把他的训练成一个大的模型,然后现在呢?我扔,扔出来 那个,现在呢?这个都开源的,各种的上了那个网络了,然后下边是什么?就是破坏你这大模型的那个竞争优势,就是有人竞争不过了, 知道吧?呃,有人呢?竞争不过的时候他可以采取另外一种策略,就是使得呢,你很难往前走,这也就为什么讲有些时候生产关系阻碍生产力吗?呃,这个故事啊,呃,比大家想的深,就是说我的 商业策划,我的那个技术的话呢?呃,怎么去实现?所以你要明白好多时候一项技术的突破就能改变人类吗?其实不是,他是需要技术,要成体系的,要有商业的技术是干不过资本的,不要觉得你高技术可以怎么怎么着, 就让这个资本的力量使你的强大呀。呃,里头的故事比大家想的水都要深的,我可以通过各种样的事把你这个好的技术呢,呃,给废了,让他用不起来,对吧?也可以呢,改变这个社会的一些行为啊,知识的规则。 然后呢,接着的话呢,我给你咚咚的的成免费的时候你就不好挣钱了。最后呢,你不是还得求着我吗?开始呢,很强大的时候,变成网络烧钱都得求着资本的时候,那么最后的网 网络这个平台呢,还是给到资本的手里,就是这么样的状态。呃,把这个历史啊呃,看一看,其实这历史呢都是会轮回的。呃,看看清楚。呃,对,你想清楚很多问题。呃,会有所帮助。呃,谢谢。观看本期话题就跟大家分享到这,再见。

今天我们也隆重的推出了新的一款开源大模型,那这一款呢是基于十四 b 的这样一个参数的规模, 我们希望呢通过一系列这样一个模型的建设,通过我们 models service 的建设,我们真正实施呢能够把我们 ai 的能力, 把最近大模型的千变万化的,核心的创新,核心的技术的突破,能够带给我们的开发者,能够带给我们的企业,能够让我们的算力更普惠,让我们的 ai 更普及。

开源是白嫖还是县级? 大家好,我是马玉婷,一个从事通信互联网行业近五十年的过来人,今天和大家聊聊开源那点事。 上个月底,随着 lama two 在全球最大的开源社区 这个哈不上发布,引来了全球开发者的一阵狂欢,一时间呢,羊驼啊,似乎成为了最可爱的动物, 众多博主也趁机呢,蹭到了丰厚的流量。开源是指某些软件 全内码可以被公众访问和修改,这样就可以集中专业人士的智慧啊,创造出可能超越封闭团队的成果 啊,或者帮助开元芳呢,成为行业标准,获得行业的垄断地位 啊。比如说,我举两个最典型有趣的案例啊,一个是比尔盖茨的微软,在四十年前啊,通过开源 pcdos 一举击败了当时的危机的 啊,教主啊,明星乔布斯的 os two 操作系统一统江湖,获得了行业的垄断利润,也就是现在还在稳居霸主地位的 windows 操作 系统。另外一个呢,就是打破了 unix 垄断地位的 unix。 linux 呢,是由一个芬兰的大学生发明的一种多用户的开源的操作系统。 最初呢,只是一个打算,用来通过他来学习 intell 八零三八六架构啊,而改进的一个 unix 的操作系统。 但是随着时间的推移,众多开发者参与其中,雷尼斯呢,发展成了一个功能齐全,全球范围内广泛使用的操作系统 的内核啊,今天的安卓系统,鸿蒙系统等等啊,大多数都于此 有关啊。从这两个案例中呢,我们不难看出,开源对技术进步能够带来巨大的好处,特别是 诸如人工智能这样的高技术含量的应用啊,处于一个有序的较高的起点,避免了很多重复的较低技术含量的啊,时间浪费啊。 我们可以这样理解,开源,那就好比我们的大家想造一辆汽车,那么有人呢,开源了一个造车的模型软件,大家可以按照这个模型呢去做,就可以造出一辆汽车来。 但是呢,呃,这个车只有了一些基本的功能啊,那么我们需要在这个基础上 进行呢啊,二次的开发。至于说将来造出来的是法拉利还是老头乐,那就各凭全凭各自的本事了,也就是说想白嫖没那么简单。 从另一个角度看,开源也可能是一种技术陷阱,存在着广大开发者的智慧被白嫖的可能。也许在开源的当初,双方都是乐于被白嫖的,开发者希望免费获得核心技术, 而开元芳正在虎视眈眈的看着你,当你还在乐此不疲的时候,开元芳突然就不开元了,改为封闭的了,你的智慧就可能被白嫖了啊。当然这方面也有一些知识产权的 啊,保证啊,那么来规避这些挑战和风险啊,比如说被白嫖的风险 啊,有这个开源许可证,要求任何派生的工作都必须保留原始的许可证和归属信息,违反许可证的行为可能会被法律制裁 啊,还有技术外泄的风险,公司或者个人需要考虑什么时候开源,开源哪些部分啊?确实呢,如果你开源了一个项目,你就失去了对其专有的控制 啊,这个也是风险,这可能包括一些核心的技术,因此许多公司选择啊只开源某些组建,而不是整个系统。 最关键的是开源所带来的竞争的风险,竞争对手可能利用你的开源代码啊,开发出他们自己的产品,但与此同时,开源也可能给你带来其他的收入和渠道以及市场的优势。 好了,今天就聊到这,我是马玉婷,请关注我,我们下期见,记得关注再走哦!

manta 最近开源了一个 limbdar 二维基做的一个生成代码的一个大模型,叫 cold limbdar, 那 codeland 的话呢,它是基于 number 二的这样的一个预训练模型上面,然后再经过微调啊,那么形成了这样的一个专门生成这个代码的这种大大模型啊,那目前这个大模型的话,我在哈根 face 上它也已经开源出来了,它在 多语言的这个代码模型的这个评估上面,目前他是非常靠前的,他的胜率最高的,目前是三十四 b 的这个模型, 当然 cold limber 十三 b 也是不错的,性能也是不错的。嗯,跟他类似的有一个叫 with the coder 杠十五 b 的这样一个模型啊,目前这个模型的话是 limber 二的这个模型的性能是非常不错的啊,那么他也是 manta 开源的, manta 开源他这个模型的话,目前也是完全可以免费的啊,可以用于研究和商业 用途啊。那么他在 detap 上面也把一些相关的一些资料给放出来了,这次的话,他公布的这几个模型,他主要是公布了有,呃,三个模型啊,一个呢,抠的冷板啊,一个基础的代码模型,还有一个呢,是针对于拍摄的一个优化的一个模型,还有呢是经在经过一些指令微调的, 更加容易理解这个自然语言的这个三种模型啊,那每三种模型的话,它分别又有七 b, 十三 b 和三十四 b 的这样的一个网络啊,这个是七十亿,一百三十亿和三百四十亿参数的啊, 那么三乘三就九九个模型啊,那么目前的话呢,他的这个上下纹呢,他的处理能力都是挺厉害的,他最多的话可以达到一百 k, 上下纹的这个长度可以达到一百 k 啊,目前是我目前看到的是开源的里面,目前这个上下纹长度只是最长的了。好,这个是他的一个视力啊,产生的这个 g 加加 拍摄类似的这些代码,当然他也可以去解释这个代码的结构,他也是可以的啊,他你就输入一段代码,然后他会给你一些这个文字的解释啊, 或者是代码的补全调试啊,他目前都是支持的。嗯,目前他的性能也是非常应该说是非常炸裂吧,非常厉害的啊,是在目前开源里面属于排名第一第二的啊,就除了达到 g b d 三点五的这样的一个能力啊,基本上要能够跟 g b d 四相当了,他这个能力啊,已经超越了 g b d 三点五,他这个能力 human airbow pass e, 我们之前也是经常介绍的啊,这个是专门是衡量那个 python 这个语言的这样的一个代码评测的这样一个准确度啊,他分数越高啊,那么就代表他能力越强。好, 因为我们之前也是介绍过中中文的啊,中文的话呢,也有几个啊,像我们原来就是 code g x two 啊,杠六 b 模这个模型呢,跟他比起来的话呢,还是差的,还是有些差距的,当然他只有六 b 的这个这样的一个性能,在同等规模下的话,你可以看到那个七 b 的,对吧? 它是二十九点九八六 b 的性能达到三十三点四九,也不是很差,也不是很差。 code g x 六 b, 但是它的那个性能 可能会弱一些啊。还有一个是这个啊,这个也是在 code g x 上面进行优化的一个模型,杠七 b 的这个模型目前看起来性能也是不弱的啊,四十二点二八,你可以看到他跟七 b 的比起来也不是很差啊, 就是他们这种的话呢,就评分很高,但是你如马这个两个模型生成代码的时候你会发现,哎,别人就会觉得这个抠的人打杠七 b 的可能会胜率更高一些,他主要是这样的一个问题。

重磅消息!就在十几个小时前,菲斯布和官方正式发布了升级版的 ai 模型拉玛兔。而且不论是民用还是商用都是免费的。下载使用也非常方便,直接点当漏的按钮,然后填写相应的信息即可。 这里也提到了回答内容的长度是上一代产品的至少两倍,写一篇小的作文问题应该不大。 而且对用户体验非常重要的。一百万个人工注视进行训练的这个特点也提出来了。下面也列出来了 ai 领域里常见的行业基准对比,比如多语言处理,或者是基于危机百科问答等等。 从 github 上也可以看到,新模型有十五个酷的改变,包含了八百七十六个新增项和九百五十八个简项。这个第六十多行的条 条款非常非常有意思。如果你免费使用的过程中,月度用户超过七个亿,你就需要申请付费。 呵,这个谁会超过七个亿呢?也就是说,除了有竞争能力的商业巨头,其他中小微企业都可以免费在应用层面进行创业,真正的普惠小微。欢迎大家关注我,不定期分享人工智能及编程知识。