粉丝4获赞17

呃,这是一个自己做的一个基于 api 渠道,本地可以编辑图片生成的工具。因为我们像 gpt 里面就二,它是只能在官网上是用生成的图片,只有一 k 或者二 k, 最多二 k 买的。 然后像这个本地用 api 是 可以生成到四 k 的 功能的话,像跟正常的 gpt 都差不多。 然后也可以批量,像一个要求批量生成多张图片,这是我网上随便找的素材,然后要求然后再批量上去,他就可以三张一起操作。然后像这个生成的图片呢,可以将它重新生成了,或者是设为参考,点参考,他会直接变到 点参考,直接编到左边这边过来,然后复制这一个参数,就是他之前的一些参数要求,也可以再复制过来。那其他一些就是啊,一些表面上的功能,然后也可以全选以及批量操作。 功能的话大概就是这样子的,然后他生成的话会比较慢,因为我找的中文商,他生成图片会稍微慢一点,具体的话就看自己找的中文商那些的功能,功能都是以那个 gpt 的 为基础搭建的, 像后面还会制作一个详情页模式的一个功能啊,像这个详情页工作台,这个啊,像是我们产品的个技术信息啊,填进去,然后这一些给它设定一下, ok 就 好了,这些经验不用太多太高,那个像素, 其他这个素材再调整一下,然后就让它生成规则,因为这个我还没做好。 ok, 像这个它就每一瓶啊,首屏视觉啊,每一瓶呢,都会有这个 相应的细节,然后我们也可以点进去编辑啊,这一瓶它是要求视觉效果,这些我们可以自己做操作 编辑,然后再叫它生成本屏或者是选择,然后生成选中的这几瓶。大概流程是这样子,因为这一个详细的功能的话我是还没测试好,这个还得做细节优化。 整体的大概工具的功能就是这样子的,基于 api 然后在本地编辑的一个工具。啊,这是刚刚那些啊上传好的效果我就不一一点开了。大概的效果你看刚的一些基础信息操作,然后包括 他自己生成的这个规划,然后按规划下来每一屏的安排过去所生成的图片,其实效果已经是非常理想的,然后细节的话就看后期自己按需求调整一下就可以了。

今天教大家怎么调用大模型 api, 学会了你也能自己做一个 ai 助手。想要调用大模型,首先得知道一件事,这些模型参数动不动就几百上千亿,咱们普通电脑根本跑不动。 所以现在主流的做法是让模型厂商把模型部署在他们服务器上,我们通过网络请求去调用,按使用量付。且 这里有两个核心概念, api 是 接口 api key 就是 你的身份证,拿着它,厂商才知道是谁在调用,该扣谁的钱。 目前提供大模型 api 的 服务商很多,基本流程都一样,注册账号,创建 key, 充值调用。区别主要在模型能力和价格上。我这教程统一用 deep seek, 原因很简单,能力够用,创建 key 方便,价格还便宜。 而且你放心,学完这套教程,所有例子加起来可能就花几块钱。接下来演示怎么创建 key。 首先打开 deep 开发者平台,在左侧菜单找到 api keys, 点击创建, 随便起个名字,点确认,就会得到一串 s k 开头的字母串,这就是你的 api key。 注意,这个 key 就 等于你的账号密码,别人拿到就能花你的钱,一定要保管好,不要提交到 github。 好 t 有 了。现在说接口格式,目前主流就两种, openai 的 chat completion 格式和 andropic 的 messages 格式。 先看 open a i 格式,发一个 curl 请求 base 下划线 url 是 api 点, deep seek 点 com 斜杠 v 斜杠叉,斜杠 completion 认证用 bear token 的 方式 返回的 jsl 里,模型回答在 choice 下面的 message content 里,这里就是他回复的你。好,很高兴见到你。 再看 anthropic 格式,注意这里 base 下划线 url 多了 anthropic 认证,改用 xip ikey 请求头还需要指定版本号返回格式不一样了,回答在 content 下面的 text 里不是 trace 了,字断名也不太一样。 虽然格式看起来不一样,但本质都是发消息收回复。现在模型厂商都会同时支持两种格式,你换一家只需要改变下划线 url 和 key 业务代码一行不用动。

兄弟们,上期说了 a p a 就是 软件调用大模型的点单窗口,那在给预年纳什上部署的 opencloud hammers 配置 a p s 为什么要填一堆东西呢? base, url, api, key, modisk, token 什么的 密密麻麻,看着就头大,其实很简单啊,还是拿点奶茶来举例。 su 幺幺呢,就是店铺地址,你要先告诉软件,我要去哪家模型厂商点单,是 dsp 还是豆包。 a p i k 呢,就相当于你的支付密码,输入支付密码才能付钱,就是利用这个模型,所以这个东西如果你给别人了,他拿到你的 k 去点单钱,算你头上目的 id 就是 你具体要点什么奶茶。同一家厂商呢,有很多的模型,有的便宜,有的聪明,有的能看图,有的呢 适合写代码。具体的呢,可以去模型厂商的官网 a p i 文档里去查,也可以去问 deepsea 或者是豆包配置到模型 a p i 核心呢,就是这三样。这三个填好之后呢,其他的选项都可以让它帮你设置,学会点赞。

如果你还在苦恼 deepstack 的 改变,从现在开始用 api 吧啊,上期视频我虽然提到了,但是很多人说太复杂了,更多人说不知道怎么用,那这期视频我们就来一期手把手的教程啊,不会很复杂,而且相信我,这有可能是你实现 ai 认知跃级的一大步。 你现在用的 deepsafe, 不 管是网页版还是手机 app, 它的背后其实是一堆服务器在跑。给大家看一看我们的老师在服务器里最原始的样子,一个黑底的界面,先加载各种乱七八糟的东西,加载完之后就会出现一个箭头,你打字进去,他会一行一行的给你回应, 看起来就很原始哈,能用吗?是能,但是只有技术人员能用,这时候他就在想,我怎么能把这个服务器共享给别人呢?毕竟这设备钱跟电费都烧着,如果我能共享出去,还能够按量付费去收点钱回血,对吧?那么就会有第一个问题,怎么能让别人知道你这台服务器在哪呢? 答案也很简单,给大家一个统一的调用网址,然后大喊所有人连接这里,保持 wifi 稳定。 第二个问题,我怎么知道谁来用了,用了多少呢?也很简单,给大家一堆密钥,按照密钥来统计个数就行,其实这块就挺像账号密码的,它就是两行参数。然后会有第三个问题,因为 deepsea 它也不止一个模型,那你到底要调用哪一个?需要你指定它的模型名称, 只要你手上具备了这三个东西,你就可以在任何地方去调用。迪老师, 比如你来到了一个酒馆,跟 d 老师扮演的几位男士女士非人类聊聊天。又比如你打开了一本全是日语的材料,辛勤的 d 老师一句一句的把它们翻译成了中文,然后你脑子突然冒出了一个想法,想搞一个创业的网页 代码,当然都是由 d 老师亲自来写,当然你也可以什么都不想,就在一个简单的聊天框里面,跟老 d 老师好好的聊聊天, 你之前应该也遇到过的老师说到一半,然后紧急撤回,又或者是服务器繁忙,请稍后再试,那在这里就都不复存在了,而且尺度无限大啊。如果你听兴奋了,那我们就快速去过一遍,流程就很很简单, 然后我再去跟大家分享一些更多我对于 ai 的 一些想法操作,一共就两步,那我们先来解决后端,也就是拿到我们开头讲的那三个东西, 用电脑或者手机都行。打开 deepsea 的 官网,左边这个网页版就是我们熟悉的老路,我们这次走右边 注册一个账号,然后就开始充值,最低一元起充,具体充多少呢?我就给大家一个参考。我上个月总共花了两块三,最多的一天花了四毛,而这一天我大概跟 ai 聊了十二万字,说白了, d 老师真的很便宜,就是充十块钱,应该能够聊到你历劫了。 充完值,找到左边的 api case 点创建这个名字,你随便起,这串密钥要保存好,因为它只会出现这一次,相当于我们也拿到了我们的一个身份码。所以后台呢,其实就是充值跟创建密钥这两步。我们再去看一眼它写的接口文档, 对老师的请求地址就是这个 api 点 deepsafe 点 com api k 就是 你刚刚创建的那个。然后模型名称你有两个选择,分别对应着 v 三点二版本的非思考模式和思考模式。如果你好奇的话,可以看一眼左边的价格标准,输入两块,输出三块,每一百万, 这个比起国外的大模型真的是白菜价了。好了,至此,我们后端的这三个东西就齐了,接下来呢,我们来选前端。前端的软件是非常多的 啊,我现在给大家报个菜名,网页版有 open web ui, next, chat labor, chat, 桌面端有 chat studio, deepchat, chatwise, 手机端有 chatbox, replay, hub, cleveland 多的是。但是你要记住,就这些软件,它们所有的软件除了功能上有些细致的差别以外,其实都一致,它们就是一个壳,来为你提供一个对话的聊天界面。我们这一次呢,以 chatbox 为例啊,因为它的 ios 跟安卓都是免费的, 虽然界面会有点简陋,但其实还挺好用的,当你第一次打开它的时候,里面是空的,但如果你配置好了,它是可以什么模型都有的。 首先我们一进来全部插掉,在这个菜单里面找到设置模型,选择提供方,找到 deepsea 这里,因为 deepsea 实在太有名了,所以大家都用那个地址还有模型的名称,所以它呢,简化了,都给你填好了, 这里你就只需要填入你的密钥就可以用了,填完呢也可以检查一下,一般是没有什么问题。现在呢,再一路返回,你就可以在下面选择 d 老师了。前后段的教程就到这里结束啊,应该讲的还挺细的,如果你还有什么疑问,都可以发在评论区,我是会看的。 这里你细想一下,其实 deepsafe 的 官方 app, 它不也是这么一个壳吗?只不过官方帮你把这些地址、密钥、模型全都接好了,再给你免除了 api 的 费用,大家就这么习以为常着用着了,对吧? 到这你可能会想啊,就为它这个模型升级,然后我为了找回老模型,就费了这么大劲,值吗?说实话,如果你只是把这个 api 接入到一个聊天软件里,那体验上确实跟之前聊天没什么区别,而且你现在还开始花钱了。 但是呢, api 这个东西,一旦你学会了领悟了它的用法,那它打开的就绝不是一个聊天窗口这么简单了。 其实我看到了一个比较主流的 ai 的 理论,它会把使用 ai 的 人分为了四层,第一层跟 ai 聊天,用网页端或者手机版的 app 去帮你查查资料,写个周报,你个新年贺词,或者帮你处理一些感情问题啊,也不是说有错,只是说这样其实没有发挥到 ai 所有的能力。 第二层,其实就是我们这次讲的用 api 的 方式把 ai 拉出来,放到各种不同的软件里面,那区别在哪呢?比如说,我这里有五个需要翻译的文件,用网页的方式一次复制不完,我就得把它们分段去粘贴, 不仅麻烦,而且这个流程是很不规范的。但凡 ai 出现一次幻觉,那字幕的格式就会错,非常容易出现各种各样的问题。 但有了 a p i 之后,我们就可以利用现成的翻译工具,只让我们的老师去做这个翻译的部分,而且整个过程都是批量的,处理完之后自动合并成一整个文件,准确而且优雅。如果你用好了 a p i, 其实你工作的效率会有很大的提升。 第三层其实就是现在爆火的 ai 编程,刚才我们翻译是有现成的工具的,但有些小众需求,比如说我想要自动抓取一些 ai 热点,然后主动推送给我, 市面上没有这样的程序,那就自己造。有一种很特别的程序,专门为 ai 编程而优化,同样它需要 api 的 方式接进去,然后你跟它自然语言描述你想要的东西,它就能帮你一点点做出来,而在这一层,无论你的需求有多小众,它都可以解决。 最近呢,我是用 ai 来搭建了整个写作的工作流,虽然文章还是我自己写,但是有一些选题的想法,或者是发布之后的数据总结,我就都交给 ai 去做了。昨天晚上我去跟 ai 复盘总结,也说了很多的想法,然后我觉得有点累了,就跟他说,不然今天就到这里, 然后他就说好了,今天就先到这大概讲了什么东西?合上电脑,我突然有点恍惚,就过去的一个小时,我是完全没有看手机,没有呃,刷短视频,完全就是种心灵模式,而这个心灵模式竟然是我在跟一个 机器在协同工作,这种感觉真的还挺奇妙的。至于第四层,其实很多人都还在观望,应该也是一个今年的趋势啊。一个 ai 是 已经可以帮你很好的完成任务了,但是更加复杂的,更大的任务可能他还是做不了的。那么一群 ai 如何去协同合作? 这个事情还是比较难的,就目前还是一片混乱。就是你让一个总领导的一个人去安排几个不同的小 ai 去做事情, 他就会着急的说那 ai 还没做完呢,他就自己上手去做了。总之现在的视觉效果是远大于实际的效果的啊,还不是很好用,跟大家发散的会演多了,只是想让大家去了解一下现在的 ai 进行到什么程度了。 呃,这一次的小事故,如果能够让你有机会去接触到 api 的 用法,我觉得是一个非常好的机会。好了,这期视频呢,我们就讲到这里啊,应该都听懂了吧,如果,嗯,哎,反正后续我也会做各种各样的,一步一步的,这种 ai 的 内容也可以先关注一下我。 嗯,就讲到这吧,然后我是大黑,以纯人工的方式去帮你去去分享智能。好,我们就下次再见。拜拜。

安装 open club, 本地云端 api 调用三种方式,到底选哪一种?别着急,一分钟给你讲明白!本期介绍针对常规使用,仅尝鲜的话,之前几期已经聊过了。先说本地部署,数据不出门,隐私安全是最大的优势,但有一个关键前提,硬件配置得够。 现在模型参数越来越大,原版七 b 直接吃满十六 g 的 内存,七零 b、 幺二二 b 这些大模型就算做量化也得四十 g 内存起步,而且模型迭代速度快,你刚配的机器可能半年就跟不上节奏了。一句话,高配强烈建议上本地,低配慎重。 再说云部署,现在各个云厂商正全力推广,欲部署 oppo 可乐的云主机,精心准备了各个档次的扣丁 plan, 支持主流模型,开箱即用,不需要你自己搭环境, 最新模型也能直接跑,主打一个省心。最后是本地安装智能体模型,调用 apa, 这种对硬件要求很低,旧设备都可以跑。购买 tango 各种模型,即用按量付费,买算力,用多少付多少。这三种方式里, 全本地部署一次性硬件投入较高,但数据安全有保证。云部署、 api 调用这种方式,数据都要上传到云端, 隐私敏感的场景要注意,而且长期高频调用费用也会不断累积,要根据自己的使用场景和掏根套餐费用与本地部署做个计算对比。 聊到这里,相信你已经能清楚的知道自己该选哪种方式了,欢迎大家留言讨论,分享你的部署经验。关注我是大千,咱们下期见!

今天给大家介绍一下这种嗯特嗯韬宗转战,然后和观望的一个价格区别,以及怎么把它们添加到这个本地龙虾 api 调用里面去,怎么把它们调进去?好吧, 今天就讲这两个问题,我们现在来对比下价格,对比下 deepsea 微四的一个价格,我们看微四弗拉斯,哈,这个中转站上面的一个价格输入是零点一三,官方的一个价格输入的话是,呃,一块钱 输入价格哈,一块钱上面的是一个缓存命中,我们先不对比这个,我们对比这个缓存没有命中哈,输入缓存没有命运。官方的是一块钱,跟平台上的话是零点一三 股权价格,平台上是零点二七,官方的一个价格是两块,官方的价格是两块,然后对比一下那个 v 四 pro 哈, v 四 pro 的 话,呃,输入是三块位,命中是三块,然后平台上面的话是零点四, 嗯,官方的一个输出的话是六块,嗯,平台是零点八。 然后再来对比一下豆包的,豆包的我们就以一点八作为参考吧,输入价格是 零点零八,然后官方的输入价格是零点八,这贵了十倍不止啊,官方那个价格是两块, 平台的一个价格是零点二,你可以看出价格的一个区别,好吧,所以说我们通常需要大量调用 api token 的 时候的话,就就用要去找那种中转站,好吧,中转站 现在我们来教大家怎么本地龙虾调用调用那种你喜欢的一个 api 好 不好?比如说我们想调用国外的一个 api openai, 好 吧, openai, 比如说我们想调用图片, 这个图片的话就这个图片吧,好吧,这个是一个图片模型,我们怎么设置它呢?呃,我一般用的本地龙虾的话,是那个腾讯的一个 coco, 然后的话因为它很方便,不用安什么环境,然后直接下个软件就行了。嗯, 我们点击下面这个,然后点自定义大模型,然后点下面的自定义配置,然后我们把这个 api 基础地址输进去里, 这里,这里就只输那个前面这个,后面那个不用输啊, 就这样就行了。好吧。然后 api 类型的话,选 openai 协议类型。好吧。然后 api key 的 话,我们需要去平台注册一个账号,去这个地方注册一个账号,然后去创建一个令牌,令牌管理,然后我们把这个复制出来就行了。复制出来 输进去就可以啦。刚才我们的是什么模型呢? open ai, 刚才我们好像是这个模型,对不对?我们把模型名字也复复制进去。嗯, 去检查一下。 ok, 检查已通过。然后现在我们调用的就是国外的这个模型。啊,这国外的这个,呃, image 模型啊,让我们现在来看一看啊,看一看可以不啊?你好, 你现你现在是什么模型? 嗯,我们稍微等一下。 嗯,出来了。现在它的一个模型是 g p 式 open i, 就是 g p t 的 一个模型。好吧,好了,就这样子,拜拜。

你知道浪铲框架的底层到底是什么吗?哈喽,大家好,浪铲的底层其实就是对 api 的 编排和调用,那 api 是 什么?这节课我们会了解 api 的 所有的知识内容,让你对 api 大 概有一个认识,然后对浪铲的底层原理也有一个更清晰的认识。 话不多说,我们开始讲解。首先什么是 api? api 就 相当于是程序的外卖电话, 你可以理解为一个程序对外提供服务的方式,你不需要知道他是怎么做饭的,只需要打电话点餐,他就会把做好的菜送出来。换到大模型的调用上来时,怎么说 就是大模型的服务肯定不是在你的电脑上跑的,而你需要调用大模型问他内容,然后他给你返回结果,就需要一个传输过程,把你的问题送给大模型服务器端,再从大模型的服务器把生成的内容传给你, 其中就需要 a p i 来帮你们沟通。而浪趁对 a p i 的 调用不只是有对大冒险的调用一个部分,在联网搜索部分,他也需要向搜索引擎发送自己的 a p i, 然后返回搜索到的内容。查询项链数据库的时候,也需要返回数据库存储的内容, 它就是工具调用,在工具调用的部分,查询天气数据库之类的,你也需要调用自己自定义的 api 来调用这些工具返回结果。 api 就是 longch 的 水煤电,整个 longch 的 生态都是建立在各种 api 之上,那么在单模型的调用部分, 用的最多的设计风格就是 restful 的。 这个 api 它有六个大的特征,无状态、同一接口、资源向导, 还有对 http 的 方法操作表现层的特征,还有可缓存的这个特征。而我们其中只需要知道三个部分的特征,第一个是无状态,每次请求都包含了完整的信息,服务器不会记住之前的请求, 就是说并不是服务器记住了你和 ai 之间的对话,而是你每次请求完之后都会有完整的信息保存,之后再把完整的信息再次发送给服务器, 是中间你为什么隔了很久再次对话, ai 还能记起你之前对话的内容的原因。第二个是用了 http 的 方法操作之资源, 他用增删改查这四个方法,然后操作对应的资源,那么这里第二个部分说的都有资源,统一通过 url 加 http 的 方法操作,这里的 url 到底是什么? url 包含三部分的内容, 首先它有一个 base, url 是 服务商提供的地址,服务器的地址,你会把你的信息发送到这个地址,而这地址会有对应的服务来返回你需要的内容。第二个是 api 的 版本号, 对应的几个版本,这样方便查询。第三个部分是资源路径,就是说你具体要调用哪个功能,那个功能的名字就在这里。那我们再来看第三部分 http 的 请求方法。 htp 有 四个请求方法, get, pos 的, 还有 port, delete, 但是我们在其中调用大模型,我们一一般只用这一个方法, pos 的 把你的需求发送给他,然后再让他返回你所需要的内容,因为每次对话都是创建一次新的对话,补全同样的输入也有可能产生不同的输出。而一个 hdp 请求的部分包含了以下的内容,有请求行,还有请求头,还有几个请求体, 请求行和请求同的内容, log 框架会帮我们完整的打包,我们不需要特别关注。而请求体里面的内容就是我们真正要发给模型,让他去帮我们解决的问题内容。比如说这里我调用的模型是 gpt 的 四 o 模型, 我给他发送消息是你好,让他的温度为零点七,来返回我需要的内容。请求头的内容我们也不用特别关注,因为浪颤的框架会直接帮我们把请求头的部分搭建好。第四部分是 hpv 的 状态码,就是说他响应的是否成功都会给我们反映出来, 像这些请求成功,请求失败,但我们其实不用特别关注,我们先让 ai 帮我们看一些状态码到底是怎么服务,到底请求成功了没有, 哪里出问题了。之后 apikey 与 apikey 认证是什么呢? apikey 就是 一个支付上的密钥,用来认证我们是谁,然后授权我们能做什么,并且还能帮助我们计费。 你是不是在调用 apikey 的 时候只是去申请了 apikey, 但是不知道 apikey 到底是怎么运作的? apikey 的 使用方法是什么呢? apikey 的 使用方式就是我们去各个平台申请完,然后再放到我们的环境里面再去调用就可以了。之后还有 api 的 安全守则,这个还是比较重要的。 我们如果错误地用 apikey 变量,我们如果暴露了,我们的 apikey 就 可能被其他人来调用,造成 apikey 的 泄露。我们正确的做法是使用环境变量储存,并且把 apikey 所使用的环境变量添加到 get ignore, 不要让上传传到网站上去,然后定期轮换我们的 apikey。 我们一定不能把 apikey 直接写在我们的代码里,或者是公开到网上,这样都会造成 apikey 的 泄露。那我们怎么管理我们的 apikey 呢?我们这里是用环境变量来管理, 环境变量是操作系统级别的检测队,用来存储配置的信息,就像是这里 ai 的 api key, 后面直接填写我们对应的官网上申请的 api key 就 可以。这里为什么用环境变量存储 api key 的 原因跟前面在这里 api key 安全守则的问题是强相关的, 但是它还会有更多的好处,就是在配置的时候我们可以用来集中管理,方便我们更好的管理我们的 api key。 事实上在我们真正的使用场景下,我们一般都是创建一个环境变量的文件,然后帮我们存储 api key, 像这样存可以存储多个 api key, 我 们要用的时候直接从环境变量里面调取就可以。这里具体代码细节我们可以不看。就我们来讲解一下大模型 api 响应的结构,当我们发送我们的请求之后,他会返回给我们一个 jason 格式的子段,这个 jason 格式里面包含很多内容, 首先有我们的请求 id, 还有创建的类型,对象,创建的时间,还有选用的模型,这些是他会统一返回给我们内容, 这后面是我们的后选回复列表,这一部分就是我们整个最关键的内容,它会返回给我们我们需要的内容。 content 就是 我们返回的内容,我们发送你好,让他给我们回复,你好,我是 ai 助手,它里面的这些字段首先是 tris message content, 这就是回复我们的内容, 也是我们想要的内容。第二个是 finish reason, 这就是我们生成结束的原因,还有我们消耗的总投款数也会帮我们统计出来反馈给我们。 好了,我们视频就讲解到这里,这期我们讲解了 long chain 底层到底是在干嘛? api 的 作用是还有服务是怎么传输调用的,我们的请求是怎么被响应的。那这期视频的内容就到这里结束了,希望对你有帮助,我们下期再见。

我刚接触 api 的 时候,光 api 这几个字看,翻来覆去的看了好几遍,完全不知道是什么。今天我用最简单的方式解释,保证你三分钟就懂了。 api k 直译叫做接口密钥,我更喜欢把它理解成一把万能的钥匙,有了这把钥匙,你用的任何软件都能直接调用大模型,不用打开菜鸡皮皮网站,不用订阅 ai 能力,直接嵌在你常用的工具里。举个我自己的例子吧, 我用 obsidian 记笔记装了一个插件,把 ai a、 p、 i、 k 填进去,现在我直接在笔记里问 ai, 都不用开新的窗口。 我写代码用威斯柯达装了个扩展替代插件,接入 cloud 之后,代码五权比官方还准,还便宜。用浏览器看英文文档,装一个沉浸式的翻译插件,填上 k, 从此看英文技术材料,全程双语翻译的质量远远超过普通的机器翻译。 那 a、 b、 i、 k 从哪里来呢?有两种途径,第一,我们可以从官方直接申请去 open ai、 astroopic 这些官网注册开发者账号,创建密钥绑定支付方式, 这条路呢比较折腾,但是原生。第二,通过国内的 api 汇聚服务,这类服务相当于中间商,他们去和官方对接,你只需要在国内注册充钱,他们给你一个 key, 用法和官方一模一样。这种方式省掉了网络、信用卡这些问题,效率高很多。 选哪种看你的具体情况,没有绝对的好坏。补充一个常见的误区, api k 跟账号没关系,你用 api 的 方式调用,不存在什么号没了问题, k 就是 k, 失效了,换一个就 行,数据和兑换全都在你自己的手里,而且用 api 的 时候,你的使用记录不在网页端, openai 官网看不到你的 api 兑换,这意味着你的使用会更加私密。下期我们讲几个不需要写代码,但是能把 api 用得飞起的工具。

我们这里讲的不是 set token 技巧,而是直接把 token 赶到零这工具它可以把我们 ibisc, g r m 或者 kimi 等等是国内所主流的 一些网页上用的大模型都给它转换成标准的 api 的 形式,转换的是标准的 open ai 的 格式,所以目前所有的正体都能接入这个 api, windows、 mac 和 linux 的 系统它都支持。如果大家有需要的话可以在评论区留言,有用过的兄弟反馈,它的上下文只能做一轮的回答,其实是可以设置的啊,这里在我们左侧的这个 绘图管理里面有最大消息数和最大的 token 数,这都可以自定义,包括我用久了之后怕它的那个上下文窗口会超出。这里的话可以做一个 历史记录的摘要。这里我们打开 client 来做一个验证。首先我们把网页转过来的 a p i 给它接进去, a p i 的 形式和 url 照到我这里填就可以了。 a p i key 的 话在我们刚才的工具里面给它复制过来粘贴,这下面还有个 mod id。 这里我们也是打开刚才的工具, 把模型管理里面我们自己选择一个,这里为了防止他输入的时候大小写出错,所以说我就直接复制,然后过来直接粘贴保存就可以了。然后我们让他打一个百度试一下,当然这个 client 里面他已经接了一些 m c p, 这里面相当于有些工具看到他已经成功给我们打开了百度网页。我们再测试一下关于工具的功能, 让他在百度中给我们搜索一下 nba 的 今日赛况。这需要补充说明的就是他这里的搜索跟我们用 kimi 用 dsco 在 官网上搜索的 不一样,因为这个我是指定让他在某一个搜索引擎里面去进行搜索,很快我们看到他已经帮我们搜索好了,而且总结概述也是已经做好了。然后我们再问了一下哪只队赢了,如果只有一轮上下文的话,那这个问题他肯定是回答不上了,但是他是成功的回答出来。经过这一轮工具的调用,上下文的验证之后,我们看到我们所使用的金额还是零。

你的 ai 应用依赖大冒险 api, 那 如果接口挂了或超时,你怎么保证服务可用呢?那你等他恢复呗,这种事情他又不是天天有,你挂两个小时,你老板电话响两个小时,然后呢? 嗯,那我就跟用户说系统正在维护中,请稍后再试。你一个 ai 应用核心能力就是调用大模型,模型没了,你就申请一句请稍后,你觉得合适不? 那我自己跑一个本地模型给它顶上去呗。你本地跑什么模型?多大的显存?这里银值多少你算过吗? 我电脑十六 g 内存,跑一个七 b 的 应该行吧?七 b 模型并发十个请求你试试用户体验,直接从两秒干到二十秒。你确定这是顶上吗?不是雪雪上一个加加霜吗? 那我就重启一下 ap, 重启的话能解决百分之九十的问题。人家服务器都挂了,你重启什么东西啊? 那我多注册几个 a p r k。 嗯,这个不行的话就换下一个。同我跟你讲,比如说同一个供应链挂了换 k, 你 觉得有用吗?供应商和比如说供应商和供应商之间的接口、格式、模型能力都不一样,你代码里面印编码的一个模一个模型的应用你切得过去吗? 那我一开始就多几个多接几个供应商呢?这个还倒算,还还算一句人话,但是多过,比如说多供应商切换不同模型的 pro map 的 格式和输出风格不一样,用户体验不一又不一致,怎么办呢?那我不能学苹果一样让用户也适应适应吗?你这不是扯淡吗?

兄弟们,我们终于可以不用接任何的 api, 也能使用小龙虾去调用本地工具了,它的原理是用我们平时用的网页端的大模型代替我们的 api, 但是这样做的缺点就是它不能调用工具,那么我们用 xml 去模拟标签的形式弥补了这一缺点, 很多人可能还是不太相信,那么我们就用实际的操作来演示给大家看一下。这里的解决方法就是传一个我这里做好的数据库的文件上去,它的作用就是让我们的网页端大模型能够 输出一个标准的 x m l 的 文本格式去调用工具,如果大家有需要的话可以在评论区留言,当然我们可以借助 train 或者 class code 等等我们的 ai 助手帮我们去把这个文件替换上去。做好了这些之后,我们再重新加载一下 open code, 进入到它的 ui 界面,这里我补充一下,就是右上角这两个 开关需要打开,一个是可以自由切换模型,第二个是我们调用工具的开关,然后我们在下面的输入框里给他一个想查看本地文件的指令, 然后他在处理过程中,这时候我们看到其实他的 tour 也就是工具调用这个已经开始动起来了,然后输出的文件内容也是正确的,而且把我们的一个隐藏文件也给就系统文件也展示出来了,来查看一下他到底调用了什么工具,他这里是 excel 的 执行命令的工具,下面是他返回的结果, 我们再来测试一下,看它能不能打开这个文件夹里面的某一个表格,看看里面的内容,然后很快它就帮我们查出了整个真实的跟我们 excel 表里面的内容是一样的啊这个表格。最后我们再来测试一下这个网页版大模型的 openclip, 它能不能帮我们生成一个新的文件出来。按照我们的要求,我们看到调用工具这里它是调用了一个 python 的 pandas 函数,那我们打开我们的本地文件,看看到底有没有这个文件。有了一个 excel 表,点进去看一下, 哦,这里确实是我们之前的那张表里面的 square name 那 一列的数据也证实了我们没有用到任何的 api 的 king 就 能够实现本地工具的调用。

玩 ai 的 应该都听说过 api k 和 api 密钥这两个概念,到底什么意思?我们今天呢一张图来给大家讲明白,这里呢分两种情况,那一种呢,就是你直接到人家那个官方网站上或者官方的 app 里边去使用这些 ai, 这种呢,你是用不到 api 密钥的,除此以外的任何场景都是需要这个密钥的, 因为你在其他的任何场景都需要通过什么接口的方式来去调用这些大模型。那当然在调用的时候呢,人家这些模型啊,需要判断你是否合规或者是向你收费,所以呢,这个时候就诞生了密钥,比如说你想在自己的网站里边,你想接入豆包, 你比如说你想在你的智能体里边,你想使用可拉奥的大模型,你在你的项目里边,你编码的时候,你想使用大模型,这些啊,都需要先去申请这个密钥,然后充上钱,你才能去调用人家这些模型。 当然呢,国内的模型和国外的模型呢还有区别,国内的模型呢,你申请了这个密钥以后,你再直接就可以用了,但是国外的模型他不行,他 有网络的限制,所以呢,你需要什么呀?中间啊,加这么一层中转,你才能正常的去访问。所以呢,对国外模型感兴趣的可以看我之前的有一期视频有讲解。那如果你也正在学习 ai 的 话,关注云哥,我们一起学习交流。

实现了 ai 代码生成功能,使用的是 dbusic 提供的 api 接口, 我们使用的话需要提前申请对应的 api key, 然后目前这个功能 对话是持久保存的,也就是说切换界面以及重启应用对话都不会消失, 然后可以使用它进行互动询问代码的实现,然后 有些搜索代码已经设置了,可以直接运行, 也可以直接让他实现我们的脚本或者后台任务。比如这两个 如果是脚本的话,它会自动有一个保存为脚本按钮,可以直接保存,保存之后我们就可以在它的基础上进行修改,然后后台任务也是一样的, 这个脚本这里已经保存,然后后台录入,我们把这个保存起来, 然后这里就多了一个,如果是简单的话,基本上都可以正常运行,这个脚本也是一样的, 我们也可以在他的基础上进行编辑或者删除, 比如我们让他实现获取当前时间的功能, 比如我们需要这个输入卡交点的问题,比如我们需要获取当天的数据库有哪些,也可以直接询问, 直接运行 就会输出当前应用中的所有数据口,让它 让它获取一下当前应用的文件, 他说输出到控制台,我们就来看一下,确实是输出了 提示时也备份了一份, 还是蛮好用的这个功能。

哈喽,各位同好,大家好,我是刺儿。本系列视频适合于任何基础都没有的 ai 小 白将教会你如何使用所有主流 ai 工具。视频所涉及到的任何一个专业名词都会做统一批注,目标是为你搭建一个完整的 ai 世界观。 首先我们这一期要讲的是 cherry studio。 cherry studio 的 使用直接解决了我们在使用 ai 当中最基础的一个问题,就是 ai 软件儿分布太杂太乱,有的是网页版,有的是 a p p, 而 cherry studio 可以 直接调动移动主流 ai 的 a p p, 这极大地解决了我们在使用 ai 工具中频繁换网页和 a p p 的 问题。 下面我们就来实操教学,从下载开始一步步教会大家如何使用 cherry studio 所有基础功能。 这里我们进入到 cherry studio 官网之后点击下载,根据你的这个设备来直接下载就可以,如果你是 pc 端,你就点击 windows, 如果你是像我一样是 mac, 你 就直接点击 mac os。 当然如果你是开发者, 就用第三项 cherry studio 的 注册呢,可以直接使用国内的邮箱,在网页完成注册之后,我们就可以登录使用了。这就是我们进入到 cherry studio 的 这个首页, 然后我们来教大家怎么一步步配置,然后讲一讲它具体的一些功能。我们首先打开设置,在设置这里有模型服务、默认模型、 mcp 辅助、网络搜索、全局记忆、 api 服务器,这些都是我们这次视频要给大家讲到的一些基础功能。 首先我们来讲一下这个模型服务,模型服务这里它有,就是我们一开始说的一众的国内外主流 ai, 如果没有找到你要的模型,你可以点击添加。我们这里先用国内一些 ai 来给大家举例子,首先就是我们之前视频提到的深度求索,它可能查到的模型只有 v 四 pro、 v 四 flash 和 chat。 我 们先来给大家讲一下 api, api 的 本质就是我们在使用 cherry studio 的 时候,它相当于一个中间人,有了 api 我 们就可以直接调用其他平台的大模型, 实现在一个平台上调用所有我们所需要的大模型。下面我们就用 deepsafe 来给大家举例子。首先我们进入到 deepsafe 的 官网,然后这里有两个选项,一个是开始对话,一个是 api 开放平台,我们点击 api 开放平台,在这里我们首先要注册你的账号, 如果你注册之后,可以直接在这上面选择电话登录,在登录之后这里你可以点击充值,充值多少都可以。 然后我们最主要的是给大家讲一下 api case, 就是 我们刚才讲到的 api, 在 这里我们点击创建 api, 在 这里输入名字之后,我们点击创建, 一定要复制这个 api, 因为它只会显示这一次,在很多平台上它都是只会显示这一次,但是当你把这个 api key 复制到 cherry studio 的 时候,它可以就是随时查看了。紧接着我们回到 cherry studio, 在 密钥这里输入我们刚才复制的密钥,然后点击检测,这里我们就连接成功了。同样的流程,我们到智普青岩那里啊,一样的复制智 普开放平台的这个 api 密钥,这个智普开放平台在我们用大局记忆的时候有需要用到,在设置这里我们找到大局记忆,然后把大局记忆打开, 打开之后呢旁边有记忆设置,在记忆设置这里,我们在嵌入模型这里选择一个支持嵌入的模型。这句话可能有点拗口,但是大家在实际使用的时候应该能知道我在说什么,然后我们点击确定, 我们在模型服务这里给大家举个例子,我们在这里可以看到它这里有了嵌入,也就是说它支持嵌入模型,然后我们给大家演示一下, 我们再来给大家讲一下 mcp 服务器, mcp 服务器的本质就是给我们的智能体和助手添加一个插线板,让我们实现特定的功能, 比如查看天气,读文件,发消息。我们再来给大家讲一下网络搜索,顾名思义就是让我们的助手和智能体有了上网的功能,我们可以在这里直接添加密钥,之后直接打开就可以,这个很简单, 现在我们讲到的是 cherry studio 内置中最重要的两个功能。首先是助手,我们点击添加助手,默认助手, 在默认助手这里有三个点儿,我们点进去,然后点击编辑助手,编辑助手的时候我们可以选择模型这里我们打开的模型我们选择一个 deepsea v 四 pro, 在 上下文这里我们打到无限最大 token 数,我们不开工具。调用方式,我们选择函数, 然后最大调用次数我们关掉,然后在 mcp 服务器这里我们选择自动全句记忆这里我们可以用一些我们自己的常用语,你需要用什么你就打什么就可以,比如我平常用的提示词就是不要迎合用户想法,回复保持客观, 如图中所示,主要的一些 ai 参数的含义我已经给大家标注出来了,不过还是建议大家直接去问 ai 模型,让他给你做定制参数,下面我们来就给大家演示一下, 就像这里我给大家演示的一样啊,我直接告诉这个模型助手,帮我生成一个在 cherry studio 中使用的自定义参数,作为一个生物老师。然后呢,他一开始给你的回复可能是以这种形式, 我们只需要在后面再追加一条指令,直接把参数发给我以 jason 格式,然后他就会直接发送给我们这个格式,然后我们在这里点击复制。复制之后我们返回到助手这个页面,依旧是三个点,点进去编辑助手,然后我们在这个文自定义参数这里 选择 js 模式,然后直接把我们这串代码复制复制进去,他这里并没有显示说出错之类的,并没有显示格式错误之类的,然后我们点击空白处,然后现在呢,他就是一个生物老师了,然后我们问他一个生物类型的问题。 智能体也是我们这个视频的最后一个板块,我们来教大家怎么添加智能体,在这里点击添加 agent, 然后我们名字可以自己取一个选择模型这里我们只能选择我们已经开了的模型,我们这里选择 deepsea v 四 pro 模式呢,我们选择普通模式就可以,提示词我们暂时不设置,点击添加了。至此, cherry studio 的 基本功能我们已经 教完了,下一期呢,我们将会带来 cloud code 的 详细使用教程,包括下载到安装到最后的基本功能的全部使用。如果觉得这期视频对你还有用的话,希望你能给一个点赞,我们下期见。

不用换编辑器也能用 ai 改代码。 gemini 现在幺零五 k star 儿。 google 把 gemini 做成了开源命令行 agent 工具,本底开源个人 google 账号,每分钟六十次,每天一千次, a p i p 按掉又付费。维米写了 emtoki 上下文窗口能读更大的代码。现场 内置 google 搜索文件操作 shell 命令和网页抓取查资料改文件连在一起。支持 mcp gemini mb 和检查点,复杂绘画可以恢复。所以强的不是 star, 是 把 ai 助手从聊天框推回终端。

你每次调 api 请求都经过中转站,你的 key, 你 的 party、 用户对话全从他手里,到底安不安全呢?他在中间有没有干点你不知道的事? 今天教你们用一个开源的安全体检工具,实际跑一遍。他不是测速的,是专门检查中转站有没有偷偷加量,截断上下文,泄露错误信息。这些问题的关键是,本地跑屁不用交给任何第三方。他会检查这几个关键问题, 有没有偷偷往你请求里注入隐藏提示词?你的系统 prompt 能不能被套出来?长上下文有没有被悄悄截断,出错的时候有没有把上游地址替片段这些敏感信息漏出来。还有模型返回的内容有没有被中间曾改过,结果分成,高风险、中风险、低风险。 现在用我的中转演示一遍,跑完大概五分钟,分别填入 u、 r、 l 和 p i t, 生成审计命令后,我们复制到终端,修改成我们要测试的模型名,注意格式别错哦。 十二项检查跑完,十项通过,零项严重风险。综合评级中风险原因是第十项,流势响应完整性无法判定。因为这个工具走的是 anthonic 协议去测,但我的站用的是 ogni 协议,协议不同,所以这项跑不通。 除了这一项之外,其他全部通过。没有隐藏提示词,注入 copy 提取被模型主动拒绝,长上下文完整保留错误响应,没有泄露任何敏感信息,工具调用包名也没有被篡改。 用中转站真正该关心的不只是能不能回,更重要的是我们的信息安全问题。工具链接,评论区有问题底下聊。

打算做一个二十一期的纯小白零基础 ai 入门教程,希望我们不再为 ai 焦虑而使用 ai 做点事。 整个系列打算呢,会分成三个部分,第一部分基础篇,带你理解 api、 token、 scale 这些我们经常听到的概念。第二部分,应用篇,带你去使用 cloud code code 这些 ai 工具。 第三部分是实战篇,我们一起从零开始用 ai, 真正做出并上线一个简单的带鱼民的网站。希望大家多多点赞、收藏、关注,让我们有更大动力把这个系列做完。今天是基础篇第一期,什么是 api? 什么是 api k, 我想用 deepsea 的 官方文档加实际操作,带你真正看懂这两个概念。先做一个最简单的比喻啊, api 你 可以把它理解成一扇门,门后面是 ai 真正的能力,比如生成代码或者图片,但这扇门不是谁都能直接打开,你必须按照它规定的格式递上一组钥匙, 而 api k 就是 其中最主要的那把主钥匙,如果钥匙不对门就不会打开,也不会返回。结果现在我打开 deepsea 官方文档,这里有一段官方给的调用对话, api 势力,很多人第一次看到这里已经晕了,感觉像黑客呆毛。但其实你可以把它理解成按照规定的格式去敲门。 比如这里这个地址其实就是 deepsea 的 api 大 门地址,你把内容按照它要求的格式发过去,它就会把 ai 的 回答返回给你。 接下来我们简单主行看一下 curl, 意思是发起一次网络请求,你可以理解成开始敲门,然后这行 意思是我会按照 jason 格式说话。 jason, 你 可以简单理解成电脑之间交流的一种固定的说话方式,就像这扇 a p i 大 门,只认这种格式的钥匙。 接下来这行,这里就是我们经常听到的 api k, 它本质上就是打开 deepsafe api 大 门的主钥匙, api 大 门看到这把钥匙才会确认你有权限来找我的 ai 办事。怎么获得这个 api k 呢?很简单,在 deepsafe 官网点击创建, 创建好后及时复制,然后充值几块钱做实验就可以。而其他这些参数,比如 modal messages, 其实都像其他固定格式的小钥匙, 只有大家一起组合正确,这扇门才会真正打开。其中 model 就是 我们常常说的 deepsea 又更新了什么什么模型,这里是 deepsea v 四 pro。 然后这两行,第一行的角色是系统,内容是系统给 ai 的 设定, 你是一个乐于助人的助手,你可以把它理解成隐藏人设或者后台提示词。第二行的角色是用户,这里才是真正最关键的内容,这里的 其实就是你真正说的话,也就是说你在网页里输入 hello, 本质上网页最终也是把这句话发送给了 deepsea 的 api, 只不过网页帮你做好了 ui 界面输入框,所以你会觉得我是在网页里和 ai 聊天。但实际上真正回答你的一直都是后面的 api。 现在我不用网页,直接在 mac 的 终端里手动调用 deepsea api 终端,你可以简单理解为直接和电脑底层说话的窗口,我们填入了自己 api k 的 那段代码,然后把 content 内容变为中文粘贴进去,然后回车, 你会发现 deepsea 真的 回复我了,而且返回了一大串数据,但其实这里真正重要的还是这一句,也就是说网页聊天其实和 api 调用本质上没有区别, 分别指是网页帮你把这些 js 数据自动整理好了。所以很多 ai 产品的最底层的本质其实都是一个界面加一个 api 调用,真正厉害的其实是后面的模型能力,而 api 就是 你和 ai 之间的连接方式。这也是为什么 我们现在使用很多第三方 ai 工具时,比如用 cc、 switch 这样的工具来回切换不同大模型,经常都需要填写 api k, 因为本质上你只是让这个软件拿着你的钥匙去帮你敲开 api 大 门。最后总结, api 是 门,门后面是 ai 真正的能力打开要固定格式的一组钥匙,而 api k 就是 其中最主要的那把主钥匙。好啦,如果你有什么想法和问题,欢迎在评论区留言哦!

什么是 api? api 就是 软件之间互相传话调用功能的通用接口, api key 是 调用接口服务时用于身份验证、授权访问的专属秘钥。如果说 api 是 能存能取的快递柜, api key 就是 打开快递柜使用服务的取件码,要想打开快递柜来拿到里面的东西, 就需要输入取件码。有了 api key, 我 们就可以给 open klo 龙虾接入大模型呢。龙虾作为一个 ai 智能体,可以链接大语言模型,多通讯平台, 简单来讲龙虾是一个可以帮你干活的手,大模型是脑,有了脑手才能进行的工作。市面上有很多的大语言模型,国外的有 gpt 五点五、 jamila 三点一, cloud, 性能上依旧是领先,通俗讲就是足够聪明,但是价格也比较贵, 贵一口价。国内有 pmi 二点六千问 tipc 扣一四都是很好的平替,可以满足绝大多数日常需求,而且性价比很高。今天我们就来给龙虾接入 pmi 二点六的模型。打开豆包,让豆包帮我们找到月之暗面的官网,打开页面注册账号,然后点击 api 选项, 点击开始构建,点击 apikey 管理,点击新建 apikey, 然后随便输入一个名字,点击创建,然后你就获得了一串密钥,这就是调用大模型的 apikey, 现在可以开始部署了, 用 curser 部署 opencall 龙虾的 api 作为 ai 新时代的小白,借用工具才是我们最应该学习的技能。打开 curser, 让 curser 帮我们部署 api, 但是要注意的是 api key 千万不要泄露,否则别人就可以通过这个 api key 调用你的大模型。 接下来就是看着 curser 工作的时间还是一样,如果有问题就让 curser 去解决,不明白的地方就截图贴给他。就这样你的 opencall 龙虾就部署完成了。 依靠 kimi 免费的额度,我们先来跟他说一句话,你好,这时候你不经发问,这个看起来不太聪明的家伙到底有什么用?下期讲怎么让 open club 龙虾帮我们干活。关注烛火引擎,一灯吉明。
