00:00 / 02:25
连播
清屏
智能
倍速
点赞9
Tony沈哲2周前
本地 AI 推理平台 第十七期 Vol.17|远程模型接入:让 LM Studio/Ollama 成为推理节点 这一期继续升级本地 AI 推理平台的能力: 👉 远程模型接入(局域网环境) 在真实开发场景中,模型往往不在同一台机器上,例如: * 模型运行在 GPU 服务器 * 或局域网中的另一台电脑 * 本机只是 UI 或 Agent 控制端 那么问题来了: 👉 Agent 如何调用这些远程模型? 在这一期视频中,我将: * 将部署在其他机器上的 LM Studio / Ollama * 接入到本地 AI 推理平台 * 通过接口将其作为 远程推理节点 * 自动注册到统一的 Model Registry 接入之后,这些远程模型可以被: * Chat 直接调用 * Agent 执行任务时调用 * Workflow 编排使用 而且在使用层面是完全透明的: 👉 模型在哪台机器上,调用方并不需要关心 在视频中我演示了两个典型场景: 1️⃣ Chat 调用远程模型 选择远程模型进行对话, 推理发生在另一台机器,但体验与本地一致。 2️⃣ Agent 调用远程模型(重点) 在任务执行过程中: * Agent 调用模型 * 实际推理在远程节点完成 * 返回结果后继续执行流程 这说明: 👉 模型已经成为一种可调度的“能力资源” 这一期的核心在于: AI 系统开始具备: 👉 跨机器推理能力(分布式执行的基础) 如果你对: * 本地 AI * Agent 系统 * 多模型调度 * AI 平台架构 感兴趣,欢迎关注这个系列。 #本地AI #AI推理平台 #OpenVitamin #本地AI平台 #AI基础设施
00:00 / 05:24
连播
清屏
智能
倍速
点赞21
Eternal N9月前
如何拯救你的正版FL&我们应该购买正版吗? 情况更新:在我这两天继续发了2、3封邮件给imageline官方之后,他们给我回了邮件,并像之前视频的评论区里那位博主提到的,给我重置了账号密码,至此我算是找回账号了。但是我依然保持这个观点:FL的盗版账号检测机制非常垃圾。原因:不公开透明且触发得极不合理。我这种算是本身有一定英语能力又有时间给官方一直写邮件的人了,但更多莫名其妙被ban了的中国正版用户呢?评论区已经有太多被ban了没处说、没法解的人。 基于这样的情况,我刚刚征得了身边朋友和部分评论区内反馈被误封的带🔥同意,到官方论坛写了一封信,简要概括内容就是现在的错误机制反而让很多人不得不用盗版,希望官方能重视这个问题,改善机制,并附上了一些评论截图作为证据参考。大家要是有能力也可以到官方论坛一起说说这个问题。论坛地址:https://forum.image-line.com/viewforum.php?f=100 关于已经被误封的人,这一期视频,也给大家提供详细的解决方式,附上英文邮件模版和所有需要用的资料,提供更便捷的方式给大家去申诉。 我个人也很希望音频厂商们能持续给大家提供好的产品,同时优化服务,而长远来说只有支持正版才能实现这一点,所以也建议大家在有能力的情况下,尽可能还是支持正版。我自己的几个宿主也全都是正版的。这次事件刚好也引发了大家关于正版插件产品体验的讨论,总的来说我觉得是好事,有句话是“若批评不自由,则赞美无意义”。指出问题不意味着是对他们的全盘否定,反而是音频厂商改进服务的契机,此视频此贴都不删,留给大家讨论更多相关的话题。 #音乐制作 #音乐人 #编曲 #Flstudio #音乐制作人
00:00 / 04:28
连播
清屏
智能
倍速
点赞64