00:00 / 13:43
连播
清屏
智能
倍速
点赞44
00:00 / 01:16
连播
清屏
智能
倍速
点赞25
00:00 / 02:12
连播
清屏
智能
倍速
点赞16
00:00 / 05:32
连播
清屏
智能
倍速
点赞399
00:00 / 01:07
连播
清屏
智能
倍速
点赞212
00:00 / 14:52
连播
清屏
智能
倍速
点赞84
00:00 / 06:31
连播
清屏
智能
倍速
点赞9119
00:00 / 00:22
连播
清屏
智能
倍速
点赞3234
00:00 / 00:22
连播
清屏
智能
倍速
点赞36
00:00 / 01:02
连播
清屏
智能
倍速
点赞33
00:00 / 22:03
连播
清屏
智能
倍速
点赞55
Agent别裸奔上线 Agent 真要进生产环境,最危险的不是它不会干活,而是它太能干了。 今天 GitHub Trending 里看到 Microsoft 开源的 Agent Governance Toolkit,定位很直接:给自主 Agent 加治理层。 它解决的是一个很现实的问题: 当 Agent 能发邮件、查数据库、调用工具、委派给其他 Agent 时,光靠一句“请遵守规则”是不够的。 README 里举的例子很典型:一个 Agent 可以访问 send_email 和 query_database,但它不应该能 drop_table。传统 OAuth 和 IAM 只能控制它能连到什么服务,控制不了它连上以后做什么。 这个工具把治理放到应用层: • policy enforcement:每次工具调用都过策略 • identity:知道到底是哪个 Agent 做的 • sandboxing:限制执行边界 • audit log:留下可追溯记录 • SRE:熔断、降级、可靠性工程 最抓人的数据是:README 里写,prompt-based safety 在红队测试里有 26.67% policy violation rate,而 AGT 的应用层 enforcement 是 0.00%。 我的判断是:Agent 上生产以后,安全不应该只写在提示词里,而应该写进系统边界里。 未来企业不会问“这个 Agent 会不会回答”,而会问: 它能不能被限制? 能不能被追责? 出事后能不能证明发生了什么? 你觉得 Agent 上线前,最该加哪一道安全阀? 评论区聊聊,我后面可以整理一份 Agent 上生产检查清单。 #AIAgent #企业AI #AI安全 #Agent治理 #微软开源 #软件工程 #AI工具 #网络安全
00:00 / 00:36
连播
清屏
智能
倍速
点赞2
00:00 / 04:58
连播
清屏
智能
倍速
点赞8