粉丝5436获赞12.0万


豆包豆包,帮我来打一把欢乐斗地主。

十二月二日晚,搭载豆包手机助手的努比亚 m 幺五三工程机被用户发现操作微信时异常退出,甚至账号无法登录。腾讯方面人士回应触发了既有风控。业内推测系隐私与安全条款被踩线,随后试探升级,国行、建行相继弹窗要求关闭 ai 助手再用 app。 为什么会这样?因为这不是普通 app, 而是与操作系统深度整合的 ai 助手。即便用户授权,隐私安全风险仍存在,这也是为什么微信和银行类 app 率先切断了这一授权。 实际上, ai agent 可能面临的用户隐私安全等伦理问题一直存在,但此前受限于 agent 完成度较低,难以实现跨 a p p 跨步骤的高难度动作, 而一直未能引起重视。豆包微信之中暴露的,正是 ai 安全领域的一个关键问题,当 ai 系统获得过高权限时,如何确保其行为安全可控?