粉丝5.0万获赞36.9万



十二月二日晚,搭载豆包手机助手的努比亚 m 幺五三工程机被用户发现操作微信时异常退出,甚至账号无法登录。腾讯方面人士回应触发了既有风控。业内推测系隐私与安全条款被踩线,随后试探升级,国行、建行相继弹窗要求关闭 ai 助手再用 app。 为什么会这样?因为这不是普通 app, 而是与操作系统深度整合的 ai 助手。即便用户授权,隐私安全风险仍存在,这也是为什么微信和银行类 app 率先切断了这一授权。 实际上, ai agent 可能面临的用户隐私安全等伦理问题一直存在,但此前受限于 agent 完成度较低,难以实现跨 a p p 跨步骤的高难度动作, 而一直未能引起重视。豆包微信之中暴露的,正是 ai 安全领域的一个关键问题,当 ai 系统获得过高权限时,如何确保其行为安全可控?

允许 ai 操作手机吗?请对我说允许,正在帮你操作手机。豆包手机从三千四百九十九元被炒到了一点二九万。有人用 ai 刷视频代打王者荣耀。购买者说,能够完成复杂指令,十分钟投递三十份求职简历。 售价三千四百九十九元的豆包 ai 手机火了,不仅迅速售庆,在二手市场更是被炒到了最高一点二九万元, 日租金高达一千六百元。那到底是什么让他如此受到追捧呢?首批用户周先生展示了他的核心能力,通过语音指令,手机呢可以自动点外卖, 巴铁甚至在招聘软件上十分钟就投出了三十份简历,实现了双手解放。在用户群中,有人用它自动刷短视频,领平台金币。甚至啊,尝试让 ai 代打王者荣耀。十二月五号,豆包手机助手发布公告,宣布对三类场景进行限制, 刷分刷激励、金融操作和游戏代玩。同时呢,微信、淘宝及多家银行 app 也已经对其自动化操作进行了登录或支付限制。 官方解释说,部分应用的激励设计本意呢是为了鼓励真人互动,游戏呢,则涉及公平性。团队表示正在与各方沟通,希望建立清晰的规则。