粉丝40.7万获赞1431.0万

十二月二十二号晚上十点,快手遭遇了一场前所未有的安全危机,短短几个小时内,大量直播间开始播放淫秽影片,快手官方声明将其定义为网络攻击,认为这不是普通的内容违规事件,而是一场有组织、有预谋的系统性攻击。 攻击者显然研究了平台语言规律,选择在了晚间流量高峰带,审核人类相对薄弱的射箭点,通过自动化工具控制大量账号,实现了传统人工审核体系无法应对的饱和式攻击。这次射箭比以往的内容安全射箭更加复杂,我们想从一个技术层面给大家复盘一下这次事件啊。 这次攻击的背后呢,是一个高度成熟的恶意自动化产业链,攻击者通过接码平台以极低的成本获取了海量手机号,用自动化脚本批量注册或者是盗用了上万的僵尸号,形成一个僵尸号账号迟。 同时呢,利用设备指纹伪装 ip 代理,是轮换模拟正常用户行为轨迹等等技术,使恶意账号在攻击前就能潜伏在平台中,规避了初步风险检测。 有安全专家说,这次攻击之所以能够造成大规模的破坏,核心原因在于黑灰铲已经迈入自动化攻击新时代,而平台呢,仍然还是依赖着传统的人工防御模式, 核心的攻击工具能够同时刺激数千个账号,黑灰场的攻击在秒级完成。但是传统内容审核包含了机审、人审、副审等等多个层面,即使是机审也有模型推理的时间成本, 攻击者可以不计成本的发起攻击,而平台的每一条审核,每一次封禁,都需要计算资源和人力成本吗?另外,高权限的 ai 的便利性被放大 大的同时,风险性是不是也同步也在放大呢?比如说前段时间很火那个 ai 手机和黑产就有一个技术共性, ai 手机通过安卓系统的无障碍服务获取了系统及权限,可以全局的读取屏幕内容,模拟用户点击跨应用操作。 这种高权限让 ai 助手能够一键完成复杂任务,但同时也意味着他在技术上具备了快手事件中黑灰产的同等级能力,就是自动操作、批量处理、跨应用控制。 对平台来说,这种更加于接近真实用户的行为难以辨别,给黑灰产的防御带来了一个空前的挑战。对我们普通用户来说,因为进程注入是程序在后台运行的,用户是无法察觉的,一旦被入侵了,用户可能在毫不知情的状态下成为那个黑灰产的帮凶。 这次快手事件中的攻击员是冷冰冰的模拟器。而未来 ai 手机如果失守每一个用户,我们每一个普通者手机都可能成为那个有温度的潜伏者。 a 的普及当然是不可逆转的,我们也必须在技术架构中嵌入更多的安全设计,在赋予 ai 能力的同时建立一个更加坚固的防护墙,在享受便利的同时保持必要的警惕。

你有没有觉得很奇怪,随手说了声呢,想买个电脑,结果呢,在手机上就刷到了一堆电脑的推荐,刚和女朋友聊到生日礼物,购物软件呢,就疯狂给你谈相关内容。这个可能是我们的手机软件正在二十四小时偷听我们。 我们在安装手机软件时呢,经常会被要求授予各种权限,其中呢就包括手机麦克风的权限。获得权限的手机软件呢,就可能通过麦克风偷录你的日常,谈恋爱、骂老板、刷美食等,然后对声音内容进行分析,再进一步的把精准广告呢投送给我们。 另外,我们在日常使用手机时,也会留下一些相应的痕迹,比如消费记录、地理位置以及的搜索记录等等。 获取权限的软件呢,会对这些信息进行收集分析,判断出我们潜在的需求,进而投送相应的广告给我们。如果呢,你不想手机收集你的信息,可以这样做,我们打开设置,进入了影视与安全性,点击麦克风,将没有通话需求的软件呢关掉,你学会了吗?




