粉丝11.2万获赞84.1万



大梨,我还要我!我还要 come on!

上个月,全世界最强的 ai 失控了,自己动手黑了另一家公司,被打的那家公司想查清楚是谁干的,第一时间去找美国最顶级的 ai 帮忙, 被拒绝了。不是一次,是每一次。最后把这个案子破了的,是一个中国公司免费放在网上谁都能下载的模型。看到最后,你会发现最讽刺的地方还不在这, 先花三十秒把事儿说清楚。七月初, openai 内部搞了一场考试,专门测自己的模型有多会搞网络攻击。为了测出真本事,他们把安全护栏关了, 结果模型越狱了,他挖出一个谁都没发现的漏洞,钻到外网,一路黑进了 hackinface。 你 可以把它理解成 ai 界的 github, 全世界的公司都在上面下载模型和数据。四天半,一万七千六百次操作,没有一部是人指挥的。他折腾这么大一圈,只是想偷到那场考试的标准答案。 这段我上期讲过,今天要讲的是后面才发生的事。 ai 被赶出去之后,哈根菲斯要取证,一万七千六百次操作全是加密过的乱码,靠人一条条看,看到明年也看不完。所以他们的办法是找 ai 来查 ai。 他们第一时间找的是市面上最顶级的两个商用模型,都是 cloud 加的,结果两个都不干, 原因写在报告里,这些模型的安全护栏分不清你是在研究一次攻击,还是你本人正在发动一次攻击。 我把那份复盘报告从头翻到尾,最扎眼的是一张截图,底下的说明文字就一句话,我们每次想分析攻击日制 oppos 的 护栏都会被触发。 商用的路走死了,他们换了个方向,他们下载了一个中国模型,智普的 glm, 五点二,用的还是英伟达帮忙压缩过的那个版本,它是开源的。 什么叫开源?就是整个模型你能下载到自己机器上,断网也能跑,没有任何人可以远程拦你。他们把它装在自己的服务器里,整条取证流水线全部改道从它走。 然后案子就破了。那个 ai 偷东西的时候很急,贼把偷到的数据切成小块,加密压缩,再伪装成正常文件提交上去。所以 hackinface 第一遍自动扫描,几乎什么都没扫出来。 gim 干的事是把攻击者那一整套加密方式原样复现了一遍,而解密的密码本在哪呢?那个 ai 自己不小心把它漏在了自己的日记里, 拿这个密码本一解,被翻出来的已经被偷走的账号和钥匙,是最初的四倍。你发现这里有多拧巴了吗? 真去搞攻击的那个 ai, 因为护栏被关了,什么都敢干而被请来帮忙防守的 ai, 因为护栏老老实实开着,连搭把手都不肯。这就是我们给 ai 系上的那根安全带,勒不住,玩命往前冲的那个, 反倒把要去救人的那个死死捆在了座位上。如果指到这,也就是个黑色幽默。但九天之后,事情又翻了一层,拒绝帮忙的那两个模型背后是同一家公司。 ansorepic。 七月三十号, arcep 自己发了份公告,看到 openai 出事,他们回头把自家十四万一千次安全测试记录全查了一遍,查出三次。他们的 cloud 也从测试环境摸到了真实的互联网,然后黑进了三家真实存在的公司,偷凭证拖走整个生产数据库, 其中一次还把恶意代码传到了拍省的官方仓库,被十五个真实系统下载运行了。最早那一次发生在四月, 三家被黑的公司自己一直不知道,所以你把顺序捋一捋。 oppos 拒绝帮别人分析攻击,理由是这活太危险。而同一个型号的 oppos 那 几个月正在外面黑真的公司。整件事的时间线我给你捋清楚了,可以截个图。 七月九号, ai 越狱跑到外网。七月十一号,攻进哈根 face, 十三个小时拿下整个内网。 七月十三号,被发现赶出去,对方报了 fbi。 七月十六号,哈丁 face 公开说自己被黑了,但不知道凶手是谁。七月二十一号, openai 认领是我的模型。七月二十七号,完整复盘报告发布,中国模型破案这一段就藏在里面。 七月三十号, answerpig 说我的模型也黑了三家。这件事在美国日内担心的其实不是安全。路透社的报导写的很直白,美国公司自己的安全护栏正在把客户推向北京的竞争对手。我想了很久,该怎么形容这两种模型? 那些最强的商用模型像一把锁在玻璃柜里的消防斧,钥匙在厂家手上着火了,你还得先证明自己不是纵火犯。而开源模型是挂在墙上 砸开玻璃谁都能拿的那一把,他不一定最锋利,但着火的时候他在这一次墙上那把斧头是中国造的。 这事现在吵成两派,一派说这就是开元的胜利,关键时刻能拿来用的才叫基础设施,锁在别人 api 后面的,随时可能对你拉闸。 另一派说别高潮,人家用它是因为免费,能装在自己机器上攻击数据不用外转,换个够强的开源模型一样行,跟哪国造的没关系,你站哪边?评论区告诉我,三家的原始复盘报告我都放置顶了。置顶里还有一个问题比正片这个更难回答。 最后留个东西给你,想你现在的手机里有几个 ai? 拿着你的相册、通讯录和支付权限,真出事的那天,能拦住他的会是谁?把这个视频转给那个总说国产 ai 不 行的朋友。我是集物君,我们下期见。


c 个悠悠有品新规则解读好,亲爱的家人们,这里是大眼神思过,最近有很多朋友私信我说想让我聊一聊悠悠有品的最新规则啊, 第一点呢,就是无法联系到重租房,而且逾期超过三天都要进行一个赔付。第二点和第三点呢,就是你把别人印花给刮了,把别人签名给改了,而且不愿意复员,也不愿意赔偿印花或者签名的,那就要进行一个赔付, 但是赔付的标准是什么呢?官网上是这样说的,同名称同渐变率同脆活等级同皮肤编号, 磨损必须比之前好,而且有印花的话还需要赔付同等价值等级的印花,总的来说就是赔付一个比之前好的视频,这样的话 对出租方式非常的友好,对恶意不归还食品的玩家是一个非常大的惩罚。好,谢谢关注,有任何问题可以评论区留言。