粉丝2345获赞1.9万

一千亿参数的大模型,不用 gpu, 普通 cpu 就 能跑,而且速度还不慢。这不是 ppt, 是 微软刚开源的 bitnet。 现在玩大模型的痛点是什么? gpu 太贵,云服务太慢,本地部署太难,很多人的电脑连七 b 模型都跑不动。但如果我告诉你,有一种技术可以让一百 b 模型在普通笔记本上流畅运行呢? 这就是 bitnet, 微软研究院的黑科技。它的核心原理很简单,把模型权重从三十二位压缩到一点五八位。传统模型每个参数要三十二个 bit, bitnet 只要一点五八个 bit, 存储量直接砍掉百分之九十五。 实测数据说话,在 r m c p u 上, bitnet 比正常模型快一点三七到五倍,在 x 八六 c p u 上更猛快二点三七到六点一七倍,能耗也大降,最高省电百分之八十二。 最关键的是,一百 b 模型跑起来速度能达到人类阅读的速度,每秒五到七个 token。 tikub 已经二十八 k star, 微软官方维护已经支持 falcon 三、老马三等主流模型。二 b 参数的官方模型已经放出来了,直接下载就能跑。 想在笔记本上跑大模型,试试 bitnet 链接放评论区了,追星不盲从,实测出真知,我是锋芒 a a i 下期见!

有一种技术,可以让一百 b 模型在普通笔记本上流畅运行,这是微软开源的 bitnet 带来的真实突破。当下完大模型的核心痛点, gpu 成本高、云浮雾慢、本地部署难, 不少电脑连五 b 模型都跑不动。而 bitnet 凭借微软研究院的技术,将模型权重从三十二位压缩至一点五八位,存储量直降百分之九十五。实测数据亮眼, arm cpu 上速度比常规模型快一点三七到五倍, x 八六 cpu 快 二点三七到六点一七倍,能耗最高省百分之八十二,推理速度达每秒五到七个 token。 该项目 gitap 已获二十七点七 k 加星标。微软官方维护,适配 falcon、 三拉玛三等主流模型,二 b 参数官方模型可直接下载运行。想体验笔记本跑大模型,地址放评论区了。

兄弟们, ai 游戏规则又要被改写了,算力自由离我们不远了!今天分享的这个开源项目 beat net, 它可以让普通的 cpu 也能跑一零零 b 的 大模型, 从此吃亏的旧笔记本秒变个人 ai 终端,单个 cpu 流畅运行,无需 gpu 本地部署,大模型不卡顿,基本上能达到人读语速,还能省电百分之七十 x 八六芯片提速两倍起步, arm 芯片性能暴增五倍,安装超简单,三步搞定部署。

ai 速报局今日速报终结 gpu 霸权,微软比特莱特开源 cpu 能跑百亿参数大模型推理速度狂飙六倍,核心靠一点五八比特三元权重加四位激活量化 x 八六 cpu 加速六点一七倍, a r m 加速五倍,能耗降百分之八十二 二十亿,参数模型仅占零点四 g b, 还能流畅跑朗玛三七零 b, 手机传感器、笔记本等边缘设备直接安装,微软大模型持续发力。


为什么扫地机器人每年都在选新花样,而我们消费者却总也买不到合适的扫地机,先是从抹布盘转到滚筒,现在又出了热火水,那究竟是夸张噱头还是真的好用呢?为此,我自购了两款近期比较热门的扫地机,给大家做一个测评,分别是一号和二号, 同样都是滚筒加上活水,一起来看看到底哪款才真正符合大家的真实需求。首先进行拖地能力测试,这两款机器呢,都是活水洗地,面对普通脏污清洁效果都很到位。接下来用风干的酱油模拟厨房重污渍,这是一号的清洁效果,表现依旧很稳定,这是二号 为什么会有这样的差别?关键啊在于他们的活水系统,一号是热水拖地,二号是常温水拖地, 大家都知道热水对顽固污渍的溶解力、去污力更强,再加上对地压力和转速上的区别,二号是十三点三牛加每分钟两百转的下压力,而一号则是二十牛下压力,再加上每分钟三百转的速度,你看,一个这样拖,一个这样拖,这效果能一样吗? 而且我发现一号的清洁面积明显更大一些,我测量了他们的滚筒长度,单侧的清洁面积越大,效率也就越高。二、边角测试应对这种直线墙面,一号和二号的滚筒都能伸出沿边清扫,这是一号的清洁效果,大家可以参考。这是二号的清洁效果, 而一号的边刷还升级了机械臂内墙外扩,像这种九十度的角落也是可以无死角全覆盖。 三、扫地测试从参数上看,一号和二号吸力如下,我用相同的颗粒物来测试两款,效果也是旗鼓相当。再来试试大家很关注的长发会不会缠,我准备了等量的长发,一号是主刷加边刷,双重防缠绕, 可以看到一号快速吸入,这是他的清草效果,给大家参考。二号也是快速吸入了,嗯, 四自清洁测试,我分别涂抹了等量的脏污到他们的滚筒上,开始自清洁。一号是八十度热水加正反掌搓洗滚筒,再用六十度热风烘干,而且一号的底盘还可以拆下来清洗,这点很不错。 二号也是七十五度热水,清洁结束后的滚筒给大家参考。最后是大家都关心的售后服务,我对比了下,二号和大多数售后一样,有问题直接平台找客服,而一号则可以提供四 s 级保养服务,保内免费返厂维修换新。这个售后还是很给力的, 综合测评下来,两款都能满足日常家庭的使用需求,但如果你忘记留自动上下水位也没关系,一号还有四种安装方式,总有一种适合你,二号呢,日常使用也是足够的。好啦,今天扫地机器人体验分享就到这里啦,希望可以帮大家做出决定,还有什么问题评论区问我。