全部评论
大家都在搜:
[赞][赞][赞][赞][赞]
4月前·天津

0

分享
回复
[握手][握手][握手]
4月前·天津

0

分享
回复
还是没太明白蒸馏和量化的差别,量化是只瘦身?而蒸馏是本身是小孩儿跟着老师学,为啥要有这串行的两步呢?
4月前·广东

0

分享
回复
量化就是给模型“瘦身”,不改变其智商和结构,让它更轻快。蒸馏是“师徒传承”,用一个强大的老师,教出一个结构不同、但很聪明的小徒弟。串行使用(先蒸馏、后量化)是为了榨干性能。先通过蒸馏从根本上缩小模型规模(解决“笨重”问题),再通过量化从根本上降低计算精度(解决“效率”问题),两步结合才能得到那个既继承了顶级大模型智慧、又极其敏捷的“超级小模型”。
4月前·天津

0

分享
回复
[赞][赞][赞]
4月前·天津

0

分享
回复
[微笑][微笑][微笑]
4月前·天津

0

分享
回复
宇哥白话讲AI
宇哥白话讲AI

粉丝4349获赞1.9万

热榜推荐

热门视频