00:00 / 01:33
连播
清屏
智能
倍速
点赞22
00:00 / 00:15
连播
清屏
智能
倍速
点赞89
00:00 / 00:12
连播
清屏
智能
倍速
点赞NaN
00:00 / 00:35
连播
清屏
智能
倍速
点赞29
00:00 / 00:00
连播
清屏
智能
倍速
点赞3546
🤖结构同源,RL才是关键❗️。📈最近,TinyLoRA 的实验结果在 PEFT 领域引发了广泛关注。仅用 13 个参数就实现了令人瞩目的性能,确实让人眼前一亮。但在亮眼的指标背后,从底层数学逻辑进行复盘,会发现一个极具探讨价值的学术问题: 📌一、架构的“既视感” 拆解 TinyLoRA 的结构后不难发现,它本质上是在 LoRA-XS 的基础上,又叠加了一层额外的降维操作。这一设计思路,与此前 Uni-LoRA 提出的随机投影框架高度相似。 📌二、嵌套投影的数学本质 从线性代数的角度来看,如果将 LoRA-XS 视为一次投影 P_1,再叠加一个线性降维 P_2,那么复合变换 P_2 \cdot P_1 在数学上仍然等价于一次单一的线性投影。这意味着,从参数空间的变换逻辑上看,TinyLoRA 与 Uni-LoRA 并不存在本质上的代际差异。 📌三、核心疑问 既然架构逻辑异曲同工,那么 TinyLoRA 远超预期的性能增益究竟从何而来?一个大胆的猜测是,强化学习(RL)的训练过程才是其背后真正的“幕后英雄”。 📍关键的对照组实验: 最具说服力的验证,莫过于直接测试 Uni-LoRA 在引入 RL 训练策略后的表现。如果两者效果相当,那就证明 PEFT 的下一波技术红利,或许不在于如何精巧地设计“降维结构”,而在于如何通过更优的训练策略(如 RL)来榨取小参数的极限潜力。 🔗建议大家同时研读这两篇论文,这对于深入理解参数投影的本质,以及未来 PEFT 技术的演进方向,都极具启发意义。 #TinyLoRA#PEFT#大模型微调#LoRA#AI学术观点
00:00 / 00:00
连播
清屏
智能
倍速
点赞42
南北2月前
四六级大忌:就是只是盲目背单词。姐妹们,跟大家聊聊我的四级经历吧~ 出分那天,看到423分,心里咯噔一下——这分数,别说上岸了,连胡辣汤都救不回来(咱河南人懂的😅)。 其实之前也背过单词、做过题,但效果嘛……一个假期就忘得七七八八。 本来想着“要不再报一次?”,可一想到又要交报名费,还得听室友那句“你咋还在考四级啊?”,我默默把手机放下:这次,真得认真搞了。 于是从3月初开始重新规划,一点点找回状态,成绩出来那天,看到552分,真的松了一口气!虽然不算高,但对我这个英语基础一般、自制力不太行的人来说,已经超预期啦~✨ 今天把我的完整备考安排+整理好的资料包分享出来, 特别适合像我这样的同学: 👉 现在才开始准备(3月完全来得及!) 👉 单词记不住、听力听不懂、阅读做不完 👉 但真心不想再考第三次了! 照着做,真的能行! 🌟 我的三阶段计划(亲测有效!) 📅 弟一阶段:打基础(3月6日–4月17日) 别急着刷题!先把地基打牢 单词:❌ 别背4500大纲词了!我直接背 「四六级核芯1500词」(根据近5年真题高频整理),每天150个,用碎片时间刷(吃饭/排队/睡前),12天过完一轮! 听力:每天精听1篇真题听力,重点练「预判+抓关键词」,配合 「听力四大法则」(比如:答案常在but后、数字/地点等),慢慢就摸清套路了! 阅读:不求快,只求懂!每篇做完后逐句翻译,搞清长难句+生词,为后期提速打基础。  📅 第二阶段:提技巧(4月18日–5月31日) 这时候开始“偷懒”也能拿分! 单词:核芯1500词开始第二轮!你会发现阅读里几乎没生词了,做题流畅度飙升🔥 阅读:学 「阅读满芬技巧」——比如细节题定位法、主旨题看手尾段、态度题找情感词…有些题真的不用通读全文! 翻译:狂啃 《中国文化概况》PDF!这本书太神了,近6年出了34次元体!去年考的“四合院”“莫高窟”全在里面!我直接背了重点章节,翻译稳拿8分+ 📅 第三阶段:冲考场(6月1日–考试前) 模拟!模拟!还是模拟! 作文:背 3套W能模板(开头+中间+结尾框架),不是S记硬背,而是理解逻辑!比如“现象类”“观点对比类”怎么展开,考场上10分钟就能写完! 全真模考:严格按考试时间,做了3套完整真题!开始做不完,第二次卡时间,第三次稳稳提前5分钟交卷! 错题复盘:把每次错题归类(比如听力总错讲座题?阅读总错推理题?),针对性补漏! 📚 备考需要的 ✅ 四六级核芯1500词(带音频+例句) ✅ 近5年四级真题+详细解析 ✅ 听力四大法则+精听训练表 ✅ 高频作文模板(含框架图) ✅ 《中国文化概况》(标注了近6年考点!) 这些我都整理成PDF啦,基础差的姐妹直接打印背就行,不用自己到处找了! 💪 蕞后想说: 我从来不是学霸,甚至背单词三天就忘。 但只要开始行动,哪怕慢一点,也比原地焦虑强。 552分不高,但它证明了:普通人+正确方法+坚持执行 = 能上岸! 现在才3月,你还有整整3个月! 别等“准备好”——启程,就是蕞好的准备。 加油!我在岸上等你!🌊 #四六级备考#四六级攻略#英语四六级#四六级#当代大学生
00:00 / 00:00
连播
清屏
智能
倍速
点赞23
00:00 / 00:00
连播
清屏
智能
倍速
点赞15