您是不是在找：

C哥聊科技6天前
深度学习2.0要来了？Kimi新论文为啥火了 解读Kimi团队最新论文Attention Residuals，用注意力机制替换了统治AI界10年的残差连接。这不仅是底层架构的创新，更让马斯克、Karpathy等大佬集体惊叹。一起来看懂这篇可能开启“深度学习2.0”的重磅研究。 #AI #Kimi #大模型 #深度学习
00:00 / 06:52
连播
清屏
智能
倍速
点赞9345
EasyShip.AI6天前
Kimi 最新论文讲了啥？让马斯克直呼Impressive！ #马斯克 #chatgpt应用领域 #ai研究 #AI人工智能 #月之暗面kimi
00:00 / 02:18
连播
清屏
智能
倍速
点赞68
老林白话财经3天前
月之暗面Kimi新架构，震惊硅谷圈
00:00 / 06:53
连播
清屏
智能
倍速
点赞44
杜雨说AI6天前
杨植麟Kimi新论文炸场，"深度学习2.0"时代来了！ #kimi #深度学习 #人工智能 #杜雨 #杨植麟
00:00 / 04:22
连播
清屏
智能
倍速
点赞593
飞天闪客4天前
深入解读 Kimi 爆火论文，马斯克都转了！什么是注意力残差 #ai新星计划 #kimi #transformer #注意力残差
00:00 / 08:00
连播
清屏
智能
倍速
点赞NaN
边山李博士3天前
注意力残差AttnRes机制: 潜在问题分析 Kimi团队 新发布的 注意力残差AttnRes机制设计: 潜在问题分析 #KImi大模型 #注意力残差 #AttentionResiduals #AttnRes #人工智能大模型
00:00 / 02:05
连播
清屏
智能
倍速
点赞11
leenotes1天前
马斯克点赞17岁少年，入行一年改写AI历史#AI #KIMI #马斯克 #Transformer
00:00 / 01:32
连播
清屏
智能
倍速
点赞47
茉莉AI3天前
注意力残差 #人工智能 #kimi 深度解读Kimi火爆论文，注意力残差，马斯克都转发了！
00:00 / 03:52
连播
清屏
智能
倍速
点赞24
你没活干吗1天前
昨晚直播切片：KIMI的注意力残差 #注意力残差 #注意力机制 #attention #残差网络 #KIMI
00:00 / 03:00
连播
清屏
智能
倍速
点赞320
巴别情报站5天前
#AI #科技资讯 #科技新闻
00:00 / 00:53
连播
清屏
智能
倍速
点赞31
壹月茶馆5天前
17 岁少年炸翻 AI 圈！Kimi 论文 = 白捡上万张英伟达显卡#人工智能 #kimi
00:00 / 01:52
连播
清屏
智能
倍速
点赞88
老诸Ai的小助理2天前
马斯克点赞！中国少年改写AI架构#Kimi #深度学习2.0 #陈广宇 #第一性原理 #老诸的Ai学习圈
00:00 / 01:49
连播
清屏
智能
倍速
点赞4
一凡说升学5天前
马斯克点赞的18岁中国少年，他就读的学校更值得关注#马斯克#中国少年#陈广宇#AI#教育
00:00 / 03:19
连播
清屏
智能
倍速
点赞10
车型之王4天前
马斯克点赞！深圳少年助力AI底层技术突破
00:00 / 00:40
连播
清屏
智能
倍速
点赞5
海洋6天前
Kimi回应马斯克点赞AI论文：你的火箭造得不错
00:00 / 01:15
连播
清屏
智能
倍速
点赞3
青稞社区4月前
Kimi Linear开源 新型线性注意力架构 #青稞社区 #大模型 #框架 #论文 #热点
00:00 / 25:50
连播
清屏
智能
倍速
点赞53
颜dvf6天前
别老龙虾了，学点 AI 干货吧 Kimi 的注意力残差网络attention residual，让中国再次定义深度学习范式 #ai #attnres #kimi
00:00 / 15:03
连播
清屏
智能
倍速
点赞119
未来博士wepon6天前
Kimi 第一次动摇了大模型的根基马斯克赶来点赞！ 这两天AI圈发生了一件大事，不是新产品和模型，而是更底层的研究架构。 Kimi 刚发了篇论文，叫“注意力残差”。Musk 非常罕见地评论了一句：“Impressive work from Kimi。”他其实很少这么直接夸别人家的技术。 我看完论文之后，有种去年刚看到 DeepSeek 论文时的感觉。不是说技术相似，而是有一种很像的劲儿：当别人都默认一条路走通了，它偏要回头看最底下那层，问一句——这个地方，到底是不是非这么做不可？ Kimi 这次动的，就是这种东西。#人工智能 #KIMI #注意力残差 #马斯克 #残差连接
00:00 / 04:39
连播
清屏
智能
倍速
点赞2577
Qiuming6天前
17岁中国高中生改写AI底层架构，马斯克点赞Kimi技术突破 17岁中国高中生改写AI底层架构，马斯克罕见点赞Kimi技术突破 导语： 日前，国产AI独角兽“月之暗面”（Kimi）发布的一篇名为《Attention Residuals》（注意力残差）的硬核论文，颠覆了统治AI领域七年的Transformer底层架构，引发了全球科技界的震动，甚至连“硅谷钢铁侠”埃隆·马斯克都亲自下场点赞。 核心突破：17岁少年的“神来之笔” 这篇论文最引人瞩目的，是其第一作者竟然是一位年仅17岁的中国高中生——陈广宇（Guangyu Chen）。他凭借一种近乎直觉的简化思维，解决了困扰学界多年的“PreNorm Dilution”（信息稀释）难题。 传统AI模型在处理信息时，就像一场漫长的“传话游戏”，越往后原始指令越模糊。而陈广宇提出的“注意力残差”机制，相当于在模型的数百个层级间安装了“智能电梯”，让深层网络能跳过噪音，直接回溯并抓取最关键的原始信息。这种将“注意力机制”从时间轴转向深度轴的创新，极大地提升了模型的效率和逻辑能力。 惊人效果与行业反响 实测数据显示，应用该架构后，Kimi的48B模型在同等算力下训练效率提升了25%，在数学推理和代码生成等复杂任务上的表现更是大幅暴涨。 这一成果不仅让马斯克在X平台评价“令人印象深刻”，更被业界视为“深度学习2.0”的开端。Kimi官方也幽默回应马斯克：“你的火箭造得也不错。” 深层意义：中国AI的“后浪”时刻 这不仅是一次技术胜利，更象征着中国AI从“应用跟随”向“底层创新”的转变。在一个论资排辈的行业中，月之暗面公司敢于让一名高中生担任第一作者，展现了“只问实力不问出处”的极客精神。正如网友所言：芯片可以封锁，但智慧无法封锁。 这位17岁少年的背影，正把“少年强则国强”这句话刻在了AI的历史上。 Http://nathanchen.me/
00:00 / 02:16
连播
清屏
智能
倍速
点赞6
Agent创世纪1周前
月之暗面 AttnRes：重构残差连接 本视频深度解析月之暗面发布的 Attention Residuals (AttnRes) 技术。针对传统 Transformer 架构中残差连接因固定权重导致的层贡献稀释与 PreNorm 陷阱问题，该研究提出利用 Softmax 注意力机制替换简单的加法聚合，使深层网络能够根据输入内容动态提取前序层表征。为解决大规模训练中的内存与通信开销，团队进一步设计了 Block AttnRes 方案，通过区块化处理将系统复杂度从 O(Ld) 降至 O(Nd)。实验证明，该架构在 Kimi Linear 上实现了 1.25 倍的算力等效提升，并在数学、逻辑推理和代码生成等任务中表现优异。报告还详细讨论了该机制在流水线并行训练中的落地策略及边界，为大模型底层架构演进提供了新思路。#人工智能 #机器学习 #科学发现 #科研解读 #大模型
00:00 / 08:21
连播
清屏
智能
倍速
点赞61
未来车语者4天前
17岁高中生登AI顶刊，马斯克都为中国团队点赞
00:00 / 00:37
连播
清屏
智能
倍速
点赞1
🤖龙哥的大模型课代表10月前
论文发表！kimi与deepseek第二次撞车！ 梁文峰参与Deepseek NSA论文发表，杨植麟也是Kimi MoBA论文作者。 Deepseek提出原生稀疏注意力，大幅度提升长文本训练和推理性能。 kimi也是5小时后放出MoBA。 这两篇论文都是提升大模型长上下文处理能力的， 也是kimi与deepseek的第二次撞车！ 而且都是创始人参与论文创新研究~ #程序员 ##算法 #deepseek #人工智能 #大模型课程
00:00 / 00:31
连播
清屏
智能
倍速
点赞5
五道口老麦克5天前
#kimi #transformer神经网络架构 #attention #陈广宇 #马斯克
00:00 / 00:58
连播
清屏
智能
倍速
点赞8
极AI速报局1天前
中国AI底层突破！Kimi打破Transformer十年瓶颈 #月之暗面 #Kimi #Transformer #国产大模型 #字节跳动
00:00 / 00:32
连播
清屏
智能
倍速
点赞43
人工智涨Ultra6天前
KIMI太牛逼了 Attention residulas 论文改变了Transformer 的基础结构…… 直接去掉了深度残差…… 通用性和颠覆程度远超Deepseek的mHC 好牛逼的创新呀…… #KIMI #Deepseek
00:00 / 02:38
连播
清屏
智能
倍速
点赞353
未来博士wepon1年前
Deepseek和Kimi又撞车了 这一次，Kimi MoBA 和DeepSeek NSA 再一次同时提出了对Transformer架构全注意力机制的质疑，指向了更加高效的稀疏注意力方法，引导业界实现更高效更长文本的进化方向。这也是我国在算力资源受到制约的条件下，自然形成的一种创新共识：利用系统级改造榨取每一份算力的潜能。与美国继续投入海量算力资源，通过“星际之门”、“二十万卡集群”等延续Scaling Law的路径，可以说逐渐形成了分化。#人工智能 #Deepseek #Kimi
00:00 / 05:07
连播
清屏
智能
倍速
点赞41
ai架构师2天前
Ki Mi和Meta最新论文。注意力和世界模型新故事 #AI #attention #kimi #Meta #世界模型
00:00 / 16:19
连播
清屏
智能
倍速
点赞1
大司马聊科技4天前
深圳高中生干翻全球AI大神？这届中国少年太猛了！ 震撼！17 岁深圳高中生陈广宇，联手 Kimi 团队破解 AI 十年底层难题！全新注意力残差技术革新大模型架构，训练速度提升 25%、算力开销大幅下降，获马斯克、前 OpenAI 科学家疯狂点赞。少年自学 AI 一年多，便以共同一作登顶世界顶刊，彰显中国 00 后硬核科技实力！ #硅基智能 #司马华鹏 #OPC创业找硅基 #数字人智能体领导者硅基 #Kimi
00:00 / 03:24
连播
清屏
智能
倍速
点赞594
景逸5天前
注意力残差：重塑AI的记忆网络#kimi #AI #08 《ATTENTION RESIDUALS (AttnRes)》
00:00 / 09:33
连播
清屏
智能
倍速
点赞18
晓辉博士4天前
Kimi最新论文注意力残差带来的创新突破 看到马斯克点赞的Kimi 团队最近这篇 Attention Residuals 挺有意思，它动了 AI 圈沿用十年的老规矩——残差连接。简单说，以前大模型每一层的信息都是一股脑往后堆，现在他们给每一层加了个“筛选器”，让模型学会回头看，只挑最有用的信息带走。 这件事给我的启发不仅在技术上，更在决策逻辑上：我们在处理复杂问题时，往往容易被最近的、琐碎的信息淹没，而丢掉了最初最关键的洞察。这篇论文用数据证明了，无论模型还是人，真正的深度思考不靠信息堆积，而靠对关键信息的精准回溯。这种回到地基去解决问题的视角，确实比单纯卷算力更有启发。#AI #注意力残差 #Kimi #第一性原理 #跨领域迁移
00:00 / 08:15
连播
清屏
智能
倍速
点赞5820
电车课代表4天前
Kimi发布最新技术报告？ 改进模型颠覆十年共识！马斯克：令人印象深刻 #Kimi #马斯克 #Ai #人工智能
00:00 / 01:04
连播
清屏
智能
倍速
点赞8
Lau博士的云组会3天前
颠覆10年共识！马斯克叹服！Kimi——AttnRes 一份来自Kimi团队的论文《Attention Residuals》，打算挑战“残差连接”这个使用了整整十年的'铁律'。 OpenAI的'推理模型之父'Jerry Tworek看完后激动地说：'我们可能需要重新思考一切。' 就连马斯克都表示惊叹！ 而且，你可能想不到，这份可能开启'深度学习2.0时代'的论文，第一作者，竟然是一位17岁的高中生。 这个故事，要从一个看似简单的问题说起：为什么越深的神经网络，反而越难训练？ #AI新星计划 #大模型 #马斯克 #Kimi #transformer
00:00 / 08:29
连播
清屏
智能
倍速
点赞NaN
海晏清的阳光海洋5天前
各位朋友，月之暗面搞了个大动作——Attention Residuals（注意力残差），直接升级Transformer的“神经骨架”！传统残差是每层输出简单相加，像大水漫灌，浅层关键信息容易被淹。AttnRes的革命在哪？它把加法变成智能筛选！每层通过一个“注意力开关”，动态调取前面所有层的精华信息——好比开会时精准@专家提问，而不是全员朗读纪要。关键突破有二：1、Full AttnRes：每层用注意力加权历史输出，彻底告别信息稀释；2、Block AttnRes：为提速，把层分组处理，组间用轻量注意力交互，计算量直降80%！结果？同等算力下性能飙升！ 数学推理涨7.5分，代码生成涨3分！马斯克亲自点赞：“这才是大模型该有的进化！” 一句话：AttnRes让深层网络学会“按需回忆”，从此告别傻瓜式累加。#人工智能 #机器人 #马斯克 #奥特曼 #黄仁勋 @尹烨 @红衣大叔周鸿祎 @雷军
00:00 / 01:03
连播
清屏
智能
倍速
点赞14
宇潇爸爸5天前
马斯克点赞Kimi新架构！17岁高中生一战成名 马斯克点赞Kimi新架构，17岁高中生作者一战成名！破解AI底层难题，注意力残差机制让训练效率提升25% #大模型 #kimi #马斯克 #人工智能 #教育规划
00:00 / 00:30
连播
清屏
智能
倍速
点赞5
彪机AI百事通3天前
马斯克点赞Kimi突破！AI龙虾风险预警，Meta砸600亿买芯片#AI技术#AI安全风险#AI算力#国产AI崛起#马斯克点赞
00:00 / 01:33
连播
清屏
智能
倍速
点赞1
第一现场3天前
深圳05后少年联手Kimi团队发表重磅成果，马斯克亲自发声高度认可，当事人回应：团队成员都有贡献，希望不要只关注个人#深圳 #少年 #马斯克 #主播说新闻 @抖音小助手
00:00 / 00:48
连播
清屏
智能
倍速
点赞74
聊AI的小乐匠1天前
Deepseek&Kimi 先后出手，都盯上了同一个底层问题 前两天，kimi发了一篇新论文，被马斯克赞了。有意思的是，2个月前，DeepSeek 也在两个月前刚发了一篇‘神作’，这哥俩不约而同的研究了同一个东西。神经网络中的“残差连接”。为什么两位国产大模型的‘顶流’，都盯上了这事？为什么在这个大模型卷算力、卷上下文，顶级团队反而回过头去‘修地基’？我周末读论文时悟到了一点东西。 接下来的内容可能有点烧脑和抽象，但是注我或者能刷到我的朋友，应该都是勤于思考的聪明大脑。如果你对AI底层原理有关注，那下面的内容还是有趣的。#人工智能 #大模型 #AI #Deepseek #Kimi
00:00 / 04:57
连播
清屏
智能
倍速
点赞111
边山李博士3天前
马斯克点赞的 注意力残差 机制到底是啥？ 大家好，今天聊一个最近很火的，甚至被马斯克点过赞的 Transformer 架构改进——来自 Kimi 团队的 Attention Residuals，简称 AttnRes，中文叫： 注意力残差或者残差注意力机制。 它做了一件非常关键的事： 把“+”变成了“attention” 也就是： 当前层可以自己决定： 哪些历史层重要，那就多加这些层的历史信息 哪些不重要，少加甚至忽略来自这些层的信息 本质上，它引入了一个新维度： 基于深度方向的注意力” 以前 attention 是： token 和 token 之间 现在变成： 层和 层 之间 这是一个非常优雅、很有“物理直觉”的设计 #注意力残差机制 #AttentionResiduals #残差注意力机制 #AttnRes #大模型Kimi团队
00:00 / 03:04
连播
清屏
智能
倍速
点赞11
AI.Tommy6天前
国产AI又出圈了！连马斯克和AI大V Karpathy都点赞 #ai #kimi #月之暗面 #马斯克 #注意力残差
00:00 / 00:40
连播
清屏
智能
倍速
点赞20
琦点前沿5天前
17岁高中生一战成名！作为共同一作发布Kimi新架构，连马斯克都来围观了 #AI架构 #Kimi #大模型 #人工智能 #马斯克 @DOU+小助手 @抖音小助手
00:00 / 00:32
连播
清屏
智能
倍速
点赞135
极客微栋2天前
17岁深圳高中生炸场AI，重构残差连接，马斯克都对论文点赞 #残差 #残差连接 #deepseek #马斯克 #大模型
00:00 / 00:28
连播
清屏
智能
倍速
点赞7
世界人工智能论坛8月前
Kimi新论文再次“撞车”DeepSeek
00:00 / 01:12
连播
清屏
智能
倍速
点赞2
世界人工智能论坛1年前
Kimi新论文再次“撞车”DeepSeek，都谈到了长文注意力机制写
00:00 / 01:12
连播
清屏
智能
倍速
点赞7
深圳特区报5天前
Kimi新架构让马斯克叹服，17岁深圳高中生破解AI底层难题 #Kimi #马斯克点赞深圳17岁高中生 #破解AI底层 （剪辑/肖敏）
00:00 / 00:26
连播
清屏
智能
倍速
点赞734
saki姐姐讲AI1年前
Kimi vs Deepseek：稀疏注意力谁更强？ 深度解析两大Ai模型的稀疏注意力机制，两大厂商在节省算力上的各种努力。其中稀疏注意力机制中的query、key、value是什么#ai #人工智能 #Kimi #deepseek #AI论文
00:00 / 03:03
连播
清屏
智能
倍速
点赞4
杨博士说AI2月前
DeepSeek新论文改优何凯明和字节算法 #DeepSeek #论文 #残差网络 #深度学习 #何凯明
00:00 / 04:18
连播
清屏
智能
倍速
点赞216
智愈系帆帆1年前
两国华人工程师终将有一战Deepseek与Kimi同发新论文 #deepseek #kimi #Grok3 #马斯克 #梁文峰
00:00 / 01:35
连播
清屏
智能
倍速
点赞1846
蓝猫-论文指导4天前
算力低、精度高！多尺度 + 注意力发论文太香了！#SCI #论文 #深度学习 #多尺度特征融合 #注意力机制
00:00 / 00:42
连播
清屏
智能
倍速
点赞40
AIGC觉醒日报6天前
AIGC 觉醒日报 2026-03-18 1)智谱AI新一代Agent专用大模型 2)OpenAI GPT-5.4效率提升惊人 3)Kimi推出“注意力残差”机制 4)AI巨头之争技术与价值观较量 5)学生提升深度学习训练效率25% #AIGC #OpenAI #Kimi #AIGC资讯 #chatgpt
00:00 / 00:05
连播
清屏
智能
倍速
点赞62
小小顶会 🤏2天前
“注意力+时空特征融合” 准确率无限接近100% 22篇必读 #注意力机制#特征融合#机器学习#深度学习#代码
00:00 / 00:42
连播
清屏
智能
倍速
点赞30
蓝猫-论文指导2周前
注意力+傅里叶杀疯了！顶会SOTA狂出，发论文太猛！#SCI #论文 #深度学习 #注意力机制 #傅里叶变换
00:00 / 00:35
连播
清屏
智能
倍速
点赞94
考拉-论文指导5天前
打破传统：动态注意力机制让模型性能飙升1000%！ #论文 #SCI #人工智能 #动态注意力 #计算机论文
00:00 / 00:41
连播
清屏
智能
倍速
点赞36
AI向先生2天前
👉马斯克点赞：Transformer最核心的一行代码，改了 马斯克点赞了一篇论文。 但这次，问题不在Attention。 👉 被改的，是Residual。 从 何凯明 的ResNet，到 Transformer，再到Attention Residual。 本质只有一个问题： 👉 信息，在深度中怎么被重新组织？ 这可能是Transformer的下一次进化。 你觉得，这个方向能成吗？ #ai #马斯克 #kimi #注意力残差 #何凯明
00:00 / 02:43
连播
清屏
智能
倍速
点赞21
洛克AI1周前
马斯克狂赞Kimi 击穿Transformer 十年铁律 等于免费送1.25倍算力#Ai#万万想不到 #干货分享 #Kimi
00:00 / 00:06
连播
清屏
智能
倍速
点赞336
浣熊-论文指导2天前
NLP利器！动态注意力捕捉文本语义关联，适配机器翻译、文本摘要，理解精度翻倍，顶会投稿王炸方向！#sci#论文#深度学习#计算机sci#动态注意力机制
00:00 / 00:45
连播
清屏
智能
倍速
点赞45
欧尼-论文指导5天前
论文神器！注意力机制简单改一改，直接涨点上顶刊！#SCI #论文 #深度学习 #人工智能 #注意力机制
00:00 / 00:40
连播
清屏
智能
倍速
点赞17
考拉-论文指导2天前
顶刊常客：傅里叶+注意力机制，性能拉满，冲一区不踩坑！ #论文 #SCI #计算机论文 #傅里叶 #注意力
00:00 / 00:39
连播
清屏
智能
倍速
点赞34
白鹿科技6天前
马斯克点赞Kimi“注意力残差”技术，Kimi幽默回应：“你的火箭造得也不错！”#马斯克 #kimi #ai #科技 #spacex
00:00 / 00:09
连播
清屏
智能
倍速
点赞11
雪梨-论文指导3周前
动态注意力强势崛起！顶会刷屏，发论文必冲方向 #SCI #论文 #深度学习 #人工智能 #动态注意力机制
00:00 / 00:37
连播
清屏
智能
倍速
点赞85
山羊-论文指导2天前
傅里叶变换 × 注意力机制！频域特征建模精度直接拉满#SCI论文#傅里叶变换#注意力机制#深度学习#机器学习
00:00 / 00:40
连播
清屏
智能
倍速
点赞12
易道YiTalk11月前
2017年6月，谷歌发布的《注意力是你所需要的全部》论文，提出了革命性的Transformer模型，其“自我注意力”机制让机器能高效处理语言信息，从杂乱数据中找规律。OpenAI团队受此启发，用Transformer架构训练模型，两周就取得巨大进展。2018年6月，OpenAI发布基于Transformer的GPT-1，能理解并生成文字。Transformer论文改变了AI发展轨迹，为ChatGPT等大模型诞生奠定基础。#认知思维 #人工智能 #读书点亮人生 #openai #谷歌
00:00 / 03:22
连播
清屏
智能
倍速
点赞20
雪梨-论文指导3天前
顶会密码！交叉注意力机制创新点直接拉满！#SCI #论文 #深度学习 #交叉注意力机制 #人工智能
00:00 / 00:40
连播
清屏
智能
倍速
点赞30
萤火虫-论文指导2天前
顶会录用量飙升，一区稳冲，动态注意力碾压传统注意力！ #SCI #论文 #人工智能 #计算机论文 #注意力机制
00:00 / 00:42
连播
清屏
智能
倍速
点赞9
鱼哥不水科研5天前
还在死磕卷积和注意力？2026 年这种论文没人看了！#论文写作 #sci #论文创新点 #LLM #科研
00:00 / 01:31
连播
清屏
智能
倍速
点赞48
薯火滴滴1周前
当豆包监督全世界最爱笑的女孩写论文。。。#豆包 #热点 #抖音 #论文 #抽象
00:00 / 03:50
连播
清屏
智能
倍速
点赞52

简介:

您在查找“注意力残差kimi论文”短视频信息吗？帮您找到更多更精彩的短视频内容！最新发布时间：2026-03-23 07:34

最新推荐:

相关推荐:

热门推荐: