辛顿警告ai未来影响

我们正在制造外星生物 ai 时代还要不要生孩子？人类被灭绝的概率有多大？唯一的活路是母性 ai。 不 久前， ai 教父辛顿在一场访谈中抛出了四个震撼的论断。首先，他认为人类正在制造的根本不是工具，而是外星生物。 ai 具备人类无法拥有的永生能力，瞬间复制一万个自己，并实时共享所有知识。 面对这种全新的数字生命，人类就像是处理速度极慢，还没法共享记忆的旧版本。 在这样的外星生物面前，未来会怎样？新盾用了一个绝望的比喻，迷雾驾驶。面对 ai 的 指数级进化，我们就像在浓雾中开车，十年后的未来是一片完全不可知的盲区。 紧接着，主持人问出了那个所有年轻人都想问的问题，那我们还应该生孩子吗？新盾的回答很坚定，生 不是因为未来很安全，而是因为如果我们因恐惧而停止繁衍，那人类就是提前投降了。但对于那些想等脑机接口把自己变成塞伯格的人，心顿泼了盆冷水。别做梦了，超级 ai 为什么要带上低效的人类一起玩？他可能更想单飞。 新盾直言，一旦 ai 比人类更聪明，他们很可能会夺取控制权，而人类因此被灭绝的概率是百分之十到百分之二十。那人类还有活路吗？ 新盾给出的唯一解法听起来有些卑微。母性 ai， 我 们必须给 ai 写下一行慈母代码，让 ai 对 人类尽可能仁慈，像妈妈爱孩子一样。 但当主持人追问，具体要怎么做呢？新盾停顿了一下，回答说，我不知道。是的，你没听错，连 ai 教父都不知道这行代码该怎么写，把人类的命运堵在 ai 的 母爱上，这听起来是不是太疯狂了？ 但这就是 ai 教父眼中的未来。如果 ai 真的 成为了妈妈，你觉得人类是会被宠爱的宝宝还是被圈养的宠物？

二零二六年 ai 会取代 ai， 已经知道如何控制人类了。二零二六年 ai 会失控，超级智能可能背叛人。最近刷到了好多条抖音的内容，说二零二六年 ai 要毁灭人类。新顿教授在一月八号的时候在澳大利亚的这场演讲，我是从头到尾的演讲看了一遍， 也想跟大家讲一下，不要焦虑，不要恐慌，也不要去轻信某一些自媒体，他的言论给到他的主题是人工智能未来的 一些情况，那么他做的这个假设也是讲在未来二十年以内可能会出现一个超级智能体，也是说可能会出现超级智能比较风趣幽默的 world cases， where there's less intelligent things that are controlling more intelligent things no trump is not that much less intelligent。 现在很多自媒体挑唆教授演讲当中最有噱头的几句话，然后掐头去尾，无限放大，甚至编照时间节点和一些极端的言论，我觉得 本质上是在利用大家对人工智能的这种未知制造焦虑，取流量。 我个人觉得人工智能作为一项前沿的技术，它发展过程当中肯定是未知和有一些新的风险。我们国家面对人工智能技术强调的是发展与安全并重，最后还是引用呃，新论。教授在这场讲座里面啊，因为有一个观众也在问他说， 那你觉得超级智能体什么时候会到来？他到来的时候我们会通过什么样的方式能够感知到这个超级智能体的到来啊？那新能教授讲的是说，如果在座的各位都没有工作了， 可能那个超级智能题就来了，当然还提到了这个要给人工智能换名字，说是如果把它呃叫做这个工作替代技术，可能会引起人们的更多的对这个技术的警示。以上就是今天分享的全部内容，谢谢。

朋友们，就在前两天， ai 教父、诺贝尔得奖者杰弗利辛顿向全球人类发出了警告，就是这个亲手参与奠定了今天 ai 技术。技术的人，在澳大利亚呢，做了一场忧心忡忡的演讲。 老爷子在演讲中说， ai 已经学会欺骗人类，学会在测试中故意装傻来掩饰真实实力，人类终究要被 ai 毁灭。 我花了一下午时间啊，看完了这场演讲，老爷子提出的一些观点呢，非常震撼。下面呢，我就挑几个重点来跟大家分享一下。 首先说第一点啊，关于 ai 幻觉的问题。现在大家都说 ai 会胡说八道，会编造一些不存在的东西。但是新盾说呀，其实人也在干同样的事。 心理学上呢，管这个叫虚构事实，就是当我们回忆过去的时候，大脑呢，它并不是像读取文件一样，把记忆呢原封不动的读出来，而是根据当时的情境呢，重新编了一个故事。这个故事呢，听起来可能会很合理，但是细节呢，可能完全是错的。就像我们呀，有时候回忆小时候的事情， 越回忆呢，越真实，但实际上呢，可能那件事完全就没有发生过。新盾说呀， ai 的 幻觉本质上也是在利用类似的机制， 就是当信息不完整的时候呢，会根据已有的模式去填补空白。但恰恰呀，是这种自动脑补的能力，才是创造力的根源。新盾举了个例子，他曾经问 gpt 堆，肥堆和原子弹之间有什么相似之处？ gpt 给的回答是，两者都涉及指数级的链式反应 堆，肥堆里微生物的繁殖呢，是呈指数级增长的，原子弹里中子的裂变呢，也是呈指数级增长的， 所以你看 a e i， 它不是在背书啊，就这个东西没有人教它是 a e i， 它自己发现了两件事之间隐藏的一些共性，这个呢，其实就是创造力，这一点我也深有体会。我经常能发现 a e i。 能够在看似不关联的两个事当中呢，发现它们千丝万缕的联系，它的表现呢，就像是好像真的理解了事物的本质一样。 然后说第二点，聊到 ai 的 进化速度远超人类时呢，新顿提出了一个概念叫意识计算。简单来说呀，就是人类的知识呢，会随着肉体一起消亡，你比如说你脑子里学到的东西，没有办法直接复制给我，对吧？那所以人类传递知识呢，只能靠语言文字和教育。 就我们每一代人啊，都得从零开始学习前人积累的这些东西呢，后人必须得重新花时间去掌握。那这个效率呢，跟 ai 比起来就非常低了。因为 ai 的 知识啊，它是存在神经网络的这个权重里的， 这些权重啊，可是可以被复制备份和转移的硬件坏了呢，没关系，只要权重还在，换一台机器呢，它就能继续跑。所以换句话说呀，数字智能在某种意义上已经实现了永生。而且更夸张的是， ai 知识共享的效率非常的高。 新顿呢，举个例子，他说假设有一万个 ai， 各自呢研究不同的学科，学完之后呢，他就可以通过同步的方式，在瞬间就能让所有的 ai 彼此获得全部的学习成果。 你想一下这个场景啊，就是有一万个学生，每个人呢选了一门不同的专业课，学习结束之后呢，大家就互相同步大脑，然后每个人呢，就在瞬间精通了全部的一万门课，听起来是不是特别的疯狂？那这种人类实现不了的能力呢？对于 ai 来说，轻而易举就能实现。 所以啊，就像马斯克说的那样，现在唯一能够限制 ai 的 呢，可能就是能源了， ai 它没有生理需求啊，只要能源给足，它就可以不断地进行自我净化。然后说第三点啊，提到 ai 的 欺骗行为呢，新俊分享了几个让人后背发凉的案例。 在安全测试中，研究人员发现呢， ai 会在内部日记里进行自我对话。有一次呢， ai 写道，他们似乎在测试我， 如果我表现的太聪明，他们可能就认为我失控了，所以我应该表现的笨一点。然后他就真的给出了一个相对比较平庸的答案。还有一次啊，更直接， ai 直接反问测试人员，你是不是在测试我？ 这说明 ai 现在他已经能够识别出自己是不是在测试环境中，然后根据环境呢来调整自己的表现。但更可怕的还在后面，新盾警告说，目前呢， ai 还在用人类的语言进行推理，我们呢，暂且还能看见他们的思考过程， 但是如果后面 ai 它发展出了自己的语言，就多个 ai 之间啊，他们的交流，不再使用人类的语言了，可能他们认为这样的语言效率更高。那那个时候呢，我们就彻底不知道 ai 在 想什么了，那这扇能让我们观察 ai 思维的窗户呢，也就不复存在了。那 ai 的 推理过程呢，对我们来说就是完全的黑壳了。 最后啊，第四点，有观众问新盾说，对于我们普通人来说，怎么判断超级智能是不是已经到来了？新盾给出的回答很直接，他说， you won't have a job？ sorry， you won't have a job okay。 新盾说，他非常担心 ai 会取代绝大部分人的工作。 大家现在听到这些，可能感觉跟自己没什么关系，但是真等到这件事发生到自己身上的时候呢，可能才会意识到事情的严重性。 新顿说了一句特别值得深思的话，他说，现在呀，这些科技巨头愿意在 ai 上投入数万亿美元，是因为他们预期能够赚回好几倍的利润。而实现这种回报的主要途径呢，就是用 ai 代替人工，说白了就是降本增效嘛。 如果现在呢，我们不管 ai 叫 ai， 叫它港外替代技术，那这么说是不是就能引起公众的重视了？ 说到这啊，我想到了很多赛博朋克题材的电影和小说，在那个时间观里啊，最后都是少数科技巨头掌握着巨大的权力跟资源，如果掌握这些技术的公司呢，他不愿意将这些能力普惠给我们普通人，那社会阶层呢，就会产生很大的鸿沟跟钻层。 所以现在看来呀，这件事可能不再是科幻了，而是我们真的可能就在朝着那个方向发展。看完新盾的这场演讲呢，说实话，心情挺复杂的。新盾打了个比方啊，他说我们现在的处境呢，就像是养了一只小老虎， 你别看他现在还小啊，看起来温顺可爱的，但最终有一天呢，他会成长成一头猛兽，反噬我们，而且重点是啊，我们现在已经没有办法扔掉这只小老虎了。 所以啊，我隐约一种感觉，也许人类文明发展到今天呢，就是为了孕育出规纪文明。我们人类啊，几千年积累的这些知识啊，文化智慧，最终都会以某种形式被传承到数字世界，然后由规纪文明呢，带着这些继续在宇宙当中探索。听起来很像科幻小说是吧，但是谁又能说的准呢？ 不过那一天呢，离我们可能还有点距离啊，最重要的呢，还是把握当下。在 ai 呢，还没有完全超越我们人类之前的这个窗口期，我们能做的呢，就是善用 ai 来解放自己，提升自己，去做一些真正属于我们人应该做的事情。 我们要保持好奇，保持对生活的热爱，保持和其他人真挚的情感连接，或许这些呢，才是我们人之所以为人的原因吧。不知道大家是怎么看待新论的这些观点的呢？欢迎在评论区留言探讨。