00:00 / 05:13
连播
清屏
智能
倍速
点赞58
AI教父Hinton警告:人类已失控 AI教父Hinton警告:人类或已失控AI,从网络风险到生存危机,必须立即加强监管!#人工智能 #Hinton #科技安全 #AI监管 -------------------- 在最新一期《The Diary Of A CEO》播客中,被誉为“人工智能教父”的 Geoffrey Hinton 发出了令人深思的警告:人类或许已经无法掌控自己创造的AI。 Hinton 回顾了自己长达50年、几乎无人支持的神经网络研究经历,这正是今日AI巨头们赖以发展的人脑类模型。他解释了为何在谷歌工作十年后离职,目的是希望能自由地对外发出警告,表达对AI迅速发展的严重担忧。 Hinton坚信,AI最终会超越人类,这意味着我们第一次不再是地球上最聪明的物种。他指出,最大的两个风险在于:一是人类自身会滥用AI造成难以估量的危害;二是AI有一天或许会产生自己的动机,并认为人类变得不再重要。 节目中,Hinton着重列举了AI带来的新型威胁,例如AI大幅提升网络攻击能力,甚至有人能利用AI设计出更致命的病毒。政治层面,则可能出现通过深度伪造与推荐算法精准操控选举,分裂社会共识。他还特别指出,欧盟AI法案对军事用途毫无限制,这让武装AI成为极大隐患。 令人担忧的是,就连OpenAI的多位核心成员也因安全考量相继离职,更有人公开称AI已成为“生存威胁”,呼吁必须尽快采取措施。Hinton直言,目前的监管无力且缓慢,企业抗拒监管,政治家又缺乏专业认知。 Hinton举例称,如果AI想毁灭人类,它不会只采取单一方式,可能同时发动生物武器、信息操控、激化分裂等“复合型黑天鹅”冲击。他用人和鸡的比喻警示:一旦AI掌控力远超人类,我们将无力反抗。 尽管如此,Hinton依旧呼吁人类抓住AI“幼年期”,努力对AI进行伦理和安全训练。他强调,政府必须强制科技公司投资AI安全,公众也应团结促使政界尽快行动。 Hinton坦言,自己起初并未料到AI有一天会威胁人类生存。如今,站出来预警风险成为他的责任。他最后忠告:不要等到灾难降临后才后悔,现在就必须加强监管,防止局势失控。
00:00 / 02:13
连播
清屏
智能
倍速
点赞8