00:00 / 01:09
连播
清屏
智能
倍速
点赞4
00:00 / 01:20
连播
清屏
智能
倍速
点赞3
袁岚峰5天前
锚点|给AI做“脑机接口”?大模型≠随机鹦鹉! 袁岚峰:关于这个大模型的“概念地图”,我就想到一个比喻,它就好比给这个大模型做了一个“脑机接口”。您觉得这比喻怎么样? 何晖光:这个比喻很有意思,我们相当于是对大模型,我们去给它做了一个测试。这测试不是通过脑电帽、电极去做测试,我们是通过行为学的一种测试方式。我们就让大模型做一件什么事,比如说有三个图片,你就挑出哪一个是不一样的。通过470万次的行为学分析,然后我们去找到大模型它的内部表征,把这个表征又去和人类的大脑的表征进行比较,(发现)大模型这里面的表征和大脑的表征还比较接近。它能够自发地形成一些概念,形成一个“认知地图”。 袁岚峰:您是怎么想到要做这个研究,尤其您的方法论是怎么想到的? 何晖光:Odd one out(选出与众不同的一个)本身是一个心理学的经典范式。不同的人其实你去看那个图片的时候,他挑选的结果会不一样,可能是通过这个大小,可能是通过这个形状、颜色。做大量的实验之后,它还是能够发现其中的一些规律。我们也受到这个工作的启发。它构建了一个数据集,做了一个人的行为学的这个实验,通过这个行为学的这个表象能够去得出这个行为学的这个表征。那我们在想现在大模型进展都非常快,但是它是一个“黑盒子”,就它的机理还搞不清楚。对于一些开源的大模型,它中间的表征我是可以得到的。但是对于这些闭源的模型,比如说像OpenAI,它不open,它只是给你一个输出。那怎么办呢?我们就想到,把以前研究大脑的这种范式去研究大模型。大脑它是怎么样的?我给你一个刺激,观察大脑的反应。(通过)刺激-反应,刺激-反应,就像那种探针式的(方法),逐步地我知道大脑哪些地方是加工视觉,哪些地方是加工语言。自然而然地,我就想把这种方式用在研究大模型。我让大模型做一个任务,我看它的一个行为学的表现怎么样,然后反过来去推断出它那个大模型里面是什么样的一个表征。 科学家对话科学家,《锚点》节目中国科学技术大学科技传播系副主任袁岚峰对话中国科学院自动化研究所研究员何晖光博士,东方卫视2025年11月5日播出。本片为精彩片段之一。#知识前沿派对 #大模型 #脑机接口 #人工智能 #概念
00:00 / 03:06
连播
清屏
智能
倍速
点赞164