研究发现AI深度学习也有类似“前额叶皮层”,杨立昆点赞
AI也有类似人类的研究也有叶皮“听觉皮层”、“前额叶皮层”机制吗?发现 近日,Meta AI、深度美国哥伦比亚大学、学习多伦多大学等的类似立昆研究人员就完成了一个关于深度学习模型和人脑之间相似性的研究。 “模拟人类智能是前额一个遥远的目标。尽管如此,层杨自我监督算法中类脑功能的点赞出现表明我们可能走在正确的道路上。”论文作者之一、研究也有叶皮Meta AI研究员在推特上发文称。发现 所以他们有什么发现?深度 研究发现,AI模型Wav2Vec 2.0与人类大脑处理语音的学习方式非常相似,甚至AI也像人类一样,类似立昆对“母语”有更强的前额辨别能力,如法语模型就比英语模型更容易感知来自法语的层杨刺激。 Jean-Rémi King在推特上发布的演示视频中展示了AI模型与人脑相互对应的结构:听觉皮层与Transformer的第一层(蓝色)最吻合,而前额叶皮层则与Transformer的最深一层(红色)最吻合。 Wav2Vec 2.0 接受了600小时的语音训练,这大致相当于新生儿在语言习得的早期阶段所接触的内容。研究人员将此模型与412名志愿者(351名说英语、28名说法语和33名说中文普通话的人)的大脑活动进行比较。 科学家让参与者听一小时自己母语的有声小说,然后对他们的大脑做功能性磁共振成像 (fMRI) 纪录。研究人员将这些大脑活动与Wav2Vec 2.0模型的每一层以及几个变体进行比较,包括随机(未经训练的)Wav2Vec 2.0 模型、在600小时非语音上训练的模型、在600小时非母语语音上训练的模型、在600小时母语训练的模型和直接在参与者母语的语音到文本(speech-to-text)上训练的模型。 实验有四个重要发现。 首先,Wav2Vec 2.0使用自监督学习来获取语音波形时的表现类似于在人类大脑中看到的。其次,Transformer层的功能层次与大脑中语音的皮层层次相吻合,这以前所未有的细节揭示了语音处理的全脑排列。第三,该模型对听觉、语音和语言的表征与人脑的表征趋同。第四,对模型与另外386名人类参与者进行的语音辨别练习行为比较表明一种共同的语言专业化。 这些实验结果证明了,600小时的自监督学习就足以产生一个在功能上等同于人脑语音感知的模型。Wav2Vec 2.0学习到语言特定表征的所需的材料与婴儿学说话过程中接触到的“数据量”相当。 “深度学习三巨头”之一Yann LeCun盛赞这是“出色的工作”,这个团队的研究表明在语音方面接受自监督学习训练的Transformer分层活动与人类听觉皮层活动之间,确实密切相关。 谷歌大脑的研究员Jesse Engel则称,这项研究将可视化滤波器提升到下一个层次。现在,不仅能看到它们在“像素空间”的样子,而且“类脑空间”中的模样也能模拟出来了。 但也有一些批评声音,如加利福尼亚大学洛杉矶分校的神经科学博士后Patrick Mineault就有些怀疑这篇研究是否真的测量了人类大脑的语音处理过程。因为相比于人说话的速度,fMRI测量信号的速度其实非常慢,这意味解释结果时需要非常谨慎。Mineault也表示自己并非认为研究不可信,但这项研究需要给出一些更有说服力的数据。 Meta AI实际上一直在寻找AI算法与人类大脑之间的联系。此前Meta AI宣布,他们将与神经影像中心Neurospin(CEA)和INRIA合作,试图解码人类大脑和完成语言任务训练的深度学习算法如何对同一段文本作出反应。 举个例子,如通过在一个人主动阅读、说话或聆听时,将人脑扫描与深度学习算法进行比较,并给出相同的单词和句子集进行破译,研究人员希望找到大脑生物学和人工神经网络之间的相似之处以及关键的结构和行为差异,帮助解释为什么人类处理语言的效率比机器高得多。 Meta AI研究科学家Jean-Rémi King说道,“我们正在做的是尝试将大脑活动与机器学习算法进行比较,以了解大脑如何运作,并尝试改进机器学习。”
- 最近发表
- 随机阅读
-
- 微博Q2营收30亿元 调整后营业利润率32%,环比提升
- 在管医药基金规模第二,240亿工银瑞信赵蓓最新分享:政策有向好的变化,创新是医药行业永恒的投资主题
- 直播电商侵入传统电商:双11抖音货架电商日销量增长156%,快手搜索订单量增长70%
- 可乐标+镜头盖有那味了:徕卡发布Leitz Phone 2旗舰手机
- 超预期!多个重磅利好,来了!
- 进博会已成企业创新展示大舞台
- 俄罗斯禁止入境名单新增200名美国公民
- 中国中铁中标多个项目金额超900亿元 四季度铁路建设或迎小高潮
- 央行银保监再放住房信贷支持信号
- 重营销轻研发,蕉下赶在上市之前收割智商税?
- 知名加密货币交易平台FTX宣布破产
- 苹果官宣4.5亿美元巨额投资!加快铺设卫星SOS服务基建项目
- 锐捷网络上市首日一度涨超30%, 本周这七只新股可申购
- 快手发布116大促数据 电商短视频订单量同比增长超515%
- 为避免交叉感染,多家医院不再向社会提供“愿检尽检”服务
- 又有一艘邮轮暴发疫情,约800人感染,船上载有4600名乘客和船员
- 荣盛发展上半年净利转亏,加速去化致毛利率下滑
- 周祖翼任福建省委委员、常委、书记
- 200亿龙头宣布:涨价!股价“提前”大涨
- 14年“双11” 见证中国品牌经济发展
- 搜索
-