极客时间已完结课程限时免费阅读

16 人工神经网络 | 道法自然,久藏玄冥:神经网络的生理学背景

16 人工神经网络 | 道法自然,久藏玄冥:神经网络的生理学背景-极客时间

16 人工神经网络 | 道法自然,久藏玄冥:神经网络的生理学背景

讲述:王天一

时长10:37大小4.86M

当下,人工智能主流的研究方法是连接主义。连接主义学派并不认为人工智能源于数理逻辑,也不认为智能的关键在于思维方式。这一学派把智能建立在神经生理学和认知科学的基础上,强调智能活动是将大量简单的单元通过复杂方式相互连接后并行运行的结果。
基于以上的思路,连接主义学派通过人工构建神经网络的方式来模拟人类智能。它以工程技术手段模拟人脑神经系统的结构和功能,通过大量的非线性并行处理器模拟人脑中众多的神经元,用处理器复杂的连接关系模拟人脑中众多神经元之间的突触行为。相较符号主义学派,连接主义学派显然更看重是智能赖以实现的“硬件”。
人类智能的本质是什么?这是认知科学的基本问题。根据自底向上的分析方法,人类智能的本质很大程度上取决于“什么是认知的基本单元”。目前的理论和实验结果表明,要分析认知基本单元,合理的方法既不是物理推理也不是数学分析,而是设计科学实验加以验证。大量的实验结果显示,从被认知的客体角度来看,认知基本单元是知觉组织形成的“知觉物体”。
知觉物体概念的形成具备其特殊的物理基础。脑神经科学研究表明,人脑由大约千亿个神经细胞及亿亿个神经突触组成,这些神经细胞及其突触共同构成了一个庞大的生物神经网络。每个神经细胞通过突触与其他神经细胞进行连接与通信。当通过突触所接收到的信号强度超过某个阈值时,神经细胞便会进入激活状态,并通过突触向上层神经细胞发送激活信号。人类所有与意识及智能相关的活动,都是通过特定区域神经细胞间的相互激活与协同工作而实现的。
作为一个复杂的多级系统,大脑思维来源于功能的逐级整合。神经元的功能被整合为神经网络的功能,神经网络的功能被整合为神经回路的功能,神经回路的功能最终被整合为大脑的思维功能。但巧妙的是,在逐级整合的过程中,每一个层次上实现的都是”1 + 1 > 2”的效果,在较高层次上产生了较低层次的每个子系统都不具备的“突生功能”。这就意味着思维问题不能用还原论的方法来解决,即不能靠发现单个细胞的结构和物质分子来解决。揭示出能把大量神经元组装成一个功能系统的设计原理,这才是问题的实质所在
研究表明,感觉神经元仅对其敏感的事物属性作出反应。外部事物属性一般以光波、声波、电波等方式作为输入刺激人类的生物传感器,而感觉神经元输出的感觉编码是一种可符号化的心理信息。因此,感觉属性检测是一类将数值信息转化为符号信息的定性操作。
感觉将事物属性转化为感觉编码,不仅能让大脑检测到相应属性,还在事物属性集与人脑感觉记忆集之间建立起对应关系,所以感觉属性检测又叫感觉定性映射。神经网络对来自神经元的各简单属性的感觉映象加以组合,得到的就是关于整合属性的感觉映象。比如大脑整合苹果的颜色属性(如红色)和形状属性(如圆形)的感觉映象的结果,得到的就是苹果又红又圆这个整合属性的感觉映象。
在感觉映射下,事物属性结构与其感觉映象结构之间应保持不变,也就是说,感觉映射应该是事物属性集与其感觉记忆集之间的一个同态映射。通常所说的人脑认知是外部世界的反映,就是感觉同态的一种通俗说法。
对以上枯燥难懂的文字加以梳理,就是这样一幅图景。人类自从他能被叫做人的那一天起就具备识别物体的能力了:这是剑齿虎,那是长毛象,手里的是棍子。其实剑齿虎也好,长毛象也罢,不过是不同波长不同数量的光子的组合,是我们的视网膜和大脑的视觉皮层把这些光子进一步加工为不同的属性,这就是信息抽象的过程。这种认知可以归结为一个高度抽象化的加工模型。在这个模型中,信息的加工具有从简单到复杂的层次化特征,在每个层次上都有相应的表征,无论是特征提取还是认知加工,都是由不同表征的组合完成的。
表征处理的物质基础是神经元,大量神经元群体的同步活动是实现表征和加工的生理学机制。单个神经元只能表征极为简单的信息,但当它们通过神经电活动有节律的同步震荡整合在一起时,复杂的功能就诞生了。从信息科学的角度看,整个加工过程可以理解为多次特征提取,提取出的特征从简单到复杂,甚至“概念”这种十分抽象的特征也可以被提取出来
但如果人类的认知过程只是提取当前信息的特征并进行分类这么简单的话,它也不值得如此大费笔墨。认知还和注意、情绪等系统有着极强的交互作用,这些功能也和认知密切相关。人的情绪对认知的影响绝非中晚期才启动的高级过程,它的作用远比我们想象的基础得多。焦虑症、抑郁症等情感疾病的患者与不受这些情感疾病困扰的人相比,对负性情绪信息有注意偏向,对带有负面色彩的情绪刺激更容易关注,这种注意偏向发生在视觉感知的早期阶段,其具体机理至今还笼罩在迷雾之中。
从物质基础的角度看,人类智能是建立在有机物基础上的碳基智能,而人工智能是建立在无机物基础上的硅基智能。尽管人工神经网络模拟的是人类神经系统的工作方式,但它归根结底是一套软件,而不是像神经元一样的物质实体,依然要运行在通用的计算机上,所以人工神经网络也属于硅基智能的范畴。
碳基智能与硅基智能的本质区别在于架构,正是架构决定了数据的传输与处理是否能够同时进行。今日计算机的基础是半个多世纪之前诞生的冯·诺伊曼结构体系,而冯·诺伊曼结构体系的一个核心特征是运算单元和存储单元的分离,两者由数据总线连接。运算单元需要从数据总线接收来自存储单元的数据,运算完成后再将运算结果通过数据总线传回给存储单元。这样一来,数据的传输与处理就无法同步进行,运算单元和存储单元之间的性能差距也限制了计算机的整体表现。
数据并非为了存储而存储,而是为了在需要时能够快速提取而存储,归根到底存储的作用是提升数据处理的有效性。遗憾的是,这显然不是计算机的强项。虽然处理器的处理速度和硬盘的容量增势迅猛,但数据总线的传输速度依然是电脑性能的瓶颈:数据不能被即时地送到它该去的地方。由此看来,今日计算机对存储的追求甚至有些舍本逐末。
相比之下,在人类和老鼠等其他哺乳动物的大脑中,数据的传输和处理都由突触和神经元之间的交互完成。重要的是,数据的传输和处理是同步进行的,并不存在先传输后处理的顺序。在同样的时间和空间上,哺乳动物的大脑就能够在分布式的神经系统上交换和处理信息,这绝对是计算机难以望其项背的。
此外,人的记忆过程也不仅仅是数据存储的过程,还伴随着去粗取精的提炼与整合。记忆的过程在某种意义上更是忘记的过程,是保留精华去除糟粕的过程。一个聪明人也许会忘记知识中的大量细节,但一定会记住细节背后的规律。碳基大脑的容量恐怕永远也无法和硅基硬盘相比,但是其对数据的使用效率同样是硅基硬盘难以企及的。
今天我和你分享了人工神经网络的生理学背景,也对人类认知的物理基础与工作机制做了简单的介绍,其要点如下:
思维过程是神经元的连接活动过程,由大量突触相互动态联系着的众多神经元协同作用来实现;
大脑的思维源于从神经元到神经网络再到神经回路的功能逐级整合;
大脑对信息的加工可以理解为复杂的多次特征提取过程;
在大脑中,数据的传输和处理是同步进行的。
随着技术的发展,神经科学和认知科学正在加深对人工智能的影响,包括李飞飞和德米斯·哈萨比斯在内的一些领军研究者都具备神经科学的学术背景。那么神经科学在人工智能的研究中到底应该扮演什么样的角色呢?
欢迎发表你的观点。
分享给需要的人,Ta购买本课程,你将得18
生成海报并分享

赞 5

提建议

上一篇
(课外辅导)机器学习 | 拓展阅读参考书
下一篇
17 人工神经网络 | 一个青年才俊的意外死亡:神经元与感知器
unpreview
 写留言

精选留言(10)

  • prajba
    2018-01-27
    逐篇读下来读到这一篇开头的时候突然想到,探索机器智能其实也是在穷究人类智能的本质。王老师的这个系列写的实在精彩,每篇都可称精品。
    14
  • Sine:极客时间真的很...
    2018-03-03
    人工神经网络,和神经科学,没有关系
    4
  • Geek_7389a6
    2020-04-09
    人工智能的深度学习是一门拟生学的科学研究,模拟的就是神经科学,所以神经科学对深度学习的研究与发展具有指导意义,是发展努力的方向
    2
  • Geek_8958c5
    2021-03-19
    人类智能是建立在有机物质基础上的碳基智能; 人工智能是建立在无机物质基础上的硅基只能。 Got it
    1
  • jiangjing
    2020-07-01
    对于分布式网络,抛开节点内的数据传输、运算,对于整个网络而言,单个节点同时完成了数据的运算和传输,这样就达到了碳基智能?
    1
  • 杨家荣
    2020-01-01
    极客时间 21天打卡行动 14/21 <<人工智能基础课16>>神经网络的生理学背景 回答老师问题: 随着技术的发展,神经科学和认知科学正在加深对人工智能的影响,包括李飞飞和德米斯·哈萨比斯在内的一些领军研究者都具备神经科学的学术背景。那么神经科学在人工智能的研究中到底应该扮演什么样的角色呢? 王小理教授用两句话来概括:同源分流、学科独立;交叉融合、分久必合;在科研中,研究人员们觉得可以从神经科学中获得灵感,是有原因的:第一,神经科学可以帮助验证已有的 AI 技术,这样的研究可能就是正确的方向;第二,它可以在构建人造大脑时为新的算法类型和架构提供丰富的启发。 今日所学: 1,人工智能,它以工程技术手段模拟人脑神经系统的结构和功能,通过大量的非线性并行处理器模拟人脑中众多的神经元,用处理器复杂的连接关系模拟人脑中众多神经元之间的突触行为; 2,脑神经科学研究表明,人脑由大约千亿个神经细胞及亿亿个神经突触组成,这些神经细胞及其突触共同构成了一个庞大的生物神经网络 3,能把大量神经元组装成一个功能系统的设计原理,这才是问题的实质所在; 4,感觉将事物属性转化为感觉编码,不仅能让大脑检测到相应属性,还在事物属性集与人脑感觉记忆集之间建立起对应关系,所以感觉属性检测又叫感觉定性映射 5,表征处理的物质基础是神经元,大量神经元群体的同步活动是实现表征和加工的生理学机制 6,从信息科学的角度看,整个加工过程可以理解为多次特征提取,提取出的特征从简单到复杂,甚至“概念”这种十分抽象的特征也可以被提取出来 7,从物质基础的角度看,人类智能是建立在有机物基础上的碳基智能,而人工智能是建立在无机物基础上的硅基智能 8,碳基智能与硅基智能的本质区别在于架构,正是架构决定了数据的传输与处理是否能够同时进行; 名词:高度抽象化的加工模型 总结: 老师讲的重点: 1,思维过程是神经元的连接活动过程,由大量突触相互动态联系着的众多神经元协同作用来实现; 2,大脑的思维源于从神经元到神经网络再到神经回路的功能逐级整合; 3,大脑对信息的加工可以理解为复杂的多次特征提取过程; 4,在大脑中,数据的传输和处理是同步进行的。
    展开
  • 行行
    2018-03-04
    生物神经元的不可以用数学来解释的特殊功能,是指先天的生存本能跟自我⊙∀⊙嘛?难道说他们的神经网络各个神经元层层馈,处理信号的方式跟人工神经网络的方式不一样。老师他们的区别是什么?有没有异曲同工的地方?我该怎么理解生物神经网络与人工神经网络的差异性?谢谢老师ớ ₃ờ

    作者回复: 不严谨地说,人工神经网络借鉴了生物神经网络的思想,是超级简化版的生物神经网络。处理信号的方式我认为生物网络要复杂很多,至于它的具体机制到底是什么就超出讨论范围了。

  • 行行
    2018-03-02
    有些人工神经网络中每个神经元的连接数与猫一样多,这样的话,赋予它的智能体现的就是各方面像猫一样还是说在某单方面可能比猫还精准,而没有猫那么全的…那又是为什么?是什么原因限制的呐?

    作者回复: 我觉得是神经元的交互,或者传递信息的方式。生物体神经元之间的互动肯定不会是简单的数学函数就能描述的。

    1
  • 行行
    2018-03-01
    你确定你对我们的王老师没有非分之想吗?哼…我不信!
  • 行行
    2018-02-28
    神经网络是具有适应性的简单单元组成的广泛并行互联的网络。 “适应性”跟“广泛”应该有所指…可我我不知道?请老师帮我解答…谢谢!

    作者回复: 适应性指的是具有学习功能,广泛我理解是指神经元之间有类似全连接的方式,每个神经元都和多个其他神经元连接。

    1