深度学习-人工神经网络概述

article/2025/10/23 22:06:35

人工神经网络

  • 简述
    • 很多术语听起来很唬人,“人工神经网络”就属于其中之一。在很多人看来,我们对人类的神经系统还没有研究透彻,这就来了一个“人工的”神经网络,人脑这样复杂,那么人工神经网络一定相当高深莫测。如果遇到一个耐心的学术专家,花上一两个小时给你讲讲人工神经网络的底细,那么你会发现,就这么回事而已。但是,如果遇到一个不太耐心或者喜好卖弄的,那么不好意思,你除了对他肃然起敬剩下的就是“这东西此生与我无缘了”。
    • 人工神经网络这个名词听起来像是用人工的办法来模拟人脑,加上他使用了与生物有关的名词如“神经元”,让人感觉神秘的同时又会联想到仿生学或者认知科学等知识。但是,除了借用生物学上的一些名词,并且做了一些形象的比喻外,人工神经网络和人脑没有半点关系,它的本质就是数据结构中必定提到的一种概念—有向图,只不过这个有向图有一点特殊罢了。它的节点被称为神经元,它的有向弧被称为连接神经元的神经。
      • 如图,所有的节点都是分层的,每一层节点可以通过有向弧指向下一层的节点,但是同一层的节点之间没有弧连接,而且每一个节点不能跨层到达某个节点。图中只有三层节点,但是理论上,人工神经网络的层数是任意的。但是,实际应用中不会设计超过5层的网络,因为层数过多,计算相当复杂。
      • 每一条弧上有一个值,称为权重或者权值,根据这些值可以使用一个非常简单的公式算出它们所指向节点的值。至于具体如何计算,暂时不说明。
      • 当然,为了方便交流,有一些约定俗成的说法。上图中最左边第一层被称为输入层,因为在各种应用中,这个模型的输入值只是赋予了这一层节点,图中其他节点的值都是根据这些输入值直接或者间接得到的。同样的,最右边那一层称为输出层,节点称为输出节点,因为我们想要通过这个模型获得的输出值都是这一层节点得到的。当然,中间各层被称为中间层,由于对外不可见,又叫做隐藏层(隐含层)。
      • 有弧上的值作为参数,前一层节点的值作为变量组成一个计算下一层节点值的函数,称为神经元函数。
    • 到此,人工神经网络的原理就讲完了,就是这样一个很基础很简单的模型却在如今被广泛使用。因为,如今很多人工智能的问题其实本质上都是多维空间进行模式分类的问题,而人工神经网络最擅长的就是模式分类。如今,模式分类广泛使用,如语音识别。机器翻译、人脸识别、疾病预测、股市预测等。
  • 原理
    • 一个模式的特征值(如坐标),从输入层开始,按照一定的规则和公式一层层向后传递,最后在输出层,哪个节点数值最大,输入的模式就被分在哪一类中。这就是人工神经网络的基本原理。
    • 在人工神经网络中,需要设计的部分只有两个,一个是它的结构,即网络分几层、每层几个节点、节点之间如何连接等;第二就是非线性函数f的设计,常用的是指数函数。(使用指数函数,人工神经网络的模式分类能力等价于最大熵模型)。
    • 值得一说的是,如果把不同输出节点上得到的值看成一种概率分布,那么这个神经网络就是一个概率模型了。
    • 但是,模型的参数,也就是弧上的权重是如何得到的呢,其实,和传统机器学习模型一样,也是训练得到的。
    • 人工神经网络的训练也分为有监督训练和无监督训练。对于成本函数的设计这里不多叙述。对于复杂的人工神经网络,训练计算量是非常巨大的,而且这还是一个NP-complete问题,因此很多机器学习专家投入其中寻找优秀的近似方法。
  • 与贝叶斯网络的关系
    • 其实,从图上看来,人工神经网络和贝叶斯网络十分类似,对于上面的那个有向图,说是贝叶斯网络也完全正确
    • 它们有很多共同之处。
      • 都是有向图,每一个节点的取值只取决于前一级的节点,与更前面的节点无关,也就是遵循马尔可夫假设。
      • 训练方法类似,且训练计算量都很大。使用人工神经网络是要有训练等待的准备。
      • 对于很多模式分类问题,效果上类似,两者都能解决,但是,效率不同。如果都看成统计模型,准确性也是类似的。
    • 它们有很多不同之处。
      • 人工神经网络在结构上是完全标准化的,而贝叶斯网络很灵活。有利有弊。
      • 虽然神经元函数为非线性函数,但是各个变量只能先进行线性组合,最后对一个变量(即前面组合出来的结果)进行非线性变换,因此计算机实现容易。而在贝叶斯网络中,变量可以组合成任意的函数,毫无限制,获得灵活性的同时大大加大了复杂性。
      • 贝叶斯网络更容易考虑上下文前后的相关性,因此可以解码一个输入的序列,比如将一段语音识别为文字。而人工神经网络的输出相对孤立,它可以识别一个个字,但很难处理一个序列,因此它主要的应用常常是估计一个概率模型的参数,比如机器翻译中语言模型参数的训练等,而不是作为一个解码器。
  • 补充说明
    • 这部分有趣的数学解释可以查看吴军的《数学之美》。
    • 如果你真的对神经网络感兴趣,尤其是对卷积神经网络感兴趣,那么不妨看看这本《深度学习之PyTorch实战计算机视觉》,我的下载区提供了下载,这虽然是讲PyTorch的书,但是前面一半几乎都是在详细讲解神经网络的构成和搭建,是我所见的为数不多的能把神经网络讲明白的书。(前提你有一定的线性代数基础)
    • 上面书籍下载仅供试读,不得用于商业用途,侵删。

http://chatgpt.dhexx.cn/article/MatvyY0j.shtml

相关文章

人工神经网络的应用实例,人工神经网络实际应用

神经网络算法实例说明有哪些? 在网络模型与算法研究的基础上,利用人工神经网络组成实际的应用系统,例如,完成某种信号处理或模式识别的功能、构作专家系统、制成机器人、复杂系统控制等等。 纵观当代新兴科学技术的发展历史&…

人工神经网络算法实战教程

神经网络(Artificial Neural Network,也称为人工神经网络,简称ANN)具有通过示例学习能力。ANN是受生物神经元系统启发的的信息处理模型,它由大量高度互联的处理元素组成,这些处理元素被称神经元&#xff0c…

人工神经网络的三个要素,神经网络三要素是指

一个完整的人工神经网络包括 人工神经网络主要架构是由神经元、层和网络三个部分组成。整个人工神经网络包含一系列基本的神经元、通过权重相互连接。神经元是人工神经网络最基本的单元。 单元以层的方式组,每一层的每个神经元和前一层、后-层的神经元连接&#x…

人工神经网络连接方式,全连接神经网络作用

人工神经元网络的拓扑结构主要有哪几种?谢谢大侠~~~ 神经网络的拓扑结构包括网络层数、各层神经元数量以及各神经元之间相互连接的方式。人工神经网络的模型从其拓扑结构角度去看,可分为层次型和互连型。 层次型模型是将神经网络分为输入层&#xff08…

神经网络算法的具体流程,人工神经网络算法步骤

神经网络 算法 思路?能否提供一个最简单的代码? 30 。 最基本的BP算法:1)正向传播:输入样本->输入层->各隐层(处理)->输出层注1:若输出…

人工神经网络的基本原理

1.1 人工神经网络原理 MeCulloch 和 Pitts 基于对大脑神经元的研究提 出了人工神经元模型(M-P 模型)。人工神经元模型如下图所示。 M-P模型把神经元看作n个的输入对应产生1个输出,该模型的函数的表达式如下: 该表达式中W[W1,W2,W3…

人工智能神经网络的应用,人工神经网络最新应用

人工智能在如今人们的现实生活中,都有哪些趣味十足的应用? 人工智能,也被称为AI。研究和开发模拟、扩展和扩展人类智能的理论、方法、技术和应用系统是一门新兴的技术科学。 人工智能是计算机科学的一个分支,它试图理解智能的本…

人工智能实验bp神经网络,BP人工神经网络模型

1、BP人工神经网络方法 (一)方法原理 人工神经网络是由大量的类似人脑神经元的简单处理单元广泛地相互连接而成的复杂的网络系统。理论和实践表明,在信息处理方面,神经网络方法比传统模式识别方法更具有优势。人工神经元是神经网…

介绍人工神经网络的两种常用结构

神经网络有哪些主要分类规则并如何分类? 神经网络模型的分类。 人工神经网络的模型很多,可以按照不同的方法进行分类。其中,常见的两种分类方法是,按照网络连接的拓朴结构分类和按照网络内部的信息流向分类。 1。 按照网络拓朴…

人工神经网络基本构成有哪些,常见的人工神经网络有哪几种

人工神经网络分类方法 从20世纪80年代末期,人工神经网络方法开始应用于遥感图像的自动分类。目前,在遥感图像的自动分类方面,应用和研究比较多的人工神经网络方法主要有以下几种: (1)BP(Back …

简述人工神经网络的基本框架

简述人工神经网络的结构形式 神经网络有多种分类方式,例如,按网络性能可分为连续型与离散型网络,确定型与随机型网络:按网络拓扑结构可分为前向神经网络与反馈神经网络。本章土要简介前向神经网络、反馈神经网络和自组织特征映射神经网络。 …

人工神经网络 神经网络区别_人工神经网络概述

人工神经网络 神经网络区别 Artificial neural networks (ANN) in machine learning (artificial intelligence) are complex compounds of algorithms that work in an organized manner to extract labels or results for a given set of data. It is believed that this tec…

人工神经网络的功能特点,人工神经网络的优缺点

人工神经网络的特点有哪些 人工神经网络的特点和优越性,主要表现在三个方面:第一,具有自学习功能。 例如实现图像识别时,只在先把许多不同的图像样板和对应的应识别的结果输入人工神经网络,网络就会通过自学习功能&a…

人工神经网络基本分类有,人工神经网络基本概念

1、神经网络有哪些主要分类规则并如何分类? 神经网络模型的分类 人工神经网络的模型很多,可以按照不同的方法进行分类。其中,常见的两种分类方法是,按照网络连接的拓朴结构分类和按照网络内部的信息流向分类。 1 按照网络拓朴结构…

人工神经网络模型定义,人工神经网络基本框架

人工神经网络评价法 人工神经元是人工神经网络的基本处理单元,而人工智能的一个重要组成部分又是人工神经网络。人工神经网络是模拟生物神经元系统的数学模型,接受信息主要是通过神经元来进行的。 首先,人工神经元利用连接强度将产生的信号…

人工神经网络概念及组成,人工神经网络发展史

BP神经网络的发展历史 人工神经网络早期的研究工作应追溯至上世纪40年代。下面以时间顺序,以著名的人物或某一方面突出的研究成果为线索,简要介绍人工神经网络的发展历史。 1943年,心理学家WMcculloch和数理逻辑学家WPitts在分析、总结神经…

人工神经网络,人工神经网络是什么意思

人工神经网络,人工神经网络是什么意思 一、 人工神经网络的概念。 人工神经网络(Artificial Neural Network,ANN)简称神经网络(NN),是基于生物学中神经网络的基本原理,在理解和抽象了人脑结构和外界刺激响…

人工神经网络算法

一、人工神经网络算法概念 1、神经元 正如我们日常生活中,遇到美女眼睛移不开、闻到香味流口水等生理现象等,其实都是神经所支配进行的,这就涉及到神经细胞。神经细胞(nerve cell)又称神经元或神经原,是神…

人工神经网络ANN

一、基本概念 ANN:Artificial neural network前馈神经网络的缩写 二、模型构建 2.1 神经元 2.2 激活函数 意义:激活函数是用来让给神经网络加入非线性因素的,因为线性模型的表达能力不够。如果没有激活函数,那么该网络仅能表达…

人工神经网络简介

1. 人工神经网络的概念 人工神经网络(Artificial Neural Network,ANN)简称神经网络(Neural Network)或类神经网络,是一种模仿生物神经网络的结构和功能的数学模型,用于对函数进行估计或近似。 和…