ANN简介|第4组(网络体系结构)

先决条件： ANN简介|设置1，设置2，设置3

人工神经网络(ANN)是一种受大脑启发的信息处理范例。人工神经网络就像人一样，通过实例学习。通过学习过程为特定应用(例如模式识别或数据分类)配置了ANN。学习在很大程度上涉及对神经元之间存在的突触连接的调节。

人工神经网络的模型可以由三个实体指定：

• 互联互通
• 激活功能
• 学习规则

互连：

互连可以定义为ANN中的处理元素(Neuron)相互连接的方式。因此，这些处理元件的布置和互连的几何形状在ANN中非常重要。
这些安排始终具有所有网络体系结构共有的两层：输入层和输出层，其中输入层缓冲输入信号，输出层生成网络的输出。第三层是隐藏层，其中神经元既不保留在输入层也不保留在输出层。这些神经元对与系统连接的人是隐藏的，并充当它们的黑匣子。通过增加神经元的隐藏层，可以增加系统的计算和处理能力，但同时系统的训练现象也变得更加复杂。

存在五种基本类型的神经元连接体系结构：

1. 单层前馈网络
2. 多层前馈网络
3. 具有自己反馈的单节点
4. 单层递归网络
5. 多层递归网络

1. 单层前馈网络

   
   在这种类型的网络中，我们只有两层输入层和输出层，但是输入层不计数，因为在该层中没有执行任何计算。当对输入节点施加不同的权重并获得每个节点的累积效果时，将形成输出层。此后，神经元共同给输出层计算输出信号。

2. 多层前馈网络

   
   该层还具有隐藏层，该隐藏层在网络内部并且与外部层没有直接接触。一个或多个隐藏层的存在使网络成为更强大的前馈网络，因为信息通过输入函数流动，并且中间计算用于定义输出Z。模型会反馈给自己。

3. 具有自己反馈的单节点
   

   具有自己反馈的单节点

   如果可以将输出作为输入定向回同一层或之前的层节点，则将形成反馈网络。递归网络是具有闭环的反馈网络。上图显示了具有单个神经元及其自身反馈的单个递归网络。

4. 单层递归网络

   
   上面的网络是具有反馈连接的单层网络，其中处理元件的输出可以定向回自身或其他处理元件或两者。递归神经网络是一类人工神经网络，其中节点之间的连接沿序列形成有向图。这使它可以显示一个时间序列的动态时间行为。与前馈神经网络不同，RNN可以使用其内部状态(内存)来处理输入序列。

5. 多层递归网络
   
   在这种类型的网络中，处理元件的输出可以被引导到同一层中以及形成多层循环网络的前一层中的处理元件。它们对序列的每个元素执行相同的任务，其输出取决于先前的计算。不需要在每个时间步骤都输入。循环神经网络的主要特征是其隐藏状态，该状态捕获有关序列的一些信息。