|
什么是神经⽹络？⼀开始，我将解释⼀种被称为“感知器”的⼈⼯神经元。感知器在 20 世纪五、六⼗年代由科学家 Frank Rosenblatt 发明，其受到 Warren McCulloch 和 Walter Pitts 早期的⼯作的影响。今天，使⽤其它⼈⼯神经元模型更为普遍 —— 在这本书中，以及更多现代的神经⽹络⼯作中，主要使⽤的是⼀种叫做 S 型神经元的神经元模型。我们很快会讲到 S 型神经元。但是要理解为什么 S 型神经元被定义为那样的⽅式，值得花点时间先来理解下感知器。 感知器工作原理： 感知器的结构如图所示。可以看到，在输入层中我们选取的输入值是x1,x2,x3,...,xn,他们分别乘以一系列权重，在加权传递后进行求和，得到的值和某个阈值进行比较，若大于这个阈值就输出1，否则输出0。
感知器的训练方法也很明确：人工选取N组样本，将样本中的输出与实际的输出进行对比；若相同，说明权值符合当前模型；若不同就需要对当前权值进行调整和优化。例如，输出为1但样本为0，就当前权重加上输入值作为新的权值，继续训练；同理。输出为0但样本为1时，就将当前权重减去输入值作为新的权重，继续训练。经过大量样本的训练，模型不断被优化，偏差次数越来越小，最终符合所有样本。 通过上述描述，感知器对线性可分问题有很好的效果，可以通过大量的训练得到一个比较好的模型。例如我们在二维坐标上随意画出一条线，线的两侧取无数的点，这些点就是我们的训练样本。假设在线的上方训练的点输出值为1，在线下面的点输出值为-1，那么感知器就可以拟合出这条分割线。之后给出平面上任意的点，就可以判断出其位于线的那一侧了。 然而感知器也有一些不足，一是感知器的训练样本是手动输入的，需要事先进行提取；二是感知器不能解决非线性问题。 |
