Dropout是一种常用的正则化方法，用于减少神经网络的过拟合现象。它的基本思想是在训练神经网络的过程中，随机地将一部分神经元的输出值置为0，从而使得神经网络的结构变得不稳定，从而强制网络学习到更加鲁棒的特征表示。

    几乎每个神经网络都会遇到的问题就是过拟合。什么是过拟合呢？

    在尚未接触机器学习之前，笔者在学习统计学中的回归分析的时候，曾经对R2这个指标盲目迷信，总是前方百计的想提R2的值，想必学统计出身的诸位必然也有此经历。后来历经艰辛，明白真实世界所拿到的数据不可能有教材给你的那么完美，数据的拟合程度若有五六十则是比较好的情况，二三十的情形则再常见不过。

超参数是外部配置设置，不是从数据中学习的，而是在机器学习模型的训练过程开始之前设置的。它与从数据中学习的模型参数不同。为了确定机器学习模型最有效的超参数，从业者经常进行试错过程。