victory的博客

长安一片月,万户捣衣声

0%

深度学习 | 为什么需要非线性激活函数

为什么需要非线性激活函数?

为什么神经网络需要非线性激活函数?如果使用线性激活函数(恒等激励函数),那么神经网络只是把输入线性组合
再输出。对于深度神经网络来说,如果使用了线性激活函数或者没有使用激活函数,那么无论你的神经网络有多少
层,它做的只是计算线性函数,这样的做法与直接去掉全部隐藏层无异。因此,必须通过非线性激活函数来引入非线性。