在深度学习中，激活(activations)指的是神经网络中一个神经元或一层神经元的输出。当输入数据被馈送到神经元中时，神经元会对输入数据进行一系列的数学操作，产生一个输出值，称为激活值，激活在深度学习中具有重要作用，因为它们代表了神经网络从输入数据中提取的学习特征，神经网络中的每个神经元都学会识别输入数据中的特定特征或模式，而一层的激活值则表示这些学习特征的组合。
中间层的激活值也可以用于理解网络的学习特征，例如在图像中检测边缘、纹理和形状。除了表示网络的学习特征外，激活还用于计算反向传播过程中的梯度，该过程是训练网络以优化其在特定任务上的性能的过程。通过计算损失函数对激活的梯度，网络可以更新其权重和偏置以改善其在任务上的表现。激活是深度学习中的基本概念，因为它们代表了神经网络的学习特征，并在训练网络的过程中起着关键作用。
1、 神经 网络 激活 函数为什么不用对数回归
神经网络激活函数通常不使用对数回归，主要是因为对数回归函数的输出范围有限。和神经网络激活函数需要具有非线性特性，以便能够处理复杂的非线性问题。所以神经 网络常用的激活 函数包括乙状结肠、ReLU、tanh等。这些函数的输出范围有限。
2、人工 神经 网络常用的4个 激活 函数是哪些
3以上(类)？大部分深度reLu之类的，也是ReLU软化的产物；RBF高斯很常见；Sigmoif类中的Tanh和logistic也是常用的；真的不好，stepfunction也可以用。有些回归问题直接在最后一级使用identityfunction，也叫激活 函数。
3、 神经 网络的 激活 函数和传递 函数有什么区别?
理论上，任何连续的非多项式和常数函数都可以看作是BP的激活 函数，并且在数学上得到了证明。激活 函数表示通过函数。理论上，任何连续的非多项式和常数函数都可以看作是BP的激活 函数，并且在数学上得到了证明。但是sigmoid 函数相比其他的函数有自己的优点，比如光滑性和鲁棒性，求导时可以用自身的某种形式表示。
4、 神经 网络中的 激活 函数有什么区别
理论上，任何连续的非多项式和常数函数都可以看作是BP的激活 函数，并且在数学上得到了证明。但是sigmoid 函数相比其他的函数有自己的优点，比如光滑性和鲁棒性，求导时可以用自身的某种形式表示，这在数值实验中非常重要，因为权重的反向传播需要激活 函数的导数。多级有多个导数，如果我们用一般的连续函数，对于电脑的存储和操作都会有问题。另外，还要考虑整个模型的收敛速度，我提到了连续函数可以做函数。
