激活函数

发表信息: October 06, 2018 by

• 文章分类:
• 神经网络 3

• 文章标签:
• 神经网络 3

目录

• 目录
• 正文
  • 一、常见激活函数
    • sigmoid 函数
    • tanh函数

正文

一、常见激活函数

sigmoid 函数

\(f(z) = \frac{1}{1+e^{-z}}\)

值域范围为：[0, 1]

用于分类问题时，一般使用 \(y=0 或 y=1\) 作为分类标签

tanh函数

\(f(z) = tanh(z) = \frac{e^z - e^{-z}}{e^z + e^{-z}}\)

值域范围为：[-1, 1]

用于分类问题时，一般使用 \(y=-1 或 y=1\) 作为分类标签

参考文献：

http://ufldl.stanford.edu/wiki/index.php/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C