门函数与增益
单独打开
调整门前信号 z 和内容 h,计算 g(z) 以及 y = g(z) × h。
门函数
Sigmoid
SiLU
ReLU
Tanh
门前信号 z:
内容 h:
z
g(z)
y
-6
6