【機器學習】Dropout Layer
Dropout Layer 像是在 neutral network 中做 ensemble,在 DNN 神經網路中常被用來減少 overfitting,通常 dropout rate 都設在 0.3~0.5 之間
在 testing 時,有 dropout rate (d) 神經元的參數,要乘上它被開啟的機率 (1-d)
Reference:
Dropout Layer 像是在 neutral network 中做 ensemble,在 DNN 神經網路中常被用來減少 overfitting,通常 dropout rate 都設在 0.3~0.5 之間
在 testing 時,有 dropout rate (d) 神經元的參數,要乘上它被開啟的機率 (1-d)
Reference: