Maxpool

Sei s die Stride.

$\def\xo{\overline x}$
$\def\yo{\overline y}$
$\DeclareMathOperator*{\argmax}{arg\,max}$

Forward

  • $z^t(x,y)=\max_{u=0}^{s-1}\max_{v=0}^{s-1} h^{t-1}(xs+u,ys+v)$
  • $h^t(x,y)=z^t(x,y)$

Ableitungen

  • ${\delta E\over\delta z^t(x,y)}=
    {\delta h^t(x,y)\over\delta z^t(x,y)}{\delta E\over\delta h^t(x,y)}
    ={\delta E\over\delta h^t(x,y)}
    $
  • $h^{t-1}(\xo,\yo)$ kommt nur vor in $z^{t}(x,y)$ mit $x=\lfloor{\xo\over s}\rfloor$
    und $y=\lfloor{\yo\over s}\rfloor$

    ${\delta E\over\delta h^{t-1}(\xo,\yo)}
    ={\delta z^{t}(x,y)\over\delta h^{t-1}(\xo,\yo)}
    {\delta E\over\delta z^{t}(x,y)}
    ={\delta E\over\delta z^{t}(x,y)}\quad wenn\quad (\xo,\yo)=\argmax_{u,v}h^{t-1}(xs+u,ys+v)
    ;\quad 0\quad sonst
    $