Denoising Autoencoders Stochastic Gradient Descent for Denoising Autoencoders Yusuke Sugomori htt... Denoising Autoencoders Stochastic Gradient Descent for Denoising Autoencoders Yusuke Sugomori http://yusugomori.com February 2013 Denoising Autoencoder Denoising Autoencoder (DA) [Vincent 2008] x x̃ ∼ qD(x̃|x) x̃ x x 2 x ∈ (0, 1)d DA Encode : y = fθ(x̃) = s(Wx̃ + b) (1) Decode : z = gθ′ (y) = s(W ′ y + b ′ ) (2) s(·) W ′ = WT (2) z x̃ DA stochastic gradient descent, SGD LH(x, z) = −x log z − (1 −
記事へのコメント0件
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています