主成分分析、Autoencoderについて調べた

主成分分析について調べる

最初は主成分分析について調べた。

• 10分でわかる主成分分析(PCA)
• 実装
  • https://github.com/contaconta/PCA_lecture/blob/master/PCA.ipynb

大まかに理解する

• Kerasで学ぶAutoencoder
  • まずこれを読んだ
  • Kerasのコードがあるので数式オンリーよりは馴染みがある
• Building Autoencoders in Keras
  • Kerasの公式ブログ
    • Sequence-to-sequence autoencoder、VAEが載っていたが読んでいない
• 機械学習プロフェッショナルシリーズ輪読会 #2 Chapter 5 「自己符号化器」 資料
  • 主成分分析の一種なのかなと
• ディープラーニング勉強会 AutoEncoder - Qiita
  • 次元削減を行う
  • 事前学習として良い初期パラメータを得ることができる

実装

tensorflowを用いた実装を行う。

• aymericdamien/TensorFlow-Examples: TensorFlow Tutorial and Examples for beginners
  • ipython notebookがある
    • https://github.com/aymericdamien/TensorFlow-Examples/blob/master/notebooks/3_NeuralNetworks/autoencoder.ipynb
  • 実装はノイズ入りエンコーダ
  • ノイズなしでやってみたりしていじってみる
• VAE
  • 難しそうだったので今度やることにした
    • Variational Autoencoder in TensorFlow
  • GANが出てくる前に盛り上がっていたのがVAEらしい
  • Facial vae – Conditional VAE-GAN with Attribute Inference for Faces
    • モナリザの画像を使った画像生成