Deep Learning (深層学習)

MachineLearning | NeuralNetwork

• Deep learning
  • http://www.slideshare.net/kazoo04/deep-learning-15097274
• 一般向けのDeep Learning
  • http://www.slideshare.net/pfi/deep-learning-22350063

• Deep Learning を実装する
  • https://www.slideshare.net/tushuhei/121227deep-learning-iitsuka

• ディープラーニング チュートリアル（もしくは研究動向報告）
  • http://www.vision.is.tohoku.ac.jp/files/9313/6601/7876/CVIM_tutorial_deep_learning.pdf
• Deep Learning技術の今
  • http://www.slideshare.net/beam2d/deep-learning20140130
• Deep learning実装の基礎と実践
  • http://www.slideshare.net/beam2d/deep-learningimplementation

• Deep Learning の前に 知っておいたほうがいいこと
  • http://www.slideshare.net/muddydixon/neural-network-introduction-yapc-asia-tokyo
    • SOM - DNN

• 深層学習の知見を深めるキャンペーン
  • http://tam5917.hatenablog.com/entry/2016/05/30/164534

画像系

• 畳み込みニューラルネットワークの研究動向
  • https://www.slideshare.net/ren4yu/ss-84282514
• Deep Learningと画像認識　～歴史・理論・実践～
  • https://www.slideshare.net/nlab_utokyo/deep-learning-40959442

音声系

• 深層学習に基づくテキスト音声合成の技術動向_言語音声ナイト
  • https://www.slideshare.net/DeepLearningLab/dllab-20180420-keisawadashare

異常

• 異常 (Anomaly)

言語系

• JSAI2018 チュートリアル「"深層学習時代の" ゼロから始める自然言語処理」
  • https://www.slideshare.net/yukiarase/jsai2018-101054060
• 自然言語処理のためのDeep Learning
  • http://www.slideshare.net/yutakikuchi927/deep-learning-26647407

アルゴリズム

• DBN (Deep Belief Nets)
• Convolutional Neural Networks (CNN)

生成モデル

• GAN（Generative Adversarial Network）
• VAE (Variational Autoencoder)
• ALAE (敵対的潜在空間自己符号化器, Adversarial Latent Autoencoder)

事前学習

• RBM (制約付きボルツマンマシン（Restricted Boltzmann Machine）
• AutoEncoder

ツール

• Evaluation of Deep Learning Toolkits
  • https://github.com/zer0n/deepframeworks

• DistBelief > TensorFlow (Google)
• DSSTNE (Amazon)

• Keras

python

• PyTorch

• Theano
• Caffe
• Chainer

• ConvNet
• Autograd and XLA (JAX) (Google) pure python ?
  • Flax

サービス

• Labellio

デバイス

• TPU (Google)
• Movidius (Intel)
• Jetson (NVIDIA)

FPGA

• MicrosoftがFPGAでDeepLearningしてた

論文

• LIST OF 75 MOST POPULAR DEEP LEARNING PAPERS IN THE BIBLIOGRAPHY
  • http://memkite.com/blog/2014/10/24/the-75-most-popular-deep-learning-papers-in-the-bibliography/
• Accelerating Deep Convolutional Neural Networks Using Specialized Hardware
  • http://research.microsoft.com/pubs/240715/CNN%20Whitepaper.pdf
• SRCNN
• Curriculum Learning

応用例

• Googleの猫認識 (Deep Learning)
  • http://d.hatena.ne.jp/Zellij/20130608/p1
• ディープラーニングで○○したよまとめ
  • http://konnnnnok.hatenablog.com/entry/2015/11/24/204008
• ディープラーニングで洋服を整理してみました
  • http://tech.vasily.jp/entry/fashion-deep-learning

• CPPN (Compositional Pattern Producing Network)

• GraphConvolution

その他

• 「深層学習」第６章 畳込みニューラルネット
  • http://www.slideshare.net/matsukenbook/ss-50545587
• ディープラーニングのサマースクールで学んだ26のこと
  • http://postd.cc/26-things-i-learned-in-the-deep-learning-summer-school/
• ディープラーニングの最新動向
  • http://www.slideshare.net/pfi/ss-57087522
• DeNAの機械学習・深層学習活用した体験提供の挑戦
  • http://www.slideshare.net/hamadakoichi/dena-deep-learning
• An MIT Press book
  • https://www.deeplearningbook.org/
• Notes from the AI frontier: Applications and value of deep learning
  • https://www.mckinsey.com/featured-insights/artificial-intelligence/notes-from-the-ai-frontier-applications-and-value-of-deep-learning

その他

• 知識の蒸留 (KnowledgeDistillation)

関連

• NeuralNetwork
• 機械学習 (MachineLearning)
• アルゴリズム (Algorithm)
• AI