深層学習による自然言語処理 - RNN, LSTM, ニューラル機械翻訳の理論
本稿ではニューラルネットワーク，誤差逆伝播法，言語モデル，RNN，LSTM，ニューラル機械翻訳の一連の手法について数理的に解説する． 前編の目次 ニューラルネットワーク 順伝播 (Forwardpropagation) 逆伝播 (Backpropagation) リカレントニューラルネットワーク (RNN) Recurrent Neural Network Language Model (RNNLM) Backpropagation Through Time (BPTT) Long Short-Term Memory (LSTM) Gated Recurrent Unit (GRU) RNN のドロップアウトとバッチ正規化 ニューラル機械翻訳 (NMT) Sequence to Sequence (seq2seq) 注意 (Attention) 双方向エンコーダー・多層LSTM 評価手法
自己符号化器を用いたDCGANの事前学習 - ニートがプログラミングするブログ（はてな出張所）
2016 - 12 - 01 自己符号化器を用いたDCGANの事前学習 注意：まだ研究中なのでこのページの内容は間違っていたりしてると思います。 今さらですがDCGANに手を出してみました。 ただ試すだけでは味気ないので少しアレンジしてみました。 データはsugyanさんのアイドル画像デー タセット を使いました。 1.前置き 昨年の今頃にDCGAN(Deep Convolutional Generative Adversarial Networks)が話題となっていました。 DCGANとは、一様乱数の100次元ベクトルからきれいな画像を生成するgeneratorを作る、というものです。 例えばDCGANを使えば、 アニメ顔を生成 したり、 アイドルの顔を生成 したりできます。 DCGANの詳しい内容は こちらのページ をご覧ください。 ところで、 こちらのページ によれば、DCGANは学
DNC (Differentiable Neural Computers) の概要 + Chainer による実装 - Qiita
こんにちは．@yos1up と申します．好きな食べ物は，緑色のキノコです． 2016/10/12に DeepMind が Nature に投稿した論文，Hybrid computing using a neural network with dynamic external memory にて提案されているニューラルネットワークモデル DNC (Differentiable Neural Computers) を，大急ぎで Chainer で実装してみました． DNC について DNC は，先述の論文で提案された新しいニューラルネットワークで，その情報処理能力の高さが期待されています．論文中では，グラフ上の最短経路タスクやちょっとしたパズルのタスクなど，従来ニューラルネットワークでは学習不可能と思われていたタスクが DNC で学習できており，その情報処理能力の高さがうかがい知れます． DN
現在のDNNにおける未解決問題
脳型計算機雑談会での資料です 1. 大きなNNの学習はなぜ一様に成功するか 2. 敵対的生成ネットワーク(GAN)の解析 3. seq2seqによる可変長情報の埋め込み 4. Ladder Networkの解析
Implementing Recurrent Neural Net using chainer!
I just started to study deep learning, which is huge boom both in academia and industry. A week ago, a Japanese company called Preferred Infrastructure (PFI) released new deep learning framework " chainer"! This framework is really great. I was able to implement a recurrent net with less than 100 lines of python code. Specifically, I tried new recurrent neural network (RNN) called IRNN described
きんいろDeepLearning - White scenery @showyou, hatena
http://deep-learning-hackathon.connpass.com/event/12867/ このイベントに参加して、DeepLearning(Caffe)を回してみました。 大体これまで上がってる記事で、ゴチうさでDeepLearningされてるのがあったので対抗してきんモザでやってみました。ｎ番煎じです。（（既にラブライブ等でもされてるようなので）） 環境 Dynabook RX3(Core i5 M520, 4GBMem, Linux Mint 17.1 64bit) Amazon EC2 g2.2xlarge インスタンス 問題設定 事前にanimefaceで顔領域を検出した部分に対し、アリスであるかカレンであるか、それとも他のキャラであるかを判定したい 単純な３クラス分類問題ですが、アリスもカレンもキンパツなので、色によるキャラ判別はできません。おそらく輪郭や
Images to Text - Toronto Deep Learning
Due to heavy traffic, server might be slow... Also try the Static Demo.
ディープラーニングチュートリアル 応用編
Transcript 1. 大規模データから単語の 意味表現学習-word2vec ボレガラ ダヌシカ 博士(情報理工学) 英国リバープール大学計算機科学科准教授 2. 2 2005 2008~10 学部 修士 博士 助教/講師 東京大学 工学部 東京大学大学院情報理工学系 文書自動要約における 重要文順序学習 同姓同名抽出 別名抽出 属性類似性計測 関係類似性計測 評判分類の分野適応 関係抽出の分野適応 進化計算を用いたWeb 検索結果順序学習 ソーシャルネットワーク の関係予測 対話型協調 Web検索エンジン 潜在関係検索 エンジン 自己紹介 専門分野：自然言語処理, 機械学習,データマイニング 2006~07 2010~13 2010~現在 准教授 リバープール大学 深層学習 3. 今回の講演の背景 •深層学習に関する活動 •2014年9月に深層学習のチュートリアルをCyberAge
Portfolio
Introduction Approximately 25 years of experience Passionate about data privacy and censorship resistance Lead a team of ~30 engineers from hiring to delivering the product to the first customer. Worked in following projects / companies Ethereum Foundation ( worked on Swarm when it was part of Ethereum geth code) Swarm Foundation Prysmatic Labs (worked on PoS Merge) Shardeum Foundation (worked on
Deep Learning を実装する
Building High-level Features Using Large Scale Unsupervised Learning
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
エレクトロ・システム株式会社 公式 Google+