2020-06-01から1ヶ月間の記事一覧

ニューラルネットワークの学習(その1)

ニューラル機械翻訳の理論的な所を見ていきたい。 まずは、Attentionを理解することを目標とする。 いきなりAttentionを理解することはできないので、まずニューラルネットワークから始める。 www.oreilly.co.jp これを読めばいいんじゃねと思うが、あくまで…

ニューラル機械翻訳の実践と理論(その2)

いよいよGoogle ColaboratoryでOpenNMTを実行する。 qiita.com 翻訳させるためには、まず学習させる必要がある。学習のために対訳コーパスと呼ばれるデータを用意する必要がある。例えば、英日翻訳の場合、英語の原文とそれを日本語訳した文章(対訳)が必要…

ニューラル機械翻訳の実践と理論(その1:番外編)

無料GPUクラウドのGoogle Colaboratoryだが、もちろん制限がある。 以下の場合にインスタンスが停止されてしまう。 【12時間ルール】新しいインスタンスを起動してから12時間経過 【90分ルール】ノートブックのセッションが切れてから90分経過 セッションタ…

ニューラル機械翻訳の実践と理論(その1)

本当は、「ニューラル機械翻訳の理論と実装」という題にしたかったのだけど理論がついてこないだろうから、理論は後回し。。 そして、実装まで踏み込めればよいのだけれど、難しいからまずは実践ということでこの題にしてみました。 ということでは、まずは…