昔計算したんだけど、また忘れたので計算してみた。
誤差逆伝播法は、多層のニューラルネットワークを考えたときに、その重みを学習するための方法の一つである。バックプロパゲーション(Backpropagation)とも言う。やってみるとわかるが、出力の誤差を計算し、出力側の方から順に誤差の情報を伝播させていくことで、入力に近いほうの重みを更新させることができる。だから逆伝播法という。
順伝播の計算
簡単化するために、3層の一番シンプルなモデルを用いる。
入力層には が入る。 入力の個数は変数がもったいないので書かない。中間層が で、出力層が とする。
入力が与えられたときの出力の計算は、入力から順にだんだんと行われる。
は活性化関数と呼ばれる。この関数はいろいろなタイプがある。層ごとに違うものを選んでもいいが、簡単化のため、今回はすべての層で共通のものを用いる。
ところで
という形の計算式をみたことがある人もいるかもしれない。つまり、閾値 が設定されていて、それを超えるような が入ってきたときにニューロンが発火する、みたいな話だ。もちろんそんな風にモデリングしてもいいが、 を別々の式で更新する必要があってめんどくさい。そこで、 としておき、 に相当する入力 には常に が入るとしておくのだ。こうしておくと上のような簡潔な形でかけて大変都合が良い。
は重み係数であり、これを変化させることで、同じ入力に対しても異なる出力を与えるように出来る。狙った出力が出るように、重み係数を更新する操作のことを学習というわけだ。
余談になるが、重み係数の学習させ方は任意の方法でよい。神様が現れて「このニューラルネットワークの重みはこれじゃ!」といって与えてもいい。神係数である。
逆伝播の計算
今回は、経験上うまくいくとされる誤差逆伝播法に基づいて計算する。
まず「入力に対してこんな出力になってほしい」という願いをこめた教師データを用意する。入力の組 に対して出力 を対応付ける二項関係を考えればよい。 番目の教師データを
これが何個かある。
これを使うと、現在のニューラルネットワークが出した出力に対する誤差が計算できる。
教師データを固定しておけば、誤差は重み の関数と考えてよい。
というわけで、この誤差 を最小化するような、 を計算すればよいとわかる。
シンプルなソリューションは、勾配法を使って誤差が下がる方向に重みを少しずつ更新していけばいい。ここで偏微分が使える。
よって、誤差関数を重みで偏微分する計算さえできればよいとわかる。あとはゴリゴリ計算するのみ。
について計算する。
外の微分、中の微分を計算していくだけなので、見た目ほどゴツイ計算ではない。
についても計算する。
あーなるほど。かなり似てるなーと気づく。そのまま
と計算できる。
少し長かったのだが、これで計算完了だ。
まとめると
となる。
そこそこ似通った形の式になっていることに気づくだろう。ここで
とおけば、
とかけるわけだ。 は出力層(第3層)の誤差の情報を表していて、 は中間層(第2層)の誤差情報(みたいなもの)を表していると言えるかもしれない。 が計算できれば、それに をかければ勾配が計算できる。
これらを計算する方法だが、上の定義からわかるように漸化式的な定義になっている。
つまり、出力側の誤差情報 から、より入力側に近い情報 が計算できるのだ。誤差の情報が、出力層から順に伝播して更新されているように見える。だから逆伝播法なのだ。
デルタという記号を使って表すからデルタルールともいわれる。
層を増やしたときの注意
4層に増やしたときは少し注意が必要だ。4層目の出力を として、3層目の中間層を とする。
順伝播の計算はこうなる。
このとき、逆伝播法の計算は次のように得られる。
「あれ? の計算に出てくるとこがおかしい」と思うかもしれないが、これが正解だ。
デルタを以下のように定義すると
以下のようにかける。
つまり、こういうことだ。 を計算するために、3層目の の情報が必要になるわけだが、ニューロン が接続するニューロン は複数ある。 の更新則を考えるためには、 に接続するすべての の影響を考える必要があるのだ。図にするとこういうことである:
層をさらに増やした場合も同様の注意が必要である。うーんややこしい。
ところで、デルタルールの重要な点に触れておく。
上で観察したように 層から 層への重みの更新式を計算する際に、 層のデルタ を計算する必要があり、漸化式から 層のデルタ が必要となった。これは一般の多層ニューラルネットワークを計算するときも同様である。
つまり、 層から 層への重み の更新式を計算する際に、 層のデルタ を計算する必要があり、漸化式から 層のデルタ が必要となる。これを使うと、デルタルールにより
と得られる。 は 層のニューロンの出力である。これを使うと更新式は
となる。 とした結果が上の例である。
層の前後 2 層の情報があれば計算できてしまうのである。これは重要な性質だ。アルゴリズムが簡単になる。
これなら最初から一般的なケースで考えたほうが良かったんじゃないかという気がしてくる。
一方で、一般的なケースで書いたらわけがわからなくて、結局本質的な理解に到達しない気もするのでこれはこれでよい気もしてくる。