ニューラルネットワークとは?
状態:-
閲覧数:1,471
投稿日:2018-04-25
更新日:2018-05-18
表記
英語
・neural network
漢字
・神経回路網
神経細胞の情報伝達の仕組みを応用したもの
「脳機能に見られるいくつかの特性」を「計算機上のシミュレーションによって表現すること」を目指した数学モデル
・生物学や神経科学との区別のため、人工ニューラルネットワーク(artificial neural network、ANN)とも呼ばれる
シナプスの結合強度を変化させ、問題解決能力を持つモデル
シナプス
・電気信号をつたえる通信経路
シナプスの結合によりネットワークを形成した人工ニューロン(ノード)が、学習によってシナプスの結合強度を変化させ、問題解決能力を持つようなモデル全般を指す
・一般的なニューラルネットワークでの人工ニューロンは、生体のニューロンの動作を極めて簡易化したものを利用する
ニューロン同士のつながりの強さを「重み」で表現する
・ニューロンのつながりの強さは重みによって表現されている
モデル化とは? / ニューロンのモデル化
モデル化とは?
「自然界の事象」を、数式によって表現すること
ニューロンのモデル化
「生体ニューロンの動作」を、数式で表現すること
・生体ニューロンの動作は、実際には極めて複雑である
・したがって、生体ニューロンの動作の全てを忠実にモデル化することは不可能
・そこで、ニューラルネットワークを構成する1つの要素として、生体のニューロンの動作の本質的な特徴を失うことなく、なるべく簡単な数式でモデル化する必要がある
ニューロンで構成される複数の層が存在
ニューラルネットワークとは、「人間の脳神経系のニューロンを数理モデル化したもの」の組み合わせのこと
・前後の層の間でのみ情報のやり取りがなされる
年表
1943年
形式ニューロン
・ウォーレン・マカロック(McCulloch)とウォルター・ピッツ(Pitts)が形式ニューロンを発表
1958年
パーセプトロン
・フランク・ローゼンブラットがパーセプトロンを発表
1969年
「単純パーセプトロン」は「線形分離不可能なパターン」を識別できない
・マービン・ミンスキーとシーモア・パパートが著書『パーセプトロン』の中で、単純パーセプトロンは線形分離不可能なパターンを識別できないことを示した
1979年
ネオコグニトロン
・福島邦彦がネオコグニトロンを発表し、文字認識に使用し、後にこれが畳み込みニューラルネットワークへと発展する
1982年
ホップフィールド・ネットワーク
・ジョン・ホップフィールドによってホップフィールド・ネットワーク(再帰型ニューラルネットワーク)が提案された
1985年
ボルツマンマシン
・ジェフリー・ヒントンらによりボルツマンマシンが提案された
1986年
バックプロパゲーション
・デビッド・ラメルハートらにより誤差逆伝播法(バックプロパゲーション)が提案(再発見)された
1988年
畳み込みニューラルネットワーク
・畳み込みニューラルネットワークを Homma Toshiteru ら音素の認識に、1989年に Yann LeCun らが文字の認識に使用した
・LeCunらの多層の畳み込みニューラルネットワークは後にディープラーニング
の一種に分類されることになる
1995年
神経情報処理の基礎理論の研究
・甘利俊一が「神経情報処理の基礎理論の研究」で日本学士員賞を受賞
2006年
Deep belief network
・ジェフリー・ヒントンらによりオートエンコーダおよびディープ・ビリーフ・ネットワークが提案され、これが、ディープラーニングへと発展した